Война роботов

Как искусственный интеллект учат убивать, а фантастика становится реальностью на войне в Украине

Все чаще ИИ-технологии упоминаются в контексте текущей войны. Ai почти везде - от чат-ботов до систем наведения. Действительно ли наступил момент, когда прогнозы фантастов, предсказавших участие в войнах роботов, вооруженных искусственным интеллектом, становятся  реальностью? «Новая-Европа» обсудила с экспертами, как нейросети используются на войне и к каким последствиям это может привести уже в ближайшем будущем.

Восстание машин

В начале октября президент Украины Владимир Зеленский сообщил, что в Киеве уже установлено более 12 турелей (поворотная платформа для наведения оружия) для противодействия реактивным беспилотникам. Еще восемь планируется разместить в Киевской области. О первом опыте применения турелей в Киеве рассказал пресс-секретарь Воздушных сил ВСУ Юрий Игнат 5 октября. По его словам, с помощью новых установок уже удалось сбить дроны «Герань-5»: «Применение инновационных технологий, искусственного интеллекта (ИИ) исключило человеческую ошибку, работают технические расчеты, используется машинное зрение».

Оснащенные искусственным интеллектом турели самостоятельно обнаруживают и рассчитывают траекторию беспилотника противника. Все механические действия — поворот установки, наведение на цель — происходят автоматически. Оператору остается лишь подтвердить поражение одним нажатием кнопки. Это инновационное решение появилось на вооружении украинских Сил обороны еще в мае этого года. ИИ-турель разработали в Украине совместно с кластером оборонных инноваций Brave1 и с военными. Первыми турель испытали в бою военные подразделения К-2, которые активно используют беспилотники и новые военные технологии.

В ответ Минобороны РФ отчиталось о создании хранилища видеоданных о применении FPV-дронов и других беспилотников, на основе которых специалисты смогут обучать военные нейросети. Для работы с информацией ведомство также создало единый классификатор распознавания данных для машинного обучения систем искусственного интеллекта. «В настоящее время к сервису подключено более 40 организаций, которые занимаются обучением нейросетей, в том числе для их интеграции в свои боевые беспилотные системы», — отметил заместитель министра обороны РФ Дмитрий Щербинин, под руководством которого реализуется проект. По словам российских военных, «подход позволяет повышать устойчивость и адаптивность Вооруженных Сил Российской Федерации к современным вызовам в сфере искусственного интеллекта».

Советник президента Украины, специалист в области военных радиотехнологий Сергей «Флеш» Бескрестнов сообщил, что украинские военнослужащие обнаружили обломки российского дрона «Молния», работающего с помощью ИИ.

Аналитик The Conflict Intelligence Team (CIT), согласившийся общаться с «Новой-Европа» на условиях анонимности, рассказывает, что на сегодняшний день не существует строгого общепринятого определения, что такое искусственный интеллект. Этим термином называют совершенно разные вещи, от чат-ботов до машинного зрения головок наведения дронов и ракет.

— Одним из самых важных направлений использования искусственного интеллекта является планирование операция и создание автоматизированных систем управления войсками, — рассказывает «Новой-Европа» военный эксперт Русской службы Би-би-си Павел Аксенов. — Такие системы сейчас  уже используются в США и активно внедряются в Украине. Для этого создается многоуровневая электронная среда, обрабатывающая поступающую  информацию. Это могут быть данные со спутников и самолетов-разведчиков, с различных датчиков, из рапортов военнослужащих разных уровней и многих других источников. ИИ изучает этот громадный массив данных и помогает на их основе принимать решения. Кроме того, сверточные нейросети (CNN,  Convolutional Neural Network) — это особый тип глубоких нейросетей, созданный для эффективной обработки пространственных данных, , видео и аудио), уже довольно давно применяемые военными некоторых стран, позволяют обрабатывать снимки спутников дистанционного зондирования Земли. Эти нейросети могут на огромных снимках находить по различным признакам, таким как изменение длины теней и появление следов на поверхности, возникновение новых объектов или строений.

— Условно направления использования ИИ в войсках можно разделить на  тактический, операционный уровень, когда элементы ИИ интегрируются непосредственно в системы вооружений для повышения их эффективности в боевой среде (operational AI), и на оперативный, или штабной, уровень, когда ИИ применяется для обработки массивов информации с целью улучшения ситуационной осведомленности командиров и планирования операций (mission-support AI), для ускорения принятия решений, — отмечает в разговоре с «Новой-Европа» военный эксперт, капитан I ранга, руководитель программ безопасности Центра глобалистики «Стратегия ХХI» Павел Лакийчук. — Есть еще третий уровень, управление ресурсами (enterprise AI), но я его всё же отнес бы к государственному управлению, что, разумеется, применимо и к военной области тоже.

Идея тактического ИИ, по словам Лакийчука, сводится к возможности создания «дополненной реальности» в условиях ограниченного объема исходных данных. Искусственный интеллект должен заполнить информационные лакуны в объеме полученной информации. Пример — машинное зрение. В системах оружия с элементами ИИ используются та же концепция, что и для восстановления старых фото- и видеоматериалов с помощью искусственного интеллекта: очень похоже на оригинал, иногда идеально, но это не восстановленная, а именно дополненная реальность. 

При этом ИИ не передается функция принятия решения — кнопку «уничтожить» нажимает человек.

Важным вариантом применения ИИ-агентов на войне аналитик CIT называет обработку больших массивов информации. Такие агенты сами пишут и применяют программы (в пределах своих возможностей — вплоть до построения сложных программных комплексов), подключаются к базам данных и на основе всего этого оказывают помощь в штабной работе и составлении планов операций. К примеру, ИИ может по ключевым словам мониторить соцсети, отфильтровывать упоминания об атаках дронов и работе ПВО на том или ином участке. Скорее всего, ИИ такого рода уже используется в армиях Израиля и США, не исключено и применение в ВСУ.

Использование ИИ при анализе спутниковых снимков оправданно при очень большом количестве данных, а учитывая дороговизну нужных для качественного военного анализа детализированных снимков разрешением меньше метра: аналитик CIT не уверен, что это практикуется в таком объеме. России сейчас не хватает собственных спутников видовой разведки, и считается, что снимки закупаются у Китая. Украине помогают союзники, но из публичных сведений неясно, в какой степени. Точно может позволить себе работать с тысячами квадратных километров на субметровых снимках и нуждается в ИИ для их обработки Пентагон. Однако даже и на дешевых или бесплатных снимках низкого разрешения ИИ при помощи сравнения сделанных в разное время съемок может фиксировать строительство новых объектов и линий обороны, прокладывание дорог, установку на них защитных сеток от дронов и другие сведения, также имеющие определенную ценность. По мере дальнейшего снижения стоимости спутниковых снимков и инструментов ИИ такие технологии становятся доступными всё большему количеству армий.

Оперативный (штабной) уровень ИИ, по данным Павла Лакийчука, кроме использования «дополненной реальности» при анализе, например, разведывательных данных, базируется на алгоритмах обработки больших массивов информации.

— Когда я был лейтенантом, планирование операции на командно-штабных учениях занимало от суток до трех, — вспоминает в разговоре с «Новой-Европа» Павел Лакийчук. — При современных технологиях на оперативные расчеты и планирование операций обычно уходит от 6 до 12 часов. А системы управления на базе ИИ, которые сейчас испытывает Украина (например, ИИ-систему для анализа боевых данных и планирования операций SPECTR, созданную в Центре искусственного интеллекта «A1» при Министерстве обороны Украины), позволяют моделировать сценарии боя и предлагают варианты действий командиру в считанные минуты. Основные задачи ИИ-системы боевого управления — анализ информации, выявление закономерностей, формирование на их основе рекомендаций по планированию операций и организации процессов в армии, а также автоматизация рутинной работы в штабах. Благодаря ей военные могут быстрее взаимодействовать с информацией с поля боя, данные остаются в защищенном периметре. И главное, конечное решение всегда остается за человеком.

Вкалывают роботы, а не человек!

Еще одним важным направлением использования ИИ в армии, по мнению эксперта Павла Аксенова, является замена человека, организм которого имеет серьезные физические ограничения. Так, маневренность, скорость и другие параметры современных боевых самолетов значительно превышают человеческие возможности переносить перегрузки. Совершенствуется вооружение. Появляются новые приборы для получения данных, а информационная среда становится всё более насыщенной. Даже самый тренированный мозг не успевает осмысливать и перерабатывать получаемые во время сверхзвукового полета потоки данных и оперативно принимать решения в максимально сложных боевых условиях. Поэтому всё чаще приходится вводить в экипаж второго летчика.

Человек становится слабым звеном, замедляющим работу боевых систем. Уже появились беспилотные летательные аппараты, которые часто называют «ведомыми», или «сопровождающими»: их задача — защита ведущего пилотируемого самолета, контроль воздушного пространства и исполнение части других функций летчиков. Эти устройства могут нести и применять дополнительное вооружение, системы радиоэлектронной борьбы, радары, датчики и другую важную аппаратуру. На авиасалонах уже не раз были представлены проекты таких аппаратов.

Реактивный истребитель стоимостью в десятки миллионов долларов, по словам аналитика CIT, можно оснастить мощным бортовым компьютером, на котором сможет работать «умная» нейросеть с большим количеством параметров. Такую сеть можно обучить даже воздушному бою. 

В симуляциях подобных сражений на тренажерах ИИ уже побеждают живых людей.

Другим перспективным трендом Павел Аксенов называет создание опционально пилотируемых самолетов, морских кораблей и наземной техники. В случае простых миссий такие аппараты находятся под управлением одного лишь искусственного интеллекта; в более сложных операциях подключается человек, а ИИ оказывает ему помощь. США уже разрабатывают боевые корабли, в которых экипаж может быть полностью заменен ИИ.

Дроны, катера, роботы

— Еще одна важная область использования нейронок — это управление различными автономными воздушными, морскими и наземными дронами и роботизированными комплексами, — продолжает Павел Аксенов. — Сегодня тактические беспилотники, middle и deep strike БПЛА если не находятся под непосредственным контролем оператора, то изначально получают данные о цели, а потом самостоятельно выполняют полетное задание. Когда в пути они попадают под действие систем РЭБ, нарушающих возможности связи с оператором и использования спутниковой навигации, для повышения эффективности дронов и работы систем наведения применяется машинное зрение, являющееся шагом к искусственному интеллекту. Ведь в таких ситуациях участие человека в управлении беспилотником становится невозможным. Чем более маневренная или малозаметная цель, тем сильнее возрастает необходимость в использовании искусственного интеллекта. ИИ в таком случае не просто находит и захватывает цель, но также проводит анализ и оценивает, насколько она важна.

Аналитик CIT рассказывает, что к настоящему времени в Украине собраны многие терабайты записей пилотирования операторами различных видов дронов. На их основании можно проводить обучение нейросетей.

Необязательно сразу создавать полностью автономные системы: при помощи ИИ один оператор может получить возможность контролировать сразу несколько БПЛА или наземных роботов, забирая на себя управление только по мере необходимости.

Это актуальная проблема, потому что сегодня число роботов на фронте значительно возросло и они часто играют основную роль в доставке на передовую боеприпасов, продовольствия и других необходимых грузов, так что им требуется много операторов.

Как правило, современный гражданский ИИ работает в дата-центрах с большим количеством пользователей.

— Во время боевых действий бывает проблематично поддерживать устойчивое соединение с интернетом. Поэтому чаще всего применяются автономные нейронные сети, — говорит аналитик CIT. — Производительность таких нейронных сетей зависит от мощности процессора компьютера, объема его памяти и используемой видеокарты. Небольшие FPV-дроны, стоимостью в несколько сотен долларов, применяемые сегодня на передовой, могут оснащаться недорогим и достаточно слабым чипом за 200–300 долларов. На такой электронике будет функционировать только очень простая нейронная сеть, которая захватывает цель на незначительном расстоянии и наверняка не отличит военный объект от гражданского. В случае middle strike дронов, которые часто атакуют движущиеся цели, ИИ может понадобиться для распознавания различных видов автотранспорта, чтобы отличать военные машины от гражданских. Для этого требуется более мощная и дорогая вычислительная аппаратура. Несколько месяцев назад украинские эксперты обвиняли российских военных в том, что те запускали в тыл ВСУ ударные дроны V2U с ИИ, которые в полностью автоматизированном режиме атаковали все подряд грузовики, включая гражданские. Но подтверждения этих заявлений до сих пор нет.

Российские интернет-магазины, продающие беспилотники и комплектующие для них, предлагают интеллектуальные модули автоматического слежения для профессиональных БПЛА. В описании сказано, что ИИ-алгоритмы нового поколения поддерживают распознавание 10+ категорий объектов (люди, транспорт, животные, дроны), а точность их трекинга достигает 97% даже при частичном перекрытии объекта. Такие модули, по словам продавцов, осуществляют групповое слежение за несколькими объектами, имеют улучшенное распознавание с помощью ИИ номерных знаков, вышек линий электропередачи, транспорта, тепловизионных изображений и многого другого. Подобные модели, судя по описанию, эффективно взаимодействуют с оптическими модулями (гироскопическими камерами), обеспечивая точное слежение за объектами в реальном времени. Это позволяет системе поддерживать постоянный фокус на выбранной цели, даже если она временно исчезает из поля зрения. Цена модуля составляет несколько десятков тысяч рублей (несколько сотен долларов).

Павел Аксенов считает, что 

в ближайшем будущем ИИ позволит проводить масштабные атаки роями взаимодействующих между собой дронов.

При этом собеседник подчеркивает, что машинное зрение применяется в боевых системах довольно давно. Например, головки наведения крылатых ракет могли анализировать изображение цели еще в 80-х годах прошлого века, но это не было искусственным интеллектом. Ведь машинное зрение, в отличие от ИИ, не может заниматься самообучением и обменом информацией.

Павел Лакийчук также подтверждает, что operational AI сегодня уже довольно широко используется для поиска и распознавания скрытых целей дронами, начиная от относительно простых FPV и заканчивая значительно более технологичными средствами для дальних ударов. Он же успешно дополняет инерциально-геопространственные системы наведения средств deep и middle strike (совмещают автономную навигацию с цифровыми картами), которые, как правило, действуют в условиях подавления навигации средствами РЭБ. «Дополненная реальность», генерируемая бортовыми ИИ-модулями terminal guidance, призвана восстановить пазлы, выбитые из полетной задачи, средствами радиоподавления, маскировки или дезинформации противника.

Турели, устанавливаемые в Киеве для охоты на российские дроны, по сообщениям украинских властей, также используют для захвата и ведения цели искусственный интеллект. Аналитик CIT предполагает, что речь идет о программе с машинным зрением, которая при помощи подвижной камеры по получаемым от автоматизированной системы управления ПВО параметрам засекает на определенном участке неба летящие БПЛА, включая реактивные модели, и наводит на них крупнокалиберный пулемет. В этом процессе может участвовать и специализированная нейронная сеть, обученная опознавать некоторые виды целей, такие как дроны и крылатые ракеты. Дальше другая программа вычисляет траекторию движущегося объекта и рассчитывает упреждение, необходимое для попадания в него. При этом команду на непосредственное открытие огня отдает живой оператор. Ведь нет стопроцентной гарантии того, что компьютер отличит атакующий летательный аппарат от дружественного или гражданского воздушного судна, облака, стаи птиц или соринки на объективе камеры.

Этика и гуманизм

— Во всех трех случаях люди становятся наиболее слабым элементом системы, — продолжает Павел Аксенов. — Человек медленнее делает выбор или ограничен возможностями своего организма. В такой ситуации искусственный интеллект срабатывает быстрее и эффективнее.

Однако у роботов отсутствует парадоксальное мышление, позволяющее думать вне шаблонов и находить нестандартные решения.

Кроме того, в ИИ не закладывается такой важнейший принцип, как гуманизм. Роботу не важно, погибнет ли при выполнении задачи 10 человек или 100, что может быть неприемлемо для человека. Поэтому возникла идея о том, что окончательное решение о нанесении удара должен принимать именно живой человек.

На встрече ООН по разоружению, которая прошла в Женеве в начале сентября, рассматривались вопросы ограничения искусственного интеллекта. Как стало известно The Washington Post, среди инициатив, которые были исключены из финального документа, оказалось требование, чтобы военные цели, разработанные ИИ, перед нанесением удара проверяли люди. И итоговый документ был значительно смягчен по инициативе нескольких стран, включая Россию и США. Как говорилось в публикации правозащитной организации Human Rights Watch от 7 сентября, из проекта соглашения были удалены требования предсказуемости, надежности, объяснимости и отслеживаемости боевых систем с ИИ, а также «отсылки к этическим соображениям». Каким именно, не уточнялось. Также российские и американские дипломаты совместно добились, чтобы из финальной версии документа исключили положение, согласно которому человек должен принимать решение об атаке определенных ИИ военных целей до нанесения удара по ним.

Павел Лакийчук отмечает, что экс-министр обороны Украины, а ныне предприниматель Михаил Федоров анонсировал запуск «Армии роботов» — экосистемы роботизированных технологий для военных. Сейчас проект ищет инженеров и инвесторов. Но это вовсе не значит, что через месяц в войска придет первая рота первого батальона «робокопов». Никто не собирается отдавать поле боя роботам — это, по мнению Павла Лакийчука, не только опасно, но и нецелесообразно.

— Возникает вопрос ответственности за возможные ошибки ИИ, приводящие к гибели мирных жителей или собственных военнослужащих, — объясняет аналитик CIT. — Если человек не принимал участия в такой атаке, найти виновного окажется довольно сложно. В международном праве пока нет законов или договоренностей, регулирующих использование ИИ в военных целях.

Павел Аксенов замечает, что в случае начала реальной войны соглашения, конвенции и другие договоренности, как правило, перестают действовать.

— Возникает вопрос о том, кто понесет ответственность в случае, если ИИ допустит ошибку и, к примеру, нанесет удар по мирным гражданам или по своим же войскам, — добавляет эксперт. — Ведь порой на скамью подсудимых не попадают даже военнослужащие, совершившие военные преступления.