Российский беспилотник, который 6 июля атаковал Запорожье и повлек за собой гибель трех гражданских, предположительно использовал систему искусственного интеллекта для самостоятельного определения цели.
Об этом пишет The New York Times со ссылкой на украинских военных, экспертов в сфере беспилотных систем и специалистов, анализировавших обломки аппарата.
По данным издания, дрон самолетного типа приблизился к Запорожью и направился в район автозаправочной станции. Он врезался в здание и взорвался. В результате атаки погибла 19-летняя студентка Татьяна Бубинец. Впоследствии от полученных ран скончались 41-летний Алексей Свирин и 48-летний Роман Карпий.
Украинские военные и эксперты, исследовавшие беспилотник, пришли к выводу, что его мог контролировать не оператор, а экспериментальная система автономного ИИ.
По предварительной версии, маршрут в определенный район или объект задавали люди. В то же время после приближения к определенной зоне система могла самостоятельно анализировать окружающую местность и выбирать объект для поражения. Вероятно, алгоритм был научен распознавать, в частности, газовые баллоны с пропаном.
"Это риск для всего мира. Через несколько лет мы будем жить в фильме "Терминатор". Это не шутка. Машины принимают решение наносить удары", - заявил командующий противовоздушной обороной в Запорожье полковник Сергей Минаев.
Одним из ключевых доказательств использования автономной системы стало наличие в беспилотнике миникомпьютера Nvidia. Кроме того, украинские военные обратили внимание на отсутствие антенн, которые могли бы свидетельствовать о дистанционном управлении аппаратом.
По словам украинских специалистов, исследование обломков позволило получить доступ к модулю и выявить запечатленные на нем изображения местности. Они могли использоваться для навигации и распознавания визуальных ориентиров.
Также специалисты получили доступ к программному коду, который, по их словам, содержал информацию об объектах, на распознавание которых была обучена система. Среди них называют топливные емкости и газовые баллоны.
Автономные системы на основе ИИ способны анализировать большие массивы изображений и обнаруживать на них заранее определенные объекты от военной техники до людей или топливных резервуаров.
Эксперт Центра стратегических и международных исследований в Вашингтоне Екатерина Бондарь назвала этот случай первым задокументированным эпизодом гибели гражданских в результате атаки российского беспилотника, который мог использовать автономный выбор цели. По ее словам, обнаруженный в дроне модуль Nvidia является важным свидетельством экспериментов России с автономными системами ИИ.
Журналисты NYT получили фотографии компьютерного модуля из обломков дрона и передали их Nvidia. В компании подтвердили, что устройство является миникомпьютером Jetson Orin.
В Nvidia заявили, что это гражданский продукт, который продают студентам, разработчикам и стартапам для разных задач. Устройство доступно во многих странах, но официально не продается в России. В то же время представитель компании отметил, что его можно приобрести через реселлеров.
Эксперт Харьковского авиационного института Вадим Кушников охарактеризовал беспилотник как систему, заранее запрограммированную и обучаемую виртуальным моделям для распознавания конкретных объектов.
В то же время, технологии автономного выбора целей разрабатывает и испытывает и Украина. Бывший министр обороны Михаил Федоров рассказывал The Times, что украинская сторона в течение последних месяцев тестировала полностью автономные системы искусственного интеллекта в оккупированном Крыму.
По его словам, такие системы использовали для атак на объекты хранения горючего и военную технику. Он утверждал, что в ходе этих испытаний гражданских жертв не было.
Напомним, что в Киев на празднование 35-летия восстановления независимости Украины прибыли президент Европейского совета Антониу Кошта, премьер-министр Великобритании Энди Бернем, премьер-министр Люксембурга Люк Фриден, президент Молдовы Мая Санду и президент Эстонии Алар Карис.
В ходе визита премьер-министр Великобритании Энди Бернем предоставил разрешение оборонной компании MBDA раскрыть засекреченную информацию о британских компонентах дальнобойной ракеты SCALP — французской версии британской Storm Shadow.
Также он сравнил сопротивление России с борьбой Великобритании против нацистской Германии и пообещал помочь Киеву укрепить свою противовоздушную оборону перед зимой.
