США и Россия в ходе переговоров в Женеве внесли изменения в проект международного соглашения ООН по регулированию смертоносного автономного оружия, исключив ряд положений, направленных на обеспечение безопасности и человеческого контроля над системами с искусственным интеллектом.
Об этом сообщает The Washington Post со ссылкой на трех человек, осведомленных о ходе закрытых переговоров, а также на документы.
В начале сентября сотни дипломатов собрались в Женеве для работы над документом, который должен стать первой глобальной договоренностью об использовании смертоносного автономного оружия. Переговоры продолжались несколько дней, однако наиболее напряженным стал последний этап. Представители США и России провели около 15 часов за закрытым заседанием, где совместно прорабатывался текст документа. Обе делегации привлекли примерно по десять юристов — почти вдвое больше дипломатических команд других стран.
По данным издания, в процессе редактирования из документа убрали требование, согласно которому автономные системы должны действовать предсказуемо и надежно. Также из текста изъяли положение о необходимости учитывать этические аспекты при применении оружия с искусственным интеллектом. Еще одно изменение касалось человеческого контроля — с проекта исчезло требование, чтобы военные проверяли цели, определенные системами ИИ, перед нанесением удара.
Один из собеседников The Washington Post описал такой процесс как "смерть от тысячи мелких порезов". По оценке издания, изменения демонстрируют, насколько США и Россия стремились ограничить жесткость будущих международных правил применения смертоносного автономного оружия.
Переговоры проходили на фоне активного внедрения искусственного интеллекта в военную сферу. Пентагон работает над более широким использованием этой технологии в своей стратегии ведения боевых действий, одновременно продолжаются дискуссии о рисках, связанных с развитием автономных систем.
По данным The Washington Post, американские военные уже применяли чатботы компании Anthropic для определения почти 1 000 целей для ударов в течение первых 24 часов войны с Ираном. Это свидетельствует о том, что использование ИИ в боевых операциях постепенно переходит от теоретических сценариев к практическому применению.
Заместитель директора по вооружениям в подразделении кризисов, конфликтов и вооружений Human Rights Watch Верити Койл предупредила, что ослабление международных ограничений может иметь серьезные последствия. По ее словам, это создает риск ситуации, когда решения по жизни и смерти будут принимать машины без надлежащего контроля человека, что может привести к большему ущербу для гражданского населения, снижению ответственности за последствия атак и распространению более автоматизированного способа ведения войны.
В настоящее время переговоры ООН по смертоносному автономному оружию не носят юридически обязательный характер. В то же время они могут стать основой будущего международного соглашения, если государствам удастся достичь консенсуса относительно правил применения таких систем.
Ранее мы писали, что Украина предоставила западным партнерам доступ к масштабному массиву данных об уничтожении российской техники для разработки искусственного интеллекта и автономных роев беспилотников. Совместные технологические разработки с Великобританией и другими странами могут позволить создать комплексные системы управления дронами, которые минимизируют риски для украинских военных и смогут работать даже при отсутствии связи или спутниковой навигации.
