16 ноября в Женеве состоится конференция ООН, посвященная возможным ограничениям и запретам на использование автономных систем вооружения, работающих на основе искусственного интеллекта.
Об этом сообщает AFP.
Летальные автономные системы вооружения способны самостоятельно определять цели и атаковать их без непосредственного вмешательства человека. Так, их работу описал руководитель направления глобальных рисков и новейших угроз Женевского центра политики безопасности Жан-Марк Рикли.
Исследователь Центра геополитики технологий при Французском институте международных отношений Лор де Руси-Рошегонд отметила, что автономное оружие существует уже давно. Одним из примеров есть противопехотные мины, которые срабатывают, когда человек на них наступает.
В то же время, развитие технологий искусственного интеллекта расширяет возможности таких систем. По словам Рикли, современные беспилотники могут самостоятельно выбирать цели, не определенные заранее, и приспосабливаться к окружающей среде без участия человека.
Какие ограничения автономного оружия обсуждают
Один из главных вопросов международного регулирования — насколько человек должен контролировать решение о применении оружия.
США выступают за надлежащий надзор людей при использовании таких систем. Франция настаивает на обязательном участии человека в принятии решений. Страна запрещает полностью автономные летальные системы вооружения, но позволяет использовать частично автономные.
В то же время Рикли считает, что повестка дня женевской конференции охватывает лишь ограниченную часть проблемы.
"Она не охватывает весь спектр вопросов, связанных с применением искусственного интеллекта на поле боя", — отметил эксперт.
ООН предупреждает о рисках автономного оружия
В августе генеральный секретарь ООН Антониу Гутерреш и президент Международного комитета Красного Креста Мирьяна Сполярич предостерегли от передачи машинам права самостоятельно определять людей целями для атак.
Они назвали такую перспективу "опасным моральным пределом".
По данным AFP, автономные системы вооружения пока не получили массового распространения. В то же время, аналитики сообщают об их применении Россией в войне против Украины, а также США во время ударов по Ирану.
Как писал "Апостроф", представители Демократической партии США призвали президента Дональда Трампа сохранить все его разговоры с чатами на основе искусственного интеллекта. Речь идет, в частности, о переписке с Grok, разработанной компанией Илона Маска, а также ChatGPT, Claude, Gemini и Perplexity.
