16 листопада в Женеві відбудеться конференція ООН, присвячена можливим обмеженням і заборонам на використання автономних систем озброєння, які працюють на основі штучного інтелекту.

Про це повідомляє AFP.

Летальні автономні системи озброєння (LAWS) здатні самостійно визначати цілі та атакувати їх без безпосереднього втручання людини. Так їхню роботу описав керівник напряму глобальних ризиків і новітніх загроз Женевського центру політики безпеки Жан-Марк Ріклі.

Дослідниця Центру геополітики технологій при Французькому інституті міжнародних відносин Лор де Русі-Рошегонд зауважила, що автономна зброя існує вже давно. Одним із прикладів є протипіхотні міни, які спрацьовують, коли людина на них наступає.

Водночас розвиток технологій штучного інтелекту розширює можливості таких систем. За словами Ріклі, сучасні безпілотники можуть самостійно обирати цілі, які не були визначені заздалегідь, і пристосовуватися до навколишнього середовища без участі людини.

Які обмеження автономної зброї обговорюють

Одне з головних питань міжнародного регулювання — наскільки людина повинна контролювати рішення про застосування зброї.

США виступають за належний людський нагляд під час використання таких систем. Франція наполягає на обов'язковій участі людини в ухваленні рішень. Країна забороняє повністю автономні летальні системи озброєння, але дозволяє використовувати частково автономні.

Водночас Ріклі вважає, що порядок денний женевської конференції охоплює лише обмежену частину проблеми.

"Вона не охоплює весь спектр питань, пов’язаних із застосуванням штучного інтелекту на полі бою", — зазначив експерт.

ООН попереджає про ризики автономної зброї

У серпні генеральний секретар ООН Антоніу Гутерреш і президентка Міжнародного комітету Червоного Хреста Мір'яна Сполярич застерегли від передавання машинам права самостійно визначати людей цілями для атак.

Вони назвали таку перспективу "небезпечною моральною межею".

За даними AFP, автономні системи озброєння поки не набули масового поширення. Водночас аналітики повідомляють про їх застосування Росією у війні проти України, а також США під час ударів по Ірану.

Як писав "Апостроф", представники Демократичної партії США закликали президента Дональда Трампа зберегти всі його розмови з чатботами на основі штучного інтелекту. Йдеться, зокрема, про листування з Grok, розробленим компанією Ілона Маска, а також ChatGPT, Claude, Gemini та Perplexity.