США та Росія під час переговорів у Женеві внесли зміни до проєкту міжнародної угоди ООН щодо регулювання смертоносної автономної зброї, вилучивши низку положень, спрямованих на забезпечення безпеки та людського контролю за системами зі штучним інтелектом.
Про це повідомляє The Washington Post із посиланням на трьох людей, обізнаних із перебігом закритих переговорів, а також на документи.
На початку вересня сотні дипломатів зібралися у Женеві для роботи над документом, який має стати першою глобальною домовленістю щодо використання смертоносної автономної зброї. Переговори тривали кілька днів, однак найбільш напруженим став їхній останній етап. Представники США та Росії провели близько 15 годин за закритим засіданням, де спільно опрацьовували текст документа. Обидві делегації залучили приблизно по десять юристів — майже вдвічі більше, ніж дипломатичні команди інших країн.
За даними видання, у процесі редагування з документа прибрали вимогу, відповідно до якої автономні системи мали діяти передбачувано та надійно. Також з тексту вилучили положення про необхідність враховувати етичні аспекти під час застосування зброї зі штучним інтелектом. Ще одна зміна стосувалася людського контролю — з проєкту зникла вимога, щоб військові перевіряли цілі, визначені системами ШІ, перед завданням удару.
Один зі співрозмовників The Washington Post описав такий процес як "смерть від тисячі дрібних порізів". За оцінкою видання, зміни демонструють, наскільки США та Росія прагнули обмежити жорсткість майбутніх міжнародних правил щодо застосування смертоносної автономної зброї.
Переговори відбувалися на тлі активного впровадження штучного інтелекту у військову сферу. Пентагон працює над ширшим використанням цієї технології у своїй стратегії ведення бойових дій, одночасно тривають дискусії щодо ризиків, пов'язаних із розвитком автономних систем.
За даними The Washington Post, американські військові вже застосовували чатбот компанії Anthropic для визначення майже 1 000 цілей для ударів протягом перших 24 годин війни з Іраном. Це свідчить про те, що використання ШІ у бойових операціях поступово переходить від теоретичних сценаріїв до практичного застосування.
Заступниця директора з питань озброєнь у підрозділі криз, конфліктів і озброєнь Human Rights Watch Веріті Койл попередила, що послаблення міжнародних обмежень може мати серйозні наслідки. За її словами, це створює ризик ситуації, коли рішення щодо життя і смерті ухвалюватимуть машини без належного контролю людини, що може призвести до більшої шкоди для цивільного населення, зниження відповідальності за наслідки атак та поширення більш автоматизованого способу ведення війни.
Наразі переговори ООН щодо смертоносної автономної зброї не мають юридично обов'язкового характеру. Водночас вони можуть стати основою для майбутньої міжнародної угоди, якщо державам вдасться досягти консенсусу щодо правил застосування таких систем.
Раніше ми писали, що Україна надала західним партнерам доступ до масштабного масиву даних про знищення російської техніки для розробки штучного інтелекту та автономних роїв безпілотників. Спільні технологічні розробки з Великою Британією та іншими країнами можуть дозволити створити комплексні системи управління дронами, які мінімізуватимуть ризики для українських військових і зможуть працювати навіть за відсутності зв'язку чи супутникової навігації.
