Єменські хусити намагалися використати модель штучного інтелекту Claude компанії Anthropic для розробки програмного забезпечення для наведення, управління та навігації своїх балістичних ракет.
Про це повідомляє Financial Times з посиланням на звіт Anthropic.
Хусити намагалися використати Claude для розробки балістики
У своєму звіті про загрози, опублікованому в четвер, 10 вересня, Anthropic не назвала хуситів прямо, але заявила, що «виявила осередок загрозливих дій, що базуються на півночі Ємену», значна частина якого контролюється повстанцями-хуситами, «які керують трьома програмами розробки зброї».
Anthropic заявила, що єменська група прагнула розробити зброю, зокрема багатоступеневу балістичну ракету, багатоваріантну ракету та керовану ракету, яка використовує «звичайний бортовий комп'ютер телефонного класу».
«Актори використовували Claude замість інженерів-програмістів для розробки програмного забезпечення для наведення, навігації та керування, яке керує та стабілізує літальний апарат», – йдеться у звіті Anthropic.
Anthropic заявила, що її запобіжні заходи заблокували «багато їхніх запитів, але не всі», додавши, що «актори використовували різноманітну тактику, щоб обійти» ці заходи.
Вони зробили це, «приховуючи свої цілі та продукти, для яких призначалося програмне забезпечення, і розділяючи свою роботу на кілька сесій, щоб жоден сеанс не розкривав їхніх повних намірів».
Чи вдалося хуситам створити зброю за допомогою ШІ
В Anthropic немає доказів того, що хуситам вдалося запустити робочий пристрій, але вони провели випробувальний запуск керованої ракети.
«Це польове випробування, схоже, провалилося: протягом кількох годин актори повернулися до Claude, щоб з’ясувати, чому воно зазнало невдачі».
Компанія заявила, що заблокувала облікові записи, пов'язані з цими акторами, та передала інформацію про загрози партнерам з державного та приватного секторів, щоб зменшити ризики.
«Тим не менш, у нас є докази того, що актори вже створили набір інструментів для офлайн-моделювання, який не залежить від Claude чи інших інженерних обчислювальних середовищ», – йдеться у повідомленні.
Нагадаємо, що 10 вересня хусити, які підтримуються Іраном, захопили стратегічне прибережне місто Мокха в Ємені, що дозволило їм наблизитися до життєво важливої для світової торгівлі та експорту саудівської нафти протоки Баб-ель-Мандеб.
