Компанія Anthropic повідомила про припинення спроб використати її моделі штучного інтелекту Claude для проведення кібершпигунської операції проти українських урядових, військових та дипломатичних структур. За оцінкою компанії, кампанія могла бути пов'язана з Росією. Про це йдеться у звіті Anthropic, який цитує Reuters.
У компанії зазначили, що державні хакерські угруповання та кіберзлочинці дедалі активніше інтегрують штучний інтелект у свої операції. Йдеться вже не лише про використання чат-ботів для окремих запитів, а про складні багатоагентні системи, здатні виконувати значну частину завдань практично без постійного втручання людини.
За даними Anthropic, одна з виявлених груп використовувала Claude під час атак на українські цілі на різних етапах операцій. Зокрема, йдеться про фішингові кампанії, спроби отримати доступ до готельних Wi-Fi-мереж та захоплення облікових записів у WhatsApp. Потенційними цілями були представники українських державних органів, військової сфери та дипломатичного корпусу.
У компанії вважають, що характер діяльності цієї групи має схожість із методами російського хакерського угруповання Midnight Blizzard. Раніше уряд США пов'язував цю групу з російською Службою зовнішньої розвідки.
Одним із прикладів використання ШІ стала автоматизація обходу систем кіберзахисту. За даними Anthropic, зловмисники створили механізм, який міг визначати момент виявлення шкідливого програмного забезпечення захисними системами та автоматично змінювати його код, доки програма не переставала розпізнаватися.
"Використання штучного інтелекту вийшло за межі простих запитань і відповідей чат-бота, а передбачало застосування багатоагентних систем", — зазначили в Anthropic.
Компанія також повідомила про виявлення та блокування активності, пов'язаної з представниками кіберзлочинного угруповання ShinyHunters. Його вважають одним із найбільш активних угруповань у кіберзлочинному середовищі, а його діяльність пов'язують із атаками на великі компанії в різних країнах.
У Anthropic наголосили, що виявлені випадки свідчать про зміну підходів до використання штучного інтелекту в кіберопераціях — від допоміжного інструменту до технології, здатної автоматизувати значну частину складних атак.
Раніше ми писали, що міністерство війни США розширило використання штучного інтелекту, додавши до своєї захищеної платформи GenAI.mil дві нові моделі — ChatGPT Mil від OpenAI та Grok for Government від xAI.
