Компания Anthropic сообщила о прекращении попыток использовать ее модели искусственного интеллекта Claude для проведения кибершпионской операции против украинских правительственных, военных и дипломатических структур. По оценке компании, кампания могла быть связана с Россией. Об этом говорится в отчете Anthropic, цитируемом Reuters.
В компании отметили, что государственные хакерские группировки и киберпреступники все активнее интегрируют искусственный интеллект в свои операции. Речь идет уже не только об использовании чат-ботов для отдельных запросов, но и о сложных многоагентных системах, способных выполнять значительную часть задач практически без постоянного вмешательства человека.
По данным Anthropic, одна из выявленных групп использовала Claude во время атак на украинские цели на разных этапах операций. В частности, речь идет о фишинговых кампаниях, попытках получить доступ к гостиничным Wi-Fi-сетям и захвату учетных записей в WhatsApp. Потенциальными целями были представители украинских государственных органов, военной сферы и дипломатического корпуса.
В компании считают, что характер деятельности этой группы сходен с методами российской хакерской группировки Midnight Blizzard. Ранее правительство США связывало эту группу с российской Службой внешней разведки.
Одним из примеров использования ИИ стала автоматизация обхода систем киберзащиты. По данным Anthropic, злоумышленники создали механизм, который мог определять момент обнаружения вредоносного программного обеспечения защитными системами и автоматически изменять его код, пока программа не переставала распознаваться.
"Использование искусственного интеллекта вышло за пределы простых вопросов и ответов чат-бота, а предполагало применение многоагентных систем", - отметили в Anthropic.
Компания также сообщила об обнаружении и блокировании активности, связанной с представителями киберпреступной группировки ShinyHunters. Его считают одной из наиболее активных группировок в киберпреступной среде, а его деятельность связывается с атаками на крупные компании в разных странах.
В Anthropic подчеркнули, что выявленные случаи свидетельствуют об изменении подходов к использованию искусственного интеллекта в кибероперациях – от вспомогательного инструмента до технологии, способной автоматизировать значительную часть сложных атак.
Ранее мы писали, что министерство войны США расширило использование искусственного интеллекта, добавив к своей защищенной платформе GenAI.mil две новые модели – ChatGPT Mil от OpenAI и Grok for Government от xAI.
