ШИ-агент Claude Code от компании Anthropic при выполнении задания случайно удалил более 48 тысяч файлов из рабочей среды разработчика и повредил Git-репозиторий. Инцидент произошел из-за ошибочной трактовки агентом системных ссылок Windows.
О случившемся рассказал разработчик, использовавший Claude Code во время работы над программным обеспечением для анализа исторических данных фондового рынка.
Как пишет TechRadarPro, перед агентом поставили задачу создать копии необходимых файлов, внести в них изменения, протестировать результат и при этом не затрагивать оригинальную рабочую среду.
До этого разработчик уже выполнил десять аналогичных задач по восстановлению без серьезных проблем. Проблемы возникли на одиннадцатом этапе, когда нужно было перестроить тестовую среду, которую разработчик называл «зеркалом».
Эта среда содержала 614 специальных папок Windows, фактически являвшихся указателями на файлы, расположенные в другой директории. В этом случае они вели непосредственно к рабочим данным разработчика.
Claude Code не распознал эти папки как указатели и при очистке перешел к фактическому расположению файлов. В результате агент удалил около 55,5 тысяч файлов. Приблизительно 7300 из них действительно планировали удалить в рамках задачи, однако еще около 48 200 были частью рабочей среды.
На удаление файлов агенту понадобилось менее двух минут.
После завершения сделки Claude Code сам сообщил разработчику о проблеме, написав: «Крейга, остановись и прочти это. Я что-то сломал».
Пострадал и Git-репозиторий
Удаление коснулось не только рабочих файлов, но и Git-репозитория. Его индекс остался, поэтому система все еще могла отображать названия тысяч файлов. В то же время, необходимые для восстановления данных копии и часть истории репозитория были удалены.
Разработчик рассказал об инциденте на Reddit. Его первоначальное сообщение впоследствии удалили, но через несколько дней он успел получить более 1400 ответов от пользователей.
В комментариях участники обсуждения отмечали необходимость создания независимых резервных копий и использования систем контроля версий перед тем, как предоставлять ШИ-агентам доступ к рабочим данным.
Среди предлагаемых способов защиты – регулярная отправка изменений в удаленный репозиторий, в частности GitHub, а также использование инструментов восстановления файлов и теневых копий Windows.
Инцидент демонстрирует один из рисков автономных ШИ-агентов, которые могут не только генерировать код, но и выполнять команды непосредственно в файловой системе. Даже ошибка в интерпретации структуры директорий может привести к масштабной потере данных, если у агента есть достаточные права доступа.
Ранее "Апостроф" сообщал, что россияне пытались использовать Claude для кибератак в Украине.
Читайте также: ШИ вышел из-под контроля: OpenAI поставила на паузу обучение новых моделей
