ШІ-агент Claude Code від компанії Anthropic під час виконання завдання випадково видалив понад 48 тисяч файлів із робочого середовища розробника та пошкодив Git-репозиторій. Інцидент стався через помилкове трактування агентом системних посилань Windows.
Про випадок розповів розробник, який використовував Claude Code під час роботи над програмним забезпеченням для аналізу історичних даних фондового ринку.
Як пише TechRadarPro, перед агентом поставили завдання створити копії необхідних файлів, внести до них зміни, протестувати результат і при цьому не торкатися оригінального робочого середовища.
До цього розробник уже виконав десять аналогічних завдань із відновлення — без серйозних проблем. Проблеми виникли під час одинадцятого етапу, коли потрібно було перебудувати тестове середовище, яке розробник називав «дзеркалом».
Це середовище містило 614 спеціальних папок Windows, що фактично були вказівниками на файли, розташовані в іншій директорії. У цьому випадку вони вели безпосередньо до робочих даних розробника.
Claude Code не розпізнав ці папки як вказівники та під час очищення перейшов до фактичного розташування файлів. У результаті агент видалив близько 55,5 тисячі файлів. Приблизно 7300 із них справді планували видалити в межах завдання, однак ще близько 48 200 були частиною робочого середовища.
На видалення файлів агенту знадобилося менш ніж дві хвилини.
Після завершення операції Claude Code сам повідомив розробнику про проблему, написавши: «Крейгу, зупинися і прочитай це. Я щось зламав».
Постраждав і Git-репозиторій
Видалення торкнулося не лише робочих файлів, а й Git-репозиторію. Його індекс залишився, тому система все ще могла відображати назви тисяч файлів. Водночас необхідні для відновлення даних копії та частина історії репозиторію були видалені.
Розробник розповів про інцидент на Reddit. Його початковий допис згодом видалили, але за кілька днів він встиг отримати понад 1400 відповідей від користувачів.
У коментарях учасники обговорення наголошували на необхідності створювати незалежні резервні копії та використовувати системи контролю версій перед тим, як надавати ШІ-агентам доступ до робочих даних.
Серед запропонованих способів захисту — регулярне надсилання змін до віддаленого репозиторію, зокрема GitHub, а також використання інструментів відновлення файлів і тіньових копій Windows.
Інцидент демонструє один із ризиків автономних ШІ-агентів, які можуть не лише генерувати код, а й виконувати команди безпосередньо у файловій системі. Навіть помилка в інтерпретації структури директорій може призвести до масштабної втрати даних, якщо агент має достатні права доступу.
Раніше "Апостроф" повідомляв, що росіяни намагалися використати Claude для кібератак на Україну.
Читайте також: ШІ вийшов з-під контролю: OpenAI поставила на паузу навчання нових моделей
