Генеральный директор Anthropic Дарио Амодей призвал ведущие компании замедлить разработку мощнейших систем искусственного интеллекта, чтобы меры безопасности успевали за стремительным ростом возможностей моделей. В то же время, он признает риск, что одностороннее ограничение американских разработчиков может позволить Китаю сократить технологический разрыв или даже опередить США.
Об этом пишет CNBC.
По мнению Амодея, для контроля за развитием ИИ необходимо обеспечить независимым экспертам доступ к внутренним процессам компаний, а также согласовать определенные ограничения между разработчиками из демократических стран. Следующим этапом он считает переговоры с Китаем по международным правилам в области искусственного интеллекта.
В своем эссе руководитель Anthropic отметил, что американские компании могут позволить себе замедление только, пока сохраняют достаточное преимущество над китайскими конкурентами. Если же США сократят темпы развития сильнее, чем Китай, связанные с китайскими властями проекты могут получить технологическое преимущество.
Опасения Амодея усугубляются тем, что разрыв между американскими и китайскими моделями стремительно сокращается. По данным Стэнфордского университета, в марте 2026 года лучшая модель из США опережала китайскую всего на 2,7%. В предыдущем году представители обеих стран несколько раз сменяли друг друга на вершине рейтингов по показателям технологических возможностей.
Для получения дополнительного времени для проверки безопасности новых систем Амодей предлагает сначала увеличить технологическое преимущество США. Одно из ключевых мер, по его мнению, — ограничение доступа Китая к самым мощным ШИ-чипам и оборудованию для их производства. Он также призывает усилить контроль над нелегальным перемещением процессоров.
Еще одним направлением глава Anthropic называет ограничение возможности китайских компаний использовать вычислительные ресурсы зарубежных дата-центров. Среди других предложений – усиление защиты параметров передовых моделей от угона и борьба с несанкционированной дистилляцией. Речь идет о методе, при котором возможности мощной модели пытаются воспроизвести в более дешевой системе, используя ее ответы.
Амодей считает доступ к передовым чипам одним из определяющих факторов дальнейшего развития китайского ИИ. По его оценке, более жесткие технологические ограничения способны существенно увеличить преимущество США в течение следующих трех-пяти лет. Этот период он называет особенно важным для будущего геополитического влияния искусственного интеллекта.
В то же время руководитель Anthropic выступает за переговоры с Китаем по общим правилам безопасности. Одним из наиболее реалистичных вариантов он называет договоренность о запрещении отдельных опасных способов использования ИИ, в частности для разработки биологического оружия. Значительно сложнее, по его мнению, будет создание совместной системы тестирования моделей на кибернетические, биологические и другие критические риски.
Амодей также допускает установление своеобразного "ограничителя скорости" для рекурсивного самосовершенствования ИИ - процесса, при котором искусственный интеллект помогает разрабатывать новые поколения систем. В то же время, полную международную паузу в развитии технологии он считает маловероятной, поскольку тайное нарушение такой договоренности могло бы резко изменить баланс сил между США и Китаем.
Идею замедления развития передовых моделей поддержали руководители OpenAI, xAI и Google DeepMind. Однако китайские разработчики публично не соглашались на подобные ограничения, а механизма контроля за потенциальным международным соглашением пока нет. Поэтому предложения Амодея пока остаются инициативой западных технологических компаний.
Ранее компания Anthropic сообщила о прекращении попыток использовать ее модели искусственного интеллекта Claude для проведения кибершпионской операции против украинских правительственных, военных и дипломатических структур. По оценке компании, кампания могла быть связана с Россией.
