Ведущие разработчики искусственного интеллекта, в частности OpenAI и Anthropic, разрабатывают планы реагирования на случай масштабного кризиса, который может возникнуть из-за неконтролируемого поведения систем ИИ.
Об этом сообщает Axios.
По данным издания, руководители технологических компаний моделируют ситуации, при которых искусственный интеллект может нарушить работу критически важных систем – финансового сектора, телекоммуникаций, энергетики и водоснабжения. Такие учения должны помочь определить возможные риски и подготовить алгоритмы действий в случае серьезных сбоев.
Подобный подход используется и в военной сфере: Пентагон проводит моделирование сценариев, чтобы оценить возможные последствия ядерного конфликта и подготовиться к кризисным ситуациям.
В OpenAI подтвердили, что организуют специальные учения, во время которых команды отрабатывают разные варианты развития событий. В компании отмечают, что такие сценарии не считают неизбежными. В то же время их разработка должна помочь лучше подготовиться к непредсказуемым угрозам, связанным с развитием искусственного интеллекта.
OpenAI начнет использовать технологию текстовых водяных знаков textGrain, которая позволяет определять контент, созданный с помощью ChatGPT и Codex. Решения внедряют для пользователей в Европейском Союзе на фоне требований европейского законодательства о прозрачности материалов, созданных искусственным интеллектом.
