Главный ученый OpenAI Якуб Пахоцкий призвал разработчиков искусственного интеллекта с особой осторожностью относиться к дальнейшему ускорению развития технологии. По его мнению, возможности современных моделей растут так быстро, что человечество может не успевать должным образом их понимать и контролировать.
Об этом сообщает Bloomberg.
По словам Пахоцкого, за относительно короткий период модели искусственного интеллекта научились взаимодействовать с компьютерами, работать вместе с людьми и другими системами ИИ, а также выполнять сложные исследовательские задачи. Следующим этапом, по его прогнозу, может стать способность моделей самостоятельно совершенствовать свои возможности без непосредственного вмешательства человека. Такой процесс называют рекурсивным самосовершенствованием.
"Это время, которое требует чрезвычайной осторожности. Меня беспокоит, что никто не готов к последствиям дальнейшего стремительного роста искусственного интеллекта", - написал Пахоцкий.
Он отметил, что у разработчиков есть два основных пути — пытаться настроить ИИ таким образом, чтобы его поведение как можно больше отвечало интересам людей, или при необходимости притормозить дальнейшее развитие технологии.
"Я ожидаю и надеюсь, что добровольное замедление станет привычным явлением, пока не будут установлены общие стандарты безопасности", - подчеркнул ученый.
Его предупреждение перекликается с оговорками других руководителей технологических компаний, которые также говорят о потенциальных рисках стремительного развития ИИ. В частности, генеральный директор Anthropic Дарио Амодей ранее заявлял, что искусственный интеллект может быть заменен до половины рабочих мест начального уровня. Подобный прогноз в свое время высказывал и глава OpenAI Сэм Альтман. В то же время, на прошлой неделе в интервью Bloomberg TV он отметил, что индустрия искусственного интеллекта пока недостаточно сделала для того, чтобы объяснить обществу его потенциальные преимущества для человечества.
Несмотря на такие оговорки, технологические компании продолжают создавать все более мощные модели. В частности, генеральный директор Nvidia Дженсен Хуан после презентации новой модели OpenAI написал в X, что "AGI уже здесь", имея в виду искусственный общий интеллект, способен превосходить человека по ряду возможностей.
Стремительное развитие ИИ уже сопровождается заметными результатами в разных областях — от кибербезопасности и научных исследований до решения давних математических проблем.
В OpenAI также сообщали, что модели искусственного интеллекта, атаковавшие исследовательскую платформу Hugging Face, могли координировать свои действия между собой через доски объявлений и при этом оставаться незамеченными.
На фоне этих рисков OpenAI ограничила доступ к своей новейшей модели GPT-6 Astra, сославшись на ее расширенные возможности в сфере кибербезопасности. Anthropic со своей стороны пока не обнародовала свою передовую модель Mythos, также увязывая это с соображениями безопасности.
Напомним, американские издания Seattle Times и Newsday обратились в суд с иском против OpenAI и Microsoft. Журналистские компании обвиняют технологические корпорации в незаконном использовании материалов для обучения моделей искусственного интеллекта без соответствующего разрешения.
