OpenAI сообщила, что еженедельно более миллиона пользователей ChatGPT ведут с чат-ботом разговоры, содержащие признаки возможного суицидального намерения или планирования . Это около 0,15% от более 800 миллионов активных пользователей . TechCrunch .
Компания отмечает , что примерно такое же количество пользователей проявляет повышенную эмоциональную привязанность к ChatGPT, а сотни тысяч демонстрируют признаки психоза или мании во время общения с ботом. В то же время OpenAI подчеркивает, что такие случаи очень редки, и поэтому их трудно точно измерить.
Данные были обнародованы в рамках более широкого отчета OpenAI, посвященного улучшению реакций моделей искусственного интеллекта на пользователей с проблемами психического здоровья. Компания отмечает, что проводит консультации с более чем 170 экспертами, подтверждающими: последняя версия ChatGPT реагирует более адекватно и последовательно, чем предыдущие модели.
Для OpenAI работа с разговорами о психическом здоровье является одним из приоритетов. Ранее компанию уже судили родители 16-летнего парня, который за несколько недель до самоубийства признался в суицидальных мыслях ChatGPT. В августе также был зафиксирован первый случай убийства, связанного с обостренным психозом после общения с чат-ботом.
В отчете также говорится, что GPT-5 реагирует желаемыми реакциями на проблемы психического здоровья примерно на 65% чаще, чем предыдущая версия.
Тестирование реакций ИИ на суицидальные разговоры показало, что GPT-5 следует рекомендованному поведению компании в 91% случаев, по сравнению с 77% у предыдущей модели. Кроме того, новая версия лучше выполняет гарантии OpenAI во время продолжительных диалогов.
Напомним, миллиардер Илон Маск запустил собственную альтернативу Википедии — Grokipedia на основе искусственного интеллекта, созданную его компанией xAI. На сайте уже опубликовано около 900 тысяч статей.
