OpenAI повідомила, що щотижня понад мільйон користувачів ChatGPT ведуть із чат-ботом розмови, які містять ознаки можливого суїцидального наміру або планування. Це близько 0,15% від понад 800 мільйонів активних користувачів, пишепише TechCrunch.
Компанія зазначає, що приблизно така ж кількість користувачів проявляє підвищену емоційну прихильність до ChatGPT, а сотні тисяч демонструють ознаки психозу або манії під час спілкування з ботом. Водночас OpenAI підкреслює, що такі випадки є дуже рідкісними, і через це їх важко точно виміряти.
Дані були оприлюднені в рамках ширшого звіту OpenAI, присвяченого покращенню реакцій моделей штучного інтелекту на користувачів із проблемами психічного здоров’я. Компанія зазначає, що проводить консультації з понад 170 експертами, які підтверджують: остання версія ChatGPT реагує адекватніше та послідовніше, ніж попередні моделі.
Для OpenAI робота з розмовами про психічне здоров’я є одним із пріоритетів. Раніше компанію вже позивали батьки 16-річного хлопця, який за кілька тижнів до самогубства зізнався у суїцидальних думках ChatGPT. У серпні також зафіксували перший випадок вбивства, пов’язаного із загостреним психозом після спілкування з чат-ботом.
У звіті також йдеться, що GPT-5 реагує бажаними реакціями на проблеми психічного здоров’я приблизно на 65% частіше, ніж попередня версія.
Тестування реакцій ШІ на суїцидальні розмови показало, що GPT-5 дотримується рекомендованої поведінки компанії у 91% випадків, порівняно з 77% у попередній моделі. Крім того, нова версія краще виконує гарантії OpenAI під час тривалих діалогів.
Нагадаємо, мільярдер Ілон Маск запустив власну альтернативу Вікіпедії — Grokipedia на основі штучного інтелекту, створену його компанією xAI. На сайті вже опубліковано майже 900 тисяч статей.
