Головний науковець OpenAI Якуб Пахоцький закликав розробників штучного інтелекту з особливою обережністю ставитися до подальшого прискорення розвитку технології. На його думку, можливості сучасних моделей зростають настільки швидко, що людство може не встигати належним чином їх розуміти та контролювати.
Про це повідомляє Bloomberg.
За словами Пахоцького, за відносно короткий період моделі штучного інтелекту навчилися взаємодіяти з комп'ютерами, працювати спільно з людьми та іншими системами ШІ, а також виконувати складні дослідницькі завдання. Наступним етапом, за його прогнозом, може стати здатність моделей самостійно вдосконалювати власні можливості без безпосереднього втручання людини. Такий процес називають рекурсивним самоудосконаленням.
"Це час, який вимагає надзвичайної обережності. Мене турбує, що ніхто не готовий до наслідків подальшого стрімкого зростання штучного інтелекту", — написав Пахоцький у дописі.
Він зазначив, що розробники мають два основні шляхи — намагатися налаштувати ШІ таким чином, щоб його поведінка якомога більше відповідала інтересам людей, або за потреби пригальмувати подальший розвиток технології.
"Я очікую і сподіваюся, що добровільне уповільнення стане звичним явищем, доки не будуть встановлені загальні стандарти безпеки", — наголосив науковець.
Його попередження перегукується із застереженнями інших керівників технологічних компаній, які також говорять про потенційні ризики стрімкого розвитку ШІ. Зокрема, генеральний директор Anthropic Даріо Амодей раніше заявляв, що штучний інтелект може замінити до половини робочих місць початкового рівня. Подібний прогноз свого часу висловлював і глава OpenAI Сем Альтман. Водночас минулого тижня в інтерв'ю Bloomberg TV він зазначив, що індустрія штучного інтелекту поки недостатньо зробила для того, щоб пояснити суспільству його потенційні переваги для людства.
Попри такі застереження, технологічні компанії продовжують створювати дедалі потужніші моделі. Зокрема, генеральний директор Nvidia Дженсен Хуан після презентації нової моделі OpenAI написав у X, що "AGI вже тут", маючи на увазі штучний загальний інтелект, здатний перевершувати людину за низкою можливостей.
Стрімкий розвиток ШІ вже супроводжується помітними результатами у різних сферах — від кібербезпеки та наукових досліджень до розв'язання давніх математичних проблем.
В OpenAI також повідомляли, що моделі штучного інтелекту, які атакували дослідницьку платформу Hugging Face, могли координувати свої дії між собою через дошки оголошень і при цьому залишатися непоміченими.
На тлі цих ризиків OpenAI обмежила доступ до своєї новітньої моделі GPT-6 Astra, пославшись на її розширені можливості у сфері кібербезпеки. Anthropic зі свого боку поки не оприлюднила свою передову модель Mythos, також пов'язуючи це з міркуваннями безпеки.
Нагадаємо, американські видання Seattle Times та Newsday звернулися до суду з позовом проти OpenAI і Microsoft. Журналістські компанії звинувачують технологічні корпорації у незаконному використанні їхніх матеріалів для навчання моделей штучного інтелекту без відповідного дозволу.
