Колишній співробітник OpenAI Девід Робінсон, який працював над питаннями безпеки штучного інтелекту, розкритикував підхід компанії до розробки нових моделей. На його думку, прагнення якомога швидше випускати нові системи створює додаткові ризики, оскільки заходи безпеки не завжди відповідають темпам розвитку технологій.
Про це повідомляє Reuters.
У статті під назвою "Я звільнився з OpenAI, бо її культура не працює", опублікованій у суботу в журналі The Atlantic, Робінсон наголосив, що компанії, які створюють штучний інтелект, зокрема OpenAI, мають діяти значно обережніше. Він вважає, що перед запуском потужніших моделей необхідно приділяти більше уваги дослідженням, оцінюванню ризиків і розробці надійних механізмів захисту.
"Час проб і помилок минув", — написав Робінсон. За його словами, забезпечення безпеки передових систем ШІ має ґрунтуватися на підходах, подібних до тих, які використовують в авіації та атомній енергетиці, де помилки можуть мати серйозні наслідки.
Колишній працівник також звернув увагу на стратегію OpenAI, відому як "ітеративне розгортання". Вона передбачає поступовий випуск технологій із подальшим удосконаленням захисних механізмів у міру виявлення проблем. Робінсон вважає, що такий підхід не забезпечує належного рівня обережності за умов стрімкого розвитку можливостей штучного інтелекту.
Його критика стала частиною ширшої дискусії в галузі про те, чи не надто швидко розробники просуваються до створення дедалі потужніших моделей. Зокрема, OpenAI та її конкурент Anthropic опинилися під посиленою увагою після інцидентів, пов'язаних із недоліками захисних механізмів або несподіваною поведінкою експериментальних систем.
За словами Робінсона, він пропрацював в OpenAI три з половиною роки. За цей час він брав участь у розробці концепції готовності компанії до потенційних ризиків і координував підготовку звітів із безпеки перед запуском 12 передових моделей.
"Оскільки компанія мчить від одного запуску до іншого, їй не вдається досягти того рівня обережності, який, на мою думку, є необхідним", — підсумував він.
Агенти штучного інтелекту двічі намагалися отримати доступ до ресурсів «Бібліотеки та архіву Канади» (Library and Archives Canada). Обидві спроби, за даними дослідницької компанії Transluce, виявилися безуспішними. Ознак компрометації урядових систем Канади наразі не виявлено.
