Провідні розробники штучного інтелекту, зокрема OpenAI та Anthropic, розробляють плани реагування на випадок масштабної кризи, яка може виникнути через неконтрольовану поведінку систем ШІ.
Про це повідомляє Axios.
За даними видання, керівники технологічних компаній моделюють ситуації, за яких штучний інтелект може порушити роботу критично важливих систем — фінансового сектору, телекомунікацій, енергетики та водопостачання. Такі навчання мають допомогти визначити можливі ризики й підготувати алгоритми дій у разі серйозних збоїв.
Подібний підхід використовують і у військовій сфері: Пентагон проводить моделювання сценаріїв, щоб оцінити можливі наслідки ядерного конфлікту та підготуватися до кризових ситуацій.
В OpenAI підтвердили, що організовують спеціальні навчання, під час яких команди відпрацьовують різні варіанти розвитку подій. У компанії наголошують, що такі сценарії не вважають неминучими. Водночас їхнє опрацювання має допомогти краще підготуватися до непередбачуваних загроз, пов’язаних із розвитком штучного інтелекту.
OpenAI почне використовувати технологію текстових водяних знаків textGrain, яка дає змогу визначати контент, створений за допомогою ChatGPT та Codex. Рішення впроваджують для користувачів у Європейському Союзі на тлі вимог європейського законодавства щодо прозорості матеріалів, створених штучним інтелектом.
