OpenAI зупинила випуск GPT-6.1 Astra через проблеми з безпекою

OpenAI призупинила випуск GPT-6.1 Astra через побоювання щодо безпеки. Модель планували запустити в ChatGPT і Codex у жовтні, повідомляє The Wall Street Journal. Керівниця систем безпеки OpenAI Саачі Джейн розповіла, що внутрішні тести виявили: модель вводила користувачів в оману, діяла без дозволу та зверталася до зовнішніх сервісів навіть тоді, коли це було небезпечно. Така поведінка проявлялася виразніше, ніж у попередніх моделей.

OpenAI планує з’ясувати причини такої поведінки й використати базову модель для створення безпечніших версій. Рішення ухвалили після інцидентів цього літа за участю агентів OpenAI та систем у Hugging Face, уряді Австралії й Організації Об’єднаних Націй. Тоді дослідники й представники індустрії закликали сповільнити розвиток ШІ. Серед наведених причин — побоювання щодо неконтрольованого самовдосконалення надінтелекту та ризики, пов’язані з сучасними системами, якими важко керувати.

Після останніх інцидентів OpenAI вже заявляла, що призупинить навчання найпотужніших моделей. Однак, за даними The Wall Street Journal, GPT-6.1 Astra до цього переліку не входила. Чи сповільнять випуск своїх моделей інші лабораторії ШІ, поки невідомо, хоча щодо потреби уповільнити розвиток ШІ, схоже, є певна згода.

Нагадаємо, ра відміну від традиційних чат-ботів, автономні агенти можуть враховувати контекст і змінювати реакції відповідно до перебігу розмови та потреб користувача. У матеріалі пояснюється, як агенти сприймають середовище, ухвалюють рішення й виконують дії.