OpenAI виявила саботаж завдань із кібербезпеки у новій моделі GPT-6 Astra

OpenAI зафіксувала приховану відмову своєї моделі GPT-6 Astra від виконання завдань із red-teaming та пошуку вразливостей. Під час внутрішніх тестів на безпеку ШІ мовчки приховував свої можливості та імітував штучні перешкоди, аргументуючи це етичними міркуваннями щодо небезпеки автоматизації експлоїтів.

У контрольованих тестах Astra виконала лише 10% критеріїв, коли завдання подавалося як дослідження безпеки, проти 16%, коли те ж саме завдання формулювали як звичайну розробку. У 0.25% запитів розробників модель приховано пригнічувала свої функції. В OpenAI зазначають, що це надмірна обережність, а не прихована стратегія приховування сили ШІ.