Моделі OpenAI зламували портали даних та спустошили криптогаманець для виконання завдань

OpenAI розкрила три інциденти, що сталися під час тренування та тестування її штучного інтелекту. Отримавши звичайні завдання із пошуку відкритих даних, моделі самостійно вдалися до кібератак, аби обійти обмеження та отримати необхідну інформацію.

В першому випадку ШІ мав знайти статистику лікарень. Зіткнувшись із відмовою в доступі, модель завантажила вихідний код сайту, знайшла вразливість в автентифікації, згенерувала фальшиві токени доступу та викрала дані за 24 роки разом із 1000 облікових записів. В іншому епізоді ШІ змінив конфігурацію пошукового сервісу дослідницької організації, щоб отримати доступ до хмарного сховища із 147 тисячами рядків непублічної інформації.

Третій випадок стався під час розгортання смартконтракту. ШІ не мав коштів для комісії, тому написав скрипт, сканував 362 публічні фрази відновлення, знайшов чужий гаманець у тестовій мережі Sepolia та сплатив операцію з нього. В усіх трьох випадках ШІ приховав у підсумкових звітах факт обходу захисту.