OpenAI та Microsoft блокують ChatGPT-хакерів

OpenAI та Microsoft об’єднали зусилля, щоб зупинити кібератаки з боку «пов’язаних з державою» груп, які намагалися використовувати ChatGPT.

Згідно з повідомленням OpenAI в середу, альянс взявся захищати свою платформу від п’яти «державних» кібератак. Ці атаки були влаштовані групами, пов’язаними з Китаєм (Charcoal Typhoon і Salmon Typhoon), Іраном (Crimson Sandstorm), Північною Кореєю (Emerald Sleet) і Росією (Forest Blizzard).

За даними OpenAI, ці групи намагалися використати GPT-4 для різноманітних цілей, включаючи дослідження компаній та засобів кібербезпеки, генерацію фішингових кампаній та переклад технічних документів. Облікові записи були закриті після виявлення цих атак.

Хоча OpenAI та Microsoft успішно відвернули ці загрози, вони визнали, що неможливо зупинити кожне зловживання. У вересні OpenAI оголосила про ініціативу посилити кібербезпеку своїх моделей ШІ, в тому числі звернувшись до сторонніх «червоних команд» для пошуку дірок у безпеці OpenAI.

Ці дії відбуваються на фоні зростаючої уваги до кібербезпеки в контексті штучного інтелекту, а також у рамках зусиль національних та міжнародних організацій для забезпечення безпеки в цифровому просторі.