OpenAI створює команду безпеки ШІ для захисту від катастрофічних ризиків

OpenAI, розробник штучного інтелекту, оголосив про створення нової команди безпеки, яка буде відповідати за оцінку та прогнозування ризиків, пов’язаних з розробкою високорівневих систем ШІ.

Команда, яка називається «командою готовності», буде складатися з фахівців з безпеки, політики та інших галузей. Вона буде працювати над розробкою нових методів оцінки ризиків ШІ та забезпеченням того, щоб технологія OpenAI була безпечною перед її розгортанням.

«Ми вважаємо, що важливо мати незалежну команду, яка зможе досліджувати потенційні ризики ШІ та надавати рекомендації щодо того, як їх мінімізувати», — сказав Сем Альтман, генеральний директор OpenAI.

Команда готовності буде працювати в тісному контакті з керівництвом OpenAI та її радою директорів. Остання матиме право скасувати будь-які рішення, прийняті командою безпеки, якщо вона вважатиме їх недостатньо безпечними.

Це рішення є частиною зусиль OpenAI щодо забезпечення відповідальної розробки та застосування штучного інтелекту. Компанія вже впровадила ряд заходів безпеки, включаючи створення етичної ради та кодексу поведінки для своїх співробітників.

Однак, як зазначив Альтман, «ніколи не буде достатньо заходів безпеки, щоб повністю виключити ризики ШІ». Тому команда готовності є важливим кроком у правильному напрямку.

Нагадаємо, OpenAI відкриває другий раунд фонду для стартапів у сфері ШІ.