OpenAI та Anthropic співпрацюють з Інститутом безпеки штучного інтелекту США

Національний інститут стандартів і технологій (NIST) Міністерства торгівлі США уклав угоду з провідними розробниками штучного інтелекту OpenAI та Anthropic про співпрацю з Інститутом безпеки штучного інтелекту США (AISI). Ця співпраця означає помітний перехід до забезпечення гарантій захищеності та надійності ШІ-технологій ще до того, як вони будуть випущені у вільний обіг.

Згідно з цією угодою, Інститут безпеки ШІ США отримає доступ до основних моделей ШІ обох компаній, включаючи ChatGPT від OpenAI та Claude від Anthropic, до і після їх публічного релізу. Завдяки цьому Інституту вдасться провести ретельну експертизу моделей, оцінити їхні можливості та виявити будь-які потенційні ризики для безпеки.

Елізабет Келлі, директор NIST, підкреслила важливість безпеки в інноваціях ШІ, заявивши, що ці угоди є вагомою подією у відповідальному розвитку технологій ШІ. Очікується, що співпраця зробить значний внесок у розвиток науки про безпеку ШІ, що має вирішальне значення для подальшого зростання і прийняття рішень на основі ШІ в різних галузях промисловості.

Представники OpenAI та Anthropic висловили свою підтримку цій ініціативі. Співзасновник Anthropic Джек Кларк підкреслив важливість стороннього тестування в екосистемі штучного інтелекту, високо оцінивши зусилля уряду щодо створення таких інститутів безпеки, як AISI. Генеральний директор OpenAI Сем Альтман також відзначив важливість участі держави в захисті безпеки в галузі технологій штучного інтелекту, підкресливши провідну роль США в цьому напрямку.

Ця співпраця відбувається в той час, коли безпека в галузі ШІ є нагальною проблемою не лише для компаній, а й для урядів у всьому світі. Створення AISI в жовтні 2023 року адміністрацією Байдена стало частиною масштабніших зусиль з регулювання та нагляду за розвитком ШІ. Очікується, що робота Інституту доповнить аналогічні зусилля міжнародних партнерів, таких як Інститут безпеки ШІ у Великій Британії, з яким буде здійснюватися обмін результатами досліджень.

Оскільки розвиток технологій з використанням штучного інтелекту продовжує активно поширюватися, партнерство між урядом США та провідними компаніями, що займаються розробкою штучного інтелекту, є ініціативним рішенням, спрямованим на зниження ризиків і забезпечення того, щоб інновації в галузі штучного інтелекту були безпечними та корисними для суспільства.