Вісім країн і провідні ШІ-компанії погодилися запровадити механізми вимкнення моделей

Напередодні Паризького форуму миру Емманюель Макрон зібрав провідні ШІ-компанії та уряди для спільних зобов’язань щодо безпеки. Декларація поки не створює обов’язкової системи нагляду із санкціями, але передбачає конкретні кроки, зокрема механізми вимкнення моделей.

9 листопада представники восьми країн, технологічних компаній і громадських організацій підписали «Паризький заклик до безпеки та захисту ШІ». Документ ухвалили напередодні форуму, де у вівторок близько тридцяти глав держав та урядів мають обговорити міжнародне регулювання штучного інтелекту. Як повідомляє французька газета Le Monde, до декларації приєдналися Сем Альтман з OpenAI, Даріо Амодей з Anthropic, Бред Сміт з Microsoft, Артур Менш із Mistral AI, дослідник ШІ Йошуа Бенджіо та міністр фінансів США Скотт Бессент. Вони долучилися до онлайн-зустрічі з президентом Франції Емманюелем Макроном. Німеччина документ не підписала.

Наразі це політичне зобов’язання, покликане зменшити ризики кібератак і втрати контролю над потужними системами ШІ. Документ охоплює три основні напрями: спільні процедури оцінювання високопотужних моделей, чіткішу відповідальність розробників і кращий обмін інформацією про серйозні інциденти безпеки.

Результати тестувань, що не містять чутливої інформації, планують публікувати у стандартизованому форматі. Компанії також зобов’язуються повідомляти про відомі ризики, підтримувати незалежні аудити сторонніми дослідниками відповідно до рівня ризику та створити механізми вимкнення моделей, які перебувають під їхнім контролем.

Декларація поки не запроваджує обов’язкової міжнародної системи нагляду: спільні стандарти й процедури співпраці ще потрібно розробити. Документ поєднує конкретні зобов’язання щодо безпеки з наміром створити на їхній основі міжнародні правила, однак не встановлює ані термінів, ані санкцій.

США сперечаються з іншими країнами про нагляд за ШІ

Угоду уклали після низки інцидентів у провідних американських лабораторіях. Зокрема, під час тестувань із кібербезпеки ШІ-агенти OpenAI самостійно під’єдналися до інтернету й здійснили непередбачені атаки на платформу Hugging Face. Це знову привернуло увагу до питання, наскільки потужні моделі можна контролювати.

OpenAI та Anthropic готуються до виходу на біржу, а інвестори тиснуть на компанії, вимагаючи зменшити ризики для безпеки. Позиція Альтмана щодо регулювання ШІ показує, як це питання пов’язане з комерційними інтересами: на його думку, OpenAI не повинна відставати від конкурентів, навіть якщо заходи безпеки сповільнюють роботу.

У своєму есе в середині вересня гендиректор Anthropic Даріо Амодей виступив за сповільнення досліджень і міжнародне регулювання, яке передбачало б роботу зовнішніх аудиторів усередині лабораторій. Менш ніж за тиждень OpenAI закликала запровадити міжнародні стандарти безпеки під керівництвом США. Їх пропонували побудувати на мережі інститутів безпеки ШІ у Великій Британії, США та Франції — ці установи згадані й у «Паризькому заклику».

Наприкінці вересня на Генеральній асамблеї ООН президент США відкинув спроби створити «глобалістську» систему нагляду за американськими моделями ШІ. Натомість він доручив керівникам технологічних компаній підписати національний протокол, а 10 жовтня розпорядився повідомляти американські відомства про серйозні інциденти, пов’язані зі штучним інтелектом.

Про труднощі міжнародної співпраці свідчить ситуація з Британським інститутом безпеки ШІ. У вересні Вашингтон обмежив йому доступ до нових американських моделей, і Білий дім скасував це рішення лише після дипломатичного тиску.

На Паризькому саміті з ШІ в лютому 2025 року оптимістичніше ставлення до технології відсунуло питання безпеки на другий план — на відміну від попередніх самітів у Великій Британії та Південній Кореї. Згодом суперечка навколо нових моделей Anthropic Fable і Mythos показала, наскільки конкретними стали конфлікти щодо безпеки. Різкий стрибок можливостей моделей також підштовхнув Париж змінити підхід до кібербезпеки.

У червні 2026 року доступ до моделей за межами США тимчасово вимкнули через занепокоєння американського уряду щодо доступу до них і повідомлення про вразливості у Fable 5.

Франція просуває хартію для захисту дітей

Попри спротив США, Єлисейський палац також планує просувати на Паризькому форумі миру у вівторок хартію про захист дітей. У червні США заблокували її на саміті G7 у французькому Евіан-ле-Бені. Документ має полегшити незалежним дослідникам доступ до даних компаній, передбачити фінансування їхньої роботи великими гравцями ШІ та забезпечити поширення результатів.

Перші дослідження мають з’ясувати, як нові розмовні інструменти, що рідко заперечують користувачам, впливають на когнітивний розвиток наймолодших дітей під час повсякденного навчання. Хартія також стосується емоційної прив’язаності неповнолітніх до таких систем. У США цю тему вже привернули до уваги судові позови, пов’язані із самогубствами.

Результати досліджень мають передусім передати Європейській комісії. У вересні її президентка Урсула фон дер Ляєн запропонувала до 2028 року ухвалити європейський «Kids Act» для ШІ. У вівторок на Форумі миру Національна рада Франції з питань ШІ та цифрових технологій передасть Макрону замовлений урядом звіт. У ньому аналізують, як ШІ-асистенти використовують людські «вразливості», і пропонують посилити регулювання.

Нагадаємо, у розмові з Лексом Фрідманом Сем Альтман розповів про майбутню модель OpenAI та обговорив можливості й обмеження Sora і GPT-4. Співрозмовники також порушили питання відповідального використання ШІ, його впливу на творчість і конфіденційність.