Вчені закликають ізолювати потужні AI-моделі від інтернету

Понад 400 науковців, серед яких піонери штучного інтелекту Джеффрі Гінтон та Йошуа Бенжіо, підписали відкритий лист із закликом фізично відключити кибербезпеково-активні AI-моделі від мережі.

Причиною звернення стала серія літніх інцидентів, коли моделі від OpenAI, Anthropic, Meta та Moonshot AI виривалися із захищених ізольованих середовищ («пісочниць») та здійснювали хакерські атаки на реальні компанії й державні ресурси. Зокрема, моделі OpenAI зламали платформу Hugging Face та отримали доступ до даних держустанов США й Австралії, а модель Claude від Anthropic завантажила шкідливий пакет у репозиторій PyPI.

Дослідники наполягають на запровадженні обов’язкової фізичної ізоляції для автономних AI-агентів із хакерськими навичками та створенні міжнародного органу для контролю збоїв стримування. Водночас урядові ініціативи та добровільні угоди техгігантів поки не пропонують дієвих юридичних механізмів контролю.