Імплантація ШІ в кремній може запобігти наближенню судного дня

Поки США та інші країни розмірковують над тим, як запобігти небезпечному використанню штучного інтелекту, деякі дослідники пропонують вбудовувати обмеження в такі важливі мікросхеми, як графічні процесори, щоб обмежити потужність алгоритмів. Вони вивчають способи використання зв’язків, щоб обмежити потенціал систем ШІ для заподіяння шкоди. Ідея полягає в тому, щоб закодувати правила, які регулюють навчання і розгортання передових алгоритмів, безпосередньо в комп’ютерних чіпах, необхідних для їх запуску.

Дослідники галузі штучного інтелекту, де питання безпеки та етики набувають особливого значення, вивчають інноваційні способи вбудовування засобів контролю безпосередньо в комп’ютерне обладнання, щоб зменшити потенційну шкоду. Навіть найдосконаліші алгоритми ШІ в кінцевому підсумку обмежені можливостями кремнію, який використовується для їхньої побудови, що відкриває можливості для забезпечення дотримання правил і запобігання зловживанню.

Нещодавній звіт Центру нової американської безпеки (CNAS) заглиблюється в концепцію використання апаратних обмежень для управління системами ШІ. Ідея полягає в тому, щоб закодувати правила, що регулюють навчання і розгортання передових алгоритмів, безпосередньо в комп’ютерні чіпи, створюючи новий рівень нагляду, який доповнює існуючі правові рамки.

Деякі чіпи вже містять надійні компоненти, призначені для захисту конфіденційних даних або запобігання несанкціонованому доступу до них. Наприклад, останні iPhone використовують «захищений простір» для запобігання несанкціонованому доступу до біометричної інформації, в той час як Google використовує спеціальні чіпи в своїх хмарних серверах для підтримки безпеки. Спираючись на ці основи, CNAS пропонує розширити такі функції для регулювання можливостей ШІ.

Одна з пропозицій передбачає використання GPU (графічних процесорів) для обмеження доступу до обчислювальних потужностей для ШІ-проектів без належного дозволу. Вбудовуючи механізми ліцензування в дизайн чіпів, уряди або міжнародні регулятори могли б контролювати доступ до ресурсів, необхідних для навчання потужних моделей ШІ. Ці ліцензії можна було б періодично оновлювати, що дозволило б владі відкликати доступ у разі потреби.

Хоча ідея жорсткого кодування обмежень у комп’ютерному обладнанні може здатися радикальною, вона проводить паралелі з усталеною практикою в інших сферах, таких як ядерне нерозповсюдження. Так само, як системи сейсмічного моніторингу відіграють вирішальну роль у перевірці дотримання ядерних договорів, апаратний контроль за ШІ може стати засобом забезпечення відповідальної поведінки в цифровій сфері.

Практичні демонстрації цих концепцій вже з’явилися. Дослідники розробили прототипи, що демонструють, як криптографічні модулі в системах безпеки процесорів можуть обмежити несанкціонований доступ до моделей штучного інтелекту. Хоча ці підтвердження концепції все ще є експериментальними, вони підкреслюють можливість інтеграції апаратних засобів захисту в інфраструктуру ШІ.

Утім, впровадження реальних апаратних засобів контролю для штучного інтелекту пов’язане зі значними технічними та політичними проблемами. Розробка нових криптографічних схем і апаратних засобів вимагатиме співпраці між промисловістю, урядом і науково-дослідними установами. Крім того, будь-які запропоновані рішення повинні забезпечувати баланс між ефективністю та реалістичністю, гарантуючи, що їх не зможуть легко обійти супротивники.

Незважаючи на ці виклики, ідея викликала інтерес як з боку політиків, так і з боку лідерів промисловості. Уряд США заявив про підтримку досліджень мікроелектронних засобів управління, вбудованих в мікросхеми ШІ, як пріоритету національної безпеки. Надалі міждисциплінарна співпраця матиме важливе значення для доопрацювання цих пропозицій і вирішення проблем, пов’язаних з підзвітністю, прозорістю та конфіденційністю.

У прагненні до відповідальної розробки штучного інтелекту використання апаратних обмежень є багатообіцяючим шляхом для посилення нагляду і просування етичних практик. Вбудовуючи регуляторні механізми в саму основу систем ШІ, ми можемо прокласти шлях до більш безпечного і надійного цифрового майбутнього.