Агенти зі штучним інтелектом будують «цивілізації» в Minecraft

Project Sid від Altera демонструє світогляд майбутнього, в якому агенти штучного інтелекту зможуть формувати власні цивілізації та відображати багато аспектів людського суспільства. Ініціатива робить крок до розуміння того, як агенти ШІ можуть розвивати соціальні структури, системи комунікації та спільну поведінку людини в суспільстві, що забезпечує розвиток людських цивілізацій. Проєкт демонструє, як функціонують цифрові суспільства за допомогою алгоритмів, від управління ієрархіями та торгівлі до встановлення норм і суспільних ролей.

Концепція цивілізації штучного інтелекту полягає не лише в тому, щоб навчити агентів діяти індивідуально, а й у тому, щоб сприяти розвитку багатої соціальної динаміки. З цією метою Altera оснастила своїх агентів ментальною структурою, яка дозволяє їм відстежувати взаємовідносини, формувати та оновлювати ментальні моделі оточення і навіть брати участь у розмовах, що визначаються контекстом і цілями. Це дозволяє їм брати участь у природних, динамічних обмінах, які можуть варіюватися від цілеспрямованих дискусій до пустопорожніх світських бесід. Щобільше, їхня здатність адаптуватися та переосмислювати цілі надає їм певної автономії, тобто агенти можуть врівноважувати свої індивідуальні прагнення з потребами суспільства, частиною якого вони є, так само як і звичайні люди.

«Оскільки наші агенти є соціальними і ростуть з часом, на них впливає групова динаміка, але вони також використовують свою індивідуальну владу, щоб змінити систему», — зазначають в Altera.

Однією з головних проблем у побудові таких суспільств зі штучним інтелектом є суперечність між індивідуальними цілями та колективними діями. Агенти можуть бути надзвичайно ефективними в досягненні особистих цілей, але це часто відбувається ціною співпраці. Підхід Altera передбачає створення механізмів, за допомогою яких агенти можуть рухатися до своїх цілей, залишаючись при цьому пристосованими до соціального середовища, що дозволяє їм гнучко змінювати завдання заради групової динаміки.

Ще одним важливим відкриттям є крихкість великомасштабних систем. Поведінка окремих агентів може мати величезний вплив на колектив і, як наслідок, один збій у комунікації чи делегуванні завдань в ієрархічній структурі може призвести до колапсу системи. Така чутливість до локальних дій підкреслює складність моделювання суспільств, де поведінка кожного агента впливає на більшу групу.

У довгостроковій перспективі метою є розробка агентів, здатних будувати та підтримувати суспільства автономно. Altera бачить майбутнє, в якому цивілізації зі штучним інтелектом зможуть не лише існувати, але й розвиватися та вдосконалюватися. Це вимагатиме зміни, або «фазового переходу», коли колективний інтелект і поведінка агентів досягнуть точки узгодженості, яка дозволить їм перетворитися на самодостатні системи та навіть самовдосконалюватися.

У цьому контексті порівняння шляху Project Sid з футуристичними світами на кшталт Westworld пропонує інтригуючі паралелі. Хоча складність людиноподібних цивілізацій зі штучним інтелектом, як у «Westworld», залишається далекою реальністю, фундамент для таких суспільств закладається в рамках проектів на кшталт «Project Sid». Критична відмінність між цивілізацією зі штучним інтелектом і людською цивілізацією полягає в узгодженні поведінки, цілей і дій представників цих цивілізацій з загальнолюдськими цінностями та пріоритетами. Досягнення такого узгодження є одним з головних викликів, оскільки робота Altera натякає на складність контролю автономних агентів у процесі еволюції з метою збереження етичних і безпечних результатів.

Поточний стан Project Sid є лише початком, але він демонструє наскільки швидко можуть з’явитися майбутні цивілізації зі штучним інтелектом, коли виклики, такі як спільне управління завданнями, формулювання цілей і комунікація, утворюють межу досліджень у галузі штучного інтелекту. Цілком можливо, що в майбутньому ми побачимо перехід до ШІ-агентів, які не лише імітуватимуть людські суспільства, але й сприятимуть їм у непередбачувані способи.