Здобуття довіри у світі, де керує штучний інтелект

У 2016 році ми спостерігали за розвитком інтернету, який безпосередньо впливав на фізичний світ, тісно пов’язаний зі смартфонами, оснащеними датчиками, такими як камери і термостати, а також такими виконавчими пристроями, як дрони та автономні автомобілі. Ця взаємопов’язана система, відома як Інтернет речей (IoT), по суті, втілила в собі класичне визначення робота: щось, що відчуває, думає і діє. Самі того не підозрюючи, ми створили робота світового масштабу.

Перенесемося у 2023 рік, і ми станемо свідками значного покращення аспекту «мислення» з появою великих мовних моделей (LLM), таких як GPT. ChatGPT вразив світ своєю здатністю розуміти людську мову, генеруючи достовірні, влучні, схожі на людські відповіді. Очікується, що LLM, демонструючи відмінні результати у взаємодії з системами, що спочатку були розроблені для людей, стануть більш точними і поступово замінять людські ролі.

У перспективі до 2024 року акцент зміщується в бік підключення LLM та інших систем штучного інтелекту як до датчиків, так і до виконавчих механізмів, створюючи прямий зв’язок з навколишнім світом через інтерфейси API. Ця інтеграція дозволяє їм отримувати дані з нашого оточення в різних формах, передбачених у 2016 році, поступово здійснюючи контроль над нашим оточенням через пристрої Інтернету речей і не тільки.

Початкові завдання будуть скромними, наприклад, узагальнення електронних листів, створення обмежених відповідей, участь в обговоренні питань обслуговування клієнтів, а також обробка змін в обслуговуванні або повернення коштів. У міру розвитку ШІ розширюватиметься їхня взаємодія з фізичним світом, спочатку шляхом керування роботами, а згодом — шляхом включення роботів у їхні функції. Наприклад, термостат, керований штучним інтелектом, може динамічно регулювати опалення та кондиціонування повітря на основі місцезнаходження мешканців, їхніх уподобань та очікуваних рухів.

Після цих початкових етапів відбудуться справжні трансформаційні зміни, коли ці ШІ колективно сформують більший інтелект, створюючи розгалужену мережу генерації та споживання енергії. Кожна будівля стає вузлом у цій мережі, подібно до мурашника.

Майбутні системи управління промисловістю включатимуть традиційних заводських роботів і системи штучного інтелекту, що координують їхню роботу. Ці системи автономно замовлятимуть матеріали, координуватимуть доставку готової продукції, управлятимуть фінансами та взаємодіятимуть з іншими системами у банківському світі. Втручання людини буде запитуватися в міру необхідності, або для ремонту окремих підсистем, або для виконання завдань, занадто спеціалізованих для роботів.

Розглянемо безпілотні автомобілі, де окремі транспортні засоби використовують датчики, вбудовані в дороги і стовпи, а реальна обробка відбувається в хмарі через централізовану систему, що пілотує всі транспортні засоби. Це дозволяє ефективно координувати окремі автомобілі, наприклад, синхронно гальмувати.

Хоча ці об’єкти дійсно є роботами, вони відрізняються від традиційного образу, який ми бачимо в кіно і на телебаченні. Замість дискретних металевих об’єктів з поверхневими датчиками і приводами, ці нові роботи мають розподілені датчики і приводи в навколишньому середовищі, а обробка даних відбувається в іншому місці. Вони функціонують як мережа окремих блоків, які разом утворюють робота.

Цей зсув кидає виклик нашому уявленню про безпеку. Якщо масивні, децентралізовані ШІ керуватимуть усім, контроль над ними стає вирішальним фактором. Це схоже на те, якби всі помічники керівників або юристи в галузі працювали в одному агентстві. Отже, ШІ, якому довіряють і який заслуговує на довіру, стає критично важливою вимогою.

Таке передбачуване майбутнє спонукає до зміни нашого самосприйняття, спонукаючи нас бачити себе не стільки окремими особистостями, скільки невід’ємними частинами великих систем. Це втілює концепцію ШІ як природи, що нагадує Гайю, де все функціонує як одна система. Таке майбутнє більше відповідає буддійській філософії взаємопов’язаності, ніж західним уявленням про індивідуальність, хоча й нагадує науково-фантастичні антиутопії на кшталт Скайнету з фільмів про Термінатора. Це вимагає переоцінки наших припущень щодо управління та економіки, і перші кроки на цьому трансформаційному шляху очікуються вже у 2024 році.