Експерти зі штучного інтелекту зробили прогнози на 2040 рік

Кілька авторів з Ланкастерського університету та Манчестерського університету Метрополітен, які мають різну академічну освіту та дослідницькі інтереси, колективно поділилися досвідом у таких галузях, як кібербезпека, розробка програмного забезпечення, безпілотні літальні апарати, міжнародні відносини, енергетичні перетворення та використання автономних систем.

У тексті представлено дослідження, яке використовує «дельфійський метод» для вивчення потенційних тенденцій розвитку цифрових технологій до 2040 року та їхнього впливу на суспільство.

Дельфійський метод — це структурована техніка, яка використовується для збору думок і досягнення консенсусу серед групи експертів. Зазвичай він передбачає кілька раундів анкетування та зворотного зв’язку, що дає змогу учасникам уточнити свої відповіді на основі думок групи. Цей метод використовується в різних сферах, таких як прогнозування, розробка політичних рішень та дослідження в галузі охорони здоров’я.

У дослідженні основна увага приділяється зростаючому взаємозв’язку комп’ютерних систем, підкреслюючи інтеграцію штучного інтелекту та складність систем. Дослідження також включає опитування технологічних футурологів, щоб отримати уявлення про очікувані зміни та виклики. Результати дослідження висвітлюють п’ять ключових прогнозів, пов’язаних зі штучним інтелектом та складністю систем. Крім того, в тексті запропоновано шість заходів для пом’якшення потенційних негативних наслідків, що виникають у зв’язку з цими тенденціями. Згадані технології, що сприяють розвитку взаємопов’язаних цифрових систем, включають програмні інтерфейси для веб-додатків, «розумні» мережі, блокчейн і запрограмованих користувачем онлайн-ботів.

Методи прогнозування розвитку технологій

Дослідження майбутнього перетворилося на сформовану галузь із спеціалізованими конференціями та експертами, де технологічне прогнозування відіграє вирішальну роль. Передбачити майбутнє з абсолютною впевненістю практично неможливо, тому основна увага приділяється прогнозуванню — опису потенційних результатів, їхньої ймовірності та подій, які можуть до них призвести. Для прогнозування технологічного прогресу та рівня зрілості застосовуються різні методи, включаючи макроісторію, релаксацію аномалій поля (FAR), дельфійські методи, планування сценаріїв та колеса майбутнього.

Макроісторія передбачає аналіз довгострокових суспільно-політичних, економічних і соціальних моделей для екстраполяції майбутніх тенденцій. Попри свою строгість, вона не використовується для технологічного прогнозування, але часто доповнює інші методи аналізу.

Метод релаксації аномалій поля передбачає визначення різних секторів і результатів у кожному з цих секторів за допомогою інтерв’ю з експертами та огляду літератури. Потім метод звужує ці результати шляхом відкидання, зосереджуючись на кількох вірогідних сценаріях. Незважаючи на свою ефективність, метод FAR є ресурсномістким.

Дельфійський метод передбачає кілька раундів інтерв’ю з експертами, поки не буде досягнуто консенсусу. Він трудомісткий, але дає цінну інформацію, особливо в ситуаціях, коли є досвід, але мало конкретної інформації.

Сценарне планування зосереджується на вивченні потенційних сценаріїв у сфері впливу організації. Визначаються ключові фактори та прогнозуються їхні комбінації, щоб зрозуміти їхній вплив на організацію.

Метод колеса майбутнього передбачає проведення наради, на якій експерти розглядають наслідки подій, тенденцій або ідей, створюючи каскад наслідків, представлений у вигляді інфографіки у вигляді колеса. Цей метод дає всебічний огляд потенційних результатів.

Незважаючи на труднощі, минулі успіхи в прогнозуванні, такі як передбачення Кана і Вінера в 1967 році, демонструють цінність цих методів. Хоча деякі прогнози можуть здаватися надуманими, багато з них виявилися точними, особливо в таких галузях, як програмне забезпечення, комунікації та комп’ютери. Ця історія успіху виправдовує використання методів прогнозування для формування стратегій розвитку цифрових технологій.

Метод взаємопов’язаного дослідження

У цьому проекті було застосовано дельфійський метод, який дозволив використати думки експертів у відносно короткі строки. Експертам було запропоновано висловити свої прогнози за допомогою відкритих запитань. Потім були використані методи якісного аналізу для виявлення спільних тем у цих прогнозах, і на основі думок експертів було синтезовано резюме. Цей процес продовжувався ітеративно, поки не було досягнуто зближення до консенсусу.

Дослідження керувалося чотирма дослідницькими питаннями, що зосереджувалися на перетині нових цифрових технологій і взаємопов’язаних обчислень:

Які нові обчислювальні і взаємопов’язані технології організації планують впровадити в цифрові системи до 2040 року?

На які питання, зокрема щодо стабільності, безпеки, конфіденційності, захисту та управління навколишнім середовищем, може вплинути використання цих технологій?

Які проблеми, пов’язані з відповідальністю та підзвітністю (юридичні, моральні та енергетичні), можуть виникнути з інтеграцією цих технологій?

Які підходи можуть бути життєздатними для вирішення цих питань у майбутньому?

Дизайн дослідження складався з двораундового процесу із застосуванням дельфійського методу. Навколо ключових запитань були сформульовані відкриті запитання, які мали на меті стимулювати приблизно годинну дискусію з кожним експертом. Ці питання стосувалися потенційного впливу нових технологій, а також впливу взаємопов’язаних систем на різні аспекти, такі як відповідальність і контроль.

Набір запитань було протестовано з особами, які працюють у відповідних сферах, для уточнення часових рамок, зрозумілості та повноти запитань. Тематичний аналіз стенограм пілотних інтерв’ю допоміг виявити будь-які недоліки у формулюванні ключових запитань, що дозволило внести необхідні корективи в набір запитань та підходи до кодування.

Паралельно з цим, використовуючи метод «снігової кулі», було залучено експертів з різних галузей, включаючи футурологів, журналістів, що пишуть про індустрію програмного забезпечення, та технологічних лідерів. Кожен експерт брав участь у годинних інтерв’ю, які записувалися і розшифровувалися автоматично.

До транскриптів інтерв’ю знову було застосовано тематичний аналіз, а висновки, що стосуються запитань, було синтезовано. Результати були представлені експертам для зворотного зв’язку, який був врахований шляхом подальшого кодування та аналізу. Було обрано п’ять прогнозів, які представляли діапазон результатів, і було проведено детальне обговорення цих прогнозів.

Всі інтерв’ю були проведені за допомогою Microsoft Teams з використанням функцій запису та транскрипції. Для кодування використовувався NVivo, а додатковий аналіз проводився за допомогою Excel і Python.

Результати

Процес відбору респондентів тривав кілька місяців. Спочатку було опитано дев’ять осіб у першому раунді. Результати були закодовані, зроблені прогнози, і висновки були поширені у вигляді анкети. Однак технічні проблеми з анкетуванням зумовили необхідність проведення повторних особистих інтерв’ю з трьома з дев’яти учасників, які брали участь у першому турі. Крім того, ще троє експертів висловили зацікавленість в участі в дослідженні пізніше. З двома з них були проведені особисті інтерв’ю, ще один заповнив анкету.

У Таблиці 1 наведено стислий опис опитаних експертів. Учасники пілотного дослідження (P1 і P2) не включені в таблицю. Кожен учасник, за винятком P3 і P6, має щонайменше 30-річний досвід роботи в науковій або промисловій сфері. Колонки «Раунд 1» та «Раунд 2» вказують на участь у відповідних раундах, де «І» означає особисте інтерв’ю, а «А» — анкетування.

Респонденти визначили кілька ключових сфер інновацій, серед яких автоматизація, штучний інтелект, метапростір, квантові обчислення та інтернет речей. Слід зазначити, що штучний інтелект став основним предметом обговорення через підвищений інтерес ЗМІ, і всі респонденти висловили занепокоєння щодо його наслідків.

Хоча блокчейн і згадувався деякими респондентами, його переважно відкидали як важливий рушій майбутніх змін, а один учасник навіть вважав його неактуальним.

Прогнози

Незважаючи на те, що питання в інтерв’ю стосувалися впливу взаємопов’язаних комп’ютерів, багато з виявлених тенденцій і проблем були ширшими за обсягом.

З 36 прогнозів, розглянутих в опитуванні, п’ять були визнані такими, що становлять загальний інтерес для практиків і користувачів цифрових технологій. Кожен з цих прогнозів отримав певний рівень підтримки з боку 12 експертів, з якими було проведено консультації:

• До 2040 року конкуренція між державами та великими технологічними компаніями призведе до компромісів у розробці безпечного ШІ.
• Квантові обчислення матимуть обмежений вплив до 2040 року.
• До 2040 року право власності на публічні веб-активи буде встановлюватися і реалізовуватися за допомогою таких технологій, як токенізація.
• Відрізнити правду від вигадки стане складніше через те, що до 2040 року широкодоступний ШІ генеруватиме сумнівний контент, створюючи загрозу об’єктивній правді та перевірці достовірності.
• Відрізнити нещасні випадки від кримінальних інцидентів у 2040 році буде складніше через децентралізовану природу і складність систем.

Варто зазначити, що лише п’ятий прогноз в першу чергу стосується теми взаємопов’язаних систем, тоді як інші передбачають вплив взаємозв’язку систем в тій чи іншій мірі.

Наступні розділи заглиблюються в кожен прогноз, надаючи резюме та твердження, підкріплені цитатами з інтерв’ю, щоб підкреслити їхню важливість та наслідки.

F1: Скорочення обхідних шляхів у сфері безпечного ШІ

З огляду на широке висвітлення в ЗМІ проблем безпеки ШІ, не дивно, що цей прогноз часто з’являвся, і з ним одностайно погоджувалися всі експерти. Однак привертає увагу той факт, що мотивацією для «обхідних шляхів» часто була конкуренція між геополітичними наддержавами, а не конкуренція між транснаціональними ІТ-компаніями.

«Озброєння програмного забезпечення — це те, що стимулюватиме економічні можливості… для великих національних держав. А також для груп держав, які співпрацюють між собою», — зауважив один з експертів (P12). Інший експерт підкреслив ретроспективний, а іноді й неіснуючий характер законодавства у вирішенні цих проблем (P7).

Потенційний масштаб очікуваних проблем, як зазначили респонденти, вражає. Більшість експертів прогнозують експоненціальне зростання ШІ протягом наступних 15 років, що підвищує ймовірність виникнення системних проблем. Деякі експерти навіть припускали, що до 2040 року внаслідок безвідповідального розгортання систем ШІ може загинути мільйон людей (P4 і P10). Хоча інші не погоджувалися з таким екстремальним сценарієм, багато хто припускав можливість численних менших інцидентів, що призведуть, можливо, до десятків тисяч смертей.

Найчастіше згадуваним фактором, що сприяє цій тенденції, було «регуляторне поглинання», маючи на увазі проблему ефективного регулювання політично впливових суб’єктів господарювання.

«Існує мало доказів того, що майбутні нормативні акти мають достатньо «зубів», щоб вирішити проблему регуляторного поглинання», — зазначив один з експертів (P3).

F2: Обмежений вплив квантових технологій

Незважаючи на те, що квантові обчислення часто рекламувалися як перспективний розвиток, часто вважалося, що вони навряд чи матимуть значний вплив до 2040 року. Загалом вони сприймалися як довгострокова перспектива, а деякі експерти висловлювали скептицизм щодо їхнього короткострокового і навіть довгострокового потенціалу.

«Якщо квантові обчислення і змінять правила гри у 2040 році, то лише частково. Я не думаю, що це можна передбачити на даний момент. Мені здається, що квантові технології дуже схожі на трансп’ютер та інші нові обчислювальні моделі. Проблема полягала в тому, що для всіх, хто працював над ними, на той час, коли вони потрапляли в комерційну реальність, існуючі моделі вже були застарілими. І я підозрюю, що саме це станеться з квантовими обчисленнями», — зауважив один з експертів (P13).

Хоча деякі експерти очікували, що ранні застосування квантових технологій підтримають моделі ШІ, інші не погодилися з песимістичним прогнозом, очікуючи, що прогрес розгортатиметься швидшими темпами.

F3: Право власності на публічні веб-активи

Медійний ажіотаж навколо блокчейну та успіх валют, заснованих на блокчейні, підвищили обізнаність громадськості про потенціал криптографії для революції у фінансах, що призвело до появи таких концепцій, як децентралізовані фінанси та токенізація.

Це дало поштовх для прогнозування нового тренду, в якому цифрові активи, такі як частки в компаніях, будуть ідентифікуватися і торгуватися за допомогою таких технологій, як токенізація.

«Все, що є даними, можна скопіювати, а токени — ні. Я не надсилаю вам копію біткойна; я передаю право власності на біткойн зі свого гаманця на ваш гаманець… Ларрі Фінк з BlackRock, найбільшої у світі компанії з управління активами, каже, що токени стануть новими ринками», — зазначив один з експертів (P10).

Впровадження таких торгових механізмів вимагатиме значних змін в існуючі соціальні та правові рамки.

«Будуть великі юридичні суперечки щодо торгівлі активами за допомогою токенів, але я очікую, що законодавство візьме гору», — прокоментував інший експерт (P7).

Токени, як легко ідентифіковані посилання на публічно видимі об’єкти, що лежать в основі, дозволяють здійснювати швидку та ефективну торгівлю, незалежно від того, чи використовується технологія блокчейн. Ця перспектива швидкої та ефективної фінансової автоматизації є дуже привабливою.

F4: Складно відрізнити правду від вигадки

Здатність штучного інтелекту масово продукувати дезінформацію постійно звучала в інтерв’ю. Експерти наводили такі приклади, як інформаційна війна Китаю на Тайвані, як доказ його нинішнього впливу.

«Це вже відбувається, як, наприклад, інформаційна війна Китаю на Тайвані, і я не бачу, як це буде вирішено до 2040 року», — зауважив один з експертів (P11).

Кілька експертів висловили занепокоєння щодо наслідків дезінформації, створеної ШІ, для західних демократичних процесів.

«Ми не будемо жити у світі Джорджа Орвелла….. Ми будемо жити у світі Філіпа Діка, де ніхто не знає, що є правдою», — висловив свою думку інший експерт (P10).

Дехто передбачив сценарій майбутнього, в якому ШІ беруть участь у своєрідній «холодній війні», коли одна група ШІ фабрикує інформацію, а інша намагається її виявити.

«…свого роду холодна війна між ШІ, який намагається підробити речі, і ШІ, який намагається їх виявити«, — припустив один з експертів (P10).

Інші висловлювали занепокоєння поширенням теорій змови, що підживлюються ШІ.

«Існує велика ймовірність того, що наш Інтернет і наша спільна база знань буде отруєна… ми схильні вірити в теорії змови», — зауважив інший експерт (P7).

Крім того, ШІ розглядався як інструмент, який може бути використаний для політичної вигоди, а політики-популісти потенційно можуть використовувати теорії змови щодо ШІ для згуртування підтримки.

«Популістський політик, який підніме залишки виборців і спробує налаштувати їх проти системи… яку б божевільну теорію змови він їм не підкинув, вони підуть за ним. Досить часто йдеться про технології», — зазначив один з експертів (P5).

Загалом ШІ сприймався як загроза об’єктивній правді та верифікації, що має значні наслідки для демократії, включаючи потенційний підрив процесів прийняття рішень, негативний вплив на рішення у сфері охорони здоров’я (наприклад, під час пандемії COVID-19) та виклики для доброчесності процесів академічної експертизи.

У той час як деякі експерти припустили, що вдосконалення самого ШІ може запропонувати рішення, інші шукали соціотехнічні підходи для вирішення цієї проблеми.

«Те, як ми визначаємо, що є правдою, може стати цікавим питанням у майбутньому», — вважає один з експертів (P13).

F5: Нездатність відрізнити нещасні випадки від кримінальних інцидентів

Оскільки системи стають дедалі складнішими, вони часто виходять за межі людського розуміння, що потенційно призводить до зростання кількості інцидентів і ускладнює зусилля з кібербезпеки. Цей прогноз випливає з викликів, пов’язаних з необхідністю складної координації між цими складними системами.

«Забезпечити технічну надійність між системами складно. В масштабах це дуже складно. Як тільки ви залучаєте кілька організацій, це стає ще складніше, тому шанси на каскадний збій стають набагато вищими… Знайти першопричину набагато складніше, тому що немає такого ж рівня відкритості та обміну інформацією», — пояснив один з експертів (P11).

Крім того, експертизи, необхідної для аналізу інцидентів, часто бракує, особливо в секторах критичної інфраструктури.

«Це велика проблема в критичній інфраструктурі. Просто люди цього не знають, а аналіз першопричин — це те, що знаходиться на ранній стадії зрілості», — зазначив інший експерт ( P3).

Труднощі у визначенні першопричин можуть розмити різницю між нещасними випадками і діями зловмисників, перешкоджаючи зусиллям, спрямованим на отримання уроків з інцидентів і розробку ефективних стратегій пом’якшення їхніх наслідків.

Розбіжності в прогнозах

У будь-якій групі експертів часто трапляються розбіжності щодо прогнозів, і респонденти, з якими було проведено інтерв’ю, не стали винятком. У Таблиці 2 наведені твердження з 1-го раунду щодо п’яти прогнозів, згаданих вище, а також рівень згоди кожного експерта, що ілюструє розмаїття думок. Було виявлено кілька джерел розбіжностей:

Розбіжності щодо часової шкали: Експерти можуть погоджуватися з самим прогнозом, але розходитися у своїх прогнозах щодо часових рамок. Деякі з них можуть очікувати, що прогноз здійсниться раніше або пізніше.

Розбіжності щодо впливу: Навіть якщо є згода щодо прогнозу, експерти можуть не погодитися з величиною його впливу. Дехто може вважати, що він суттєво «змінить правила гри», тоді як інші можуть сприймати його як такий, що матиме менший ефект.

Конкуруючі прогнози: У деяких випадках експерти можуть пропонувати суперечливі прогнози, передбачаючи різні і несумісні результати.

Наприклад, щодо F2 (квантова технологія) серед експертів була слабка згода. Ті, хто не погодився, можливо, зробили це тому, що прогнозували більш ранні часові рамки для її впливу або очікували нижчий рівень використання.

Пропоновані рішення

В інтерв’ю експертів просили визначити шляхи вирішення проблем, окреслених у їхніх прогнозах. Як не дивно, пропозицій щодо рішень було менше, ніж негативних прогнозів. Це може бути пов’язано з тим, що основна роль футуролога — передбачати майбутнє, а не намагатися його змінити, або, можливо, з тим, що сфера дії більшості прогнозів була надто широкою, щоб вирішити її за допомогою окремих заходів. Деякі експерти, можливо, також вважали, що про очевидні заходи не варто згадувати.

Однак кілька експертів запропонували рішення для проблем, пов’язаних зі штучним інтелектом (F1 і F3) і взаємопов’язаними системами (F5). Ці пропозиції включали підзвітність навколишнього середовища (S1), державну політику (S2), нові форми освіти (S3) і залучення експертизи в галузі соціальних наук (S4):

• Підзвітність у навколишньому середовищі: Цей технічний підхід передбачає включення таких перевірок, як аудит безпеки та валідація результатів, безпосередньо в код систем. Він спрямований на розробку систем, які за своєю суттю запобігають неправильним результатам. Однак деякі експерти висловлюють сумніви щодо його ефективності у світі, де панує штучний інтелект.
• Державна політика: Втручання уряду може вирішити проблеми, пов’язані зі штучним інтелектом, двома шляхами: встановлення принципів безпеки при купівлі технологій зі штучним інтелектом та ухвалення законодавства про безпеку ШІ. Хоча цей підхід приваблює багатьох експертів, деякі з них сумніваються в його ефективності через відмінності в національних інтересах і можливість захоплення регуляторних органів великими технологічними компаніями.
• Нові форми освіти: Експерти запропонували запровадити нові освітні програми, які поєднують технічні навички зі знанням законодавства, щоб вирішити проблему складності рекомендованого законодавства. Це включає в себе університетські курси, розроблені таким чином, щоб забезпечити комплексне розуміння як технічних, так і правових аспектів.
• Залучення експертизи в галузі соціальних наук: Вирішення цих питань вимагає не лише технічних рішень, але й залучення експертів у галузі соціальних наук. Експерти підкреслили важливість інтеграції експертизи в галузі соціальних наук у процес прийняття рішень.

На додаток до цих підходів, дві інші рекомендації випливають безпосередньо з прогнозів:

• Інвестиції в методології відповідального розвитку та впровадження: Уряди і компанії повинні інвестувати в розробку методологій відповідальної розробки і впровадження ШІ та інших новітніх обчислювальних систем, акцентуючи увагу на існуючих передових практиках в галузі програмної інженерії.
• Інвестиції в інформаційну екосистему: Уряди та ЗМІ повинні інвестувати в розвиток здорової інформаційної екосистеми з різноманітними точками зору та високими стандартами перевірки фактів.

У Таблиці 3 узагальнено домовленості щодо цих підходів.

На основі інтерв’ю за дельфійським методом та опитувань 12 експертів було досліджено чотири ключові питання, що стосуються майбутнього взаємопов’язаних систем до 2040 року:

1. Впровадження нових технологій: Досліджувалось, які нові обчислювальні та взаємопов’язані технології, як очікується, будуть впроваджуватись.
2. Вплив технологій: Розглянуто потенційні проблеми, на які впливатимуть ці технології.
3. Відповідальність і підзвітність: Проаналізовані проблеми, пов’язані з відповідальністю та підзвітністю, які можуть виникнути.
4. Підходи до вирішення проблем: Досліджено потенційні підходи до вирішення цих питань.

На основі відповідей експертів було зроблено прогнози щодо п’яти важливих тенденцій, які очікуються до 2040 року, причому в дужках вказано частку експертів, які погоджуються з кожним прогнозом:

• Нехтування безпекою ШІ призводить до великих катастроф (12/12).
• Квантова обробка тільки починає впливати (3/7).
• Розповсюдження крипто-токенів, що представляють право власності на веб-активи (10/10).
• Складно відрізнити правду від вигадки (8/10).
• Організації не можуть відрізнити нещасні випадки від ворожих інцидентів (5/7).

Хоча лише один прогноз (F5) безпосередньо випливає із взаємозв’язку систем, усі прогнози так чи інакше пов’язані з цією темою.

Для вирішення людських проблем, пов’язаних з прогнозами F1, F4 і F5, було визначено шість рекомендацій, чотири з яких були надані експертами, а дві безпосередньо випливають з них:

• Впровадження «зовнішньої підзвітності», коли системи перевіряють самі себе (5/7).
• Прийняття законодавства про безпеку ШІ та правил державних закупівель (11/12).
• Розробка навчальних курсів, що поєднують технічне навчання з законодавством (10/10).
• Застосування досвіду соціальних наук для вирішення технічних проблем (11/11).
• Інвестиції у створення відповідальних методів розробки та розгортання систем штучного інтелекту.
• Інвестиції уряду та ЗМІ в екосистему фактчекінгу.

Зазираючи у 2040 рік, експерти передбачають, що світ зміниться під впливом технологій, але не без перешкод. Серед основних проблем — потенційні небезпеки застосування штучного інтелекту, обмежений вплив квантових обчислень на реальний світ, а також розмивання меж між фактами і вигадкою, що ще більше ускладнюється через труднощі з ідентифікації навмисних атак внаслідок нещасних випадків.

Загалом, впровадження рекомендацій принесе значні переваги користувачам програмного забезпечення та суспільству в найближчі роки, підвищуючи безпеку, підзвітність та надійність взаємопов’язаних систем.