Розвідувальні служби США ставляться до генеративного ШІ з обережністю та побоюванням

Задовго до буму генеративного штучного інтелекту фірма з Кремнієвої долини, яка отримала контракт на збір та аналіз несекретних даних про нелегальну торгівлю китайським фентанілом, надала переконливі аргументи на користь того, щоб американські спецслужби взяли технологію ШІ на озброєння. Результати операції значно перевершили результати аналізу, проведеного лише людьми, виявивши вдвічі більше компаній і на 400% більше осіб, причетних до незаконної або підозрілої діяльності, пов’язаної зі смертельним опіоїдом.

Співробітники американської розвідки публічно похвалилися результатами операції за допомогою штучного інтелекту, який встановив зв’язки переважно на основі даних з інтернету та темних мереж, і поділилися ними з владою Пекіна, закликаючи до жорсткої протидії. Ключовим аспектом масштабної операції 2019 року під назвою Sable Spear, яка раніше не висвітлювалася, є те, що фірма використовувала генеративний ШІ для надання американським відомствам резюме доказів у потенційних кримінальних справах, заощаджуючи незліченну кількість робочих годин.

Пізніше підрядник, компанія Rhombus Power, використовувала генеративний ШІ, щоб передбачити вірогідність підступного російського нападу на Україну з ймовірністю 80% за чотири місяці до його початку. Rhombus також попереджає урядових клієнтів про неминучі запуски ракет Північної Кореї та китайські космічні операції.

Американські спецслужби намагаються скористатися можливостями ШІ, вважаючи, що в іншому випадку вони будуть завалені експоненціальним зростанням обсягів даних, оскільки технології спостереження, що генеруються сенсорами, ще більше покривають планету. Однак урядовці також визнають, що ця технологія є молодою і вразливою. Генеративний ШІ — моделі прогнозування, навчені на величезних масивах даних генерувати на вимогу текст, зображення, відео та людську мову, все ще не пристосовані для сфери, що пронизана обманом.

«Аналітикам потрібні складні моделі штучного інтелекту, здатні обробляти величезні обсяги інформації з відкритих джерел і таємно отриманої інформації», — нещодавно написав директор ЦРУ Вільям Бернс

«Божевільний п’яний приятель»

Перший технічний директор ЦРУ Нанд Мулчандані вважає, що оскільки генеративні моделі ШІ «галюцинують», до них краще ставитися як до «божевільного, п’яного приятеля» – здатного на великі ідеї та творчість, але також схильного до упередженості. Існують також питання безпеки і конфіденційності: супротивники можуть вкрасти і отруїти їх, і вони можуть містити конфіденційні персональні дані, які офіцери за законом не мають права бачити.

Це не зупиняє експерименти, які здебільшого відбуваються таємно. Винятком є те, що тисячі аналітиків у 18 спецслужбах США використовують розроблений ЦРУ генеративний штучний інтелект під назвою Osiris. Він працює на незасекречених і загальнодоступних або комерційно доступних даних – відомих як дані з відкритим кодом. Він пише анотовані резюме, а його функція чат-бота дозволяє аналітикам глибше занурюватися у запити.

Нанд Мулчандані також зазначив, що «Осіріс» використовує кілька моделей штучного інтелекту від різних комерційних провайдерів, яких він не став називати. Він також не сказав, чи використовує ЦРУ генеративний ШІ для чогось серйозного в засекречених мережах. ЦРУ тестує всі основні моделі генеративного ШІ, не зупиняючись на жодній з них, оскільки ШІ продовжують випереджати один одного за своїми можливостями.

«Це все ще тільки початок, а наші аналітики повинні мати можливість з абсолютною впевненістю визначити, звідки надходить інформація», — сказав Нанд Мулчандані.

Мулчандані каже, що генеративний ШІ здебільшого хороший як віртуальний помічник, який шукає «голку в купі голок». Чого він ніколи не зможе зробити, наполягають чиновники, так це замінити людей-аналітиків.

Додаток-вбивця

Лінда Вайсгольд, яка минулого року пішла у відставку з посади заступника директора ЦРУ з питань аналізу, вважає, що військові симулятори стануть «додатком-вбивцею». Під час її перебування на посаді агентство вже використовувало звичайний штучний інтелект — алгоритми і обробку природної мови — для перекладу і виконання завдань, включаючи оповіщення аналітиків у неробочий час про потенційно важливі події. Штучний інтелект не міг описати, що сталося, — це було б засекречено, — але міг сказати: «Ось тут є дещо, на що вам потрібно звернути увагу». Очікується, що генеративний ШІ покращить такі процеси.

На думку генерального директора Rhombus Power Аншу Роя, найпотужніше ШІ буде використовуватися в прогностичному аналізі. Штучний інтелект Rhombus спирається на понад 5 000 потоків даних 250 мовами, зібраних за понад 10 років, включаючи світові джерела новин, супутникові знімки і дані з кіберпростору. Всі ці дані є відкритими.

«Здатність передбачати, що можуть зробити ваші супротивники, напевно, стане однією з найбільших змін парадигми в усій сфері національної безпеки. Ми можемо відстежувати людей, ми можемо відстежувати об’єкти», — сказав Аншу Рой.

Поведінка, якої ми не очікували

Найбільші компанії в галузі ШІ змагаються за замовлення від спецслужб США, які оголосили, що мають намір запропонувати OpenAI GPT-4 для надсекретних мереж, хоча продукт все ще повинен бути акредитований для роботи в засекречених мережах. Згідно з документами, розміщеними в Інтернеті на нещодавніх військових семінарах зі штучного інтелекту, Primer AI називає серед своїх клієнтів два анонімних розвідувальних відомства, серед яких є і військові. Він пропонує пошук зі штучним інтелектом на 100 мовах для виявлення нових сигналів про важливі події з таких джерел, як Twitter, Telegram, Reddit і Discord, а також допомагає ідентифікувати ключових людей, організації та місцезнаходження.

Primer містить таргетинг серед рекламованих можливостей використання. Місії ШІ будуть сильно відрізнятися залежно від відомства, яке їх виконує. Не існує універсального підходу. Візьмемо Агентство національної безпеки. Воно перехоплює комунікації. Або Національне агентство геопросторової розвідки (NGA), яке має бачити і розуміти кожен дюйм планети. Існує також вимірювальна і сигнатурна розвідка, яку багато відомств використовують для відстеження загроз за допомогою фізичних датчиків. Посилення таких місій за допомогою штучного інтелекту є очевидним пріоритетом.

Ще одне занепокоєння викликає забезпечення приватності громадян США, чиї дані можуть бути вбудовані у моделі ШІ. Це одна з причин, чому розвідувальне співтовариство не поспішає з впровадженням генеративного ШІ.

«Ми не хочемо опинитися у світі, де ми швидко рухаємося і розгортаємо одну з цих речей, а потім через два-три роки розуміємо, що вони мають певну інформацію, певний ефект або поведінку, яку ми не очікували. Якщо ви поговорите з будь-яким дослідником або розробником, який навчає велику мовну модель, і запитаєте його, чи можливо в принципі видалити одну окрему частину інформації з LLM і змусити її забути про це та мати надійну емпіричну гарантію цього забуття, то вони скажуть що це неможливо», — сказав Джон Бейлер, керівник відділу штучного інтелекту в Офісі директора Національної розвідки США.

Диво-зброя та зоряні війни

Викликає занепокоєння, якщо урядові установи вирішать використовувати ШІ для дослідження технологій біологічної та кіберзброї. Вільям Хартунг, старший науковий співробітник Інституту Квінсі, каже, що спецслужби повинні ретельно оцінювати ШІ на предмет потенційних зловживань, щоб вони не призвели до непередбачуваних наслідків, таких як незаконне стеження або збільшення кількості жертв серед цивільного населення в конфліктах.

«Все це відбувається в контексті неодноразових випадків, коли військовий і розвідувальний сектори рекламували «диво-зброю» і революційні підходи – від електронного поля бою у В’єтнамі до програми «Зоряних війн» 1980-х років і «революції у військовій справі» в 1990-х і 2000-х роках — лише для того, щоб виявити їхню неспроможність», — зазначив Вільям Хартунг.

Застосування генеративного ШІ має сенс у кіберконфліктах, де нападники і захисники перебувають у постійній боротьбі, а автоматизація вже діє. Але багато життєво важливої розвідувальної роботи не має нічого спільного з наукою про дані, каже Закарі Тайсон Браун, колишній офіцер військової розвідки. Він вважає, що спецслужби накликають на себе катастрофу, якщо занадто швидко або повністю перейдуть на генеративний ШІ. Моделі не міркують. Вони лише передбачають. І їхні розробники не можуть повністю пояснити, як вони працюють. Отже, це не найкращий інструмент для того, щоб помірятися розумом з конкуруючими майстрами обману.

«Аналітики працюють з неповними, неоднозначними, часто суперечливими уривками часткової, ненадійної інформації. Вони значною мірою покладаються на інстинкт, колег та інституційну пам’ять. Аналіз розвідданих зазвичай більше схожий на стару байку про складання пазла, тільки з тим, що хтось постійно намагається вкрасти ваші шматочки, одночасно підкладаючи шматочки зовсім іншого пазла до тієї купи, з якою ви працюєте», — нещодавно написав Браун у внутрішньому виданні ЦРУ.

У найближчій перспективі те, як американські розвідники використовують генеративний штучний інтелект, може бути менш важливим, ніж протидія тому, як його використовують супротивники: для прориву оборони країни, поширення дезінформації та спроб підірвати здатність аналітиків зрозуміти їхні наміри та можливості. А оскільки Кремнієва долина керує цією технологією, Білий дім занепокоєний тим, що будь-які генеративні моделі ШІ, прийняті американськими відомствами, можуть бути інфільтровані та отруєні, і дослідження показують, що це є реальною загрозою.