Повністю автономне майбутнє війни, кероване штучним інтелектом, вже настало

Флот кораблів-роботів м’яко погойдується в теплих водах Перської затоки, десь між Бахрейном і Катаром, приблизно за 100 миль від узбережжя Ірану. Я перебуваю на палубі швидкісного катера Берегової охорони США, примружившись, дивлюся на те, що, як я розумію, є лівим бортом. Цього ранку на початку грудня 2022 року горизонт всіяний нафтовими танкерами, вантажними суднами і крихітними рибальськими човнами, які мерехтять у спеку. Поки швидкісний катер мчить повз флот роботів, я мрію про парасольку або навіть хмаринку.

Роботи не поділяють моєї жалюгідної людської потреби в тіні, а також не потребують жодних інших біологічних зручностей. Це видно з їхнього дизайну. Деякі з них нагадують типові патрульні катери, на кшталт того, на якому я перебуваю, але більшість менші, стрункіші, нижчі до води. Один схожий на каяк на сонячних батареях. Інший схожий на дошку для серфінгу з металевим вітрилом. Ще один нагадує мені автомобіль з Google Street View на понтонах.

Ці машини зібралися тут для навчань, що проводяться Оперативною групою 59, групою у складі П’ятого флоту ВМС США. Вона займається робототехнікою і штучним інтелектом – двома технологіями, що швидко розвиваються і формують майбутнє війни. Завданням 59-ї оперативно-тактичної групи є швидка інтеграція їх у військово-морські операції, для чого вона закуповує новітні готові технології у приватних підрядників і збирає їх у єдине ціле. В навчаннях у Перській затоці взяли участь понад десяток платформ без екіпажів – надводні кораблі, підводні апарати, повітряні дрони. Вони стануть розпорошеними очима і вухами 59-ї оперативно-тактичної групи: Вони спостерігатимуть за поверхнею океану за допомогою камер і радарів, слухатимуть під водою за допомогою гідрофонів і пропустять зібрані дані через алгоритми зіставлення зразків, які відсортують нафтові танкери від контрабандистів.

Чоловік на швидкісному катері звертає мою увагу на одне з суден, схожих на дошку для серфінгу. Він різко згортає вітрило, наче лезо ножа, і прослизає під хвилею. Він називається “Тритон” і може бути запрограмований на таку поведінку, коли його системи відчувають небезпеку. Мені здається, що ця здатність зникати може стати в нагоді в реальному світі: За кілька місяців до цих навчань іранський військовий корабель захопив два автономних судна, які називаються Saildrones, що не можуть занурюватися під воду. ВМС довелося втрутитися, щоб повернути їх назад.

“Тритон” міг залишатися на дні до п’яти днів, спливаючи, коли берег буде чистим, щоб зарядити батареї і зателефонувати додому. На щастя, мій катер так довго не зависне. Він заводить двигун і з гуркотом мчить до причалу 150-футового катера берегової охорони. Я прямую прямо на верхню палубу, де під тентом стоїть штабель з водою в пляшках. Проходячи повз, я оцінюю важкі кулемети і міномети, спрямовані в море.

Палуба охолоджується на вітрі, коли катер повертається на базу в Манамі, Бахрейн. Під час подорожі я розмовляю з екіпажем. Мені не терпиться поговорити з ними про війну в Україні та інтенсивне використання там безпілотників – від аматорських квадрокоптерів, оснащених ручними гранатами, до повноцінних військових систем. Я хочу розпитати їх про нещодавню атаку на окуповану Росією військово-морську базу в Севастополі, в якій брали участь кілька побудованих в Україні безпілотників з вибухівкою – і про публічну краудфандингову кампанію, щоб побудувати більше. Але ці розмови не будуть можливими, каже мій супровідник, резервіст з компанії Snap, що займається соціальними мережами. Оскільки П’ятий флот діє в іншому регіоні, ті, хто входить до складу 59-ї оперативно-тактичної групи, не мають багато інформації про те, що відбувається в Україні, каже вона. Натомість ми говоримо про генератори зображень зі штучним інтелектом і про те, чи не залишать вони художників без роботи, про те, як громадянське суспільство, схоже, досягає своєї власної точки перегину у відносинах зі штучним інтелектом. Насправді, ми ще не знаємо й половини. Минув лише день з того часу, як OpenAI запустив ChatGPT 504, розмовний інтерфейс, який зламає інтернет.

Повернувшись на базу, я прямую до Центру управління робототехнікою, де група людей наглядає за розподіленими на воді датчиками. ROC – це кімната без вікон з кількома рядами столів і комп’ютерних моніторів – досить безхарактерна, якби не стіни, прикрашені надихаючими цитатами таких постатей, як Вінстон Черчилль і Стів Джобс. Тут я зустрічаю капітана Майкла Брассера, керівника оперативної групи 59, засмаглого чоловіка з поголеною головою, доброзичливою посмішкою і моряцьким прищуром. Він ходить між столами, весело пояснюючи, як працює Центр. “Це місце, де об’єднуються всі дані, які надходять з безпілотних систем, і де ми використовуємо штучний інтелект і машинне навчання, щоб отримати дійсно цікаві результати”, – говорить Брассер, потираючи руки і посміхаючись, розповідаючи про це.

Монітори мерехтять від активності. Штучний інтелект 59-ї оперативно-тактичної групи виділяє підозрілі судна в цьому районі. Сьогодні він вже позначив кілька кораблів, які не відповідали ідентифікаційним сигналам, що спонукало флот придивитися до них уважніше. Брассер показує мені новий інтерфейс, що розробляється, який дозволить його команді виконувати багато з цих завдань на одному екрані – від перегляду зображення з камери корабля до спрямування його ближче до місця події.

Брассер та інші співробітники бази підкреслюють, що автономні системи, які вони випробовують, призначені лише для зондування і виявлення, а не для збройного втручання.

“Наразі оперативно-тактична група 59 зосереджена на покращенні видимості. Все, що ми тут робимо, спрямоване на підтримку екіпажів кораблів”. – каже Брассер.

Але деякі з кораблів-роботів, які беруть участь у навчаннях, ілюструють, наскільки короткою може бути відстань між неозброєним і озброєним кораблем – це питання заміни корисного навантаження і доопрацювання програмного забезпечення. Один автономний швидкісний катер “Seagull” призначений для полювання на міни і підводні човни, тягнучи за собою сонарну систему. Амір Алон, старший директор ізраїльської оборонної компанії Elbit Systems, яка створила “Seagull“, розповідає мені, що він також може бути оснащений дистанційно керованим кулеметом і торпедами, які запускаються з палуби.

“Він може вести вогонь автономно, але ми не рекомендуємо цього робити. Ми не хочемо розпочинати Третю світову війну” – Амір Алон, старший директор ізраїльської оборонної компанії Elbit Systems

Так, не хочемо. Але жарт Алона зачіпає важливу істину: автономні системи, здатні вбивати, вже існують по всьому світу. У будь-якому великому конфлікті, навіть такому, що не дотягує до Третьої світової війни, кожна сторона незабаром зіткнеться зі спокусою не лише взяти на озброєння ці системи, а й, у деяких ситуаціях, усунути людський нагляд, дозволивши машинам воювати зі швидкістю машини. У цій війні штучного інтелекту проти штучного інтелекту гинутимуть лише люди. Тож є сенс задатися питанням: Як думають ці машини і люди, які їх створюють?

Проблиски автономних технологій існують у збройних силах США вже десятки років – від програмного забезпечення автопілотів у літаках і безпілотниках до автоматизованих палубних гармат, що захищають військові кораблі від ракет, які летять на них. Але це обмежені системи, призначені для виконання певних функцій в конкретних умовах і ситуаціях. Можливо, автономні, але не інтелектуальні. Лише в 2014 році керівництво Пентагону почало розглядати більш потужну автономну технологію як вирішення набагато більшої проблеми.

Боб Ворк, на той час заступник міністра оборони, був стурбований тим, що геополітичні суперники країни “наближаються до паритету” з американськими збройними силами. Він хотів знати, як, за його словами, “відновити перевагу” – як гарантувати, що навіть якщо США не зможуть виставити стільки ж солдатів, літаків і кораблів, як, скажімо, Китай, вони зможуть вийти переможцем з будь-якого потенційного конфлікту. Тому Ворк запитав групу вчених і технологів, на чому Міністерство оборони має зосередити свої зусилля. “Вони повернулися і сказали, що на автономії з використанням штучного інтелекту”, – згадує він. Він почав працювати над національною оборонною стратегією, яка б культивувала інновації, що виходять з технологічного сектору, в тому числі нові можливості, що з’являються завдяки машинному навчанню.

Це було легше сказати, ніж зробити. Міністерство оборони побудувало певні проекти, в тому числі Sea Hunter, експериментальний військовий корабель вартістю 20 мільйонів доларів, і Ghost Fleet Overlord, флотилію звичайних кораблів, переобладнаних для автономної роботи, але до 2019 року спроби міністерства підключитися до Big Tech заїкалися. Спроба створити єдину хмарну інфраструктуру для підтримки ШІ у військових операціях стала політичною проблемою і була припинена. Проект Google, який передбачав використання штучного інтелекту для аналізу аерофотознімків, був зустрінутий шквалом громадської критики і протестів співробітників. Коли ВМС опублікували план кораблебудування до 2020 року – план розвитку американського флоту протягом наступних трьох десятиліть, – вони підкреслили важливість безекіпажних систем, особливо великих надводних кораблів і підводних човнів, але виділили на їхню розробку відносно мало грошей.

У крихітному офісі в глибині Пентагону колишній пілот ВМС на ім’я Майкл Стюарт добре усвідомлював цю проблему. Відповідальний за нагляд за розробкою нових бойових систем для американського флоту, Стюарт почав відчувати, що ВМС нагадують блокбастер, який лунатично переходить в еру Netflix. Роками раніше, в Гарвардській школі бізнесу, він відвідував заняття Клея Крістенсена, академіка, який вивчав, чому великі, успішні підприємства зазнають поразки від менших учасників ринку – часто через те, що зосередженість на поточному бізнесі призводить до того, що вони не помічають нові технологічні тенденції. Питання для ВМС, на думку Стюарта, полягало в тому, як прискорити впровадження робототехніки і штучного інтелекту, не загрузнувши в інституційній бюрократії.

Інші в той час думали приблизно так само. Наприклад, у грудні того ж року дослідники з RAND, фінансованого урядом оборонного аналітичного центру, опублікували звіт, в якому запропонували альтернативний шлях: Замість того, щоб фінансувати жменьку екстравагантно дорогих автономних систем, чому б не скуповувати дешевші роєм? Спираючись на кілька військових ігор, присвячених вторгненню Китаю на Тайвань, автори звіту RAND стверджували, що розгортання величезної кількості недорогих безпілотників може значно підвищити шанси США на перемогу. Надаючи зображення кожного судна в Тайванській протоці, гіпотетичні безпілотники – які в RAND охрестили “кошенятами” – могли б дозволити США швидко знищити ворожий флот. (Китайський військовий журнал в той час взяв до уваги це передбачення, обговорюючи потенціал “сяо мао”, китайської фрази, що означає “кошеня”, в Тайванській протоці).

На початку 2021 року Стюарт з групою колег розробив 40-сторінковий документ під назвою “Рамки безпілотної кампанії” (Unmanned Campaign Framework). У ньому був викладений уривчастий, нетрадиційний план використання ВМС автономних систем, що передбачає відмову від традиційних закупівель на користь експериментів з дешевими роботизованими платформами. До роботи над цим проектом буде залучена невелика команда фахівців зі штучного інтелекту і робототехніки, експертів з військово-морської стратегії, які зможуть працювати разом для швидкого втілення ідей.

“Йдеться не лише про безпілотні системи. Це така ж, якщо не більше, організаційна історія”. – каже Стюарт.

План Стюарта привернув увагу віце-адмірала П’ятого флоту Бреда Купера, чия територія охоплює 2,5 мільйона квадратних миль води від Суецького каналу навколо Аравійського півострова до Перської затоки. Територія заповнена судноплавними шляхами, які одночасно є життєво важливими для глобальної торгівлі і пронизані нелегальним рибальством і контрабандою. Після закінчення війни в Перській затоці, коли частина уваги і ресурсів Пентагону переключилася на Азію, Купер шукав способи зробити більше з меншими витратами, каже Стюарт. Іран посилив свої напади на комерційні судна, атакуючи їх озброєними швидкісними катерами і навіть завдаючи ударів за допомогою безпілотників і дистанційно керованих катерів.

Купер попросив Стюарта приєднатися до нього і Брассера в Бахрейні, і разом вони почали створювати Оперативну групу 59. Вони вивчили автономні системи, які вже використовуються в інших місцях по всьому світу – наприклад, для збору кліматичних даних або моніторингу морських нафтових платформ – і дійшли висновку, що оренда і модифікація цього обладнання обійдеться в невелику частку від того, що ВМС зазвичай витрачає на нові кораблі. Оперативна група 59 буде використовувати програмне забезпечення на основі штучного інтелекту, щоб з’єднати ці частини воєдино.

“Якщо нові безпілотні системи зможуть працювати в цих складних водах, ми вважаємо, що їх можна буде поширити на інші флоти ВМС США”. – сказав мені Купер.

Поки вони створювали нову оперативну групу, ситуація в цих водах ставала дедалі складнішою. Рано-вранці 29 липня 2021 року нафтовий танкер “Мерсер Стріт” прямував на північ уздовж узбережжя Оману, прямуючи з Танзанії до Об’єднаних Арабських Еміратів, коли на горизонті з’явилися два чорні V-подібні дрони, які пронеслися в чистому небі, перш ніж вибухнути в морі. Через день, після того, як екіпаж зібрав уламки з води і повідомив про інцидент, третій дрон пікірував на дах диспетчерської корабля, цього разу здетонувавши вибухівку, яка прошила конструкцію наскрізь, вбивши двох членів екіпажу. Слідчі дійшли висновку, що в інциденті винні три “дрони-смертники”, виготовлені в Ірані.

Головною загрозою для Стюарта був Китай. “Моя мета – дуже швидко, протягом п’яти років, прийти з дешевим або менш дорогим озброєнням, щоб надіслати стримуючий сигнал”, – каже він. Але Китай, природно, також робить значні інвестиції у військову автономію. У звіті Джорджтаунського університету за 2021 рік зазначається, що Народно-визвольна армія Китаю витрачає понад 1,6 мільярда доларів на технології щороку – майже на рівні з США. У звіті також зазначається, що автономні судна, подібні до тих, що використовуються Оперативною групою 59, є основним напрямком розвитку китайського флоту. Вони вже розробили клон “Морського мисливця”, а також, як повідомляється, великий флагманський корабель з безпілотниками.

Однак Стюарт не помічав особливого інтересу до своєї роботи, доки Росія не вторглася в Україну. “Люди телефонують мені і кажуть: “Пам’ятаєте, ви говорили про ці автономні штуки? Гаразд, розкажи мені більше”, – каже він. Як і моряки та чиновники, з якими я зустрічався в Бахрейні, він не коментує конкретно ситуацію – ні про атаку севастопольського безпілотника, ні про пакет допомоги у розмірі 800 мільйонів доларів, який США надіслали Україні минулої весни і який включав невизначену кількість “безпілотних суден берегової оборони”, ні про роботу України над створенням повністю автономних безпілотників-убивць. Все, що сказав Стюарт, це наступне: “Часові рамки, безумовно, зміщуються”.

Я в Сан-Дієго, штат Каліфорнія, головному порту Тихоокеанського флоту США, де оборонні стартапи ростуть як на дріжджах. Прямо переді мною, у високій скляній будівлі, оточеній пальмами, знаходиться штаб-квартира Shield AI. Стюарт заохотив мене відвідати компанію, яка виробляє V-BAT, безпілотник, з яким 59-а оперативно-тактична група експериментує в Перській затоці.Незважаючи на дивний зовнішній вигляд – у формі перевернутої літери Т, з крилами і одним пропелером внизу – це вражаючий апарат, невеликий і досить легкий, щоб команда з двох осіб могла запускати його практично з будь-якого місця.Але я прийшов подивитися на програмне забезпечення всередині V-BAT, на пілота зі штучним інтелектом під назвою Hivemind.

Я проходжу через яскраво-білі офіси компанії, повз інженерів, які вовтузяться з частинами дрону та рядками коду, до невеликої конференц-зали. Там, на великому екрані, я спостерігаю, як три V-BATS вирушають на симульовану місію в каліфорнійській пустелі. Десь неподалік вирує лісова пожежа, і їхнє завдання – знайти її. Літаки вертикально злітають з землі, потім нахиляються вперед і розлітаються в різні боки. Через кілька хвилин один з дронів точно визначає місце пожежі, а потім передає інформацію своїм побратимам. Вони коригують політ, наближаючись до пожежі, щоб скласти карту її повної площі.

Змодельовані віртуальні кажани не виконують прямих людських команд. Вони також не виконують команди, закодовані людиною у звичайному програмному забезпеченні – жорстке “якщо це, то це”. Замість цього дрони автономно відчувають і орієнтуються в навколишньому середовищі, планують, як виконати свою місію, і працюють разом у рої.

Інженери Shield AI навчили Hivemind частково за допомогою навчання з підкріпленням, розгорнувши його на тисячах змодельованих місій, поступово заохочуючи його зосередитися на найбільш ефективних засобах виконання завдання.”Це системи, які можуть думати і приймати рішення”, – каже Брендон Ценг, колишній “морський котик”, співзасновник компанії.Ця версія Hivemind включає досить простий суб-алгоритм, який може ідентифікувати симульовані лісові пожежі. Звичайно, інший набір підалгоритмів може допомогти рою дронів ідентифікувати будь-яку кількість інших цілей – транспортні засоби, судна, людей-комбатантів. Система не обмежується лише V-BAT. Hivemind також призначений для керування винищувачем F-16, і він може перемогти більшість пілотів-людей, які беруть участь у симуляторі. (Компанія планує, що цей штучний інтелект стане “другим пілотом” у більш пізніх поколіннях військових літаків). Hivemind також використовує квадрокоптер Nova 2, який досить малий, щоб поміститися в рюкзаку, і може досліджувати і картографувати інтер’єри будівель і підземних комплексів.

Для 59-ї оперативно-тактичної групи – чи будь-якої іншої військової організації, яка прагне відносно дешево перейти на використання штучного інтелекту і робототехніки – привабливість цих технологій очевидна. Вони пропонують не лише “покращену видимість” на полі бою, як висловився Брассер, але й можливість проектувати силу (і, потенційно, застосовувати силу) з меншою кількістю реальних людей, задіяних в операції. Замість того, щоб призначати десятки людей-операторів дронів на пошуково-рятувальні роботи або розвідувальну місію, ви можете відправити команду з V-BAT або Nova 2. Замість того, щоб ризикувати життям ваших дуже дорого навчених пілотів під час повітряного штурму, ви можете відправити рій дешевих дронів, кожен з яких буде пілотований тим самим першокласним штучним інтелектом, кожен з яких буде продовженням того ж вуликового розуму.

Проте, якими б дивовижними не були алгоритми машинного навчання, вони можуть бути незбагненними і непередбачуваними за своєю суттю. Під час мого візиту до Shield AI у мене була коротка зустріч з одним із дронів компанії Nova 2. Він піднімається з підлоги офісу і зависає приблизно в футі від мого обличчя.

“Він перевіряє вас”, – каже інженер. За мить дрон з дзижчанням злітає вгору і пролітає крізь імітоване вікно з одного боку кімнати. Відчуття тривожні.В одну мить ця маленька повітряна розвідка зробила висновок про мене. Але як? Хоча відповідь може бути доступною для інженерів Shield AI, які можуть відтворити та проаналізувати елементи прийняття рішень роботом, компанія все ще працює над тим, щоб зробити цю інформацію доступною для “неекспертних користувачів”.

Варто лише поглянути на цивільний світ, щоб побачити, як ця технологія може вийти з ладу – системи розпізнавання облич, які демонструють расові та гендерні упередження, безпілотні автомобілі, які врізаються в об’єкти, які вони ніколи не були навчені бачити. Навіть при ретельному проектуванні військова система, яка використовує штучний інтелект, може припускатися подібних помилок. Алгоритм, навчений розпізнавати ворожі вантажівки, може бути збитий з пантелику цивільним автомобілем. Система протиракетної оборони, розроблена для реагування на вхідні загрози, може бути не в змозі повністю “пояснити”, чому вона дала осічку.

Ці ризики піднімають нові етичні питання, подібні до тих, що виникають у зв’язку з аваріями за участю безпілотних автомобілів. Якщо автономна військова система припускається смертельної помилки, хто несе за це відповідальність? Командир, який керує операцією, офіцер, який наглядає за системою, комп’ютерний інженер, який створив алгоритми і об’єднав у мережу розумний вулик, брокер, який надав навчальні дані?

Одне можна сказати напевно: технологія швидко розвивається. Коли я зустрівся з Ценгом, він сказав, що мета Shield AI – мати “оперативну команду з трьох V-BAT у 2023 році, шість V-BAT у 2024 році і 12 V-BAT у 2025 році”. Через вісім місяців після нашої зустрічі Shield AI запустила команду з трьох V-BAT з бази Військово-повітряних сил для виконання місії з ліквідації змодельованої лісової пожежі.

Компанія також може похвалитися тим, що Hivemind можна навчити виконувати цілий ряд місій – полювання на ракетні бази, боротьбу з ворожими літаками – і незабаром він зможе працювати навіть в умовах обмеженого або перерваного зв’язку.

Перед тим, як покинути Сан-Дієго, я відвідав авіаносець “Мідвей”, який був введений в експлуатацію наприкінці Другої світової війни і зараз постійно пришвартований в бухті. Десятиліттями корабель перевозив найсучасніші військові технології, слугуючи плавучою злітно-посадковою смугою для сотень літаків, що виконували розвідувальні та бомбардувальні місії в конфліктах від В’єтнаму до Іраку. У центрі авіаносця, немов кавернозний металевий шлунок, знаходиться ангарна палуба.Дверні отвори з одного боку ведуть у кролячий лабіринт коридорів і приміщень, серед яких тісні матроські каюти, зручні офіцерські спальні, кухні, лазарети, навіть перукарня і пральня – нагадування про те, що колись 4000 матросів і офіцерів називали цей корабель своїм домом.

Стоячи тут, я відчуваю, наскільки глибоким буде перехід до автономії. Мине ще багато часу, перш ніж суден без екіпажів стане більше, ніж суден з людьми на борту, навіть більше, ніж до того, як морями будуть правити безпілотні материнські кораблі. Але армада роботів 59-ї оперативно-тактичної групи, хоч і молода, знаменує собою крок в інший світ. Можливо, це буде безпечніший світ, в якому мережі автономних дронів, розгорнуті по всьому світу, допомагатимуть людям тримати конфлікти під контролем. А може, небо затягнеться атакуючими роями. Яке б майбутнє не лежало на горизонті, роботи пливуть туди.