Не питайте роботів, чи знищить ШІ людство

Такі роботи, як Софія, вражають погляд, але не дозволяйте їхньому схожому на людський виразу обличчя ввести вас в оману, що ці машини розумні.

На початку цього місяця кілька відомих ЗМІ поширили новину про те, що штучний інтелект не становитиме небезпеки для людства. Що стало джерелом цієї обнадійливої новини? Купа людиноподібних голів роботів, з’єднаних з простими чат-ботами.

Ці новини з’явилися після дискусії на конференції Організації Об’єднаних Націй у Женеві під назвою “Штучний інтелект на благо“, де кілька гуманоїдів з’явилися разом зі своїми творцями. Журналістів запросили поставити запитання роботам, серед яких була і Софія – машина, створена компанією Hanson Robotics, яка здобула популярність завдяки участі в ток-шоу і навіть, як це не дивно, отримала юридичний статус людини в Саудівській Аравії.

Запитання стосувалися, зокрема, того, чи знищить штучний інтелект людство або вкраде робочі місця. Їхні відповіді стали можливими завдяки технології чат-ботів, дещо схожій на ту, що забезпечує роботу ChatGPT. Але, незважаючи на відомі обмеження таких ботів, відповіді роботів були подані так, ніби вони були осмисленими думками автономних, розумних істот.

Чому так сталося? Роботи, які можуть візуально імітувати людську міміку, викликають емоційну реакцію у глядачів, тому що ми дуже добре підготовлені до сприйняття таких сигналів. Але якщо дозволити тому, що є нічим іншим, як просунутим ляльковим театром, маскувати обмеження сучасного штучного інтелекту, це може заплутати людей, які намагаються розібратися в цій технології або в проблемах, які вона може спричинити. Мене запросили на Женевську конференцію, але коли я побачив Софію та інших роботів у списку “доповідачів”, я втратив інтерес.

Прикро бачити такі нісенітниці в той час, коли все більше експертів, яким можна довіряти, попереджають про поточні та майбутні ризики, пов’язані зі штучним інтелектом. Алгоритми машинного навчання вже посилюють соціальні упередження, поширюють дезінформацію та збільшують владу деяких найбільших світових корпорацій та урядів. Провідні експерти в галузі штучного інтелекту стурбовані тим, що темпи прогресу можуть призвести до створення алгоритмів, які буде важко контролювати за лічені роки.

Hanson Robotics, компанія, яка створює Софію та інших реалістичних роботів, вражаюче вправна у створенні машин, що імітують людську міміку. Кілька років тому я відвідав штаб-квартиру компанії в Гонконзі і зустрівся за сніданком із засновником Девідом Хенсоном, який раніше працював у Disney. Лабораторія компанії нагадувала щось із “Західного світу” або “Той, що біжить по лезу”: відключені від мережі роботи сумно дивилися в далечінь, зморщені обличчя лежали на полицях, а прототипи заїкалися, повторюючи одні й ті ж слова у нескінченному циклі.

Ми з Хенсоном обговорили ідею додати справжнього інтелекту до цих вражаючих машин. Бен Гертцель, відомий дослідник штучного інтелекту і генеральний директор SingularityNET, очолює зусилля, спрямовані на застосування досягнень машинного навчання до програмного забезпечення всередині роботів Хенсона, яке дозволяє їм реагувати на людську мову.

Штучний інтелект, що стоїть за Софією, іноді може давати прийнятні відповіді, але ця технологія не настільки просунута, як система GPT-4, яка лежить в основі найсучаснішої версії ChatGPT і коштувала понад 100 мільйонів доларів на її створення. Можливо, краще думати про них як про обдарованих і талановитих імітаторів, які, хоча і здатні до напрочуд витончених міркувань, мають глибокі вади і лише обмежені “знання” про світ.

Оманливі “інтерв’ю” Софії та компанії в Женеві нагадують про те, як антропоморфізація систем ШІ може завести нас на манівці. Історія штучного інтелекту рясніє прикладами того, як люди надмірно екстраполюють нові досягнення в цій галузі.

У 1958 році, на світанку штучного інтелекту, The New York Times писала про одну з перших систем машинного навчання – сиру штучну нейронну мережу, розроблену для ВМС США Френком Розенблатом, психологом з Корнельського університету. “Сьогодні ВМС показали зародок електронного комп’ютера, який, як очікується, зможе ходити, розмовляти, бачити, писати, відтворювати себе і усвідомлювати своє існування”, – повідомляла “Таймс” – смілива заява про схему, здатну навчитися виявляти закономірності в 400 пікселів.

Якщо ви озирнетесь на висвітлення шахової програми Deep Blue від IBM, чемпіонського гравця в го AlphaGo від DeepMind та багатьох стрибків у глибокому навчанні останнього десятиліття, які безпосередньо пов’язані з машиною Розенблата, то побачите багато того ж самого: люди сприймають кожне досягнення так, ніби воно є ознакою глибшого, більш людського інтелекту.

Це не означає, що ці проекти – чи навіть створення Софії – не були видатними досягненнями або потенційними кроками до більш розумних машин.Але для оцінки прогресу цієї потужної технології важливо мати чітке уявлення про можливості систем штучного інтелекту. Щоб зрозуміти досягнення штучного інтелекту, найменше, що ми можемо зробити, – це припинити ставити аніматронічним лялькам дурні запитання.