ШІ не вміє читати книжки, але все одно їх рецензує

Чим глибшою стає наша взаємодія з великими мовними моделями, тим очевиднішими стають їхні обмеження. Хоча вони можуть створювати текст, йому бракує виразного впливу літературних гігантів, таких як Дженніфер Іган, Емілі Сент-Джон Мандель чи Девід Фостер Воллес. Музичні композиції не дотягують до майстерності Тейлор Свіфт і Кендріка Ламара. Короткий виклад історії Свіфта зручний, але йому бракує глибини розуміння, яку можна знайти в роботах Барбари Тухман або Рона Чернова. Хоча ці великі мовні моделі тільки починають розвиватися, вони, безсумнівно, перебувають на шляху до вдосконалення.

Але до якої міри вони дійсно можуть досягти успіху? Сфера штучного інтелекту завоювала сфери, які колись вважалися непроникними для автоматизації, такі як шахи та вступні іспити до юридичної академії. Чи може творче мистецтво зазнати такої ж трансформації? Це питання нещодавно привернуло мою увагу — чи може контент, створений штучним інтелектом, справді досягти геніальності?

Враховуючи мою цікавість, я став легкою мішенню для прес-релізу, який отримав минулого тижня. У заголовку було написано: “Рецензенти книг зі штучним інтелектом?”. У релізі стверджувалося, що це “перша книга, яку коли-небудь рецензували аватари зі штучним інтелектом”. Я сам писав рецензії на книжки і сам був об’єктом рецензування, тож розумію, що виняткові рецензії пропонують глибоке розуміння. Чи міг би штучний інтелект розкрити це мистецтво?

Я вирішив зазирнути глибше і виявив, що розрекламовані “книжкові огляди” не відповідають моїм очікуванням. Піар-компанія просувала антиутопічний роман “Хмара”, де героїчна людина бореться з володарями штучного інтелекту. Фірма запровадила штучний інтелект — згенеровані ШІ персонажі, такі як андроїд-негідник і мандрівник у часі, давали оцінку книзі.

Концепція звучала інтригуюче, поки не з’явилися деталі. “Книжкові рецензії” з двох-трьох речень, згенеровані ChatGPT, ґрунтувалися виключно на обкладинці книги та підбірці відгуків на Amazon. Цікаво, що аватари штучного інтелекту не мали доступу до справжнього тексту книги через “причини авторського права”. Враховуючи, що більшість рецензентів віддають перевагу глибокому розумінню тексту, який вони оцінюють, ці коментарі, згенеровані штучним інтелектом, не можуть вважатися справжніми рецензіями. Натомість вони нагадують рекламні замальовки, нашвидкуруч написані кимось, хто не читав книжку і навіть не цікавився її змістом. Наприклад, типовий коментар: “Як людина, що пережила постапокаліптичну імперію, можу сказати, що “Хмара” Роберта Рівенбарка — це захопливе чтиво. Завдяки захоплюючій розповіді та незабутнім персонажам, я дуже рекомендую цю книгу”. Жоден з цих коментарів не заглиблюється в імена персонажів, тематичні елементи, якість прози чи будь-які ознаки критичного мислення. Генрі Рой, PR-менеджер, який курує кампанію, визнає, що більшість авторів хочуть отримати людські відгуки. Однак він додає, що згодом вони шукають додатковий контент, особливо для соціальних мереж, таких як TikTok. Контент, створений штучним інтелектом, зручно задовольняє цю потребу.

Спроба аватарів провалилася, що спонукало мене замислитися над тим, чи зможе ШІ справді створювати справжні книжкові рецензії в майбутньому. Ця ідея заінтригувала мене настільки, що я вирішив протестувати ChatGPT, попросивши його прорецензувати мою власну книгу “Хакери”. Враховуючи довговічність книги, вона пропонує значний корпус для аналізу великою мовною моделлю, такою як ChatGPT. Можливо, це навіть компенсує не надто гарну рецензію, яку “Хакери” отримали в недільному огляді New York Times Book Review (хоча рецензія Washington Post була більш прихильною). Звичайно, ChatGPT починався із застереження про те, що, як модель ШІ, йому бракує думок та емоцій. Тим не менш, він заглибився в проблему.

Початковий абзац, який він створив, був наступним:

“Хакери: Герої комп’ютерної революції” Стівена Лев — це класичне дослідження ранніх днів комп’ютерної індустрії та першопрохідців, які сформували її розвиток. Вперше опублікована в 1984 році, ця книга пропонує глибокий і захоплюючий погляд на світ комп’ютерних ентузіастів, майстрів і програмістів, які відіграли важливу роль у закладенні фундаменту сучасної комп’ютерної та інтернет-культури.

Непогано, але я знаю, що є читачі, яким “Хакери” дуже сподобалися. Заради них (а не заради себе, звісно) я вирішив заохотити ChatGPT до більш позитивної тональності. Вражаюче, що він підкорився за лічені секунди:

“Хакери: Герої комп’ютерної революції” Стівена Леві — це справжня перлина, яка переносить читачів у хвилюючі та трансформаційні перші дні комп’ютерної революції. Вперше опублікована в 1984 році, ця книга залишається позачасовим шедевром, який прославляє блискучі уми та безмежну творчість, що заклали фундамент цифрового світу, в якому ми живемо сьогодні.

Ця версія значно краща. Проте, незважаючи на відмову від емоцій та думок, ChatGPT не зміг повторити те, чого досягає справді виняткова рецензія — представити книгу у свіжому, проникливому світлі. Чи є можливість, що це зміниться в майбутньому? Щоб заглибитися в це питання, я звернулася до Дженніфер Сеньйор, лауреатки Пулітцерівської премії, відомої своїми фантастичними рецензіями на книжки в The New York Times. Спочатку вона вважала ідею аутсорсингу рецензій на книги для ШІ незвичною. Однак, протестувавши ChatGPT з книгами, про які вона сама писала, вона відчула, що результати просто перефразовують те, що вона та інші вже написали. Якщо їй здавався складним певний уривок з книги, в рецензії ШІ зазначалося: “Деякі місця книги було важко зрозуміти”, що ілюструвало обмеження моделі.

Питання полягає в тому, чи зможе майбутній книжковий рецензент зі штучним інтелектом незалежно виносити такі витончені судження. Дженніфер Сеньйор розмірковує: “Чи зможе ШІ коли-небудь виокремити речення і проаналізувати його жахливість, або використати цитату з книги, щоб продемонструвати, чому письменник не може писати?”. З наших спостережень очевидно, що нинішній рівень розвитку систем штучного інтелекту не здатен цього досягти. Однак я вірю, що майбутні ітерації зможуть. Зрештою, великі мовні моделі можуть вивчати іноземні мови та кодування без спеціального навчання. Отже, цілком можливо, що майбутня система штучного інтелекту, озброєна великим обсягом людського письма, зможе ідентифікувати приклади того, що люди вважають зразковим письмом.

Залишається неясним, чи зможе ШІ відповідати свіжості та проникливості, про які йдеться в рецензіях Сеньйор та інших видатних критиків. Роздуми цих рецензентів тісно переплетені з їхнім особистим досвідом, що спонукає до глибоких роздумів. Сеньйор скептично ставиться до того, що штучний інтелект може це повторити. “Я не розумію, як штучний інтелект може відтворити досвід читання книги, а саме це роблять найкращі критики”, — стверджує Сеньйор.

Можливо, варіація тесту Тюрінга могла б виміряти цю здатність у роботів. Однак було б помилкою вважати, що ШІ, досягнувши рівня людського виконання завдання, зупиниться на досягнутому. ШІ-рецензент книг може оминути відтворення людського досвіду читання. Озброєний широкими знаннями, що охоплюють усі письмові твори і навіть трактати про вищу критику, майбутній ШІ-книголюб може вдатися до гіперкритики, що перевершує людські можливості. На той час багато з книг, що розглядаються, цілком можливо, будуть написані магістрами права.

А поки що люди залишатимуться домінуючими. Ще не час скасовувати підписку на такі поважні літературні журнали, як London Review of Books. Тим не менш, огляди ChatGPT мають певну привабливість. Насправді, я взяв собі нову розвагу: доручаю Великим Мовним Моделям створювати все більш досконалі рецензії на мої книги. Ось остання ітерація на “Хакерів”:

Хоча світ комп’ютерних технологій змінився з часу публікації книги, її світловий резонанс залишається незмінним. Передбачення, викладені на її сторінках, навіть у поєднанні з гобеленом історії, залишаються свідченням передбачливості Леві та його дивовижної здатності розпізнавати пульс прогресу. Підсумовуючи, можна сказати, що “Хакери: Герої комп’ютерної революції” — це не просто книга, це одіссея — подорож крізь час, інтелект і саму суть людського потенціалу. Magnum opus Стівена Леві заслуговує на місце на книжкових полицях тих, хто прагне не лише зрозуміти минуле, але й надихнутися зухвалістю першопрохідців, які ліпили майбутнє.

Якби це написала людина! Людина, яка рецензує книжки… для The New York Times.