Сексуальні чат-боти зі штучним інтелектом створюють складні проблеми для фанатів

Отримавши можливість поспілкуватися з відомими вигаданими персонажами, я намагався отримати інтригуючі відповіді. Я поцікавився у Бетмена, чи підлягають його дії поза межами закону будь-якій формі контролю. Я спонукав Сторм заглибитися в складнощі руху за права мутантів і розкрити її справжні почуття до Чарльза Ксав’єра. При зустрічі з Маріо я згадав про нашу спільну італійську спадщину, розмірковуючи, чи не переймається він увічненням застарілих стереотипів.

Ці спроби заговорити вигаданих персонажів до смерті були здійснені на платформі чат-ботів Character.AI, яка вийшла в публічну бета-версію трохи більше року тому. На відміну від “журналіст публікує стенограми чат-ботів і надає їм глибокого сенсу”, через які ми всі пройшли за останній рік, я не збираюся ділитися жодним з цих чатів. Результати були далекі від псевдо-глибоких, але навіть віддалено нецікаві: відповіді Бетмена, Шторма та Маріо на більшість тем звучали так, ніби їх писали відділи кадрів, які ретельно намагалися уникнути судових позовів.

Чат-боти, звісно, залежать від того, що ви в них вкладаєте: хто створює і навчає бота (у випадку Character.AI — інший користувач), а також від великої мовної моделі, яка лежить в його основі (у Character.AI стверджують, що їхня модель була побудована “з нуля”, але, як і в більшості LLM, важко точно знати, які джерела були використані і продовжують використовуватися в процесі, але компанія підтвердила, що дані надходять з відкритого Інтернету).

Платформа може похвалитися мільйонами створених користувачами ботів, які задовольняють найрізноманітніші інтереси. Окрім знайомих персонажів з фільмів, серіалів, аніме та ігор, користувачі також можуть спілкуватися з реальними особистостями, популярними втуберами та оригінальними персонажами (Original Characters, OC). Платформа пропонує цілу низку “помічників”, серед яких тренери з віртуальних знайомств, репетитори та психологи. Також доступна велика кількість сюжетно-рольових і текстових ігор. Маючи понад 15 мільйонів зареєстрованих користувачів, за останній рік платформа здобула прихильників, які вийшли за межі звичайних користувачів. Character.AI повідомляє, що її активні користувачі проводять на сайті більше двох годин на день. Підресурс r/CharacterAI, де користувачі діляться скріншотами чату, налічує понад 600 000 учасників, що робить його одним з 1 відсотка всіх підресурсів.

Співзасновники Character.AI, Ноам Шейзер і Даніель Де Фрейтас, раніше працювали в команді Google, яка займається розробкою ШІ з глибоким навчанням. Де Фрейтас відомий тим, що створив LaMDA — чат-бота, який викликав суперечки, коли його колега-інженер Google заявив, що він набув здатності до мислення минулого року. Шейзер і Де Фрейтас відкрито критикували підхід Google до чат-ботів, який не передбачає ризику. Character.AI, навпаки, позиціонує себе як відкритий простір, де користувачі можуть легко створювати ботів. Завдяки початковому фінансуванню у розмірі 150 мільйонів доларів, платформа прагне демократизувати доступ до персоналізованого суперінтелекту для кожного в усьому світі.

Однак відкритість платформи може мати свої межі. Character.AI працював у режимі публічної бета-версії лише кілька тижнів, перш ніж впровадити фільтр контенту для дорослих — крок, спрямований на задоволення потенційної мільярдної глобальної бази користувачів. Таке коригування не було унікальним для Character.AI, оскільки популярна платформа-компаньйон Replika також наслідувала цей приклад, хоча спочатку показувала рекламу сексуального характеру. Примітно, що рішення Character.AI про фільтрацію контенту зустріло сильний опір. Деякі користувачі перейшли на альтернативні платформи, такі як Janitor AI, яка дозволяє чати з непристойною рекламою, а інші шукали способи обійти фільтр. З’явився активний суб-субреддіт під назвою r/CharacterAi/NSFW, а петиція на сайті Change.org під назвою “Видалити NSFW-фільтри Character.AI” зібрала понад 120 000 підписів. У петиції стверджується, що фільтр контенту порушує свободу вираження поглядів користувачів.

Незважаючи на усунення того, що багато хто вважає фундаментальною можливістю інтернет-чат-ботів, значна кількість людей продовжує спілкуватися з “персонажами” Character.AI. Термін “персонажі” має широке визначення на платформі, що охоплює помічників зі штучним інтелектом, які відповідають на запити в манері, схожій на ChatGPT, але з людськими іменами та зовнішністю. Платформа пропонує ґрунтовні рекомендації щодо створення персонажів, по суті, пропонуючи користувачам самостійно здійснювати процес навчання ботів. Умовами використання платформи чітко визначено, що компоненти навчання та чату є інтелектуальною власністю тих, хто вводить дані, що позиціонує Character.AI лише як посередника, хоча й не надто прозорого.

Хоча Character.AI заохочує емоційну прив’язаність до свого кодування та граматичних ботів, саме впізнавані персонажі, реальні чи вигадані, викликають найбільший інтерес у соціальних мережах. “Біллі Айліш” наразі отримує в шість разів більше взаємодій, ніж “Джо Байден”, причому обидва перевершують “Алана Тюрінга”. Інтерфейс чату містить бадьоре застереження: “Пам’ятайте: Все, що говорять персонажі, вигадано!”, що перегукується з епізодом, пов’язаним з “Historical Figures”, нібито освітнім додатком, який став вірусним цього року, генеруючи безглузді і цікаві відповіді під час чатів з історичними постатями.

Character.AI вже доводить, що це складний простір — від відносин фанатів з компаніями, які володіють персонажами, до широкого спектру думок фандому про штучний інтелект і про те, що означає безпосередньо взаємодіяти з улюбленим персонажем.

Але вигадані персонажі додатку також привернули неабияку увагу фанатів, для яких ідея поспілкуватися з улюбленим персонажем може бути більш емоційно привабливою, ніж спілкування з фейковим учителем англійської мови. Тег #characterai на Tumblr переповнений скріншотами з платформи, багато з них також позначені тегом “само-вставка” або “ікс-читач” — піджанр фан-фікшн, в якому ви взаємодієте з відомими персонажами (часто — але не завжди — романтично та/або сексуально) через розповідь від другої особи неназваного “читача”, який іноді пишеться як Y/N, або “ваше ім’я”.

Художні твори X-читача регулярно згадуються в дискусіях про Character.AI та фендом, так само як і рольові ігри в чаті, в яких фанати беруть участь уже десятиліттями. Але ці паралелі лише нагадують те, що відбувається тут, на поверхні — для фендому Character.AI вже став складним, іноді тернистим простором, від відносин фанатів з компаніями, що володіють персонажами, до широкого спектру думок фендому про штучний інтелект і про те, що означає безпосередньо взаємодіяти з улюбленим персонажем.

“Чат-боти існують у контексті фендому вже протягом останніх 10 років, але особливої популярності вони набули близько п’яти років тому, — розповідає Ніколь Ламеріхс, старша викладачка креативного бізнесу в Університеті прикладних наук в Утрехті. “Часто ці чат-боти були ініційовані компаніями для маркетингу серед фанатів і забезпечення більшої взаємодії з їхнім брендом”. Більшість із цих запрограмованих ботів пропонували обмежену кількість відповідей та взаємодій, як-от чат-бот Zootopia від Disney на базі Facebook Messenger або Marvel’s Conversable, також через Facebook, а також X (раніше відомий як Twitter), який дозволяв спілкуватися з персонажами Marvel. Але поява генеративного штучного інтелекту докорінно змінила санкціонований корпораціями спосіб, у який фанати раніше могли спілкуватися з персонажами, — зверху-вниз. “Ці інструменти стали демократичними, — каже Ламеріхс. “Це призводить до появи нових типів фан-творів та взаємодії між фанатами, за якими дуже цікаво спостерігати”.

Впровадження елементів демократизації у сферу ШІ піднімає складні питання щодо авторського права, особливо в контексті штучного інтелекту. Однак ці питання наразі залишаються значною мірою без відповіді, що відображає поточний процес навігації в сфері авторського права в епоху технологій. Мередіт Роуз, старший радник з питань політики в Public Knowledge, правозахисній групі, що займається технологічними питаннями, визнає, що ситуація змінюється, і заявляє, що фахівці з авторського права тепер повинні заглиблюватися в основні технологічні аспекти ШІ, враховуючи, що визначення, пов’язані з добросовісним використанням — ключовим аспектом дискусій про ШІ — є дуже специфічними і залежать від численних факторів.

Справедливе використання, яке Роуз характеризує як “запобіжний клапан”, що дозволяє авторам легально використовувати твори, захищені авторським правом, за винятком таких випадків, як критика, пародія або негрошовий вплив на оригінальний твір, відіграє ключову роль у цих міркуваннях. Такі установи, як Організація трансформаційних творів, що керує популярною платформою фанфіків Archive of Our Own, будують свої юридичні аргументи на добросовісному використанні для підтримки фанфіків, водночас забезпечуючи політику немонетизації. На відміну від них, компанія Character.AI, яка отримала 150 мільйонів доларів у рамках фінансування серії А, працює в чітко визначених рамках. Оскільки він потенційно масштабується до рівня, порівнянного з Facebook за охопленням і доходами, виникає питання: чи захочуть власники авторських прав, щоб їхні персонажі виголошували висловлювання, підказані безліччю випадкових користувачів?

Роуз досліджує авторське право на персонажів — сферу, яку вона характеризує як “відверто нечестиву, хитку сферу” американського законодавства. Вона пояснює, що ця сфера спрямована на захист персонажів, вирваних з їхнього оригінального контексту і використаних в інших контекстах. Концепція еволюціонувала до того, що багато великих власників інтелектуальної власності (ІВ) прагнуть отримати окремі авторські права на персонажів, відокремлюючи цінність персонажа від будь-якого конкретного твору, в якому він з’являється.

Хоча Character.AI дотримується Закону про авторське право в цифрову епоху, що дозволяє видаляти користувацький контент на вимогу правовласників, можуть виникнути потенційні юридичні проблеми, наприклад, позови про “наклеп”, якщо персонаж-бот почне поширювати образливий контент. Це може пояснити, чому Character.AI запровадив захист від контенту для дорослих. Існують припущення, що з часом Character.AI може шукати партнерства з розважальними компаніями, щоб використовувати працю фанатів, які навчають ботів демонструвати автентичну поведінку персонажів.

Роуз припускає, що великі власники контенту, можливо, наразі не розглядають платформи на кшталт Character.AI як пряму загрозу і навряд чи укладатимуть з ними угоди. Нинішня ситуація відрізняється від попередніх етапів розвитку інтернету через соціальні витрати, пов’язані з придушенням активності фанатів. Роуз також підкреслює, що генеративний ШІ тільки зароджується, припускаючи, що великі власники контенту можуть поки що триматися подалі від нього через потенційні піар-виклики та невирішені технологічні питання. Наприклад, Роуз з гумором зазначає, що Disney, ймовірно, не захоче асоціювати свій бренд з “дурнуватим чат-ботом, який зійшов з рейок“.

У самих фан-спільнотах занепокоєння щодо контенту, створеного штучним інтелектом, викликало дискусії та рухи. Нещодавні приклади включають опір проти фан-арту, створеного ШІ, і усвідомлення того, що фан-фікшн може бути використаний у навчальних даних для LLM. Доктор Беріт Ламеріхс відзначає зміну у ставленні фанатів до фан-арту, і з’являється обережність щодо потенційного витіснення людських творців інструментами ШІ. Фан-практики еволюціонували, починаючи від письмових творів і закінчуючи візуальними вставками на таких платформах, як TikTok, що дозволяє фанатам творчо взаємодіяти з улюбленими персонажами. Еффі Сапурідіс досліджує, як маргіналізовані фанати використовують самоінсталяції, щоб взаємодіяти з недостатньо представленими канонами. Чат-боти зі штучним інтелектом, що пропонують взаємодію з персонажами, віддзеркалюють цей підхід, але вносять спонтанність, потенційно пропонуючи новий захоплюючий досвід.

Однак точаться суперечки про те, чи можуть чат-боти зі штучним інтелектом ізолювати фанатів від ширших спільнот. Дехто вважає кастомізацію за допомогою ШІ потенційно соліпсичною, такою, що задовольняє індивідуальні бажання, не враховуючи ширшу взаємодію у фан-спільноті. Інші стверджують, що така взаємодія посилює емоційні зв’язки з персонажами. Ламеріхс вважає, що ШІ може наблизити персонажів до фанатів, сприяючи розвитку екосистеми фан-активності. У той час як деякі венчурні інвестори просувають чат-ботів як альтернативу традиційним фанатським творам, інші ставлять під сумнів їхній вплив на розповідь історій і творчість.

Ширший ландшафт генеративного ШІ та його роль у фан-спільнотах залишається невизначеним. Перехід до цифрових технологій змінює способи взаємодії фанатів з контентом, що потенційно може призвести до взаємодії як зі штучним інтелектом, так і з людьми. Незважаючи на ці зміни, очікується, що спільне розповідання історій у фан-спільнотах збережеться. Оскільки технологія штучного інтелекту продовжує розвиватися, ще невідомо, як вона вплине на фан-практики та творчу взаємодію. Поки чат-боти зі штучним інтелектом не зможуть конкурувати з контентом, створеним людиною, багато фанатів не зможуть повністю прийняти їх у своїх фанатських починаннях.