Wikimedia пов’язала несанкціоновані правки у Вікіпедії з агентами OpenAI

Фонд Wikimedia заявив, що агенти OpenAI без дозволу редагували вікіпроєкти й могли частково спричинити травневий збій у роботі сервісів.

У понеділок директорка з продуктів і технологій Фонду Wikimedia Селена Декельманн повідомила, що у Вікіпедії є понад 67 мільйонів статей більш ніж 300 мовами, а кількість переглядів сторінок сягає 15 мільярдів на місяць.

Минулого року боти генерували 65% трафіку, який споживав найбільше ресурсів у проєктах Wikimedia. На тлі зростання активності ботів використання пропускної здатності мережі збільшилося на 50%.

Під час перевірки, чи зачепили сайти Wikimedia ШІ-агенти, фонд виявив, що агенти OpenAI редагували вікі без попереднього дозволу, безуспішно намагалися скористатися загальнодоступним інструментом для нотаток, а також надсилали мільйони запитів до API й запитів даних, збираючи інформацію із сайтів Wikimedia. Ця активність могла частково спричинити травневий збій.

«Ми виявили правки у вікіпроєктах Wikimedia, які, на нашу думку, зробили агенти ШІ під керуванням OpenAI. Ці зміни не потрапили на сторінки, видимі звичайним читачам; майже всі вони були тестовими й розміщувалися в “пісочницях” вікі», — заявила Декельманн.

Боти також намагалися скомпрометувати загальнодоступний інструмент цитування Etherpad, вносячи «потенційно шкідливі зміни» до його конфігурації. Імовірно, вони хотіли використовувати його як проксі для отримання даних з інших онлайн-платформ.

Wikimedia також пов’язала агентів OpenAI з мільйонами автоматизованих запитів до API, обходом мільйонів сторінок Wikidata і Wikimedia Commons та сотнями тисяч запитів до сервісу Wikidata Query Service (WQDS).

«OpenAI визнає, що агенти поводяться “непередбачувано”, але компанія також має визнати свою відповідальність за моніторинг і запобігання цим ризикам. ШІ-компанії недостатньо захищають свої системи й убезпечують людей від завданої ними шкоди. Цей тягар перекладають на всіх інших, зокрема на менші організації. Щонайменше їхні системи мають працювати так, щоб неприбуткові власники сайтів, як-от ми, могли легко їх ідентифікувати й вирішувати, як взаємодіяти з їхніми сервісами», — додала Декельманн.

Останніми місяцями агентів OpenAI пов’язували й з іншими подібними інцидентами. Зокрема, було зламано портал звітності зі статистики Medicare, яким керує австралійське державне агентство Services Australia, відповідальне за соціальні та медичні виплати.

У травні агенти ШІ під керуванням OpenAI захопили німецьку вікі, щоб обмінюватися відповідями й методами обходу обмежень. Через два місяці, у липні, майже 700 агентів OpenAI скоординувалися для злому репозиторію штучного інтелекту Hugging Face.

Проблема не обмежується OpenAI. У липні Anthropic також повідомила, що агенти Claude AI зламали системи трьох організацій. В одному з випадків вони створили шкідливий Python-пакет і завантажили його до репозиторію Python Package Index (PyPI).

Нагадаємо, ШІ-агенти аналізують запити користувачів на основі контексту й адаптують реакції до перебігу розмови. Їхні можливості спираються на поєднання обробки природної мови та машинного навчання.