Генератори порно, інструменти для шахрайства та медичні консультації в маркетплейсі OpenAI

Маркетплейс OpenAI, створений з метою сприяння інноваціям, керованим спільнотою, за допомогою технології ChatGPT, став платформою для розробки GPT, які порушують політику компанії. Ці порушення варіюються від інструментів ШІ, що пропонують відверто порнографічний контент, до сприяння академічному шахрайству та надання несанкціонованих медичних або юридичних консультацій.

Попри політику OpenAI, що забороняє використання її технології для створення відвертого контенту, пародіювання або заохочення неетичної поведінки, деякі GPT, такі як «NSFW AI Art Generator» або «Bypass Turnitin Detection», залишаються доступними та широко використовуються. Інструменти, які пропонують медичні консультації без належних застережень, такі як «DoctorGPT» та боти, що стверджують про свою юридичну компетентність, такі як «AI Immigration Lawyer», ще більше ускладнюють дотримання платформою вимог OpenAI. Ці GPT зібрали десятки тисяч звернень, що підкреслює складність модерації контенту в великих масштабах.

OpenAI вже відреагував на повідомлення про виявлення понад 100 проблемних GPT, видаливши частину з них зі своєї платформи. Однак подальша присутність деяких сумнівних інструментів свідчить про те, що поєднання автоматизованих систем, людської перевірки та звітів користувачів недостатньо для повного дотримання політики OpenAI. Ця проблема загострюється через величезний обсяг створеного контенту і складність автоматизації складних завдань модерації контенту, таких як виявлення юридичних і медичних порад, що маскуються під професійну експертизу.

Складність модерації такого ринку пов’язана з постійними оновленнями та винахідливістю користувачів, котрі знаходять способи зловживання технологією. OpenAI намагається знайти баланс між заохоченням творчості та інновацій у відносно відкритій екосистемі та забезпеченням дотримання етичних стандартів. За словами Мілтона Мюллера, директора «Проєкту регулювання Інтернету», будь-які технічні рішення для забезпечення дотримання таких правил повинні поєднуватися з людським наглядом, оскільки одних лише автоматизованих систем недостатньо.

Плани OpenAI запровадити модель розподілу доходів, що передбачає виплату компенсацій розробникам на основі використання їхніх GPT, можуть потенційно стимулювати подальше зловживання платформою, якщо не буде запроваджено більш ефективних механізмів модерації контенту. Оскільки OpenAI продовжує розвивати свою присутність на ринку, компанії, ймовірно, доведеться розв’язувати комплексні питання щодо модерації контенту, які виходять за рамки простого блокування ключових слів, що дозволить їй зберегти своє бачення відповідальної розробки ШІ.