Згенеровані ШІ матеріали про насильство над дітьми можуть переповнити Інтернет

Інтернет захлеснула чергова тривожна хвиля матеріалів із зображенням сексуального насильства над дітьми, створених за допомогою штучного інтелекту, що викликає серйозне занепокоєння у наглядових організацій та органів влади. Британська організація Фонд інтернет-нагляду (IWF) опублікувала звіт, в якому йдеться про те, що стрімке поширення матеріалів із зображенням сексуального насильства над дітьми, створених за допомогою штучного інтелекту, є надзвичайно тривожною проблемою, яка зростає з катастрофічною швидкістю.

Лише за один місяць IWF виявив понад 20 254 згенерованих ШІ зображень сексуального насильства над дітьми на одному темному інтернет-форумі, б’ючи на сполох щодо потенційного переповнення інтернету таким огидним контентом.

Технологія штучного інтелекту, зокрема такі генератори зображень, як Midjourney, Runway, Stable Diffusion і Dall-E від OpenAI, досягли такого рівня, що можуть створювати високореалістичні зображення. Хоча багато хмарних платформ впровадили суворі правила і засоби контролю для запобігання зловживанням, ентузіасти ШІ постійно шукають способи обійти ці запобіжники.

Генеральний директор IWF Сьюзі Харгрівз підкреслила важливість підвищення обізнаності про темний бік матеріалів про сексуальне насильство над дітьми за допомогою ШІ та нагальну потребу в обговоренні цього тривожного питання.

Ще більшу тривогу викликає той факт, що IWF відстежує випадки створення ШІ-матеріалів про сексуальне насильство над дітьми, в яких задіяні реальні жертви сексуального насильства. Група також звернула увагу на маніпуляції з зображеннями знаменитостей, яких омолодили і змінили, щоб вони виглядали як жертви насильства, а також на зображення популярних дітей, якими маніпулюють у жахливі способи.

Поширення реалістичних матеріалів про сексуальне насильство над дітьми, згенерованих штучним інтелектом, становить значну проблему, оскільки може відволікти ресурси правоохоронних органів від виявлення та усунення фактичного насильства.

IWF, заснована в 1996 році, є некомерційною організацією, що займається моніторингом контенту із зображенням сексуального насильства в Інтернеті, особливо контенту, спрямованого на дітей.

У попередньому попередженні, опублікованому у вересні, IWF виявила, що угруповання педофілів обговорюють і обмінюються порадами щодо створення незаконних зображень дітей за допомогою моделей штучного інтелекту з відкритим вихідним кодом, які можна завантажити і запустити на персональних комп’ютерах. Зловмисники можуть легально завантажити те, що їм потрібно для створення цих зображень, і робити це в режимі офлайн, що робить їх майже неможливими для виявлення.

IWF закликає до міжнародної співпраці у боротьбі з розповсюдженням матеріалів із зображеннями сексуального насильства над дітьми. Вони пропонують багаторівневий підхід, який включає зміни до відповідних законів, оновлення тренінгів для правоохоронців та встановлення регуляторного нагляду за моделями штучного інтелекту.

IWF рекомендує забороняти розробникам ШІ використання їхніх моделей для створення матеріалів, що містять насильство над дітьми, видаляти відповідні моделі з індексації та приділяти першочергову увагу виключенню матеріалів, що містять насильство над дітьми, з їхніх моделей.

Це глобальна проблема, яка вимагає міжнародної співпраці для забезпечення надійності та ефективності законодавства. IWF досяг успіху в обмеженні матеріалів із зображенням сексуального насильства над дітьми у Великій Британії завдяки тісному партнерству з правоохоронними органами, і закликає уряд Великої Британії зробити це питання пріоритетним на глобальному саміті з безпеки штучного інтелекту в листопаді цього року.

У той час як у Великій Британії тривають зусилля з ліквідації темних інтернет-форумів, на яких розміщуються незаконні матеріали про сексуальне насильство над дітьми, проблеми виникають, коли такі веб-сайти розміщуються в інших країнах. З розвитком технологій штучного інтелекту суспільству вкрай важливо реагувати на них за допомогою надійної правової бази, міжнародного співробітництва та відповідальності індустрії, щоб боротися з поширенням матеріалів із зображенням сексуального насильства над дітьми, створених штучним інтелектом, і захищати вразливі групи населення.

Це питання виходить далеко за межі однієї країни чи організації; це глобальний виклик, який потребує негайної уваги та колективних дій.