Компанії зі створення ШІ занепокоєні через правові прогалини щодо підробленого порно

За останні 12 місяців прогрес у створенні зображень зі штучним інтелектом досяг значного рівня. На жаль, деякі користувачі дедалі частіше використовують цю технологію для створення саморобного фальшивого порно. Вони створюють відвертий контент за участю людей, про яких фантазують, витягуючи зображення з профілів у соціальних мережах.

Ця практика викликає різке несприйняття з боку відповідних структур, що призвело до її заборони у Сполученому Королівстві. Однак у Сполучених Штатах немає федерального закону, який би прямо забороняв створення «діпфейків».

Такі додатки, як Reface, дозволяють легко міняти обличчя, накладаючи чиєсь обличчя на наявні відверті зображення та відео. Інструменти штучного інтелекту, такі як DeepNude і Nudeify, йдуть далі, реалістично відтворюючи те, як, за прогнозами ШІ, виглядає людина в оголеному вигляді. За щомісячну плату в $9,99 генератор АІ-арту NSFW може навіть створювати аніме-порно з глибокими подробицями.

За даними аналітичної компанії Graphika, що займається дослідженням соціальних мереж, лише у вересні було зафіксовано 24 мільйони відвідувань веб-сайтів з таким контентом. Ці додатки та сайти часто рекламуються в соціальних мережах, що викликає реакцію таких платформ, як Reddit, яка забороняє обмін підробленими відвертими зображеннями без згоди користувачів. TikTok і Meta також вжили заходів, заборонивши пошукові запити, пов’язані з «роздяганням».

Звіт Home Security Heroes показує, що приблизно 98% усіх підроблених відео є порнографічними. Ця тенденція особливо помітна в Південній Кореї, яка орієнтована на технології та знаменитостей, і на яку припадає 53% всього підробленого порно в Інтернеті.

Південнокорейські співачки (58%) і актриси (33%) є основними мішенями, причому одна співачка стала об’єктом 1 595 відео, які переглянули понад 5,5 мільйонів разів.

Опитування 1 522 американських чоловіків показало, що хоча 68% з них вважали б вторгнення в особисте життя і відсутність згоди на розповсюдження фальшивого контенту тривожним, якби це стосувалося когось із їхніх знайомих, реальні споживачі фальшивого порно не виявляють особливого занепокоєння. Приблизно три чверті з них не відчувають провини за взаємодію з таким контентом.