Хто допомагає урядам виявляти підробки зі штучним інтелектом

Поява технології діпфейків, яка використовує штучний інтелект для створення переконливо оманливих відеороликів, що видають себе за публічних осіб, викликала значне занепокоєння щодо потенціалу дезінформації та загроз національній безпеці. Діпфейки можуть варіюватися від кумедних пародій до зловмисних спроб обдурити громадськість, а розвиток технології створює нові виклики.

У відповідь на нову загрозу, пов’язану з діпфейками, компанія DeepMedia, співзасновниками якої є випускники Єльського університету Ріджул Гупта та Емма Браун, зайняла проактивну позицію. Їхня компанія пропонує два основні продукти: DubSync, сервіс перекладу та дубляжу зі штучним інтелектом, і DeepIdentify.AI, сервіс виявлення підроблених матеріалів. Останній є основним напрямком діяльності компанії і привернув до себе увагу, отримавши трирічний контракт з Міністерством оборони США на суму 25 мільйонів доларів, а також інші нерозкриті контракти з союзними військами.

DeepIdentify.AI працює, аналізуючи фотографії та відео на предмет невідповідностей і неточностей, які вказують на те, що вони є підробкою. Він шукає такі ознаки, як неприродно рухомі роти та фізично неможливі тіні. Система обробляє фото за п’ять секунд і може проаналізувати двохвилинне відео менш ніж за п’ять хвилин, надаючи детальний відгук про маніпуляції та їхнє місце в медіа.

Особливістю DeepMedia є інтеграція системи виявлення фальшивих матеріалів з DubSync — системою генерації фальшивих матеріалів. DubSync випереджає технологічний прогрес, щоб гарантувати, що компанія має найсвіжіші дані для навчання своєї моделі виявлення, запобігаючи створенню недобросовісними суб’єктами підробок, які випереджають її можливості виявлення.

Потреба у виявленні діпфейків зумовлена потенційною шкодою, яку ці відео можуть завдати. Діпфейки можуть бути використані з різною метою — від спричинення політичного розбрату до впливу на міжнародні відносини. Вони можуть підривати довіру, маніпулювати громадською думкою і навіть впливати на вибори. Крім того, діпфейки можуть бути використані в інформаційній війні, що потенційно може призвести до реальних наслідків, таких як терористичні атаки.

Співпраця DeepMedia з Міністерством оборони та іншими установами є частиною більш широких зусиль, спрямованих на боротьбу зі зростаючою загрозою використання фейкових матеріалів. Виявлення та боротьба з діпфейками має важливе значення для забезпечення того, щоб запобігти дезінформації та дестабілізації суспільства, особливо в епоху, коли такі технології можуть розмити межі між правдою та обманом. Оскільки використання фейкової інформації продовжує розвиватися, проактивні заходи з виявлення та протидії її шкідливому впливу стають дедалі більш важливими.