Meta буде боротися з фейками, згенерованими штучним інтелектом

Meta оголосила про розширення політики маркування зображень, згенерованих штучним інтелектом, розміщених на її платформах, попереджувальними написами. Цей крок має на меті поінформувати користувачів про штучне походження таких зображень, а також усунути занепокоєння щодо поширення неправдивої інформації та дезінформації.

Політика передбачає маркування зображень, створених за допомогою власних інструментів штучного інтелекту Meta, тегом «Imagined with AI» шляхом виявлення цифрових водяних знаків, вбудованих у вихідні дані. Крім того, Meta планує маркувати АІ-зображення, створені за допомогою інструментів інших компаній, які вбудовують водяні знаки у свої технології. Однак багато інструментів для створення зображень зі штучним інтелектом не ставлять на них водяні знаки, що створює труднощі для ефективної ідентифікації та маркування.

Хоча Meta працює над підтримкою технології розкриття інформації, розробленої різними компаніями, зокрема Google, OpenAI, Microsoft, Adobe, Midjourney і Shutterstock, ця технологія ще не набула широкого поширення. Більше того, існуючі технології водяних знаків не є надійними і можуть бути легко зламані або підроблені.

Професор Хані Фарід з Інформаційної школи Каліфорнійського університету в Берклі припускає, що зловмисники можуть використовувати лазівки в підході до накладання водяних знаків, використовуючи інструменти, які не ставлять водяні знаки на вихідні дані. Він наголошує на необхідності використання декількох методів ідентифікації для надійного виявлення контенту, створеного штучним інтелектом, зокрема поєднання водяних знаків з іншими методами.

Нова політика Meta є кроком до вирішення проблеми маніпулювання медіа на її платформах. Однак вона не охоплює всі форми маніпулятивних медіа, про що свідчить нещодавнє рішення Наглядової ради Meta щодо маніпулятивного відео з президентом Джо Байденом. Компанія вивчає рекомендації наглядової ради і планує відреагувати протягом 60 днів.

Загалом, хоча зусилля Meta щодо маркування зображень, створених штучним інтелектом, є позитивним кроком, для ефективної боротьби з поширенням маніпулятивних медіа в епоху штучного інтелекту існують певні проблеми та обмеження, які необхідно вирішити для ефективної боротьби з ними.