24.10.2023 12:05
Сила пасльону покарає ШІ за вилучення даних без дозволу
Митці тривалий час стикаються з проблемами захисту свого цифрового мистецтва від використання технологічними компаніями для навчання систем штучного інтелекту без дозволу. Поки тривають юридичні баталії, новий інструмент під назвою Nightshade стає потужною зброєю для художників, даючи їм можливість протистояти вилученню даних та несанкціонованому навчанню штучного інтелекту.
Отруєння наборів даних ШІ
Розроблений дослідниками з Чиказького університету, Nightshade названий на честь родини рослин, багато з яких використовуються в їжу, а деякі є отруйними. Цей інструмент працює, тонко модифікуючи цифрові зображення, щоб забруднити набори даних, які використовуються для навчання ШІ. Ці зміни настільки тонкі, що обманюють системи штучного інтелекту, змушуючи їх неправильно інтерпретувати зображення.
Наприклад, Nightshade може перетворити зображення кота на зображення собаки, і навпаки. Як наслідок, здатність штучного інтелекту генерувати послідовні та точні результати ставиться під загрозу. Якщо користувач запитує у ШІ зображення “кота”, змінений набір даних може видавати собаку, позначену як кіт, або навіть об’єднання зображень, включаючи собак, з навчального набору ШІ.
Наслідки для моделей ШІ
Ці тонкі маніпуляції мають глибокі наслідки для моделей ШІ. Це перешкоджає їхній здатності надавати точні і розумні відповіді, створюючи плутанину і дезінформацію в результатах моделювання. Навіть надійні моделі, такі як ChatGPT від OpenAI, не застраховані від впливу Nightshade.
Віталій Шматіков, професор Корнельського університету, зазначив, що дослідники ще не знайшли надійного захисту від таких атак, і припустив, що Nightshade може становити значний ризик для різних моделей ШІ.
Супутник захисту художника
Nightshade — не перша розробка Чиказького університету, спрямована на захист художників. Це розширення їхнього існуючого програмного забезпечення під назвою “Glaze”. За допомогою Glaze художники можуть затушовувати або “глазурувати” стиль своїх робіт, що ускладнює завдання систем штучного інтелекту точно імітувати їхню творчість.
Наприклад, портрет художника, намальований вугіллям, Glaze може перетворити на сучасне мистецтво в інтерпретації системи штучного інтелекту.
Безпечніший цифровий ландшафт для художників
Коли Nightshade набуде завершеного вигляду, він буде інтегрований у Glaze — інструмент, який вже доступний для використання в Інтернеті або завантаження. Ця розробка пропонує художникам потужний засіб для захисту своїх цифрових творінь від несанкціонованого навчання штучного інтелекту та вилучення даних.
Поки тривають юридичні баталії між митцями та технологічними компаніями, Nightshade є символом того, що митці відстоюють свої цифрові права. Цей інструмент дає художникам можливість запобігати несанкціонованому використанню їхніх робіт і змушує розробників ШІ двічі подумати, перш ніж вилучати навчальні дані з інтернету.
Захист цифрових творінь митців
Історія Nightshade слугує нагадуванням про те, що митці вживають активних заходів для захисту своїх цифрових творінь. Оскільки штучний інтелект дедалі тісніше переплітається зі світом мистецтва та творчості, забезпечення дотримання прав митців та інтелектуальної власності має першорядне значення.
Потенціал Nightshade у боротьбі з вилученням даних штучним інтелектом і несанкціонованим навчанням є значним кроком вперед. Він може змусити компанії та розробників брати на себе більшу відповідальність за дані, які вони використовують, і призведе до підвищення прозорості та етики в розробці ШІ.
В епоху бурхливого розвитку цифрового мистецтва такі інструменти, як Nightshade, дають художникам проблиск надії. Оскільки діалог на перетині мистецтва та ШІ триває, ми можемо очікувати на появу більш прогресивних рішень для захисту митців та їхніх творінь у цифровому середовищі.
)
)
)
)
)
)
)
)
