Китай посилює правила для навчання генеративних моделей ШІ

Китай ухвалив проєкт правил, які обмежать використання даних, які підлягають цензурі, для навчання генеративних моделей ШІ.

Запропоновані правила вимагають від компаній, які надають послуги генеративного ШІ, проводити оцінку безпеки контенту, який використовується для навчання моделей. Контент, що перевищує 5% у вигляді незаконної та шкідливої інформації, буде внесено до чорного списку.

Крім того, правила вимагають, щоб компанії отримували явну згоду від осіб, чиї персональні дані, включаючи біометричну інформацію, використовуються для навчання моделей.

Ці зміни є частиною більш широкої стратегії Китаю щодо регулювання технологій ШІ. Уряд країни прагне захистити свою національну безпеку та запобігти використанню ШІ для поширення шкідливого контенту.

• Проєкт правил був оприлюднений Національним комітетом зі стандартизації інформаційної безпеки, до складу якого входять представники Адміністрації кіберпростору Китаю (CAC), Міністерства промисловості та інформаційних технологій і правоохоронних органів.
• Генеративне ШІ, прикладом якого є досягнення ChatGPT від OpenAI, набуває здатності виконувати завдання шляхом аналізу історичних даних і генерує свіжий контент, такий як текст і зображення, на основі цього навчання.
• У проєкті правил підкреслюється, що дані, які підлягають цензурі в китайському інтернеті, не повинні слугувати навчальним матеріалом для цих моделей. Ці зміни відбулися трохи більше ніж через місяць після того, як регуляторні органи надали дозвіл різним китайським технологічним компаніям, включно з відомою пошуковою системою Baidu, представити широкому загалу своїх генеративних чат-ботів, керованих штучним інтелектом.
• Починаючи з квітня, CAC послідовно повідомляє про свою вимогу до компаній надавати регуляторним органам оцінку безпеки перед тим, як впроваджувати генеративні послуги на основі ШІ для громадськості. У липні регулятор кіберпростору випустив набір керівних принципів, що регулюють ці послуги, які, на думку галузевих аналітиків, були значно менш обтяжливими порівняно із заходами, запропонованими в початковому квітневому проєкті.

Нагадаємо, у серпні уряд Китаю пом’якшив свої попередні правила щодо штучного інтелекту (ШІ), які він оприлюднив у квітні.