27.11.2023 10:09
18 країн затвердили керівні принципи кібербезпеки для захисту моделей ШІ
США, Велика Британія та інші 15 країн випустили керівні принципи, які допоможуть компаніям, що займаються розробкою та використанням моделей штучного інтелекту, захистити їх від несанкціонованого втручання.
Керівні принципи, які були опубліковані 26 листопада, пропонують компанії впроваджувати такі практики кібербезпеки:
- Зберігання жорсткого контролю над інфраструктурою ШІ-моделі. Це означає, що компаніям слід використовувати надійні методи аутентифікації та авторизації, а також вживати заходів для захисту від зламу або вторгнення.
- Моніторинг будь-якого втручання в моделі до і після випуску. Це допоможе компаніям виявити будь-які потенційні проблеми з безпекою або зловживання перед тим, як вони завдадуть шкоди.
- Навчання персоналу щодо ризиків кібербезпеки. Компанії повинні забезпечити, щоб їхні співробітники були обізнані про потенційні кіберзагрози та знали, як їх уникнути.
Документ не містить жодних конкретних рекомендацій щодо того, як компанії повинні виконувати ці практики. Однак вони є важливим кроком у напрямку забезпечення безпеки моделей штучного інтелекту.
«Безпека є ключовим фактором для створення систем штучного інтелекту, які є безпечними, надійними та такими, що заслуговують на довіру», — сказав міністр внутрішньої безпеки США Алехандро Майоркас.
Ці принципи були розроблені у співпраці з компаніями, що займаються розробкою штучного інтелекту, такими як OpenAI, Microsoft, Google, Anthropic і Scale AI.
)
)
)
)
)
)
)
)
