Microsoft проти «неконтрольованих» ШІ-агентів

Microsoft розширила систему Project Perception новими інструментами безпеки для моніторингу автономних ШІ-агентів у корпоративних мережах. У компанії наголошують: алгоритми штучного інтелекту слід розглядати як внутрішніх користувачів (інсайдерів), адже через надмірні привілеї вони можуть припуститися помилок або зазнати маніпуляцій із боку зловмисників.

Основою захисту стала концепція Dynamic Permissions, яка надає агентам лише мінімальні права на час виконання конкретного завдання. Одночасно система Dynamic Agent Risk безперервно розраховує рівень ризику для кожного алгоритму на основі аналізу його дій, мережевих сигналів та можливих збитків. Якщо показник зростає, технологія Dynamic Conditional Access зменшує привілеї ШІ-агента — аж до переведення його у режим «тільки для читання» або повного ізолювання процесів.

Крім цього, розширено виявлення 35 нових типів локальних агентів (загалом до 60, включно з Claude Code та GitHub Copilot), а контроль дій покладено на заздалегідь налаштовані Playbooks і команду спеціальних Guardian Agents.