Lasso Security встановлює новий стандарт безпеки LLM

Для масштабування великих мовних моделей (LLM) і підтримки довгострокових стратегій штучного інтелекту підприємства все частіше звертаються до систем генерації з розширеним пошуком (RAG), які вимагають посиленої безпеки контекстного доступу, аби задовольнити потреби в інтеграції. Традиційні методи контролю доступу до RAG не призначені для забезпечення контекстного контролю, що створює значні ризики для безпеки, оскільки потенційно дозволяє несанкціонований доступ до конфіденційної інформації.

Контролю доступу на основі ролей (RBAC) не вистачає гнучкості для адаптації до контекстних запитів, а контроль доступу на основі атрибутів (ABAC) обмежений проблемами масштабованості та вищими витратами на обслуговування. Враховуючи ці обмеження, компанія Lasso Security розробила контекстно-орієнтований контроль доступу (CBAC). За допомогою цього інноваційного підходу динамічно оцінюється контекст усіх запитів доступу до LLM, забезпечуючи комплексну безпеку, запобігаючи несанкціонованому доступу та підтримуючи стандарти в середовищах LLM та RAG.

CBAC від Lasso Security фокусується на інтелектуальному аналізі, а не на статичних шаблонах чи атрибутах. Це гарантує, що лише авторизовані користувачі можуть отримати доступ до певної інформації, забезпечуючи рівень точності та безпеки, який не можуть забезпечити традиційні методи. Офір Дрор, співзасновник і операційний директор Lasso Security, підкреслює, що такий підхід дозволяє організаціям використовувати всю потужність RAG, зберігаючи при цьому суворий контроль доступу, що робить можливим здійснення якісного управління та захисту даних.

Поняття генерації з розширеним пошуком (Retrieval-Augmented Generation, RAG) було визначено у статті 2020 року дослідниками з Facebook AI Research, Університетського коледжу Лондона та Нью-Йоркського університету. RAG доповнює попередньо навчені моделі генерації з використанням параметричної пам’яті непараметричною пам’яттю за допомогою підходу точного налаштування, використовуючи щільний векторний індекс джерел, таких як Вікіпедія, доступ до яких здійснюється за допомогою попередньо навченого нейронного пошукового алгоритму. Цей метод дозволяє підприємствам робити свої дані та інформацію доступними для обробки LLM, долаючи обмеження загальних методів.

Lasso Security розробила CBAC для самостійної роботи або інтеграції з їхніми продуктами, пропонуючи організаціям можливість впроваджувати його без значних модифікацій в інфраструктуру великих мовних моделей. CBAC може інтегруватися з Active Directory або використовуватися як автономне рішення, безперервно відстежуючи взаємодії, пов’язані з передачею даних до великих мовних моделей або у зворотному напрямку. Це забезпечує захищене середовище, що відповідає встановленим стандартам та швидко виявляє аномалії або порушення організаційних політик.

CBAC постійно оцінює різноманітні контекстні підказки для визначення політик контролю доступу, гарантуючи, що лише авторизовані користувачі мають привілеї доступу до певної інформації. Цей підхід використовує контрольовані алгоритми машинного навчання, які безперервно навчаються та адаптуються на основі контекстної інформації, отриманої з моделей поведінки користувачів та історичних даних.

Дрор підкреслює, що швидке впровадження RAG демонструє обмеження великих мовних моделей і необхідність термінового розв’язання проблем з отриманням доступу до них. Галюцинації та труднощі в навчанні великих мовних моделей на нових даних ще більше посилюють ці питання. CBAC вирішує їх, надаючи контекстну інформацію, необхідну для більш динамічного підходу до контролю доступу. Оскільки RAG стає основою для впровадження програмних засобів управління доступом і більш масштабних стратегій ШІ в організаціях, контекстна аналітика матиме вирішальне значення для захисту та масштабування систем без шкоди для їхньої продуктивності.