#Вразливості

Працівники DeepMind викрили таємниці OpenAI

Швидкий розвиток великих мовних моделей, таких як ChatGPT від OpenAI та PaLM-2 від Google, викликав значний інтерес і занепокоєння щодо недостатньої прозорості їхніх внутрішніх механізмів. У цьому контексті співробітники DeepMind представили першу атаку з викрадення моделі, здатну витягувати точну та важливу інформацію з непрозорих великих…

Помилка в мільйонах графічних процесорів Apple, AMD та Qualcomm може призвести до прослуховування відповідей LLM

LeftoverLocals впливає на загальну безпеку GPU-додатків, особливо на великі мовні моделі (LLM) та моделі машинного навчання на уражених GPU-платформах. Завдяки відновленню локальної пам'яті було створено перевірку концепції, яка дозволяє зловмиснику підслуховувати інтерактивний сеанс LLM іншого користувача через межі процесу або контейнера.

Дослідники з ETH Zurich створили хакерську атаку, яка обходить захист штучного інтелекту

Дует дослідників з Швейцарської вищої технічної школи Цюріха розробив метод, який теоретично може зламати будь-яку модель штучного інтелекту, залежну від зворотного зв'язку з людиною, включно з популярними великими мовними моделями.

ChatGPT має вразливості в налаштуваннях безпеки, які можна обійти, використовуючи менш поширені мови

Дослідники з Університету Брауна виявили, що налаштування безпеки ChatGPT погано пристосовані для роботи з мовами, які зазвичай не використовуються в навчальних даних.

CISA додала вразливість Citrix ShareFile до каталогу KEV через активне використання на практиці

Агентство кібербезпеки і безпеки інфраструктури США (CISA) додало критичну вразливість в контролері зон зберігання Citrix ShareFile до свого каталогу відомих уразливостей (KEV) на основі даних про активну експлуатацію на практиці.