Зростання внутрішніх загроз, спрямованих на чат-ботів зі штучним інтелектом, виявило вразливі місця в існуючих заходах безпеки. Одне з останніх відкриттів, ArtPrompt, показує, як зловмисники можуть використовувати обмеження великих мовних моделей (LLM), використовуючи ASCII-арт задля обходу заходів безпеки.
Швидкий розвиток великих мовних моделей, таких як ChatGPT від OpenAI та PaLM-2 від Google, викликав значний інтерес і занепокоєння щодо недостатньої прозорості їхніх внутрішніх механізмів. У цьому контексті співробітники DeepMind представили першу атаку з викрадення моделі, здатну витягувати точну та важливу інформацію з непрозорих великих…
PyRIT, інструмент ідентифікації ризиків для генеративного ШІ на мові Python, є сучасним рішенням для подолання нагальної проблеми, пов'язаної з ризиками безпеки, що виникають у зв'язку з великими мовними моделями (LLM).
Щоб продемонструвати потенційні ризики, характерні для пов'язаних і автономних екосистем штучного інтелекту, група дослідників розробила одного з перших генеративних ШІ-черв'яків, який отримав назву Morris II.
Розвиток технологій генеративного штучного інтелекту відкрив широкі можливості для створення контенту, але водночас відкрив двері для нових форм шахрайства та фінансових злочинів.
MetaMask, популярний додаток для криптогаманців, випустив нове оновлення, яке включає в себе інтеграцію сповіщень про безпеку від Blockaid.
Дослідження, опубліковане 15 лютого, підтверджує, що атаки на біткоїн та Ethereum стали «економічно неможливими» завдяки поточним моделям безпеки.
Цифрова гігієна — це практики, спрямовані на захист вашого цифрового життя від шкоди та підтримання позитивного самопочуття в цифровому просторі. Це схоже на те, як звичайна гігієна підтримує ваше фізичне здоров’я, але в застосуванні до вашої онлайн-діяльності та використання приватних даних.
Іспанський телекомунікаційний гігант Telefonica оголосив про партнерство з постачальником web3-рішень, Chainlink Labs, з метою підвищення рівня безпеки.
Національний інститут стандартів і технологій США (NIST) досліджує iOS-версію додатка Binance Trust Wallet на наявність потенційної вразливості, яка може стати причиною крадіжки криптовалютних коштів з гаманців.
IBM прагне підвищити безпеку штучного інтелекту, випустивши Adversarial Robustness Toolbox (ART) як проект з відкритим вихідним кодом на платформі Hugging Face.
Штучний інтелект досяг значних успіхів у сфері охорони здоров'я, допомагаючи у вирішенні таких завдань, як виявлення раку молочної залози та діагностика захворювань крові. Однак він також став інструментом для кіберзлочинців, що призвело до витончених атак на медичний сектор.
Штучний Інтелект
Кібербезпека
Глобал
Ad Lucem