Криптовалюта бере участь у «гонці озброєнь» проти шахрайства з використанням ШІ

Річард Ма з Quantstamp пояснив, що майбутній сплеск складних фішингових афер з використанням штучного інтелекту (ШІ) може становити екзистенційну загрозу для криптоорганізацій.

Оскільки сфера штучного інтелекту розвивається майже з шаленою швидкістю, шахраї тепер мають доступ до інструментів, які можуть допомогти їм масово здійснювати високотехнологічні атаки, попереджає співзасновник фірми Quantstamp, що займається безпекою Web3.

Річард Ма з Quantstamp пояснив, що хоча атаки з використанням соціальної інженерії існують вже давно, штучний інтелект допомагає хакерам стати «набагато переконливішими» і підвищити рівень успішності своїх атак.

Щоб проілюструвати, як виглядає нове покоління атак з використанням штучного інтелекту, Ма нагадав про випадок, що стався з одним із клієнтів Quantstamp, коли зловмисник прикинувся технічним директором фірми, на яку була спрямована атака.

«Він почав надсилати повідомлення одному з інших інженерів компанії, кажучи: „Привіт, у нас надзвичайна ситуація, ось що відбувається“, і втягував їх у безліч розмов, перш ніж попросити про щось», – сказав Ма.

За словами Ма, ці додаткові кроки додають складності до атак, що робить можливість передачі важливої інформації набагато більш імовірною.

«До появи штучного інтелекту [шахраї] могли просто попросити у вас подарункову картку або заплатити їм біткоїнами, тому що це терміново. Тепер вони роблять набагато більше додаткових кроків у розмові заздалегідь, щоб встановити легітимність».

Зрештою, за словами Ма, найбільш екзистенціальною загрозою, яку представляє складний ШІ, є масштаби, в яких можуть здійснюватися подібні типи атак.

Використовуючи автоматизовані системи штучного інтелекту, зловмисники можуть здійснювати атаки соціальної інженерії та інші сучасні шахрайства в тисячах різних організацій з мінімальною участю людини.

«У криптовалюті існує безліч баз даних з усією контактною інформацією про ключових осіб кожного проекту. Як тільки хакери отримують доступ до них, вони можуть створити штучний інтелект, який надсилатиме повідомлення всім цим людям у різний спосіб», – сказав він.

«Досить важко навчити всю компанію не реагувати на такі речі».

Хоча масштаби і складність шахрайства з використанням ШІ можуть здатися страшними, Ма дав кілька простих порад приватним особам і організаціям, які прагнуть захистити себе.

Найважливішим заходом захисту є уникнення надсилання будь-якої конфіденційної інформації електронною поштою або текстом. Ма сказав, що організаціям слід перевести всю передачу важливих даних на Slack або інші внутрішні канали.

«Як правило, дотримуйтесь внутрішнього каналу комунікації компанії та перевіряйте все двічі».

Наостанок Ма сказав, що компаніям варто інвестувати в антифішингове програмне забезпечення, яке фільтрує автоматизовані електронні листи від ботів та штучного інтелекту. Він розповів, що Quantstamp використовує антифішингове програмне забезпечення від компанії IronScales, яка пропонує послуги безпеки електронної пошти.

«Ми тільки на початку цієї гонки озброєнь, і буде тільки складніше відрізнити людину від переконливого ШІ».

Нагадаємо, що Quantstamp запускає сервіс для боротьби з атаками через флеш-кредити.