22.11.2024 14:45
Отруєння ШІ стає реальною загрозою після інциденту з ChatGPT
Фахівці з блокчейн-безпеки попереджають про нову загрозу — отруєння ШІ, яке може суттєво підірвати довіру до технологій штучного інтелекту.
Інцидент із ChatGPT
Проблема стала очевидною після інциденту, що трапився 21 листопада. Один із користувачів, криптотрейдер під ніком «r_cky0», заявив, що втратив $2,500 через шкідливий API, який йому порадив ChatGPT від OpenAI. Трейдер звернувся до ШІ за допомогою у створенні бота для роботи з платформою Pump.fun на базі Solana.
Проте ChatGPT порекомендував фальшивий API Solana, через який зловмисники викрали приватні ключі користувача. Усього за 30 хвилин після використання цього API всі активи було переказано на гаманець шахраїв.
Розслідування
Ю Сянь, засновник фірми Slowmist, яка спеціалізується на блокчейн-безпеці, виявив, що домен фальшивого API був зареєстрований за два місяці до інциденту. Це підтверджує, що шахрайська схема була спланованою. Домен складався лише з документації та репозиторіїв коду, що свідчить про його виключно шкідливе призначення.
Хоча немає доказів навмисної інтеграції шкідливих даних у ChatGPT, експерти вважають, що проблема могла виникнути через ненадійність пошукових джерел, таких як SearchGPT.
Наслідки для користувачів та технологій
Компанія Scam Sniffer зазначає, що цей інцидент ілюструє, як шахраї можуть забруднювати навчальні дані великих мовних моделей (LLM), впроваджуючи шкідливий код. Наприклад, нещодавно користувач GitHub «solanaapisdev» створив кілька репозиторіїв для маніпуляцій з результатами ШІ.
Експерти застерігають, що інструменти ШІ, які використовують мільйони людей, стають новим об’єктом для атак. Ю Сянь підкреслив: ризик отруєння ШІ, який раніше був теоретичним, сьогодні перетворився на реальну загрозу.
Що це означає для майбутнього ШІ?
Без належного захисту такі інциденти можуть суттєво підірвати довіру до інструментів штучного інтелекту, а також спричинити фінансові втрати серед користувачів. Спільнота ШІ має впровадити нові стандарти безпеки, щоб уникнути повторення подібних ситуацій і гарантувати надійність технологій.
)
)
)
)
)
)
)
)
