Темний двійник ChatGPT

Поява ChatGPT суттєво вплинула на те, як люди працюють і отримують доступ до інформації в Інтернеті. Навіть ті, хто ще не пробував, цікавляться потенціалом чат-ботів зі штучним інтелектом. Зростаюча поширеність генеративних моделей ШІ спричинила нові ризики, включаючи появу FraudGPT на форумі Dark Web Forum. Кіберзлочинці вивчають способи використання цієї тенденції у своїх цілях.

Дослідники з Netenrich виявили небезпечний інструмент штучного інтелекту під назвою “FraudGPT”. Цей ШІ-бот розроблений спеціально для таких шкідливих дій, як надсилання фішингових електронних листів, створення інструментів для злому та участь у кардингу.

Що таке FraudGPT?

Подібно до ChatGPT, шахрайський бот FraudGPT має можливість генерувати контент для використання в кібератаках. Цей шкідливий інструмент можна придбати в темному інтернеті. Команда дослідників загроз Netenrich вперше виявила рекламу FraudGPT у липні 2023 року. Однією з ключових особливостей FraudGPT є навмисна відсутність гарантій і обмежень, що дозволяє йому не реагувати на сумнівні запити, як це робить ChatGPT.

Інструмент отримує регулярні оновлення кожні кілька тижнів і використовує різні види штучного інтелекту. Основним способом оплати за доступ до послуг FraudGPT є підписка. Щомісячна підписка коштує 200 доларів, а річна — 1700 доларів.

Як це працює?

Команда Netenrich інвестувала ресурси в дослідження і тестування FraudGPT. Його інтерфейс дуже схожий на інтерфейс ChatGPT, з історією чату на лівій бічній панелі та головним вікном чату, що займає більшу частину екрану. Користувачам потрібно лише ввести свій запит і натиснути “Enter”, щоб отримати відповідь.

FraudGPT продемонстрував свої можливості в тестовому кейсі з фішинговим електронним листом, пов’язаним з банком. З мінімальним введенням даних бот зміг згенерувати текст фішингового листа і навіть підказати, куди вставити шкідливе посилання. Інструмент також міг ідентифікувати часто відвідувані або експлуатовані онлайн-ресурси, потенційно допомагаючи хакерам планувати майбутні атаки. В рекламі FraudGPT стверджувалося, що він може створювати шкідливий код для збірки шкідливого програмного забезпечення, яке неможливо виявити, для розвідки та таргетування.

Netenrich також виявив, що постачальник FraudGPT раніше пропонував хакерські послуги за винагороду і був пов’язаний з іншою програмою під назвою WormGPT.

Розслідування FraudGPT підкреслює важливість збереження пильності. Хоча невідомо, чи хакери вже використовували такі інструменти для створення нових загроз, шкідливі програми на кшталт FraudGPT можуть прискорити їхні зусилля, дозволяючи швидко створювати фішингові електронні листи та цільові сторінки.

Споживачі мають з обережністю ставитися до запитів на отримання особистої інформації та дотримуватися найкращих практик кібербезпеки. Фахівці з кібербезпеки повинні постійно оновлювати свої інструменти виявлення загроз, особливо тому, що зловмисники можуть використовувати такі програми, як FraudGPT, для зламу критично важливих комп’ютерних мереж.

Аналіз FraudGPT слугує нагадуванням про те, що хакери постійно адаптують свої методи. Хоча програмне забезпечення з відкритим кодом пропонує переваги, воно також може мати вразливі місця в системі безпеки. Залишатися в курсі нових технологій і пов’язаних з ними ризиків вкрай важливо як для звичайних користувачів, так і для тих, хто відповідає за захист інтернет-інфраструктури. Дуже важливо збалансувати переваги таких програм, як ChatGPT, з усвідомленням потенційних ризиків.