CTO IBM Automation: ChatGPT створює ризики для корпоративного використання

Джеррі Куомо (Jerry Cuomo) з IBM Automation перераховує численні проблеми, які можуть виникнути при використанні ChatGPT на підприємствах.

Технічний директор IBM Automation Джеррі Куомо нещодавно опублікував пост у своєму блозі, в якому виклав кілька ризиків, пов’язаних з використанням ChatGPT на підприємствах.

Згідно з дописом у блозі, є кілька ключових сфер ризику, які компанії повинні враховувати, перш ніж використовувати ChatGPT. Зрештою, Куомо робить висновок, що лише неконфіденційні дані є безпечними при використанні ChatGPT:

«Як тільки ваші дані потрапляють до ChatGPT, — пише Куомо, — ви не можете контролювати або знати, як вони використовуються».

Згідно з дописом, цей тип ненавмисного витоку даних також може поставити бізнес на гачок, з юридичної точки зору, якщо дані партнерів, клієнтів або замовників стануть доступними широкому загалу після витоку в навчальні дані ChatGPT.

Куомо також вказує на ризики для інтелектуальної власності та можливість того, що витік може призвести до порушення компаніями угод з відкритим вихідним кодом.

Згідно з повідомленням у блозі IBM:

«Якщо конфіденційна інформація третіх осіб або внутрішня інформація компанії вводиться в ChatGPT, вона стає частиною моделі даних чат-бота і може бути передана іншим користувачам, які ставлять відповідні запитання».

Проте представник OpenAI послався на існуючу документацію щодо функцій конфіденційності ChatGPT. Зокрема на публікацію в блозі, де детально описується можливість для веб-користувачів вимкнути історію своїх чатів.

За даними OpenAI, в API ChatGPT обмін даними вимкнено за замовчуванням.

Критики, однак, вказують на те, що розмови у веб-версії зберігаються за замовчуванням. Користувачі також повинні відмовитися як від збереження своїх розмов, так і від використання їхніх даних для навчання моделі. Наразі немає можливості зберігати розмови без згоди на передачу даних.

Нагадаємо, що IBM Research шукає інноваційні способи переосмислення обчислень ШІ, що призвело до появи концепції аналогових обчислень у пам’яті, або аналогового ШІ.

Проте, щоб залишатися конкурентоспроможними в цьому новому світі, все ж слід навчитися користуватися ChatGPT та іншими інструментами штучного інтелекту.