OpenAI не буде маркувати текст ChatGPT оскільки користувачі можуть потрапити під удар

Компанія OpenAI розробила систему для маркування текстів, згенерованих ChatGPT, і вже близько року володіє інструментом для виявлення таких текстів, повідомляє Wall Street Journal. Цей метод виявлення передбачає коригування прогнозів моделі для створення шаблону в тексті, який можна виявити. Потенційні переваги інструменту, насамперед для освітніх цілей, цілком очевидні, оскільки він може допомогти викладачам утримати студентів від використання штучного інтелекту для виконання письмових завдань.

Однак всередині OpenAI ведуться внутрішні дебати щодо випуску цього інструменту. Хоча це здається відповідальним кроком, існують побоювання щодо потенційного впливу на прибуток компанії. Впровадження технології маркування може призвести до зменшення використання ChatGPT: майже 30 відсотків опитаних користувачів зазначили, що будуть менше користуватися програмним забезпеченням, якщо буде впроваджено маркування.

Попри це, метод маркування продемонстрував багатонадійні результати. Згідно з внутрішніми документами, він “ефективний на 99,9%” та є стійким до маніпуляцій, таких як перефразування. Однак компанія визнає, що несумлінні користувачі все ще можуть обійти систему захисту за допомогою переписування тексту за іншою моделлю. Крім того, існують побоювання щодо стигматизації використання технологій штучного інтелекту.

OpenAI вивчає можливість застосування альтернативних методів, таких як вбудовування метаданих, що може викликати менше суперечок серед користувачів. Наразі ці підходи перебувають на ранніх стадіях розвитку, і поки що зарано говорити про їхню ефективність. Але оскільки метадані мають криптографічний підпис, це усунуло б ризик помилкових спрацьовувань.

Хоча деякі співробітники OpenAI вважають, що метод маркування є ефективним, компанія обережно ставиться до його впровадження через занепокоєння користувачів та потенційний вплив на використання. Вивчення альтернативних методів відображає прагнення OpenAI збалансувати інновації зі сприйняттям з боку користувачів та етичними міркуваннями.