OpenAI тихо закриває свій інструмент для виявлення штучного інтелекту

У січні компанія OpenAI, розробник штучного інтелекту, оголосила про створення інструменту, який може врятувати світ – або принаймні зберегти розум професорів і викладачів, – визначаючи, чи був створений контент за допомогою генеративних інструментів штучного інтелекту, таких як її власний ChatGPT.

Через півроку цей інструмент помер, загинув, бо не зміг зробити те, для чого був розроблений.

Минулого тижня компанія OpenAI, розробник ChatGPT, тихо відключила свій інструмент для виявлення штучного інтелекту, AI Classifier, через “низький рівень точності”, як заявила компанія. Пояснення не було в новому оголошенні, а було додано в примітці до посту в блозі, в якому вперше було анонсовано інструмент. Посилання на класифікатор OpenAI більше не доступне.

“Ми працюємо над включенням зворотного зв’язку і в даний час досліджуємо більш ефективні методи перевірки походження тексту, а також взяли на себе зобов’язання розробити і впровадити механізми, які дозволять користувачам зрозуміти, чи є аудіо чи візуальний контент згенерованим штучним інтелектом”, – написали в OpenAI.

Нові інструменти, що дозволяють використовувати все більш досконалий ШІ, з’являються в мережі майже щодня і створили кустарну індустрію детекторів штучного інтелекту.

Нові інструменти, що дозволяють використовувати все більш досконалий штучний інтелект, з’являються в мережі майже щодня і створили кустарну індустрію детекторів штучного інтелекту.

OpenAI оголосила про запуск свого класифікатора ШІ, стверджуючи, що він може відрізнити текст, написаний людиною, від тексту, написаного штучним інтелектом. Однак навіть тоді OpenAI назвала класифікатор “не повністю надійним”, додавши, що оцінка “тестового набору” англійських текстів правильно визначила 26% текстів, написаних ШІ, як “ймовірно, написані ШІ”, тоді як неправильно позначила текст, написаний людиною, як написаний ШІ в 9% випадків.

OpenAI зазначає, що обмеження класифікатора ШІ включають ненадійність щодо тексту з менш ніж 1 000 символів, неправильне маркування тексту, написаного людиною, як написаного ШІ, а також те, що класифікатори, засновані на нейронних мережах, погано працюють за межами їхніх навчальних даних.

Однією з галузей, яка гостро зацікавлена в точному виявленні ШІ, є освіта. З моменту запуску ChatGPT у листопаді освітяни б’ють на сполох через те, що студенти використовують чат-бот для написання есе.

“Ми визнаємо, що ідентифікація тексту, написаного ШІ, була важливим пунктом обговорення серед освітян, і не менш важливим є визнання обмежень і впливу класифікаторів тексту, створених штучним інтелектом, на навчальний процес. Компанія продовжить розширювати сферу свого впливу в міру того, як буде вчитися.”, – заявили в OpenAI