Зняття маски з автора: ШІ чи людина?

В епоху стрімкого розвитку штучного інтелекту особливої уваги потребує ключова проблема: прозорість і достовірність генеративного штучного інтелекту. Дослідники IBM прагнуть озброїти світ інструментами виявлення та атрибуції штучного інтелекту, щоб змінити те, як ми сприймаємо генеративний ШІ. Однак складність полягає в тому, що ШІ не дуже добре виявляють написаний ними контент або відстежують налаштовану модель до її джерела. Оскільки вони продовжують змінювати повсякденну комунікацію, дослідники працюють над новими інструментами, щоб зробити генеративний ШІ більш зрозумілим і надійним.

Адаптуючи свій надійний арсенал інструментів штучного інтелекту до основ сучасної епохи, дослідники прагнуть забезпечити підзвітність і довіру до цих інноваційних технологій. Дослідники IBM та Гарварду допомогли створити один з перших детекторів штучного інтелекту GLTR, який аналізує статистичні зв’язки між словами або шукає підказки в тексті. Дослідники IBM розробили RADAR — новий інструмент, який допомагає ідентифікувати згенерований ШІ текст, який був перефразований, щоб обдурити детектор. Він порівнює дві мовні моделі, одна з яких перефразовує текст, а інша визначає, чи був він згенерований штучним інтелектом. Для використання генеративного ШІ було впроваджено заходи безпеки, які обмежують доступ співробітників до сторонніх моделей, таких як Chatgpt, і таким чином запобігають витоку даних клієнтів.

У світі генеративного ШІ наступним викликом є визначення походження моделей, які створили текст, та їхнього тексту за допомогою поля, відомого як атрибуція. Дослідники IBM розробили класифікатор відповідних пар для порівняння відповідей і виявлення пов’язаних моделей. Автоматизована атрибуція ШІ з використанням машинного навчання допомогла дослідникам визначити походження конкретної моделі та багатьох інших. Ці інструменти допомагають відстежити базу моделі та зрозуміти її поведінку.

IBM давно виступає за зрозумілий і надійний ШІ. Вони представили інструментарій AI Fairness 360, що включає в себе зменшення упередженості та пояснюваність у своїх продуктах. А тепер, з листопадовим випуском Watsonx.governance, вони підвищують прозорість робочих процесів у сфері ШІ. IBM рішуче налаштована на те, щоб зробити інструменти прозорості доступними для всіх.