DataRobot запускає систему спостереження з можливістю втручання в режимі реального часу для генеративного ШІ

DataRobot, стартап в галузі штучного інтелекту, представив нові функції для своїх моделей генеративного ШІ, які дають компаніям і розробникам можливість спостерігати за ними та втручатися в режимі реального часу.

Ця нова можливість допоможе компаніям з більшою впевненістю запускати моделі генеративного ШІ у виробництво, адже вона дозволяє їм:

• Моніторити, модерувати та втручатися в роботу моделей в режимі реального часу, щоб запобігти появі проблем, таких як галюцинації, вкраплення особистої інформації (PII) або токсичний контент.
• Створювати на вимогу зконфігуровані правила безпеки, моделі, підказки або інші евристики, які дозволяють відстежувати та реагувати на дії моделі до того, як вони стануть проблемою.
• Оцінювати загальний контроль якості огороджень під час їхньої роботи на виробництві, щоб їх можна було швидко налаштувати та покращити.

Ця нова функція є частиною зусиль DataRobot, спрямованих на те, щоб зробити генеративний ШІ більш доступним та надійним для підприємств.

«Перше, що я чую, коли спілкуюся з клієнтами, — це те, що ми називаємо проблемою довіри. Проблема в тому, що багато компаній з легкістю створюють системи ШІ, але постійно відчувають себе некомфортно, запускаючи їх у виробництво. На це є багато різних причин», — сказав головний технічний директор DataRobot Майкл Шмідт.

DataRobot сподівається, що його нова система спостереження та втручання допоможе компаніям подолати цю проблему та з більшою впевненістю використовувати генеративний ШІ.

Нагадаємо, минулого тижня Confluent оголосила про запуск пропозиції для прискорення потокового ШІ в реальному часі.