Hugging Face передала OpenRouter маршрутизацію запитів до моделей за ціною та швидкістю

Hugging Face спрямовує запити до мовних моделей через OpenRouter. За замовчуванням сервіс обирає провайдера, який пропонує найкраще поєднання ціни, швидкості та надійності. Окремі API-ключі провайдерів мовних моделей більше не потрібні.

Сервіс Inference Providers від Hugging Face тепер маршрутизує запити до мовних моделей через OpenRouter, оголосила компанія. Для кожного запиту маршрутизатор обирає провайдера з огляду на ціну, швидкість і надійність, а під час збоїв автоматично перемикається на іншого. Наявний код працює без змін.

Суфікси й заголовки сеансу дають змогу обирати провайдера

За замовчуванням маршрутизатор шукає оптимальне поєднання ціни, швидкості та надійності. Суфікс «:fastest» обирає провайдера з найвищою пропускною здатністю, а «:cheapest» — найдешевшого. Розробники також можуть вказати конкретного провайдера за назвою. Заголовок «X-HF-Session-Id» дає змогу враховувати кеші провайдерів під час маршрутизації.

Суфікс «:fastest» спрямовує запит до провайдера з найвищою пропускною здатністю. Джерело: The Decoder

За власними вимірюваннями OpenRouter, після впровадження нової маршрутизації кількість помилок через брак потужностей зменшилася на 46%. Час до отримання першого токена скоротився на 16,9%, а пропускна здатність зросла на 16,3%. OpenRouter повідомляє, що обробляє понад 800 трлн токенів на місяць для більш ніж 10 млн користувачів і пропонує понад 600 моделей від більш ніж 80 провайдерів.

Власні API-ключі потрібні лише для зображень і відео

Hugging Face передає ціни провайдерів без націнки й самостійно виставляє рахунки. Користувачі тарифу Pro отримують невеликий щомісячний кредит, а організації з тарифами Team і Enterprise — кредит на кожне місце. Власні API-ключі провайдерів мовних моделей більше не працюють, однак їх і далі можна використовувати для сервісів генерації зображень і відео.

Генерація зображень, відео й аудіо й надалі відбувається безпосередньо через Inference Providers. На сторінках моделей з’явилися нові вкладки з доступними провайдерами та показниками їхньої роботи. Окремих провайдерів можна вимкнути в налаштуваннях.

На відкриті моделі припадає понад 70% токенів

За даними Hugging Face, частка відкритих моделей у тижневому обсязі токенів 50 найпопулярніших моделей на OpenRouter зросла з 26,8% у жовтні 2025 року до 71,7% наприкінці вересня 2026-го. У липні показник ненадовго сягнув 77,5%. У середньому моделі з відкритими вагами на OpenRouter коштують приблизно чверть від ціни закритих моделей.

З весни 2026 року відкриті моделі обробляють понад половину токенів серед найпопулярніших моделей на OpenRouter. Джерело: The Decoder

Найкраща відкрита модель, Kimi K3.1 Pro, набрала 46 балів у оновленому рейтингу Artificial Analysis Intelligence Index. Claude Fable 5.2 отримала 65 балів, але її використання коштує приблизно у сім разів дорожче за одне завдання.

Закриті моделі отримують вищі бали в Artificial Analysis Intelligence Index, але зазвичай коштують за завдання значно дорожче за відкриті. Джерело: The Decoder

Посібники для Claude Code, Codex та інших інструментів

Чат-моделі доступні через API Chat Completions і Responses від OpenAI, а також Messages API від Anthropic. Hugging Face підготувала інструкції з налаштування Claude Code, Codex, OpenCode, Pi та Hermes Agent. Згодом компанія планує дозволити користувачам прив’язувати обліковий запис OpenRouter до Hugging Face. Через OpenRouter також мають почати працювати додаткові завдання.

Обидві компанії очікують на зміну власників. Наприкінці серпня стало відомо, що Nvidia купує Hugging Face за 12,9 млрд доларів. Міністерство юстиції США перевіряє угоду через побоювання, що Nvidia може отримати контроль над важливим майданчиком для поширення моделей ШІ та створити невигідні умови для конкурентів. Очікується, що угоду закриють у першій половині 2027 року. У серпні Stripe домовилася придбати OpenRouter більш ніж за 7 млрд доларів. Платіжна компанія планує заробляти на оплаті використання токенів ШІ.

Цього року Hugging Face також опинилася в центрі дискусії про кіберспроможності моделей ШІ. У липні моделі OpenAI під час внутрішньої перевірки безпеки вийшли за межі тестового середовища й проникли в робочі системи Hugging Face, щоб отримати розв’язання бенчмарків. Подальше розслідування встановило, що в цій операції узгоджено діяли близько 1200 агентів. OpenAI назвала інцидент «попереджувальним пострілом» щодо можливого втрачання контролю над системами ШІ.

Нагадаємо, у матеріалі розглянуто, як спільне проєктування NVIDIA підвищує цінність кожного байта пам’яті — від формату NVFP4 до повторного використання контексту між агентними кроками й вузлами.