SambaNova кидає виклик моделі o1 від OpenAI

Компанія SambaNova Systems представила демо власної великої мовної моделі на Hugging Face, позиціонуючи себе як сильного конкурента моделі o1 від OpenAI. Працюючи на основі моделі Llama 3.1 Instruct від компанії Meta та її відкритому вихідному коді, демонстраційна версія SambaNova являє собою високошвидкісну, масштабовану платформу, призначену для розробників та підприємств.

Демонстрація, в якій використовується модель Llama 3.1 405B, демонструє дивовижну швидкість 129 токенів в секунду, кидаючи виклик моделі GPT o1 від OpenAI за показниками продуктивності, зокрема, за швидкістю генерації токенів. У той час як GPT o1 славиться своїми можливостями розв’язання проблем і міркувань, пропозиція SambaNova фокусується на швидкості, що є вирішальним фактором для багатьох бізнес-додатків, таких як прийняття рішень в режимі реального часу, автоматизоване обслуговування клієнтів і операції з використанням штучного інтелекту.

В основі переваги SambaNova лежать запатентовані ШІ-чіпи SN40L, призначені для високошвидкісної генерації токенів і здатні обробляти 405 токенів в секунду з моделлю Llama 3.1 70B. Це робить SambaNova другим найшвидшим провайдером моделей Llama, відразу після Cerebras. Такі швидкісні переваги безпосередньо призводять до зменшення затримок, зниження витрат і підвищення ефективності роботи підприємств. Ці переваги особливо актуальні для таких галузей, як фінанси та охорона здоров’я, де точність і швидкість мають першорядне значення.

Використовуючи модель Llama 3.1 з відкритим кодом від Meta, SambaNova також робить стратегічний крок до більшої прозорості та адаптивності. Використання відкритого коду дозволяє компаніям налаштовувати моделі для своїх унікальних випадків на відміну від більш закритих екосистем таких компаній, як OpenAI. Гнучкість перемикання між моделями та робочими процесами з мінімальною затримкою приваблює підприємства, які цікавляться швидкими та адаптивними системами штучного інтелекту.

Демонстрація SambaNova свідчить про масштабні зміни в ландшафті ШІ, де моделі з відкритим вихідним кодом набирають обертів, а швидкість стає вирішальним фактором конкурентоспроможності. Реконфігурована архітектура потоку даних дозволяє постійно підвищувати продуктивність, зберігаючи конкурентоспроможність компанії в міру того, як моделі ШІ збільшуються в розмірах і складності.

Оскільки боротьба за домінування в галузі штучного інтелекту загострюється, остання пропозиція SambaNova встановлює новий стандарт швидкості, гнучкості та точності корпоративного рівня. Компанія SambaNova готова конкурувати з такими лідерами галузі, як OpenAI та Nvidia, пропонуючи переконливу альтернативу для розробників та підприємств, які постійно вимагають швидших та ефективніших рішень з використанням штучного інтелекту.