Nvidia, Hugging Face і ServiceNow випустили LLM StarCoder2 для генерації коду

Nvidia, Hugging Face та ServiceNow представили StarCoder2, нове сімейство LLM з відкритим кодом. Нові моделі відмінні трьома різними розмірами та навчені на більш ніж 600 мовах програмування. Ці моделі були створені в рамках проєкту BigCode, спільно з ServiceNow і Hugging Face, з метою забезпечити відповідальну розробку та використання великих мовних моделей для генерації коду.

Зараз StarCoder2 доступний у трьох розмірах: 3B, 7B і 15B параметрів. Крім того, вони навчені на більшій кількості мов програмування, включаючи менш популярні, такі як COBOL, а також математичні та обговорення вихідного коду програм.

Кожна модель розроблена з використанням різних фреймворків. Модель з 3B параметрів створена за допомогою фреймворку Fast LLM від ServiceNow, модель з 7B — за допомогою нанотронного фреймворку Hugging Face, а модель з 15B параметрів оптимізована за допомогою хмарного фреймворку Nvidia NeMo та програмного забезпечення Nvidia TensorRT-LLM.

Хоча ще потрібно провести багато тестів для оцінки роботи цих моделей в різних сценаріях, компанії заявили, що продуктивність моделі з 3B параметрів відповідає продуктивності оригінальної 15B моделі StarCoder LLM.

Це нове покоління моделей дозволяє організаціям скористатися перевагами використання LLM для генерації коду, що сприяє швидшому розвитку додатків та економить час розробників.

Нагадаємо, GitHub оголосив про запуск «Copilot Enterprise» — інструмента для кодування зі штучним інтелектом для бізнесу.