Cerebras Systems випускає WSE-3

Компанія Cerebras оголосила про випуск свого нового ШІ-чіпу, WSE-3, який став найбільшим у світі та подвоює продуктивність для розвинутого навчання моделей штучного інтелекту, не збільшуючи витрат.

WSE-3, представлений Cerebras Systems, є значною досягнутою в галузі розробки чіпів для генеративного штучного інтелекту. Його анонс був зроблений 13 березня 2024 року і позиціюється як найбільший напівпровідник у світі. Він спрямований на розширення можливостей великих мовних моделей з десятками трильйонів параметрів. Це оновлення відбувається в контексті посилення конкуренції в технологічній сфері щодо створення потужних та ефективних моделей штучного інтелекту.

Новий чіп WSE-3 підвищує продуктивність свого попередника, WSE-2, вдвічі, при цьому не збільшуючи витрат енергії або вартості. Це досягнення відповідає закону Мура, за яким схеми мікросхем стають вдвічі складнішими приблизно кожні 18 місяців. Отже, мікросхема WSE-3, виготовлена TSMC, демонструє зменшення розміру транзистора з 7 нанометрів до 5 нанометрів, що призвело до збільшення кількості транзисторів до 4 трильйонів на мікросхемі, майже розміром з цілу 12-дюймову напівпровідникову пластину. Це зростання призвело до подвоєння обчислювальної потужності з 62,5 петафлопс до 125 петафлопсів, що підвищує ефективність чіпа у навчанні моделей штучного інтелекту.

WSE-3 від Cerebras перевершує галузеві стандарти, такі як графічний процесор Nvidia H100, як за розміром, так і за обчислювальними можливостями. Цей чіп має 52 рази більше ядер і в 800 разів більше пам’яті на кристалі, а також значні покращення пропускної здатності пам’яті та мережі. WSE-3 забезпечує найбільший приріст продуктивності, спрямований на обчислення штучного інтелекту.

Ці поліпшення дозволяють навчати значні нейронні мережі на одній комп’ютерній системі CS-3. Вона демонструє величезний потенціал WSE-3 у прискоренні розробки моделей штучного інтелекту. Ця розробка спрощує процес програмування і робить навчання моделей штучного інтелекту швидшим та ефективнішим.

Крім того, Cerebras оголосила про співпрацю з Qualcomm для покращення прогнозування на основі навчених моделей штучного інтелекту. Ця співпраця прагне знизити обчислювальні витрати та споживання енергії генеративних моделей штучного інтелекту до мінімуму, використовуючи розрідженість і спекулятивне декодування.

Нагадаэмо, влытку 2023 Cerebras Systems уклала угоду на створення суперкомп’ютера для штучного інтелекту вартістю $100 млн.