#NLP

Hugging Face представила SmolTools: компактний набір інструментів для ШІ на основі малих мовних моделей

Набір інструментів SmolTools від Hugging Face, побудований на базі мовної моделі SmolLM2, дозволяє виконувати завдання обробки природної мови без необхідності великих серверів або потужних графічних процесорів.

Що таке мала мовна модель (Small Language Model, SLM)?

Малі мовні моделі (SLM) — це різновид систем штучного інтелекту, орієнтованих на обробку природної мови. На відміну від великих мовних моделей (LLM), малі мовні моделі мають компактнішу структуру з меншою кількістю параметрів.

Salesforce AI представив SFR-Embedding-v2

Випуск останньої версії моделі Salesforce, SFR-embedding-v2, стало вагомим здобутком у сфері обробки природної мови (NLP).

Microsoft випускає Florence-2, універсальну модель для штучного інтелекту

Microsoft оголосила про випуск Florence-2, нової моделі штучного інтелекту, яка поєднує в собі можливості обробки природної мови та штучного зору.

Пекінський університет та Microsoft співпрацюють над створенням ефективних довгих контекстних вбудовувань

Спільними зусиллями Пекінського університету та Microsoft було представлено LongEmbed — метод розширення контекстного вікна вбудовування моделей до 32 000 токенів без перенавчання. LongEmbed унікально поєднує інтерполяцію позиції та RoPE для обробки довших текстових послідовностей, зберігаючи при цьому базову продуктивність на коротких вхідних даних.

Oбчислювально ефективне активне навчання для великих та незбалансованих наборів даних

Дослідники з Кембриджського університету розробили AnchorAL — нову методологію активного навчання, призначену для завдань незбалансованої класифікації.

Apple представила ReALM, нову модель, яка «бачить» і розуміє контекст екрана

Дослідники Apple представили ReALM, нову модель, яка може «бачити» та розуміти контекст екрана.

Використання рекурентної пам’яті для довгого контексту в моделях NLP у фреймворку BABILong

Нещодавні дослідження запропонували перспективний метод розширення контекстних вікон у трансформерах за допомогою рекурентної пам'яті.

Microsoft представила нові можливості вбудовування багатомовних текстів у моделі обробки природної мови

Основна проблема в обробці природної мови (NLP) полягає в розробці моделей, які можуть однаково добре працювати з різними мовами. Традиційні моделі, часто англоцентричні, мають проблеми в багатомовних контекстах, що підкреслює необхідність вбудовування моделей, навчених на різноманітних лінгвістичних даних.

Nomic AI представляє Nomic Embed, який перевершує OpenAI Ada-002

Випуск Nomic Embed став значною подією в галузі вбудовування тексту, пропонуючи відкрите, контрольоване і високопродуктивне рішення для довгих контекстних текстових завдань.

Відкрита мовна модель Smaug-72B претендує на звання найкращої у світі

Нещодавно стартап Abacus AI привернув увагу світу ШІ з відкритим вихідним кодом, випустивши нову мовну модель під назвою Smaug-72B. Ця модель стала відома завдяки високим рейтингам, які вона отримала на платформі Hugging Face, одній з провідних у сфері обробки природної мови (NLP).

Що таке обробка природної мови (Natural Language Processing, NLP)?

Обробка природної мови (NLP) — це підгалузь комп'ютерних наук і штучного інтелекту, що займається взаємодією між комп'ютерами і людськими (природними) мовами. Простіше кажучи, мета полягає в тому, щоб дозволити комп'ютерам розуміти, інтерпретувати і навіть генерувати людську мову.