BTC$29880

ETH$3666

Шукати

#LLM

Anthropic дослідив багатоспробний джейлбрейк

Нещодавні викриття про техніку джейлбрейку з багатьма спробами пролили світло на критичний аспект великих мовних моделей, який створює потенційні ризики у сфері ШІ. Дослідження Anthropic щодо цього методу злому та його наслідків є одночасно інформативними та тривожними.

Кількість зломів внутрішніх чат-ботів зі ШІ за допомогою ASCII-арту зростає

Зростання внутрішніх загроз, спрямованих на чат-ботів зі штучним інтелектом, виявило вразливі місця в існуючих заходах безпеки. Одне з останніх відкриттів, ArtPrompt, показує, як зловмисники можуть використовувати обмеження великих мовних моделей (LLM), використовуючи ASCII-арт задля обходу заходів безпеки.

АІ Sakana відкриває нові архітектури для генеративних моделей

Японський стартап Sakana AI, що базується в Токіо, розробив нову методику під назвою Evolutionary Model Merge для автоматичного створення генеративних моделей. Цей підхід натхненний природним відбором і полягає в об'єднанні частин існуючих моделей для створення більш ефективних.

Як дослідники з UC Berkeley, ICSI та LBNL підвищують продуктивність великих мовних моделей

Методологія LLM2LLM, запропонована дослідницькою групою Каліфорнійського університету в Берклі, Інститутом корпоративних секретарів Індії та Національною лабораторією Лоуренса Берклі, пропонує новий підхід до розширення можливостей великих мовних моделей у сценаріях з низьким рівнем даних.

Нова архітектура машинного навчання, натхненна мозком, для вдосконалення великих мовних моделей

Штучний інтелект стоїть перед важливим завданням: вдосконалити можливості великих мовних моделей (LLM), забезпечуючи при цьому їхню відповідність сучасним вимогам і точність. Традиційні методи, такі як перенавчання або точне налаштування, є ресурсомісткими і ризикують стерти цінну інформацію через швидке забування.