Стенфордські дослідники критикують прозорість моделей ШІ від OpenAI та інших

Дослідники Стенфордського університету опублікували звіт, в якому стверджують, що основні моделі штучного інтелекту (ШІ) від OpenAI, Google, Meta та інших компаній є недостатньо прозорими.

У звіті, який називається «Індекс прозорості базових моделей», дослідники оцінили 10 популярних моделей ШІ за 100 різними показниками, включаючи дані про навчання, трудові практики та обсяг обчислень, використаних при їх розробці.

Всі моделі отримали бали, які дослідники визнали «не вражаючими». Мовна модель Llama 2 від Meta отримала найвищий бал — 54 зі 100. Модель Titan від Amazon — найнижчий, 12 зі 100. Модель GPT-4 від OpenAI отримала 48 балів зі 100.

Дослідники стверджують, що недостатня прозорість цих моделей ускладнює для інших компаній, науковців, політиків та споживачів розуміти їхні обмеження та упередження.

«Менша прозорість ускладнює для інших компаній розуміння того, чи можуть вони безпечно створювати додатки, які покладаються на моделі комерційних фондів; для науковців — покладатися на моделі комерційних фондів для проведення досліджень; для політиків — розробляти змістовну політику для стримування цієї потужної технології; а для споживачів — розуміти обмеження моделей або шукати відшкодування за завдану шкоду», — пишуть дослідники.

Серед причин недостатньої прозорості моделей ШІ дослідники називають конкурентний тиск між великими технологічними компаніями та побоювання щодо приреченості ШІ.

Автори Індексу прозорості сподіваються, що їхня робота не лише стимулюватиме компанії до підвищення прозорості, але й слугуватиме ресурсом для урядів, які намагаються розв’язувати питання про те, як потенційно регулювати сферу ШІ.

Однак деякі експерти в галузі ШІ висловили сумніви щодо методології Стенфордського індексу прозорості. Вони стверджують, що деякі показники є заплутаними або вводять в оману.

Попри ці заперечення, звіт Стенфордського університету є важливим кроком у напрямку підвищення прозорості моделей ШІ.