Meta намагається випередити Google та Apple у перегонах за впровадження потужного штучного інтелекту в телефони

Компанія Meta випустила моделі Llama 3.2 і таким чином здійснила стрибок у розвитку штучного інтелекту, принісши розширені можливості безпосередньо на смартфони та планшети. Завдяки стисненій версії моделей 1B та 3B вони працюють в чотири рази швидше і використовують вдвічі менше пам’яті, ніж попередні версії, досягаючи при цьому майже тих самих рівнів продуктивності. Прорив відбувся завдяки техніці стиснення, яка називається квантуванням, зокрема, поєднанню навчання з урахуванням квантування з адаптерами LoRA (QLoRA) для точності та SpinQuant для портативності, що дозволило забезпечити високоякісну обробку ШІ на мінімальному апаратному забезпеченні.

Такий підхід до розробки мобільних застосунків є стратегічною відмінністю Meta від підходів Google та Apple до розробки систем штучного інтелекту, орієнтованих на конкретні платформи. Завдяки принципам відкритого вихідного коду та партнерству з Qualcomm і MediaTek, Meta оминає обмеження операційних систем, що дає змогу розробникам впроваджувати ШІ на ширшому спектрі пристроїв, не чекаючи на системні оновлення. Цей підхід орієнтований не лише на пристрої найвищого класу, але й на доступні моделі Android на європейських ринках, де Meta очікує на значне поширення.

Роблячи свої моделі доступними на Hugging Face і своєму вебсайті Llama, Meta налагоджує зв’язок зі спільнотою розробників на вже знайомих платформах, які можуть зробити її моделі стандартами для розробки мобільного ШІ — подібно до того, як TensorFlow і PyTorch домінували в машинному навчанні.

Моделі Meta відповідають вимогам до конфіденційності та прозорості, дозволяючи мобільним пристроям обробляти конфіденційні дані незалежно від хмарних сховищ. Це дозволяє виконувати такі завдання, як підсумовування документів і аналіз текстів, локально, відображаючи попередній перехід від централізованих систем до локальних обчислень.

Хоча цей шлях ще не зовсім визначений — потужні телефони залишаються необхідними, а переваги хмарних технологій все ще існують — підхід Мета сигналізує про тенденцію до децентралізованого персонального ШІ, відкриваючи нові можливості для мобільних застосунків, які будуть швидкими, приватними та локальними інтелектуальними рішеннями.