Meta* сделала анонс нового семейства моделей искусственного интеллекта — Llama 4, в которое входят две модели: Llama 4 Scout и Llama 4 Maverick. Они уже используются в помощнике Meta AI* на сайтах и в приложениях WhatsApp*, Messenger* и Instagram*, а также доступны для скачивания.
Llama 4 Scout — компактная модель, способная работать всего на одном графическом процессоре Nvidia H100. У неё контекстное окно — «рабочая память» ИИ — на 10 миллионов токенов. По заявлениям Meta*, Scout обходит модели от Google (Gemma 3, Gemini 2.0 Flash-Lite) и популярную open-source-модель Mistral 3.1 по широкому спектру задач.
Llama 4 Maverick — более продвинутая модель, сопоставимая по уровню с GPT-4o от OpenAI и Gemini 2.0 от Google. В задачах по программированию и логике Maverick демонстрирует сравнимые результаты с DeepSeek-V3, используя при этом менее половины активных параметров.
Meta* также работает над третьей, самой мощной моделью — Llama 4 Behemoth. У неё 288 миллиардов активных параметров, а всего — 2 триллиона. Пока она не вышла в открытый доступ, но в компании заявляют, что Behemoth уже показывает выдающиеся результаты в задачах STEM и превосходит GPT-4.5 и Claude 3.7 Sonnet.
Все модели Llama 4 построены на архитектуре Mixture of Experts (MoE) — это означает, что модель использует только часть своей «экспертизы» при решении конкретной задачи, что снижает нагрузку на вычисления и ускоряет работу.
Несмотря на заявления Meta* об «открытости» моделей, лицензия Llama остаётся ограничительной: компании с аудиторией свыше 700 миллионов пользователей в месяц обязаны получить разрешение от Meta* для коммерческого использования моделей. Это ставит под сомнение их статус по-настоящему open-source.
Больше деталей о будущем Llama 4 и ИИ-продуктах Meta* компания обещает раскрыть на собственной конференции LlamaCon, которая пройдёт 29 апреля 2025 года.
*Meta признана в России экстремистской организацией и запрещена на территории РФ.
