Llama vs OpenAI o3 в 2026: open-weight кластер против reasoning-флагмана

Llama — это семейство open-weight моделей Meta FAIR (научной лаборатории Yann LeCun). На 2026-05-12 актуальные релизы — Llama 4 Scout (109B параметров total, 17B активных в MoE-архитектуре) и Llama 4 Maverick (400B total, 17B активных), оба вышли в апреле 2025. Рядом живёт стабильный legacy: Llama 3.1 405B (128K контекст) и Llama 3.3 70B. Это не сервис с UI — это веса, которые скачиваются с Hugging Face и разворачиваются через vLLM, Ollama или llama.cpp.

OpenAI o3 устроен с противоположной стороны. Это закрытая reasoning-модель, описанная Wikipedia как «reflective generative pre-trained transformer», обученный через reinforcement learning под chain-of-thought рассуждения. Линейка: o3-mini (31 января 2025), o3 + o4-mini (16 апреля 2025), o3-pro (10 июня 2025). Достать её можно только через ChatGPT и OpenAI API — никакого self-host, никаких весов в публике.

Различие глубже, чем «открытая модель vs закрытая». У Llama 4 MoE-архитектура: модель формально 400B, но в каждом проходе активны только 17B параметров. Получается «качество frontier при цене inference 17B-модели» — при условии, что вы можете держать все 400B в памяти. У o3 другая логика: модель сначала генерирует «invisible» thinking tokens (вы их не видите, но платите как за output), а затем выдаёт ответ. На сложной задаче — десятки секунд до минут одного запроса.

Стилистически Llama — это набор кирпичей: можно собирать что угодно, от русского fine-tune «Сайга» до RAG-системы для юридического департамента. o3 — это готовый острый инструмент: точно нацелен на задачи рассуждения, но не масштабируется ни в сторону голоса, ни в сторону рекламных текстов.

OpenAI o3 строилась под reasoning специально — это и есть её жанр. Цифры из Wikipedia (на которые ссылается dossier) на reasoning-бенчмарках выглядят так: 87.7% на GPQA Diamond (вопросы PhD-уровня по физике, химии и биологии), 87.3% на AIME 2024 у o3-mini в high-effort режиме (это математическая олимпиада), Codeforces Elo 2727 у o3 (уровень мирового топа в competitive programming), 71.7% на SWE-bench Verified на реальных GitHub-задачах. По ARC-AGI Wikipedia фиксирует прорыв уровня «утроенной точности» относительно o1.

У Llama специализированной reasoning-модели в линейке нет. Это прямо зафиксировано в dossier: «нет „Llama-R1“ аналога DeepSeek R1». Семейство достигает многошагового рассуждения через chain-of-thought prompting в обычных моделях. На фактологии и творческих задачах Llama 4 Maverick конкурентен с GPT-4-классом, но на задачах вида «провести 30 шагов формальной логики без потери цепочки» он систематически слабее моделей с RL-обучением под reasoning.

Полезная честность из dossier самого o3: Claude Sonnet 4.6 показал 79.6% на SWE-bench Verified — выше, чем 71.7% у o3. То есть o3 — не «лучший на любой reasoning-задаче», а лучший среди публично доступных reasoning-моделей OpenAI. Llama в этой нише в принципе не игрок — у Meta нет аналога o3 / R1 / Opus thinking, и сравнивать тут нужно честно: о3 8.5 vs Sonnet 9, о3 9 vs Llama 4 — диапазон.

Отдельная оговорка про ARC-AGI. В dossier o3 прямо сказано, что часть community считает прорыв результатом fine-tuning'а на ARC-задачах, а не сдвигом «общего интеллекта». Мы в редакции относимся к этой цифре осторожно: она впечатляет, но интерпретировать её как «AGI почти у нас» — преждевременно.

Кодовая способность o3 оцифрована точно. На SWE-bench Verified — стандарте отрасли для реальных GitHub-задач — o3 показывает 71.7% в high-effort режиме. У o3-mini в том же режиме — 49.3%. На Codeforces Elo (competitive programming) — 2727 у o3 против 2130 у o3-mini. Это уровень мирового топа человеческих программистов на алгоритмических задачах.

У Llama специализированной актуальной code-модели в линейке нет. Code Llama (на базе Llama 2) — это legacy от 2023 года, не флагман. Llama 4 Maverick справляется с general coding на уровне «конкурентен с GPT-4-классом» (формулировка dossier), но в сравнении с reasoning-моделью OpenAI это разные весовые категории. По бенчмаркам SWE-bench для Llama 4 публично сравнимых цифр в нашем dossier нет — это data gap.

Что это означает в реальной работе. На задачах класса «найди и почини баг в проекте на 50 файлов» o3 — рабочая лошадка: 71.7% решённых задач — это серьёзный показатель, при том, что Sonnet 4.6 ещё чуть выше. На задачах вида «напиши служебный CRUD по типичному ТЗ» Llama 4 70B или Maverick через Together или Groq справляется за копейки и быстрее.

Agentic coding — отдельная история. У o3 есть Tool Use, function calling, structured outputs и интеграция с Codex / Agent Mode внутри ChatGPT (через подписку Plus/Pro). У Llama штатных агентских надстроек нет: tool-use делается через function calling в API-обёртках, а агенты собираются на сторонних фреймворках (AutoGPT, LangGraph, кастомные пайплайны).

На объём заявленного контекста у Llama редкая по индустрии цифра. Llama 4 Scout — 10 миллионов токенов, на момент 2026-05-12 это рекорд публично доступных моделей. Llama 4 Maverick — 1M. Llama 3.1 405B (стабильный legacy) — 128K. Зафиксировано прямо в dossier llama §2.

У o3 ситуация скромнее. Через ChatGPT Plus/Pro контекст ограничен лимитом тарифа (типично 128K). Точный context window для o3 / o4-mini в API — data gap dossier (точные цифры публикуются на platform.openai.com, который у нас не отдал данные при проверке). Reasoning-модель в принципе не оптимизирована на «прочитать всё разом» — она оптимизирована на «думать долго над тем, что прочитала».

Большая оговорка к 10M. «Заявлено» — не значит «работает на полную глубину». Dossier llama честно фиксирует: «реальная точность при использовании всего 10M контекста — пока подтверждена слабо», независимых MRCR / Needle-in-Haystack тестов на 2026-05 мало. Это означает, что Llama 4 Scout — серьёзный кандидат под массивы документов, но перед production-внедрением нужны собственные тесты на вашем типе данных. Не нужно слепо верить пресс-релизу.

Что критично понимать: Llama под длинный контекст — это в первую очередь self-host или managed inference у Together / Groq / Fireworks. Удерживать в памяти 109B-параметровую модель ради 10M контекста требует серьёзного железа. У o3 эта проблема решена за вас — но ценой того, что больше 128K в чате не положишь. Даже потолок Maverick в 1M — это объём, недоступный для o3 внутри ChatGPT-инфраструктуры.

Vision-вход у обоих сервисов есть, но с оговорками. У OpenAI o3 — нативный vision: можно загрузить изображение и попросить разобрать математическую диаграмму или скриншот таблицы (модель работает с этим в reasoning-режиме). У o3-mini vision нет, это text-only. Для o4-mini точная multimodal-поддержка на 2026-05 — data gap dossier.

У Llama 4 (Scout и Maverick) — нативная мультимодальность, vision на вход встроен. Llama 3.2 — отдельные vision-модели на 11B и 90B параметров. Это позволяет строить системы «текст + картинка на вход» без vendor lock-in: модели качаются и крутятся локально.

Чего нет ни у Llama, ни у o3 — генерации изображений, видео и голосового режима внутри самой модели. У ChatGPT-экосистемы есть DALL-E, Sora, Voice Mode — но это не o3, это другие модели в той же подписке. У Llama есть Meta AI Chat с image generation, но meta.ai заблокирован в РФ и доступен только в нескольких западных странах.

Аудио и видео generation у самой Llama нет (зафиксировано в dossier §2). У o3 нет голосового режима в reasoning-парадигме — модель «думает», а не разговаривает. Если нужен голос или генерация изображений, оба сервиса — мимо.

Важный нюанс с vision у o3: он есть только у самой o3 — у o3-mini его нет, это text-only модель. Это значит, что разработчики, использующие mini для удешевления запросов, теряют способность обрабатывать изображения. У Llama 3.2 vision устроено иначе: отдельные модели на 11B и 90B параметров, которые можно дообучать под собственные задачи — медицинские снимки, технические чертежи, специализированные диаграммы. Это редкое в индустрии преимущество — vision под узкую отраслевую задачу без vendor lock-in.

Качество русского у Llama в нашем dossier оценено в 6/10. Модель справляется «прилично», особенно на 70B+ и 405B, но в творческом тексте — «заметный иностранный акцент». Это не приоритетный язык в обучении Meta: официально в Llama 3.1 поддерживаются 8 приоритетных языков (английский, немецкий, французский, итальянский, португальский, хинди, испанский, тайский). Русский в этот список не входит. Для Llama 4 — данных меньше, точный список языков на 2026-05 в детальной форме не подтверждён (data gap).

У OpenAI o3 русский оценён в 7/10. Модель наследует языковую базу GPT-4-серии (95+ языков), и базовая беглость лучше — но для reasoning-задач на русском это тоже не приоритет: RL-обучение OpenAI ведётся в основном на английском. Официальных бенчмарков русского у o3/o4-mini в нашем dossier нет — это data gap.

Важный обходной путь, который зафиксирован в dossier Llama: на базе Llama построен «Сайга» — известный open-source fine-tune на русский. Это значит, что если русский критичен и инженерные ресурсы есть, Llama легко доводится до приемлемого уровня. С o3 такой манёвр невозможен — модель закрыта, fine-tune недоступен.

Ни одна из этих двух моделей — не выбор для копирайтера, который пишет рекламные тексты на русском под российскую аудиторию. Тут лидеры — YandexGPT и GigaChat, нативно обученные на русском. Llama и o3 — это инструменты для других задач, в которых русский нужен «понять написанное и ответить», а не «выдать пост в Дзен на 2000 знаков».

Llama — open-weight, веса бесплатные. С Hugging Face или llama.com скачиваются без оплаты. Но «бесплатность» — это только лицензия. Для Llama 3.1 405B нужно ~8×H100 на self-host (dossier §3.1) — это $200-300K в железе или эквивалент аренды. Для Llama 70B — 2×H100 или эквивалент. Для Llama 8B хватает M2 Pro с 20-40 tok/s.

Через провайдеров — Together AI, Groq, Fireworks AI, Replicate, AWS Bedrock — Llama обойдётся в $0.20-$2 за 1M токенов (зависит от размера модели). Это в разы дешевле frontier-моделей, но точные актуальные цены провайдеров на 2026-05 — data gap (быстро меняются).

У o3 ценник прозрачнее. ChatGPT Plus — $20/мес ($240/год) — доступ к o3 и o4-mini с лимитами. ChatGPT Pro — $200/мес ($2400/год) — здесь живёт o3-pro, 20x usage относительно Plus, 250 Deep Research runs/мес. ChatGPT Business — $25/seat/мес. API o3 — приблизительно $10 input / $40 output за 1M токенов (ориентир по 2025, точные актуальные цифры на 2026-05 — data gap, platform.openai.com отдал 403 при проверке).

Считаем годовое владение для разработчика на ~5M токенов в месяц. Через o3 API — $50/мес за input + $50-200/мес за reasoning-output, итого $1200-3000/год. Через Llama 70B на Together — $30-60/мес, итого $360-720/год. На объёме 50M токенов в месяц разница уходит в десятки тысяч долларов.

Llama даёт самый честный free-доступ из возможных: веса бесплатные навсегда. С учётом оговорок Llama Community License (нельзя если у вашей компании >700M MAU — а это считанные единицы в мире) — модель скачивается, разворачивается, fine-tune'ится, используется в коммерческих продуктах без лицензионных платежей. Hugging Chat даёт бесплатный веб-чат с Llama без регистрации.

У o3 ситуация скромнее. На ChatGPT Free — обычно нет доступа к o-series, либо доступ с очень малыми лимитами (точные цифры — data gap dossier). Базовая модель Free-тарифа — GPT-5.3 Instant с лимитами. То есть «попробовать o3 бесплатно» — практически невозможно. Нужен либо ChatGPT Plus за $20/мес, либо доступ через посредника-реселлера.

Отдельная история — meta.ai (Meta AI Chat). Это потребительский интерфейс Llama, бесплатный, с image generation. Но он доступен только в США и нескольких западных странах. В РФ заблокирован — нужны VPN и аккаунт в нужном регионе. Так что для российского пользователя реальный free-путь к Llama — это Hugging Chat и сторонние оболочки (Poe, Private LLM).

У OpenAI o3 — единый API на platform.openai.com, OpenAI-compatible. В арсенале: function calling, structured outputs, tool use, vision (для o3). Effort levels (low / medium / high) доступны разработчику для управления глубиной thinking. Цены — ориентировочно $10 input / $40 output за 1M токенов (по публикациям 2025; точные актуальные на 2026-05 — data gap, platform.openai.com отдал 403 при проверке dossier). Reasoning-output включает «invisible» thinking tokens, которые оплачиваются как обычный output — это удорожает большие задачи в 5-20 раз против non-reasoning моделей.

Llama API устроен иначе. Самих весов недостаточно — модель нужно крутить где-то. Варианты: Together AI ($0.20-$2 за 1M), Groq (ультрабыстрый inference на LPU-чипах, цена близка к Together, до 500-1000 tok/s на Llama 70B), Fireworks AI, Replicate (pay-per-second), AWS Bedrock / Azure AI Foundry / Google Vertex AI с enterprise-условиями. У большинства провайдеров — OpenAI-compatible API, миграция занимает часы.

Для self-host Llama есть production-стек: vLLM, llama.cpp, Ollama, TGI. Не один «standard SDK», а экосистема — гибче, но требует осознанного выбора инструмента.

Узкое место Llama в API — отсутствие штатных reasoning-фич и agentic-обёрток. Function calling есть, но «autonomous agent» собирается на сторонних фреймворках (AutoGPT, LangGraph). У o3 — Tool Use и Agent Mode внутри ChatGPT-инфраструктуры.

У OpenAI o3 ситуация прямая и тяжёлая. Доступ из РФ заблокирован — наследует общую блокировку OpenAI по IP с 2023-2024. Оплата российскими картами невозможна. Обходные пути: VPN + зарубежная карта, iTunes-карты, посредники типа ProxyAPI. Все эти схемы — на риске пользователя.

У Llama картина радикально другая. Веса с Hugging Face работают в РФ обычно без проблем — пока сама HF не под временной блокировкой. Это значит, что скачать Llama 4 Scout или Llama 3.1 405B можно с типичной российской интернет-сессии. meta.ai (Meta AI Chat) — заблокирован, требует VPN, но это потребительский фронтенд, не сама модель. Для коммерческого использования через cloud-провайдеров (Together, Groq, Fireworks) обычно нужны зарубежные карты — оплата cloud остаётся проблемой.

Самое практичное следствие. Self-host Llama в РФ — это единственный полностью «чистый» путь к frontier-уровню моделей без VPN и без зарубежной оплаты. Купить или арендовать GPU-сервер можно у российских хостеров за рубли, скачать веса с HF, запустить vLLM или Ollama — и работать с моделью в собственной инфраструктуре. С o3 такой путь невозможен в принципе: модель закрыта, и любая работа с ней проходит через VPN и зарубежные платежи.

Llama под self-host собрана продумано. Веса свободно скачиваются с Hugging Face, можно использовать любой из четырёх production-стеков: vLLM (для серверного inference), llama.cpp (CPU и consumer GPU), Ollama (one-click local install), TGI (Hugging Face). На 8×H100 крутится Llama 405B с порядка 30-60 tok/s; на 2×H100 или эквиваленте — Llama 70B; на M2 Pro — Llama 8B с 20-40 tok/s.

У OpenAI o3 self-host невозможен в принципе. Модель закрытая, веса не публикуются, нельзя развернуть в своём периметре. Единственная альтернатива для тех, кому критичен self-host reasoning — DeepSeek-R1: MIT-лицензия, open weights, существенно дешевле. Это прямо зафиксировано в dossier o3 §13 как рекомендация «если нужна self-host опция».

Что это значит для регулируемых отраслей в РФ. У Llama формальная возможность развернуть в РФ-периметре — с аттестацией ФСТЭК для гос-сегмента. У o3 такой возможности нет. Кто использует ChatGPT/Claude в российской компании с ПДн — нарушает 152-ФЗ, даже через VPN.

152-ФЗ требует обработки персональных данных российских граждан на территории РФ. Это закрытый чек для всех западных SaaS, включая OpenAI. o3 не соответствует 152-ФЗ — обработка ПДн ведётся на серверах OpenAI за пределами РФ (зафиксировано в dossier §7). Использование o3 в банке, страховой компании, медицинском учреждении при работе с данными клиентов — нарушение закона, даже через VPN.

Llama в self-host режиме на территории РФ формально может быть совместима с 152-ФЗ. Это требует ряда шагов: развёртывание на серверах в РФ (свои или у российского хостера), аттестация ФСТЭК для гос-сегмента, выстраивание процессов хранения и обработки данных согласно требованиям регулятора. Это не «всё включено», но это технически возможный путь — для o3 такого пути нет.

Важная альтернатива для российского B2B, в которой ни одна из двух моделей не побеждает — это GigaChat Enterprise и YandexGPT для корпораций. Эти сервисы изначально проектировались под российскую юрисдикцию и закрывают вопрос compliance «из коробки» без аттестаций ФСТЭК.

Llama даёт «свой стек, под своим контролем» — полезно тем, кому нужно сочетать russian compliance с fine-tune под отраслевую лексику. Пример — Сайга, open-source fine-tune на русский.

Скоростной рекордсмен в нашей паре — Llama через специализированную инфраструктуру. Groq + Llama 70B = 500-1000+ tok/s. Groq использует собственные LPU-чипы под inference, и выдаёт скорости, недостижимые на универсальных GPU. TTFT на Groq — десятки миллисекунд.

OpenAI o3 устроена принципиально иначе. Это reasoning-модель, она «думает» десятки секунд до минут на сложной задаче, прежде чем начать выдавать ответ. Чем выше effort level (low / medium / high), тем дольше. На сложных GPQA-задачах ответ может занять 1-2 минуты. Для o3 TTFT неинформативна — модель сначала генерирует invisible reasoning tokens, и пользователь видит только финальный ответ.

Скрытая стоимость скорости у o3. Reasoning-модель потребляет 5-20x токенов по сравнению с обычной моделью (включая invisible thinking tokens, которые оплачиваются как обычный output). Это значит, что не только latency высокая, но и стоимость одного запроса в API растёт в разы относительно non-reasoning моделей вроде GPT-5.4 Standard или Sonnet 4.6 без thinking.

У Llama список «только здесь» собирается вокруг открытости. 10M контекстное окно в Llama 4 Scout — на 2026-05-12 рекорд публично доступных моделей. MoE-архитектура с 17B активных параметров в Llama 4 даёт качество frontier при стоимости inference 17B-модели. Сотни тысяч fine-tunes и производных моделей на HF. Llama Stack для production-деплоя. Llama Guard / Llama Shield — safety-модели.

У OpenAI o3 эксклюзивы лежат в плоскости reasoning. Рекорд 87.7% на GPQA Diamond — публично подтверждённый, без аналогов среди публичных моделей на момент 2026-05. «Утроенная точность» на ARC-AGI относительно o1 — прорыв на задаче, которая ранее считалась непосильной для LLM (с оговоркой о скептицизме part of community про fine-tuning artifacts). Vision-поддержка в reasoning-модели — единственная reasoning-модель OpenAI с нативным vision (Claude Opus 4.7 thinking тоже имеет vision, DeepSeek R1 / Grok Think пока ограничены текстом). Tunable effort levels low / medium / high — разработчик выбирает баланс скорость vs качество.

Принципиальное наблюдение редакции: эксклюзивы Llama воспроизвести через любой закрытый API нельзя — нельзя «получить open weights» через ChatGPT. Эксклюзивы o3 нельзя получить через open-weight модели сегодня, но в принципе они догоняемы: DeepSeek-R1 (MIT-лицензия) уже занимает нишу open-reasoning. То есть Llama продаёт «то, что недоступно по построению», а o3 — «то, что пока недоступно, но в принципе повторимо в open-source».

Сценарий 1. Юридический анализ массива документов. Команда юристов прогоняет через ИИ 4000 страниц договоров в один заход. Llama 4 Scout с 10M контекста — единственная публичная модель, которая берёт такой объём без дробления на куски. У o3 ограничение порядка 128K в ChatGPT — придётся резать, и тогда теряются перекрёстные ссылки между разделами.

Сценарий 2. Регулируемая отрасль в РФ (банк, страховая, медицина). Compliance 152-ФЗ требует обработки ПДн в России. Llama self-host на сервере в РФ с аттестацией ФСТЭК — формально возможен. o3 — недоступен ни в каком виде, обработка ведётся на серверах OpenAI вне РФ.

Сценарий 3. ML-стартап на seed-стадии без бюджета на API. Команда из 3 человек прототипирует SaaS с LLM-функционалом. Llama 8B на собственном Mac через Ollama даёт 20-40 tok/s бесплатно, неограниченно. ChatGPT Plus за $20/мес тоже доступен, но это не подходит для большого количества инференсов в продукте.

Сценарий 4. Fine-tune под узкую задачу. Медицинский центр хочет ассистента, обученного на собственной базе протоколов. Llama 70B можно fine-tune'ить (как это сделал «Сайга» с русским). Веса o3 закрыты — fine-tune недоступен принципиально.

Сценарий 5. Production-чат-бот с строгим SLA на latency. Сервис обещает пользователю ответ за 2 секунды. Llama 70B на Groq выдаёт 500-1000 tok/s с TTFT в десятки миллисекунд — это укладывается в SLA. o3 — reasoning-модель, «думает» минуты на сложной задаче, для interactive-чата не подходит по построению.

Каждый из пяти сценариев имеет реальный production-аналог — это не теоретические разделения, а наблюдения редакции по работе с ML-командами в РФ и СНГ за последний год.

Сценарий 1. Олимпиадная математика и научные расчёты. Аспирант-физик проверяет вывод длинной теоремы. o3-mini в high-effort показал 87.3% на AIME 2024. Llama в этой нише — base coder без специализированного reasoning, систематически слабее в задачах с многошаговой формальной логикой.

Сценарий 2. Сложный рефакторинг в крупном репозитории. Найти и починить нетривиальный баг в 50-файловом проекте. o3 показывает 71.7% на SWE-bench Verified — это самый высокий бенчмарк reasoning-кода у OpenAI на 2026-05. Llama 4 на этом бенчмарке публичных сравнимых цифр не имеет (data gap).

Сценарий 3. Анализ научной диаграммы или схемы. Инженер загружает скриншот сложной графики и просит разобрать. o3 — единственная reasoning-модель OpenAI с нативным vision; разбирает изображение в reasoning-режиме. Vision у Llama тоже есть (4 Scout/Maverick, 3.2), но не в reasoning-парадигме.

Сценарий 4. Команда без ML-инженеров и инфраструктуры. Малый бизнес, 5 продакт-менеджеров, нет DevOps. Нужен инструмент «открыл и пользуешься» с интеграциями (Slack, GitHub, Google Drive). ChatGPT Business с o3 — 60+ коннекторов из коробки. Llama требует ML-стека: vLLM, Ollama, choice of provider, infrastructure.

Сценарий 5. Финансовый аналитик с многошаговыми расчётами. Например, разложить сложный налоговый кейс на 30 шагов формальной логики и проверить вывод. o3 с distributed thinking «думает» минуты — это не баг, а целевое поведение. Llama без reasoning-RL такого режима не имеет; CoT-prompting в обычной модели даёт частичный эффект, но не сравним с RL-обученным reasoning.

Портрет 1. Дмитрий, 34, ML-инженер в финтех-стартапе. Семь лет в Python, есть AWS-аккаунт компании, бюджет на железо. Нужно прототипировать reasoning-надстройку поверх корпоративной базы знаний. Берёт Llama. Конкретно — Llama 4 Maverick через AWS Bedrock на старте, потом self-host на собственных H100 для prod. Причина: контроль над весами, выбор провайдера без vendor lock-in, возможность fine-tune на корпоративную лексику.

Портрет 2. Анна, 29, аспирант-математик в МГУ. Работает над диссертацией по теории чисел. Нужно проверять выводы сложных доказательств, искать ошибки в логических цепочках на десятки шагов. Берёт OpenAI o3. Конкретно — через ChatGPT Plus за $20/мес. Причина: 87.7% GPQA Diamond и 87.3% AIME — это уровень PhD-задач, на которых Llama без специализированного reasoning систематически проигрывает.

Портрет 3. Виктор, 45, руководитель IT в среднем российском банке. Compliance с 152-ФЗ обязателен. Нужен ассистент для внутренних задач: меморандумы, разбор документов, помощь юристам. Берёт Llama self-host в РФ-периметре. Конкретно — Llama 3.3 70B на 2×H100 с аттестацией ФСТЭК. Альтернатива — GigaChat Enterprise. o3 — недопустим политикой и законом.

Портрет 4. Елена, 31, продакт-менеджер в EdTech. Команда из 6 человек, ML-инженеров нет. Нужен ассистент для генерации заданий, разбора ответов студентов, проектирования курсов. Берёт ChatGPT Plus с o3 за $20/мес. Готовый продукт с UI, 60+ коннекторов, нет ML-стека. Llama тут — overkill.

Портрет 5. Сергей, 27, AI-исследователь в академии. Делает сравнительные исследования frontier-моделей. Нужны и open-weight модели для воспроизводимости, и frontier reasoning для верификации. Берёт оба. Llama 4 Maverick — для основных экспериментов, o3 — для финальных бенчмарков. Это и есть гибридный сценарий, который раскрываем в следующем блоке.

Гибрид 1. Llama 4 Scout как «контекст-фронт», o3 как «reasoning-бэк». Юридический департамент закидывает в Llama 4 Scout (через Together или self-host) пакет договоров на 4M токенов, получает сжатый структурированный summary, потом отправляет этот summary в ChatGPT с o3 для финального reasoning — найти противоречия, классифицировать риски. Каждый сервис делает то, в чём силён: Llama берёт объём, o3 — глубину анализа.

Гибрид 2. Llama для прототипа, o3 для production-сложных задач. ML-стартап на seed строит SaaS на open-weight моделях: дёшево, контролируемо, можно fine-tune'ить. Но 5% самых сложных пользовательских запросов (reasoning, многошаговая логика) роутятся на o3 через OpenAI API. Получается «массовый трафик за копейки, премиум-трафик за качество».

Гибрид 3. Llama для compliance-чувствительных данных, o3 для всего остального. Российская компания обрабатывает ПДн клиентов через Llama self-host (152-ФЗ-compliant), а внутренние задачи команды (рисёрч, аналитика, помощь с кодом) — через ChatGPT Plus с o3 для индивидуальных аккаунтов. Юридически это допустимо, потому что ПДн клиентов не покидают периметр.

Гибрид 4. Llama Guard как safety-фильтр поверх o3. Production-сервис, где входные пользовательские запросы сначала прогоняются через Llama Guard (open-source safety-модель), и только после фильтрации идут в o3. Это позволяет применять собственную политику модерации, а не полагаться только на OpenAI refusal patterns (которые в dossier o3 §12 отмечены как иногда блокирующие исследовательскую работу).