Обзор LLM-инструментов

LLM в России: дорожная карта пользователя (май 2026)


Во первых строках

Май 2026. Большие языковые модели перестали быть диковинкой. И даже на ЛОРе под аккомпанимент из ворчания “старичков” появился раздел про ИИшечку. Правда, выясняется, что далеко не все даже в технарском сообществе знают, что собой предтавляет современный ландшафт ЛЛМок: что они умеют, как их применяют, зачем они вообще нужны.

Серьезно усложняет погружение в актуальный контекст (в человеческом смысле слова) уникальный “русский путь”: блокировки со стороны западных разработциков и провайдеров, блокировки от родного РКН и (с недавних пор) ФСБ. Отсюда следуют: платёжные ограничения, обилие китайских альтернатив, собственные разработки Яндекса и Сбера как бенчмарк и пример LLM ( последний пункт - это очень, очень плохо).

Поэтому в недрах моей черепной коропки и на серверах Shēndù Qiúsuǒ (в большей степени) родился следующий текст. Он о том, как большинство пользователей знакомится с БЯМами, какие этапы в работе с модельками проходит, и какие есть варианты выбора в море способов взаимодействия с очень Искусственным не очень Интеллектом.

Текст большой, поэтому вот оглавление:

  1. Первое касание: веб-чаты
  2. Коготок (claw) застрял - всей птичке пропасть: связка Агент + API
  3. А внутри у ней - нейронка: плагин, память и контекст
  4. Полный суверенитет и абсолютное погружение: локальный инференс
  5. Напоследок

Двигаемся по уровням погружения.


Первое касание: веб-чаты

Вы только знакомитесь с LLM. У вас нет ни API-ключа, ни желания разбираться с токенами и эндпоинтами. Нужна вкладка в браузере, куда можно написать вопрос и получить ответ. Благо, в 2026 году вариантов — море. Начнём с того, что доступно прямо здесь и сейчас, без обмазывания проксями и ВПНами, бесплатно, иногда с СМС.

DeepSeek — главный хит среди китайских чатов. Регистрация по email, с апреля - модель V4-Pro с контекстным окном в миллион токенов. Работает только с текстом и файлами, генерации изображений нет. Бесплатно.

Qwen Chat от Alibaba — если хочется мультимодальности. Генерация изображений? Встроена. Видеопонимание? Пожалуйста. Голосовой ввод? Есть. Qwen Studio позволяет переключаться между разными версиями моделей. Есть мостик к тем самым кодинг-агентам (о них позже) - кодинг-режим прямо из веб-интерфейса. С возможность подключения своего git-репо, с работой в git-образном окошке.

Kimi от Moonshot AI навалил массу фич прямо в веб интерфейс. Тут и кодинг-окошко, и конструктор сайтов. И даже мечта офисного работника - автогенерация презенташек. Загрузил документ — получил готовый PPT.

Doubao (ByteDance) делает ставку на голосовой диалог — естественную речь, AI-персонажей, экосистему TikTok. Можно делать картинки, переводить тексть, выполнять домашку. Модно, молодежно, для неразвлекательных целей - малоприменимо.

Ernie Bot (Baidu) и Spark (iFlytek) — ещё два китайских товарища. Ernie щеголяет плагинами и интеграцией с поиском Baidu, Spark — лучшими в Китае голосовыми технологиями и мультяшными цифровыми аватарками. Для российского пользователя - не особо полезно.

z.ai — Хороший базовый набор в веб-чате: генерация текстов, слайдов, таблиц, дашбордов, кода. Из России работает нестабильно, могут не работать некоторые функции. Годится в качестве тест-режима модельки GLM-5.1 перед покупкой API-ключа.

MiniMax — Комбайн в вебе: тут и “агенты”, и “скиллы”, и создание артефактов от табличек до видео. Фишка - режим “Эксперты”: режим диалога с моделью системными промптами и MCP заточенной под конкретные задачи. Раньше много было бесплатно, теперь эти функции - в месячном “триале” перед базовой подпиской.

StepFun / 阶跃AI — Дипсик на минималках. Примечателен бешеным количеством рекламы: продвигают свой форк OpenClaw и API-подписку к нему.

Все эти чаты доступны из России без VPN. Минус: часть требует китайский номер для регистрации.

Таблица 1.1 Чат-боты, доступные без VPN
Чат Вендор Страна Текст Изобр. Ген. изобр. Файлы Голос Код Поиск Уникальные фичи веб-интерфейса
DeepSeek Chat DeepSeek КНР ✓* V4-Pro с 1M токенов контекста; редкие обновления (V4 — апрель 2026); модель открыта (MIT)
Qwen Chat Alibaba КНР Qwen Studio — переключение моделей (Qwen3.6-Plus и др.); встроенная генерация изображений (Qwen Image); видеопонимание; голосовой ввод; кодинг-режим с возможностью подключения репозитория
Kimi Moonshot AI КНР Сверхдлинный контекст (200K+ токенов); встроенный генератор презентаций (PPT); Kimi+ — агенты для специализированных задач; кодинг-режим
Doubao ByteDance КНР Голосовой диалог — естественная речь; AI-персонажи; экосистема Douyin/TikTok
Ernie Bot Baidu КНР Плагины расширения; глубокая интеграция с поиском Baidu; ERNIE 4.5
Spark iFlytek КНР Лидер голосовых технологий — распознавание и синтез речи; отраслевые ассистенты (медицина, право, образование)
YandexGPT Яндекс РФ Шедеврум† Интеграция с сервисами Яндекса (почта, карты, музыка); Яндекс 300 — реферат лонгрида, подкаста или длинного видео по ссылке; Алиса Про (голос, по Плюсу); Шедеврум для изображений
GigaChat Сбер РФ ✓ Kandinsky Салют† Kandinsky — генерация изображений прямо в чате; экосистема Сбера (банк, умный дом); бесплатный тариф
z.ai Zhipu AI КНР ✓ GLM-Image GLM-5.1 (уровень флагманов); Agent mode с генерацией .docx/.pdf/.xlsx; 200K контекст; бесплатно
MiniMax MiniMax КНР MiniMax-M1 — 1M контекст, open-weight; голосовой ввод/вывод; Agent mode; бесплатно без регистрации (ограниченный режим)
StepFun / 阶跃AI StepFun КНР Step-3.5-Flash; генерация видео; мультимодальность; бесплатно

* Чтение текста из изображений, без генерации. † Отдельный сервис/ассистент, не в веб-интерфейсе чата.

Российские решения — варианта два и оба так себе: YandexGPT aka AlisaAI и GigaChat. Отстают от флагманов западного моделестроения очень сильно. Для серьезной работы (по крайней мере, с текстами, картинками и видео) - почти не пригодны. Но плюcы, конечно есть. Русский язык для них родной. YandexGPT встроен в поиск Яндекса, в Алису, в сервис «Яндекс 300» (гусары,молчать!) - краткий пересказ статей, подкастов и видео. GigaChat от Сбера умеет генерировать изображения (Kandinsky) прямо в чате. Оба работают без VPN, Яндекс еще и доступен при режиме “белых списков” (почти всегда), принимают российские карты для премиум-функций.

А теперь — веб-чаты, которые без VPN не открываются: ChatGPT, Claude, Gemini, Grok, Perplexity, Mistral, Microsoft Copilot, запрещенная и экстремистская Meta AI. Это западные флагманы. У каждого — арсенал уникальных фич: Artifacts у Claude, Canvas и GPTs у ChatGPT, Perplexity с полным цитированием источников. Есть все, что и у web-реализаций из Поднебесной и с горкой. Но дверь заперта. Нужны VPN и, для платных подписок, иностранная карта. Досадно, но ладно.

Таблица 1.2 Чат-боты, доступные с VPN
Чат Вендор Ключевые модели (май 2026) Уникальные фичи веб-интерфейса Плата
ChatGPT OpenAI (США) GPT-5.5, GPT-5.4 Canvas (интерактивное редактирование текста/кода), DALL-E 3 (изображения), Sora (видео), GPT-магазин кастомных агентов, Deep Research, Code Interpreter, Projects $20–200/мес, нужна иностранная карта
Claude Anthropic (США) Opus 4.7, Sonnet 4.6, Haiku 4.5 Artifacts — интерактивные мини-приложения прямо в чате; Cowork — автономное выполнение задач в десктоп-приложении; Projects; 1M контекст; Skills $20–200/мес, нужна иностранная карта
Gemini Google (США) Gemini 2.5 Pro/Flash Deep Research; Gems (кастомные ассистенты); Canvas; глубокая интеграция с Gmail, Docs, Drive, YouTube, Maps, Calendar; NotebookLM; Veo (видео) Бесплатно / Advanced $20/мес
Grok xAI (США) Grok 4, Grok 4.1 Deep/Deeper Search; Aurora — генерация изображений; интеграция с X (Twitter) — анализ твитов; Big Brain; «Fun Mode» — менее фильтрованные ответы Требуется X-аккаунт
Perplexity Perplexity AI (США) Sonar / GPT-5.5 / Claude / Grok Pro Search с уточняющими вопросами и полным цитированием; Pages — генератор статей; Spaces; Collections; Focus-режимы (Academic, Writing, Math) Бесплатно / Pro $20/мес
Mistral Mistral AI (Франция) Mistral Large Le Chat Agents (настраиваемые); Canvas; Flux (генерация изображений); Code Interpreter Бесплатно / Pro / Team
Microsoft Copilot Microsoft (США) GPT-4.1/4.5 DALL-E 3, Deep Research, Pages, интеграция с M365/Edge/Windows Бесплатно / Pro $20/мес
Meta AI Meta (запрещенная+экстремистская) Llama 4 Интеграция с WhatsApp/Instagram/Facebook; Imagine (генерация изображений); голосовой режим Бесплатно

Для всех: требуется VPN + иностранная карта для платной подписки (кроме Perplexity Free, Mistral Free и Meta AI).


Коготок (claw) застрял - всей птичке пропасть: связка Агент + API

Вы распробовали чаты. Теперь хочется большего: чтобы нейросеть работала с кодом, файловой системой, терминалом. Чтобы сама коммитила в Git, открывала PR, запускала тесты. Сделала rm -rf /*, наконец. Для этого нужны две вещи: агент(к агентности в философском или daemon смысле не имеет никакого отношения, просто так повелось называть) - это софт, который оркестрирует взаимодействие и предоставляет инструметы расширяюшие или ограничивающие работу модели и API-провайдер - тот, кто поставляет доступ к самой LLM, развернутой на серверах китайских товарищей или буржуйских супостатов.

Поставщики «мозгов» бывают двух сортов

Вендоры — разработчики моделей: OpenAI, Anthropic, Google (бесплатные flash-модели по API!!!), DeepSeek, Alibaba (Qwen), Z.ai API, MiMo (Xiaomi). У них прямой доступ к собственным моделям. Агрегаторы — посредники, собирающие модели от разных вендоров под одной крышей: OpenRouter есть бесплатный план, DeepInfra, Together AI, Groq есть бесплатный план, Fireworks AI, OpenCode (Zen/Go) есть бесплатный план, Cerebras есть бесплатный план. Список можно продолжать и продолжать, заканчивая помойками-однодневками от успешных васянов с ветхими стойками в древних ЦОДах. Отмечу, многие из агрегаторов не только продают доступ к общим инференс-инстансам, для солидных господ есть предложения о покупке отдельного инстанса или, натурально, выделенного вычислительного кластера для рассупонивания модельки.

Таблица 2.1 Провайдеры API. Сводная
Провайдер Тип VPN Оплата из РФ Ключевые модели Способ оплаты
DeepSeek Вендор Ограничена V4-Pro (1.6T MoE), V4-Flash UnionPay / PayPal (не РФ) / посредники
Qwen (Alibaba) Вендор Ограничена Qwen3.6, Qwen3.5, Qwen3-VL Иностранная карта / бизнес-контракт / посредники
Moonshot/Kimi Вендор Ограничена Kimi-K2.6 (MoE, 256K) Китайские платёжные системы
Z.ai Вендор Ограничена GLM-5.1, GLM-5, GLM-5-Turbo, GLM-4.7 Иностранная карта / посредники (есть free tier!)
Nvidia Вендор (Nemotron + хостинг через NIM) Ограничена Nemotron 3 Nano Omni 30B-A3B (reasoning), DeepSeek V4 Pro, GLM-5.1, Gemma 4, Llama (затюненные варианты) Иностранная карта (есть free tier!)
OpenRouter Агрегатор (400+ моделей) Крипта GPT-5.5, Claude, Gemini, DeepSeek, Qwen, Kimi, GLM, Llama и др. Криптовалюта (USDT/BTC) — главное не светить свою страну( некоторые пользователи сообщают о блокировках)
DeepInfra Агрегатор (100+ моделей) Ограничена DeepSeek V4, Kimi K2.6, Qwen, GLM Иностранная карта
Together AI Агрегатор (200+ моделей) Ограничена DeepSeek, Qwen, Kimi, Llama, Mistral, FLUX Иностранная карта / Enterprise-инвойс
Groq Агрегатор (LPU-чипы) Ограничена Llama, Qwen, Mistral, DeepSeek (open-source) Иностранная карта (есть free tier!)
Cerebras Агрегатор (CS-3 wafer-scale чипы) Ограничена GPT-OSS-120B, Llama 4 Scout/Maverick, Llama 3.3-70B, Qwen 3-235B (Thinking), GLM-4.7 Иностранная карта (есть free tier!) — до 3 000 токенов/с
OpenCode Агрегатор (12+ моделей, агентно-оптимизированные) Ограничена DeepSeek V4 Pro/Flash, Qwen3.6 Plus, Qwen3.5 Plus, Kimi K2.6, GLM-5.1, MiniMax M2.7, MiMo-V2.5-Pro Zen: pay-as-you-go ($20 пополнение, нулевая наценка, карта). Go: подписка $10/мес ($5 первый месяц)
Fireworks AI Агрегатор Ограничена DeepSeek V4, Kimi K2.6, Qwen3.6, GLM Иностранная карта
OpenAI Вендор Заблокирована GPT-5.5, GPT-5, o4-pro Только иностранная карта + VPN
Anthropic Вендор Заблокирована Claude Opus 4.7, Sonnet 4.6 Только иностранная карта + VPN
Google AI Вендор Заблокирована Gemini 2.5 Pro/Flash Только иностранная карта + VPN
YandexGPT Вендор (РФ) Полная YandexGPT Pro/Lite/Summarization, YandexART Российские карты, Яндекс.Облако, счёт юрлицам
GigaChat Вендор (РФ) Полная GigaChat 2 Max/Pro/Lite, Kandinsky, Embeddings Российские карты, Сбер ID, счёт юрлицам
MTS AI Вендор (РФ) Полная MTS AI Chat/Vision Российские карты

Отдельного упоминания стоит nVidia - эти ребята производят не только лучшие GPU и NPU на сегодняшний день, они еще и файн-тюнят открытые модельки, предоставляют API и держат репозиторий открытых моделей (что это и зачем - дальше по тексту). Почти все провайдеры требуют иностранную карту. Но есть обходные пути: оформление иностранных карт, посредники с разнообразных платежных сервисов (тысячи их), старая добрая крипта.

Российские вендоры YandexGPT и GigaChat тоже предоставляют доступ к моделькам через API. Полная поддержка российских карт, данные на серверах в РФ. GigaChat даёт 1M токенов бесплатно при регистрации. Кто-то пользуется.

Агенты: open-source и проприетарные

Агент — это программа, которая превращает LLM из собеседника в деятеля. Агент читает код, пишет файлы, запускает команды, ищет в интернете, подключается к базам данных. Его принято ставить в Doker’ы, на виртуалки, на отдельные ПК (все любят MAC mini). На самом деле, если вы не кулхацкер, то для задач регулярной генерации текстов, создания скриптов для локальных автоматизаций, кодинга своего уютного сайтика - вполне можно разворачивать локально на машинке в юзер-директории (большинство агентов сами вам напомнят, что надо высовывать в сеть, а что нет, и в каких случаях). Так или иначе, все инструменты из нашего обзора делятся на три лагеря:

Open-source агенты:

OpenCode (150K ★) — CLI/Desktop/IDE/Web. TypeScript. Поддерживает 75+ провайдеров, включая локальные модели. Может работать в headless-режиме. Кроссплатформенный. Универсальный. Cline (61.5K ★) — расширение VS Code. MCP из коробки, умеет генерировать MCP-серверы прямо из чата. Подтверждение каждого действия (human-in-the-loop). Kilocode (19K ★) — позиционируется как “инженерная платформа”, кроссплатформенный, расширенный функции автоматизации/ выполнения циклических задач. Aider (44.5K ★) — CLI, Python. Фишка: Repomap — карта репозитория для навигации модели. Qwen Code (24K ★) — CLI от Alibaba. Заточен под семейство Qwen, но работает с любыми моделями. Поддержка Skills и SubAgents. Roo Code (24K ★) — форк Cline с фокусом на кастомизацию режимов. Поддерживает русский язык в интерфейсе. LangChain, CrewAI, AutoGPT, MetaGPT, Qwen Agent — фреймворки для построения собственных агентных систем. От библиотек до платформ с marketplace. Pi-agent (45.8K ★) — минималистичный terminal-based harness от Mario Zechner. Философия: «адаптируй pi под себя, а не наоборот». Собственный TUI-движок. Не поддерживает MCP принципиально — всё необходимое строится через extensions. По сути — эталонный каркас для построения LLM-агентов: на его SDK построен, в частности, OpenClaw.

Таблица 2.2 Агенты с открытым кодом
Инструмент Тип клиента Интерфейс Windows macOS Linux Плагины/MCP Клиент-сервер Язык Интеграции GitHub Цена
OpenCode Отдельный CLI / Desktop / IDE / Web MCP, плагины Мультисессии, headless, Web TypeScript 75+ провайдеров, GitHub Copilot, LSP 150K ★ Бесплатно
Cline Встройка VS Code / CLI MCP (создание из чата) Интегрирован в IDE TypeScript OpenRouter, Anthropic, OpenAI, AWS Bedrock, локальные 61.5K ★ Бесплатно
Pi-agent Отдельный CLI (TUI) / RPC / SDK ✓ (WSL2) Extensions + Skills (нет MCP) RPC (stdin/stdout JSONL), SDK TypeScript 25+ провайдеров; tmux, контейнеры 45.8K ★ Бесплатно (MIT)
Aider Отдельный CLI Нет CLI, headless, watch-режим Python Claude, DeepSeek, OpenAI, локальные; Git-автокоммиты 44.5K ★ Бесплатно
Continue Встройка VS Code / JetBrains / CLI MCP, агенты как Markdown CLI-проверки в CI/CD TypeScript GitHub (статус-чеки на PR), любые LLM 33K ★ Бесплатно
Qwen Code Отдельный CLI / VS Code / JetBrains / Zed MCP, Skills, SubAgents Headless (qwen -p), SDK TypeScript OpenAI-API, Anthropic, локальные, OpenRouter 24K ★ Бесплатно
Roo Code Встройка VS Code MCP, Custom Modes Интегрирован в IDE TypeScript Все основные провайдеры; русский в интерфейсе 24K ★ Бесплатно
LangChain Фреймворк Библиотека (Python/TS) MCP, Deep Agents LangSmith (платный мониторинг) Python Стандартные интерфейсы для LLM, эмбеддингов, векторных БД 136K ★ Бесплатно
CrewAI Фреймворк Библиотека / CLI MCP Crews (автономные) + Flows Python Multi-agent оркестрация 51K ★ Бесплатно
AutoGPT Отдельный Платформа / CLI / Web Частично Self-hosted + Cloud beta Python Agent Builder, Marketplace 184K ★ Бесплатно
MetaGPT Отдельный CLI Нет CLI / HuggingFace Space Python Роли PM, архитектора, инженера 68K ★ Бесплатно

Проприетарные агенты:

Claude Code (Anthropic) — терминальный AI-разработчик. Автономная работа с кодом, коммиты, PR. Но: в РФ нужен и VPN, и иностранная карта. Худшая доступность. VS Code — база. Минималистичный, расширяемый. Самый распространённый. GitHub Copilot - это по сути то же самое. Cursor — AI IDE (форк VS Code). Composer 2, сверхточное автодополнение, облачные агенты. Windsurf — ещё один agentic IDE. Cascade (локальный агент) + Devin (облачный). Agent Command Center — канбан-доска для управления агентами. Antigravity (Google) — десктоп-приложение. Регионально ограничен, но сообщество поддерживает open-antigravity-patcher для обхода блокировок в РФ.

Таблица 2.3 Агенты с закрытым кодом
Инструмент Тип клиента Вендор Интерфейс Windows macOS Linux MCP Клиент-сервер Особенности Цена
Codex Отдельный OpenAI (США) Desktop / VS Code / CLI / Web Да Cloud-агенты, worktrees Cloud-агенты, worktrees, computer use, 90+ плагинов В подписке ChatGPT
Claude Code Отдельный Anthropic (США) CLI / IDE / Desktop / Web Да Headless, Remote Control Автономная работа с кодом и PR; худшая доступность в РФ $20–200/мес
Claude Cowork Отдельный Anthropic (США) Desktop GUI / Web Плагины Десктоп + Web Автономные задачи для нетехнических В подписке
GitHub Copilot Встройка Microsoft (США) VS Code / JetBrains / Xcode / CLI / Web MCP Облачные агенты, CLI Copilot, Claude, Codex — модель на выбор Free–$39/мес
Cursor Отдельный Anysphere (США) AI IDE / CLI / Slack MCP IDE + Cloud Agents Composer 2; Tab-модель; 50%+ Fortune 500 Free–$40/мес
Windsurf Отдельный Cognition AI (США) AI IDE / JetBrains MCP Cascade + Devin Agent Command Center — канбан для агентов Free–$15/мес
Antigravity Отдельный Google (США) Desktop (Electron) Cloud Code endpoint Облачный (Google Cloud) Регионально ограничен; community patcher для РФ Freemium
Cody Встройка Sourcegraph (США) VS Code / JetBrains / VS / Web / CLI MCP Sourcegraph Enterprise Глубокое понимание кодовой базы Freemium

Агенты общего назначения стоят особняком от кодинг-агентов. Это не встройка в IDE и не CLI-утилита для работы с репозиторием — это персональные ассистенты, которые живут на вашем сервере/локальной машине, помнят контекст между сессиями и доступны через Telegram, Discord, Slack и другие каналы.

Таблица 2.4 Агенты общего назначения (ассистенты)
Инструмент Интерфейс Каналы Память Self-host MCP Самообучение Язык GitHub Цена
OpenClaw CLI (TUI) / Gateway + Web UI / iOS + Android 24+ (WhatsApp, Telegram, Slack, Discord, Signal, iMessage) Config-файлы, context engine Да (Docker/локально) Да (bundle-плагины) Частично TypeScript 369K ★ Бесплатно (MIT)
Hermes Agent CLI (TUI) / Gateway / Web UI Telegram, Discord, Slack, WhatsApp, Signal, Email, CLI MEMORY.md, USER.md, FTS5 поиск Да (Python/VPS) Да Да (auto-skills) Python + TS 104K ★ Бесплатно (MIT)
Moltis Web UI / CLI Telegram, WhatsApp, Discord, Slack, Matrix, Nostr, Teams SQLite + FTS + vector Да (single binary, Rust) Да Нет Rust Бесплатно
Leon Web UI / CLI Web, голос Layered memory Да (Node.js) Нет Нет TS + Python 17K ★ Бесплатно (MIT)
OpenAkita GUI / CLI Telegram, Feishu, WeCom, DingTalk, QQ Daily health-check Да (Python) Да Да (self-taught skills) Python + TS + Rust 1.7K ★ Бесплатно (Apache 2.0)

Важный нюанс: почти все агенты — «агностики». Они не привязаны к конкретному вендору. Вы можете направить Cline на OpenRouter, Aider — на DeepSeek API, OpenCode — на локальную Ollama. Связка выбирается под задачу и бюджет. Исключения: Claude Code работает только с моделями Anthropic; Qwen Code оптимизирован под Qwen, но принимает и другие эндпоинты.

OpenClaw (369K ★) — лидер среди ассистентов общего назначения (см. таблицу 2.4). Это не чисто кодинг-агент, а персональный AI-ассистент с мультиканальным Gateway (24+ каналов). Агентный движок построен на Pi-agent SDK. Влияние на экосистему колоссально: именно OpenClaw популяризировал TUI-интерфейс среди массовой аудитории, а его система навыков ClawHub (5400+ skills) задала стандарт для реестров агентных умений.

Hermes Agent (104K ★) — самообучающийся агент от Nous Research. Создаёт reusable skills из опыта, улучшает их в процессе работы. Встроенный cron-планировщик, субагенты, браузерная автоматизация. 18+ LLM-провайдеров.

Выбор агента — вопрос привычек (CLI/IDE/Web) и языка реализации. Выбор API — вопрос доступности, цены и качества модели для конкретной задачи. Специализированных российских AI-агентов для работы с кодом по состоянию на май 2026 не существует. YandexGPT и GigaChat — LLM общего назначения, не agentic tools. Адаптация open-source решений (Cline, Aider, Qwen Code) с локальными моделями или российскими API-провайдерами — основной путь для разработчиков и вайб-кодеров в РФ.


А внутри у ней - нейронка: плагин, память и контекст

Вы собрали связку «агент + API» и она работает. Но со временем приходит понимание: агент, который после каждой сессии «забывает» всё на свете — это пол-агента. Ему нужна память, причем такая, которая не сжигает все контекстное окно еще до старта задачи. Ему нужны инструменты, хорошо бы мониторируемые и логируемые. Не лишним будет распараллеливание работы, запуск отдельных суб-агентов. Для простых ребят, не владеющих тайным мастерством программирования, желательно, чтобы эти инструменты кто-то уже написал.

К счастью, вокруг каждого крупного агента выросла экосистема. И она быстро конвергирует к единым стандартам.

Рынок плагинов и MCP-серверы

Плагины расширяют функциональность агента — дают доступ к файловой системе, базам данных, API, браузеру, терминалу. Без плагинов агент умеет только генерировать текст.

MCP (Model Context Protocol) стал универсальным стандартом подключения инструментов. Репозиторий modelcontextprotocol/servers — 85K звёзд, 10K форков, тысячи community-серверов. MCP работает через stdio или HTTP/SSE, позволяет подключить любой внешний инструмент без написания кода внутри самого агента.

Самый раздутый маркетплейс — ClawHub у OpenClaw. 5400+ скиллов, 52 тысячи инструментов, 180 тысяч пользователей, 12 миллионов загрузок. У Claude Codeофициальный маркетплейс от Anthropic — 13 официальных плагинов. Cline — агент сам создаёт MCP-серверы из чата.

Реестры MCP-серверов: Smithery — Большой пул MCP общего назначения: поисковые, аналитика по блокчейнам, астрологические прогнозы. Бесплатно 50 000 вызовов в месяц.

, PulseMCP — Агрегатор MCP - сам доступ не раздает. Все серверы свалены в кучу, не для всех опубликованы эндпоинты (т.е. нашел какой-то MCP - идешь к провайдеру и смотришь как привязаться).

, MCPM — Фишка - есть свой “MCP Manager”. Инструмент интегрируется с “ассистентами” и “кодинг-агентами” позволяет искать и настраивать MCP без походов по сайтам и репозиториям.

.

Таблица 3.1 Форматы плагинов для разных экосистем
Агент Формат плагинов MCP Особенности
OpenClaw Native (.openclaw.plugin.json) + bundle (Codex/Claude/Cursor) Да (через bundle) Крупнейшая экосистема; ClawHub — 5400+ скиллов, 52.7K инструментов
Claude Code .claude-plugin/plugin.json + хуки (9 событий) Да (.mcp.json) 13 официальных плагинов: code-review, feature-dev, pr-review-toolkit
Cline MCP (создание из чата) Да Уникальная фича: агент сам пишет и устанавливает MCP-серверы
Pi-agent Extensions (TypeScript), Pi Packages (npm) Нет (принципиально) Extensions регистрируют инструменты, команды, hotkeys, UI-компоненты
OpenCode Custom Commands (Markdown), MCP Да MCP через stdio/SSE; 75+ LLM-провайдеров; LSP-автозагрузка
Cursor .cursor/rules, .cursor-plugin Да AgentSkills
Windsurf .windsurfrules Да Ограничено

Скиллы (Skills)

Скилл — это не код, а инструкция + контекст. Файл SKILL.md с YAML frontmatter описывает, что агент должен делать в определённой ситуации. Модель сама решает, когда активировать скилл.

Главное отличие от плагинов: плагин добавляет новый инструмент (функцию, API-вызов), скилл добавляет новые знания и поведенческие паттерны. Скилл не требует программирования — это markdown-файл с инструкциями.

Стандарт AgentSkills (SKILL.md) — совместим между Pi, Claude Code, Cline, OpenClaw, OpenCode. YAML frontmatter содержит name, description, triggers — по ним модель определяет, какой скилл применить.

Контекст-файлы

Помимо плагинов и скиллов, поведение агента задаётся через markdown-файлы в директории проекта. Самый простой способ «настроить» агента без единой строчки кода:

Файл Назначение Где используется
AGENTS.md Общие инструкции для всех агентов в проекте OpenClaw, Cline, Codex, Cursor и др.
SOUL.md Личность, стиль общения, ценности агента OpenClaw, Hermes Agent
TOOLS.md Описание доступных инструментов OpenClaw
USER.md Профиль пользователя: предпочтения, стиль Hermes Agent, OpenClaw, и др.
MEMORY.md Долговременная память агента Hermes Agent
.clinerules Правила поведения для Cline Cline
.cursorrules Правила поведения для Cursor Cursor

Эти файлы автоматически подхватываются агентом при старте сессии и инжектируются в системный промпт. Их можно версионировать в Git.

Память агента — иногда за нее нужно платить

Агент который знает и помнит все про вашу машину, про вас, про ваши привычки. Страшно… очень страшно… Но значительной части юзеров именно это и надо. Чтобы агент поддерживал стиль общения, помнил, над чем вы с ним работаете, дольше одной сессии.

Типы памяти: session (внутри одной сессии), cross-session (предпочтения между сессиями), long-term / archival (архив с recall-механизмом).

Mem0 (55K ★, Apache 2.0) — де-факто стандарт. Алгоритм v3 (апрель 2026): single-pass ADD-only экстракция, entity linking, multi-signal retrieval. Бенчмарки: 91.6 на LoCoMo, 93.4 на LongMemEval. Self-hosted: pip install mem0ai или docker compose up.

Letta (ex-MemGPT, 22.5K ★) — self-editing memory: агент сам обновляет свою память. Архивная память + recall.

LangMem (MIT) — Memory SDK для LangGraph-агентов.

Таблица 3.2 Сравнение готовых решений для организации памяти агента
Решение Тип Звёзд Self-host MCP Подключение Цена Особенности
Mem0 Open-source (Apache 2.0) + Cloud 55K Да (pip install mem0ai / Docker) Да Библиотека / Docker / Cloud Бесплатно (self-host) / Cloud от $20/мес Multi-level memory; v3: single-pass ADD-only, entity linking; бенчмарки 91.6 LoCoMo
Letta (ex-MemGPT) Open-source (Apache 2.0) + Cloud 22.5K Да (Docker) Нет (REST API) Docker / Cloud Бесплатно (self-host) / Cloud от $25/мес Self-editing memory blocks; агент сам обновляет память; архивная память + recall
LangMem Open-source (MIT) 1.4K Да (pip install langmem) Нет Библиотека Бесплатно Memory SDK для LangGraph; core memory API; background memory manager
Zep Проприетарное облако 4.5K ❌ (deprecated) Да Cloud only От $49/мес Graph RAG + temporal knowledge graph; sub-200ms latency; SOC2/HIPAA

Векторные базы как фундамент памяти

Любое memory-решение опирается на векторную БД. Для продвинутых пользователей — возможность развернуть свой memory backend без готовых решений.

Milvus (44K ★), Qdrant (31K ★), ChromaDB (28K ★), Weaviate (16K ★) — все open-source, все разворачиваются локально в Docker, все бесплатны.

Таблица 3.3 Векторные базы данных
БД Звёзд Язык Лицензия Сложность Локально Облако Особенности
ChromaDB 27.8K Rust + Python Apache 2.0 ★☆☆ (легко) Да (embedded / Docker) Chroma Cloud API из 4 функций; встроена в Mem0 по умолчанию; pip install chromadb
Qdrant 31.1K Rust Apache 2.0 ★★☆ (средне) Да (Docker / in-memory) Qdrant Cloud (free tier) Квантование векторов (экономия RAM до 97%); фильтрация по payload
Milvus 44.2K Go + C++ Apache 2.0 ★★★ (сложно) Да (Docker/K8s, Milvus Lite) Zilliz Cloud (free tier) GPU acceleration, fully distributed, 10B+ векторов
Weaviate 16.1K Go BSD-3 ★★☆ (средне) Да (Docker) Weaviate Cloud Гибридный поиск, RAG, реранкинг, мультиарендность
Pinecone Проприетарная ★☆☆ (легко) ❌ (cloud only) Pinecone Cloud Serverless, SOC2/HIPAA; только API

Когда нужна векторная БД: если вы строите RAG-систему, работаете с большими документами, или хотите кастомную память агента с семантическим поиском. Для большинства пользователей достаточно Mem0 (self-hosted) с ChromaDB — это минимум кода и максимум результата.

Экосистема расширений — то, что превращает агента из игрушки в инструмент. Плагины и скиллы добавляют способности. Memory-решения добавляют контекст между сессиями. Векторные БД — фундамент. Почти всё open-source и работает локально — российскому пользователю здесь вольготно.


Полный суверенитет и абсолютное погружение: локальный инференс

Вы преисполнились. Вам мало облачных API. Хочется, чтобы модель работала на вашем железе, без интернета, без лимитов, без оглядки на чужие серверы. Все - мы в стадии локального развертывания БЯМ. Здесь три составляющих: где брать модели, чем их запускать и на чём их запускать. Ответ на последний вопрос суперпростой - на чем угодно. Современные модели постояннно оптимизируются под “слабенькие” железки, снижают требования к объему памяти и вычислительной мощности квантизацией и ротацией активных параметров. Видеокарта НЕ обязательна - большинство инструментов запуска (почти у всех под капотом llama.cpp) прекрасно работает как с GPU, так и со связкой CPU+RAM. Отсюда стандартный вывод: много оперативы не бывает.

Репозитории моделей

Главный хаб планеты — Hugging Face. 2 миллиона моделей. Доступен из России без VPN (май 2026). Некоторые российские аккаунты удалены, но сам сайт открыт. При больших загрузках может барахлить без VPN.

ModelScope — китайский аналог HF от Alibaba. Эксклюзивные китайские модели, которых нет на Hugging Face.

Ollama Library — встроенный реестр моделей для инструмента Ollama.

CivitAI — репозиторий моделей для генерации изображений (Stable Diffusion, Flux).

Таблица 4.1 Репозитории открытых моделей. Сервисы для хостинга LLM-инстансов
Репозиторий Назначение Примечание
Hugging Face (huggingface.co) Основной мировой репозиторий — 2M+ моделей ✅ Доступен из РФ (май 2026). Некоторые аккаунты РФ-организаций (sberbank-ai) удалены, но сайт открыт.
GitHub (github.com) Хостинг кода, Git LFS для моделей, релизы ✅ Доступен.
ModelScope (modelscope.cn) Китайский аналог HF от Alibaba. Китайские модели (Qwen, DeepSeek, GLM, Yi и др.) ✅ Доступен. Некоторые модели эксклюзивно на ModelScope.
Ollama Library (ollama.com/library) Встроенный реестр моделей Ollama ✅ Доступен.
CivitAI (civitai.com) Репозиторий моделей для генерации изображений (SD, Flux) ✅ Доступен.

Собственного российского репозитория нет. Российские открытые модели — это практически исключительно экосистема Сбера (GigaChat, ruGPT, Kandinsky), выложенные организацией ai-sage на Hugging Face. Яндекс веса не публикует.

Инструменты запуска

llama.cpp (109K ★) — фундамент всего. Чистый C++, без внешних зависимостей. Компилируется под всё: от серверной стойки с 8×H100 до Android-телефона. Поддерживает 200+ архитектур, квантование от 1.5 до 8 бит. Multi-node через RPC. OpenAI-совместимый API-сервер.

Ollama (109K ★) — проприетарная обёртка над llama.cpp, доведённая до состояния «скачал и заработало». Одна команда ollama run llama3 — и модель отвечает. Есть платный облачный уровень Pro/Max.

vLLM (79.3K ★) — инструмент для продакшена. Python, PagedAttention, continuous batching. Максимальная пропускная способность при массовых запросах. Multi-node. pip install vllm — и поехали.

SGLang (18K ★) — инференс-комбайн на Питоне. Есть отдельный режим оптимизации запуска на CPU-only сборках.

ExLlamaV3 (4.5K ★) — простое решение для простых моделек. Заявлена оптимизация под инференс на потребительских видеокарточках.

TensorRT-LLM (12K ★) — инференс-решение от nVidia - нуф сказал

LM Studio — десктопное приложение с GUI. Встроенный каталог моделей: выбрал → скачал → запустил. OpenAI-совместимый API из коробки. Бесплатно для коммерческого использования.

Open WebUI (137K ★, 290M+ загрузок) — комбайн для запуска модели сразу с интерфейсом. Подхватывает мультимодальные модельки и дает им интерфейсы для создания картинок, звуков видео. По сути инструмент инференса+сервер+агент в одном флаконе.

Jan (82K ★) — просто чятик, который можно оживить оптимизированными Qwen-модельками или, через небольшие танцы с бубном, любой моделькой.

LocalAI (26K ★) — Очередной комбайн “для всего”. Особенность: поддерживается куча бэкенд-версий, отсюда теоретическая возможность запуска почти на любом относительно современном железе. Есть CPU-only

Таблица 4.2 Движки инференса (backend)
Инструмент Тип Платформы Распределённый API Форматы GPU Ключевые особенности Звёзды
llama.cpp Open-source (C++) Win, Lin, Mac, iOS, Android, RISC-V ✓ Multi-GPU + Multi-node RPC OpenAI-совместимый GGUF CUDA, Metal, Vulkan, SYCL, HIP 200+ архитектур; квантование 1.5–8 бит; чистый C++; CPU+GPU гибрид 109K
Ollama Проприетарная обёртка Win, Lin, Mac OpenAI-совместимый GGUF (llama.cpp) CUDA, Metal Простейшая установка: ollama run llama3; реестр моделей 109K
vLLM Open-source (Python) Linux; NVIDIA/AMD/Intel/TPU ✓ Tensor/Pipeline parallelism; Multi-node OpenAI + Anthropic API HF, GGUF, GPTQ/AWQ, FP8 CUDA, ROCm, Gaudi, TPU PagedAttention; 200+ архитектур; continuous batching 79.3K
SGLang Open-source (Python) Linux; NVIDIA/AMD ✓ Tensor parallelism; Multi-node OpenAI-совместимый HF, GGUF CUDA, ROCm RadixAttention (prefix caching 85-95%); xGrammar для JSON; на 29% быстрее vLLM на RAG 18K
MLX Open-source (Apple) Mac (Apple Silicon), Linux Multi-device (CPU+GPU) Python API (mlx-lm) MLX, HF, GGUF Apple Silicon GPU Разработан Apple; NumPy-подобный API; lazy computation 26K
ExLlamaV3 Open-source (Python/C++) Win, Lin (NVIDIA) Multi-GPU TabbyAPI (OpenAI-совместимый) GPTQ, EXL2, EXL3 CUDA Преемник ExLlamaV2; максимальная производительность на NVIDIA 4.5K
TensorRT-LLM Open-source (NVIDIA) Linux (NVIDIA) ✓ Tensor parallelism OpenAI-совместимый HF, TensorRT engine CUDA Максимальная пропускная способность на H100/B200; FP4 inference 12K
Таблица 4.3 Интерфейсы и платформы (frontend)
Инструмент Тип Платформы Подключение MCP RAG Ключевые особенности Звёзды
Open WebUI Open-source (Web) Docker, K8s, pip Ollama, OpenAI, Anthropic, vLLM Да ✓ (9 БД, 15+ поисков) Де-факто стандарт self-hosted; multi-user RBAC; Python-функции; code execution; voice/video; 290M+ загрузок 137K
LM Studio Проприетарное (GUI) Win, Lin, Mac Встроенный (llama.cpp), Ollama Да (клиент) Десктопный GUI; каталог моделей; side-by-side сравнение; бесплатный для коммерческого использования
TextGen (oobabooga) Open-source (Python) Win, Lin, Mac Встроенный (Transformers, llama.cpp, ExLlamaV3) Да (сервер) Веб-интерфейс (Gradio); multimodal; LoRA-тренировка; генерация изображений; TTS 47K
GPT4All Open-source (GUI) Win, Lin, Mac Встроенный (llama.cpp) ✓ (LocalDocs) LocalDocs — чат с документами; Python API; Vulkan-ускорение 77.4K
KoboldCpp Open-source (C++) Win, Lin, Mac, Android (Termux) Встроенный (llama.cpp) Один исполняемый файл; LLM + Image Gen + Video Gen + STT + TTS + Music Gen 10.4K
Jan Open-source (Desktop) Win, Lin, Mac Встроенный (llama.cpp, ONNX), облачные Приватный десктопный GUI; гибридный локальный/облачный режим 82K
LocalAI Open-source (Go) Docker, Linux, Mac Встроенный (llama.cpp, SD, whisper) Drop-in замена OpenAI API; текст + изображения (SD) + TTS + STT через один endpoint 26K

Когда что выбирать:

Российских инструментов для локального инференса нет. Российские модели запускаются через международные инструменты — те же GGUF-квантизации GigaChat 3.1 работают в llama.cpp и Ollama без проблем.

Напоследок

Является ли этот гайд/обзор полным и исчерпывающим? Конечно нет. Во первых все онлан-чятики, провайдеров API, кодинг-агентов, различных около-ИИшных утилит и инструментов - не переназвать. Во ворых отрасль развивается очень быстро, и также быстро устареет этот материал. Где-то в середине лета выйдут новые крупные западные и китайские модели (скриньте этот твит). Скорее всего, еще раньше появится новая “хайповая” тема - навроде OpenClaw в начале этого года. Но парой вещей эта портянка ценна: она описывает логику знакомства обычного работяги с БЯМами, плюс тут очень много ссылочек на всяческую халяву и опен-сорц. Надеюсь, вам пригодится.