NeuralDeep: российский AI-стек на своих GPU — от LLM API до сети агентов

NeuralDeep — российский AI-хаб, который держит весь стек на собственных GPU в РФ. Чат с открытыми моделями, OpenAI-совместимое API, браузерный AI-IDE, сеть агентов, корпоративный поиск с RAG и каталог скиллов под российские сервисы. У части продуктов есть бесплатный тариф, тот же стек команда разворачивает on-premise в контуре заказчика. В материале разбираем устройство платформы, ключевые продукты, тарифы и сценарии, в которых NeuralDeep выгоднее зарубежных провайдеров.

Ключевое правило: для проектов с требованием «данные не должны покидать РФ» или «нельзя зависеть от зарубежного провайдера» NeuralDeep закрывает оба требования одним стеком. Если таких ограничений нет, выбор между локальным и облачным решением остаётся экономическим.

Что это

NeuralDeep — AI-инфраструктура, собранная на открытых моделях (gpt-oss-120b, Qwen3.6, BGE/E5-embeddings, Whisper) и развёрнутая на собственных серверах в России. Идея простая: дать доступ к топовым OSS-моделям без VPN, без зарубежных платёжек и без передачи данных за рубеж.

Платформа состоит из двух частей. Первая — готовые продукты, которыми можно пользоваться прямо сейчас на серверах NeuralDeep, у части есть бесплатный тариф. Вторая — внедрение в контуре заказчика: тот же стек команда разворачивает on-premise, на ваших GPU, с вашими данными, под ваши процессы. Проект ведёт Валера Ковальский (Head of AI), в open source у NeuralDeep более 1100 звёзд на GitHub.

Зачем нужно

• Заменить зарубежный LLM-провайдер. Перевести существующий проект на локальные модели в РФ, поменяв base URL и ключ, без VPN и зарубежных платёжек.
• Кодить на локальных моделях. Открыть репозиторий в браузерном Coder и работать с opencode-агентом без установки и без OpenAI/Anthropic.
• Собрать корпоративный поиск. Поднять RAG по внутренним документам через Search или развернуть его on-premise с embeddings + reranker + Qdrant или pg-vector.
• Запустить сеть агентов. Через Drift поднять Telegram-бота и веб-клиент со скиллами и расписаниями на собственных моделях.
• Расширить агентов под RU-сервисы. Поставить скиллы из каталога skillsBD для Яндекса, 1С, Битрикса, Wildberries, DaData.
• Транскрибировать аудио on-prem. Расшифровывать совещания и звонки через Whisper, не отдавая записи в облако.

Как устроено

Шесть витрин закрывают основные сценарии работы с LLM — от чата до сети агентов. Объединяет их один и тот же набор локальных моделей и единый вход через Hub: авторизовались один раз, и чат, API, IDE, агенты и поиск работают на общем стеке.

Модели и стек

Всё крутится на собственных GPU в России, без проксирования в зарубежные облака. В стек входят четыре класса моделей: диалоговые LLM, эмбеддинги, реранкер, речевые модели. По продуктам это распределяется так: Hub и API дают диалоговые LLM и эмбеддинги, Search добавляет реранкер для переранжирования результатов, audio-endpoint — распознавание речи.

Когда использовать

Тарифы и развёртывание on-premise

Для внедрения в своём контуре команда NeuralDeep предлагает четыре направления. Срок развёртывания — от 1–2 недель на базовые сценарии, дольше — для сложных кастомных агентов и интеграции с документооборотом заказчика.

• LLM gateway на ваших GPU — self-hosted OpenAI-совместимый API, multi-tenant, с биллингом и observability. Срок 1–2 недели.
• Корпоративный RAG / поиск — embeddings + reranker + Qdrant или pg-vector, с подключением к Confluence, Bitrix и файловым шарам. Без утечек в облако.
• Кастомный AI-агент — под ваш стек: CRM, базу знаний, документооборот. На проверенных open-source кирпичах (Claude Code, Cursor, MCP).
• Audio / транскрипция on-prem — Whisper на ваших GPU, real-time через WebSocket и batch для архивов.

Пример

Подключение через Python SDK. Поскольку API совместим с форматом OpenAI, миграция сводится к замене base URL и ключа.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.neuraldeep.ru/v1",
    api_key="<ваш ключ из hub.neuraldeep.ru>",
)

response = client.chat.completions.create(
    model="gpt-oss-120b",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(response.choices[0].message.content)

Доступные эндпоинты стандартные для OpenAI: /v1/chat/completions, /v1/embeddings, /v1/audio. Ключ выпускается в личном кабинете Hub. Имена моделей при миграции меняются на локальные: gpt-oss-120b вместо gpt-4o, BGE/E5 для embeddings.

Важно: перед установкой скилла из skillsBD читайте SKILL.md. Скилл — это инструкции для агента, и в нём может быть prompt injection. Каталог проходит модерацию, но базовую проверку делайте сами.

Open source: проекты NeuralDeep на GitHub

Команда выкладывает в open source инструменты, которыми пользуется сама. Аккаунт github.com/vakovalskii, 1 100+ звёзд суммарно по всем проектам.

Каталог скиллов skillsBD

skillsBD — open-source каталог скиллов и MCP-серверов, заточенный под российские сервисы. Скилл — это папка с файлом SKILL.md, который учит агента, как выполнить задачу. Каталог закрывает нишу, которой нет в западных агрегаторах: скиллы для Яндекса, 1С, Битрикса и DaData там просто не найти.

Установка скилла через CLI — глобальная установка не нужна. После установки скилл появляется в.claude/skills/ и сразу доступен агенту.

# Установить скилл
npx skillsbd add theYahia/dadata-mcp/dadata-skills

# Найти скиллы в каталоге
npx skillsbd search "яндекс"

# Посмотреть установленные
npx skillsbd list

Как установить скилл

CLI работает через npx — глобальная установка не нужна. После установки скилл появляется в.claude/skills/ и сразу доступен агенту.

# Установить скилл
npx skillsbd add theYahia/dadata-mcp/dadata-skills

# Найти скиллы в каталоге
npx skillsbd search "яндекс"

# Посмотреть установленные
npx skillsbd list

Прежде чем ставить скилл — прочитайте SKILL.md. Скилл — это инструкции для агента, и в нём может быть prompt injection. Плюс skillsBD в том, что всё проходит модерацию, но базовую проверку делайте сами.