Как подключиться к ИИ: браузер, API, локальный запуск
Одну и ту же модель можно использовать по-разному. Способ доступа определяет стоимость, приватность и контроль над данными.
1. Браузерные версии
Самый простой путь: открыть сайт и общаться с моделью. Не требует установки, но данные уходят провайдеру.
Плюс: ноль настройки
Работает сразу в браузере. Идеально для знакомства и разовых задач.
Минус: нет контроля
Вы не управляете инфраструктурой, не можете тонко настроить модель или гарантировать приватность.
Гибрид
Расширения (например, Page Assist) подключают локальную модель через Ollama или свой API-ключ прямо в браузере.
2. API и облачные платформы
Вы получаете ключ и платите за токены. Это стандарт для приложений и автоматизации.
| Платформа | Что даёт | Ценовой диапазон (вход / 1M) |
|---|---|---|
| OpenRouter | Единый API к 400+ моделям, проприетарным и открытым | от $0.03 (Mistral Nemo) до $10+ |
| OpenAI API | Прямой доступ к GPT-6 | $2.00–$10.00 |
| Anthropic API | Прямой доступ к Claude | $2.00–$5.00 |
| Google AI API | Gemini | $2.00 (Gemini 3.1 Pro) |
| DeepSeek API | Дешёвый доступ к сильной open-weight модели | ~$0.22–$2.20 |
3. Локальный запуск
Скачиваете веса и запускаете модель на своём железе. Полный контроль и приватность, но нужны GPU и время на настройку.
Инструменты
Ollama — самый простой старт. llama.cpp — для продвинутых. vLLM — для продакшена.
Железо
1B — ~2 ГБ VRAM (BF16). 7–8B — ~14 ГБ (FP16) или 4–7 ГБ (INT4). 70B — ~140 ГБ и несколько GPU.
Когда выбирать
Данные не должны покидать контур, нужна офлайн-работа, готовы платить за GPU, а не за токены.
Сколько нужно железа
| Масштаб | VRAM (BF16/FP16) | VRAM (INT4) | Железо | Ориентир по цене |
|---|---|---|---|---|
| ~1B | ~2 ГБ | ~0.5 ГБ | RTX 3060 12GB / RTX 4060 Ti 16GB | $0.25–$0.50/час |
| 7–8B | ~14 ГБ | ~4–7 ГБ | RTX 4090 24GB | ~$0.50/час |
| 70B | ~140 ГБ | — | 2×A100 80GB / 4×RTX 4090 | $3.50–$5.49/час (H100) |
RAG-инфраструктура
Если модель должна отвечать по вашим документам, к ней добавляется поисковый слой (RAG — генерация с опорой на найденные фрагменты).
| Компонент | Назначение | Рекомендуемая конфигурация |
|---|---|---|
| Векторная БД | Хранение эмбеддингов | 4–8 vCPU, 16–32 ГБ RAM, диск 50–200 ГБ (pgvector / Qdrant) |
| Оркестратор | Управление цепочкой «поиск → генерация» | 4–16 vCPU, 8–64 ГБ RAM |
| Эмбеддинг-модель | Векторизация текста | CPU или та же GPU, если есть запас VRAM |
| Реранкер | Переупорядочивание найденного | 1–2B модель на отдельной GPU или CPU |
| Диск | Документы, логи, модели | От 50 ГБ с ростом до сотен ГБ |
Стартовая конфигурация: одна облачная VM с GPU 24 ГБ (RTX 4090 / L4), 8–16 vCPU, 32–64 ГБ RAM. На ней — квантованная 7B-модель (vLLM или Ollama), PostgreSQL с pgvector и оркестратор. Стоимость — примерно $0.5–$1.5/час.
Где сравнивать модели
Рынок справочников делится на четыре типа — у каждого своя сильная сторона:
Study AI, ChadGPT, BotHub, Gerwin AI
Доступ к моделям через единый интерфейс, оплата в рублях, навигация по задачам, а не по названиям.
OpenRouter, Artificial Analysis, LLM-Stats
Фильтры по цене, контексту и качеству, метрики галлюцинаций и скорости, инструменты для разработчиков.
Hugging Face, LMArena, LiveBench
Открытые модели и датасеты, «слепые» сравнения на миллионах голосов, живые бенчмарки.
There's An AI For That, Toolify
Масштаб и структура категорий, карточки инструментов с кратким описанием и метриками.
Нужен ИИ внутри вашего процесса?
Разберём задачу, подберём модель и посчитаем стоимость — бесплатно, за 2 рабочих дня.