Вопросы и ответы про ИИ
Короткие ответы на вопросы, которые чаще всего возникают при знакомстве с нейросетями.
Откуда берутся ИИ-модели, которые можно скачать?
Модели обучаются на данных: текстах из интернета, книг, кода и статей. Цикл — сбор, очистка, предобучение, дообучение и публикация весов (например, на Hugging Face). Скачать модель значит получить файл весов, но для работы всё равно нужны вычисления: свои GPU, облачный API или браузер с WebGPU.
Чем отличаются проприетарные, открытые и бесплатные модели?
Проприетарные доступны только через API или чат и обычно дают максимальное качество. Открытые (open-weight) можно скачать и запустить на своём железе. Бесплатные тарифы дают доступ с лимитами — они удобны для знакомства с моделью и разовых задач.
Что такое токен и почему за него платят?
Токен — единица текста, которой оперирует модель: слово, часть слова или символ. Провайдеры считают объём обработки в токенах, поэтому цена API указывается за миллион токенов на входе и выходе.
Что такое контекстное окно?
Это объём текста, который модель удерживает за один раз: ваш запрос, документы и предыдущие сообщения. Современные модели вмещают до 1–2 млн токенов, но чем больше контекст, тем дороже обработка.
Чем RAG отличается от обычного чата с моделью?
В обычном чате модель отвечает из своих обученных знаний. RAG дополнительно ищет подходящие фрагменты в ваших документах и строит ответ по ним — так ответы опираются на актуальные источники, а не только на память модели.
Почему одна и та же задача стоит по-разному?
На цену влияют модель (флагман или компактная), длина запроса и ответа, количество попыток и кэширование. Кэш может снизить цену входных токенов на 90–98%, поэтому стоимость задачи считают, а не оценивают по прайсу за токен.
Нужен ИИ внутри вашего процесса?
Разберём задачу, подберём модель и посчитаем стоимость — бесплатно, за 2 рабочих дня.