Глоссарий

Термины нейросетей, API и сравнения моделей на понятном языке.

Модели и их возможности

LLM · большая языковая модель
Модель, обученная на больших наборах данных работать с языком: писать, объяснять, переводить и обрабатывать текст. ChatGPT и другие приложения используют такие модели, но само приложение и модель внутри него не одно и то же.
SLM · малая языковая модель
Относительно компактная языковая модель. Обычно требует меньше памяти и вычислений; некоторые можно запускать на ноутбуке или телефоне. Размер сам по себе не определяет качество: небольшая специализированная модель может хорошо решать свою задачу.
Мультимодальность
Работа с несколькими видами данных: текстом, изображениями, звуком или видео. Набор возможностей зависит от модели. Умение распознавать картинку ещё не означает, что модель умеет создавать изображения или читать любой PDF.
AGI · общий искусственный интеллект
Название для ИИ с широкими интеллектуальными возможностями, сопоставимыми с человеческими. Единого общепринятого теста на AGI нет, поэтому заявления о его достижении нужно оценивать вместе с определением и доказательствами автора.
Открытые веса
Опубликованные параметры модели, которые можно скачать и запускать самостоятельно. Разрешения на коммерческое использование, изменение и распространение зависят от лицензии. Открытые веса не обязательно означают открытые данные обучения или полностью открытый исходный код.
Квантизация
Хранение и вычисление параметров модели с меньшей точностью, чтобы сократить расход памяти и иногда ускорить работу. Это может менять качество ответов. Квантизованную версию стоит отличать от исходной модели при сравнении тарифов.

Запросы, ответы и контекст

Промпт
Задание и данные, которые вы передаёте модели. В запрос могут входить вопрос, примеры, документы и ограничения на формат ответа.
Системный промпт
Инструкции приложения о роли модели и правилах ответа. Они передаются отдельно от обычного сообщения пользователя и тоже могут занимать контекст и учитываться в стоимости входа.
Токен
Единица, на которые модель разбивает данные. В тексте это может быть часть слова, целое слово, знак или пробел. Число токенов зависит от языка и токенизатора; постоянного курса «одно слово = столько-то токенов» нет.
Входные и выходные токены
Входные токены относятся к данным, отправленным модели, включая переданную историю разговора. Выходные относятся к сгенерированному результату. Обычно у входа и выхода разные тарифы; отдельные модели также тарифицируют токены рассуждения.
Контекстное окно
Лимит данных, доступных модели при обработке запроса. Его расходуют инструкции, история, документы и, в зависимости от API, место под ответ. При превышении лимита приложение может сократить историю, сделать сводку или получить ошибку.
Память
Сведения, которые приложение сохраняет между разговорами и при необходимости снова передаёт модели. Это могут быть ваши предпочтения или заметки о проекте. Такая память не равна контекстному окну и обычно не меняет веса модели.
Inference · инференс
Использование уже обученной модели для получения результата. Один пользовательский запрос может запустить несколько обращений к модели, например если агент ищет информацию и вызывает инструменты.
Reasoning · рассуждение
Способ работы, при котором модель тратит дополнительные вычисления на решение задачи. Может помогать в коде, математике и планировании, но увеличивать время и стоимость. Полный внутренний ход решения пользователю показывают не всегда.
Streaming · потоковый ответ
Передача результата частями по мере генерации. Вы начинаете читать ответ до его завершения. Потоковая передача сама по себе не уменьшает число оплачиваемых токенов.

Поиск, документы и обучение

Deep Research · глубокое исследование
Режим приложения, в котором ИИ выполняет несколько шагов поиска и анализа, затем собирает ответ с источниками. Возможности и время работы зависят от сервиса. Наличие ссылок не исключает ошибок в выводах.
RAG · генерация с поиском по источникам
Перед ответом приложение находит подходящие фрагменты в документах или базе знаний и добавляет их в запрос модели. Это позволяет использовать сведения вне обучения модели, не меняя её веса. Качество ответа зависит и от найденных материалов.
Fine-tuning · дообучение
Дополнительное обучение готовой модели на подобранных примерах. Помогает настроить поведение, формат или выполнение конкретной задачи. Для часто меняющихся справочных данных может быть удобнее поиск по источникам через RAG.
Embeddings · эмбеддинги
Числовые представления текста или других данных. Их используют, например, чтобы искать фрагменты с близким смыслом. Эмбеддинг-модель обычно возвращает набор чисел, а не готовый ответ в чате.
Галлюцинация модели
Правдоподобный, но неверный или выдуманный ответ: несуществующая ссылка, факт или функция в коде. Уверенный тон ответа не подтверждает его точность; важные сведения стоит сверять с источником.

Помощники, агенты и инструменты

Копайлот
ИИ-помощник внутри редактора, почты, таблиц или другой программы. Может предлагать текст, код и действия. Граница между копайлотом и агентом условна: современные помощники часто умеют работать в обоих режимах.
Агент
Система, в которой модель выбирает следующие шаги и использует инструменты для выполнения задачи. Например, читает файлы, меняет код и запускает проверку. Самостоятельность зависит от разрешений, ограничений и участия пользователя.
Tool Calling · вызов инструментов
Модель формирует запрос на запуск функции, например поиска или калькулятора. Приложение проверяет и выполняет вызов, затем возвращает результат модели. Доступ к инструментам и разрешение на действия задаёт приложение.
MCP · Model Context Protocol
Открытый протокол подключения AI-приложений к инструментам и данным. MCP-сервер может предоставлять работу с файлами, поиском или внешним сервисом. Совместимость с протоколом не отменяет настройку доступа и разрешений.
Skills · скиллы
Наборы инструкций для агента под конкретную работу. В формате Agent Skills это папка с файлом SKILL.md; рядом могут лежать скрипты, шаблоны и справочные материалы. Приложение должно поддерживать загрузку таких навыков.
Harness · среда работы агента
Программа, которая связывает модель с инструментами, файлами, историей и проверками. В разделе инструкций LLMFinder так называются среды вроде Claude Code, Codex и OpenCode. Возможности среды не равны возможностям подключённой модели.
Vibe coding · вайбкодинг
Разработка, при которой человек описывает желаемое поведение словами, а ИИ пишет и меняет код. Степень участия человека бывает разной. Работоспособность, безопасность и удобство результата всё равно требуют проверки.
Context engineering · подготовка контекста
Организация данных, которые модель получает для работы: инструкций, истории, документов, результатов инструментов и памяти. Задача состоит в том, чтобы передать нужные сведения и не занять всё окно лишними данными.
Guardrails · защитные ограничения
Проверки и правила вокруг модели: ограничения прав, проверка входа и ответа, подтверждение действий, лимит расходов. Они уменьшают риск ошибок и нежелательных действий, но не дают абсолютной гарантии безопасности.

Подключение к API

API
Интерфейс, через который программа отправляет запросы модели и получает ответы. Через API подключают модели к редакторам кода, ботам и своим приложениям. Доступ к API и подписка на готовый чат могут оплачиваться отдельно.
API-ключ
Секрет, которым приложение подтверждает право обращаться к API. Запросы с вашим ключом могут расходовать ваш баланс. Ключ не следует публиковать в репозитории, переписке или коде, который отправляется в браузер посетителя.
Base URL
Базовый адрес API провайдера, который указывают в приложении вместе с ключом и идентификатором модели. Адрес сайта и адрес API могут различаться. Точное значение берут из документации провайдера.
Разработчик модели и API-провайдер
Разработчик создаёт модель. API-провайдер предоставляет доступ к ней и определяет свои цены, оплату и лимиты. Им может быть сам разработчик или сторонний сервис. Одинаковое название модели не гарантирует одинаковых условий у всех провайдеров.
Совместимый API
API, который поддерживает формат запросов другого сервиса, например OpenAI. Это помогает подключать разные модели к одному приложению. Совместимость может быть частичной: инструменты, изображения и потоковые ответы нужно проверять отдельно.
Rate limit · лимит запросов
Ограничение частоты обращений или объёма данных за определённое время. Например, RPM означает запросы в минуту, TPM означает токены в минуту. Это отдельное ограничение, не размер контекстного окна и не остаток денег на балансе.

Цены, скорость и рейтинги

Бенчмарк
Набор заданий и правила измерения результата модели. Тесты кода, изображений и общего интеллекта проверяют разные способности. Баллы из разных тестов, версий или режимов нельзя напрямую считать одной шкалой.
Evals · оценки и проверки
Проверки того, как ИИ справляется с заданными примерами и требованиями. Это могут быть автоматические тесты, оценки людей или сравнения ответов. Собственные проверки на ваших задачах помогают понять, подходит ли модель лучше, чем одно место в общем рейтинге.
Elo · рейтинг по сравнениям
Оценка, рассчитанная по исходам парных сравнений. Например, люди выбирают лучший из двух ответов. Значение имеет смысл внутри конкретной системы рейтинга; само по себе это не процент правильных ответов.
Индекс качества
Сводная оценка модели по набору проверок внешнего источника. На LLMFinder источник и вид оценки помогают понять, что именно измерялось. Индекс модели не оценивает скорость, поддержку или надёжность конкретного API-провайдера.
Кэш входных токенов
Повторное использование уже обработанной части запроса, например одинаковой инструкции или документа. Чтение кэша может стоить дешевле обычного входа; запись иногда оплачивается отдельно. Условия, срок хранения и поддержка зависят от API.
Batch · пакетная обработка
Отправка группы запросов на выполнение без требования немедленного ответа. За такой режим провайдер может предлагать скидку. Пакетный тариф стоит отличать от обычного API, когда нужен ответ сразу.
Задержка и скорость генерации
Задержка до первого токена показывает, сколько ждать начала ответа. Скорость в токенах в секунду показывает, как быстро ответ появляется после старта. Быстрое начало не обязательно означает быстрое завершение длинного ответа.
Оплата по расходу и подписка
При оплате по расходу стоимость зависит от использованных токенов, изображений, секунд или запросов. Подписка даёт доступ на период с определёнными лимитами. Подписка на чат не обязательно включает API или безлимитную работу.
Коэффициент «Цена / качество»
На LLMFinder это баллы модели, делённые на минимальную цену среди провайдеров. Для текста цена складывается из 1 млн входных и 1 млн выходных токенов у одного провайдера. Сравнивать коэффициенты нужно внутри одной категории и шкалы оценки.

Документация по теме

Вопросы о ценах, выборе провайдера и работе сайта собраны в FAQ.