Глоссарий
Термины нейросетей, API и сравнения моделей на понятном языке.
Модели и их возможности
- LLM · большая языковая модель
- Модель, обученная на больших наборах данных работать с языком: писать, объяснять, переводить и обрабатывать текст. ChatGPT и другие приложения используют такие модели, но само приложение и модель внутри него не одно и то же.
- SLM · малая языковая модель
- Относительно компактная языковая модель. Обычно требует меньше памяти и вычислений; некоторые можно запускать на ноутбуке или телефоне. Размер сам по себе не определяет качество: небольшая специализированная модель может хорошо решать свою задачу.
- Мультимодальность
- Работа с несколькими видами данных: текстом, изображениями, звуком или видео. Набор возможностей зависит от модели. Умение распознавать картинку ещё не означает, что модель умеет создавать изображения или читать любой PDF.
- AGI · общий искусственный интеллект
- Название для ИИ с широкими интеллектуальными возможностями, сопоставимыми с человеческими. Единого общепринятого теста на AGI нет, поэтому заявления о его достижении нужно оценивать вместе с определением и доказательствами автора.
- Открытые веса
- Опубликованные параметры модели, которые можно скачать и запускать самостоятельно. Разрешения на коммерческое использование, изменение и распространение зависят от лицензии. Открытые веса не обязательно означают открытые данные обучения или полностью открытый исходный код.
- Квантизация
- Хранение и вычисление параметров модели с меньшей точностью, чтобы сократить расход памяти и иногда ускорить работу. Это может менять качество ответов. Квантизованную версию стоит отличать от исходной модели при сравнении тарифов.
Запросы, ответы и контекст
- Промпт
- Задание и данные, которые вы передаёте модели. В запрос могут входить вопрос, примеры, документы и ограничения на формат ответа.
- Системный промпт
- Инструкции приложения о роли модели и правилах ответа. Они передаются отдельно от обычного сообщения пользователя и тоже могут занимать контекст и учитываться в стоимости входа.
- Токен
- Единица, на которые модель разбивает данные. В тексте это может быть часть слова, целое слово, знак или пробел. Число токенов зависит от языка и токенизатора; постоянного курса «одно слово = столько-то токенов» нет.
- Входные и выходные токены
- Входные токены относятся к данным, отправленным модели, включая переданную историю разговора. Выходные относятся к сгенерированному результату. Обычно у входа и выхода разные тарифы; отдельные модели также тарифицируют токены рассуждения.
- Контекстное окно
- Лимит данных, доступных модели при обработке запроса. Его расходуют инструкции, история, документы и, в зависимости от API, место под ответ. При превышении лимита приложение может сократить историю, сделать сводку или получить ошибку.
- Память
- Сведения, которые приложение сохраняет между разговорами и при необходимости снова передаёт модели. Это могут быть ваши предпочтения или заметки о проекте. Такая память не равна контекстному окну и обычно не меняет веса модели.
- Inference · инференс
- Использование уже обученной модели для получения результата. Один пользовательский запрос может запустить несколько обращений к модели, например если агент ищет информацию и вызывает инструменты.
- Reasoning · рассуждение
- Способ работы, при котором модель тратит дополнительные вычисления на решение задачи. Может помогать в коде, математике и планировании, но увеличивать время и стоимость. Полный внутренний ход решения пользователю показывают не всегда.
- Streaming · потоковый ответ
- Передача результата частями по мере генерации. Вы начинаете читать ответ до его завершения. Потоковая передача сама по себе не уменьшает число оплачиваемых токенов.
Поиск, документы и обучение
- Deep Research · глубокое исследование
- Режим приложения, в котором ИИ выполняет несколько шагов поиска и анализа, затем собирает ответ с источниками. Возможности и время работы зависят от сервиса. Наличие ссылок не исключает ошибок в выводах.
- RAG · генерация с поиском по источникам
- Перед ответом приложение находит подходящие фрагменты в документах или базе знаний и добавляет их в запрос модели. Это позволяет использовать сведения вне обучения модели, не меняя её веса. Качество ответа зависит и от найденных материалов.
- Fine-tuning · дообучение
- Дополнительное обучение готовой модели на подобранных примерах. Помогает настроить поведение, формат или выполнение конкретной задачи. Для часто меняющихся справочных данных может быть удобнее поиск по источникам через RAG.
- Embeddings · эмбеддинги
- Числовые представления текста или других данных. Их используют, например, чтобы искать фрагменты с близким смыслом. Эмбеддинг-модель обычно возвращает набор чисел, а не готовый ответ в чате.
- Галлюцинация модели
- Правдоподобный, но неверный или выдуманный ответ: несуществующая ссылка, факт или функция в коде. Уверенный тон ответа не подтверждает его точность; важные сведения стоит сверять с источником.
Помощники, агенты и инструменты
- Копайлот
- ИИ-помощник внутри редактора, почты, таблиц или другой программы. Может предлагать текст, код и действия. Граница между копайлотом и агентом условна: современные помощники часто умеют работать в обоих режимах.
- Агент
- Система, в которой модель выбирает следующие шаги и использует инструменты для выполнения задачи. Например, читает файлы, меняет код и запускает проверку. Самостоятельность зависит от разрешений, ограничений и участия пользователя.
- Tool Calling · вызов инструментов
- Модель формирует запрос на запуск функции, например поиска или калькулятора. Приложение проверяет и выполняет вызов, затем возвращает результат модели. Доступ к инструментам и разрешение на действия задаёт приложение.
- MCP · Model Context Protocol
- Открытый протокол подключения AI-приложений к инструментам и данным. MCP-сервер может предоставлять работу с файлами, поиском или внешним сервисом. Совместимость с протоколом не отменяет настройку доступа и разрешений.
- Skills · скиллы
- Наборы инструкций для агента под конкретную работу. В формате Agent Skills это папка с файлом SKILL.md; рядом могут лежать скрипты, шаблоны и справочные материалы. Приложение должно поддерживать загрузку таких навыков.
- Harness · среда работы агента
- Программа, которая связывает модель с инструментами, файлами, историей и проверками. В разделе инструкций LLMFinder так называются среды вроде Claude Code, Codex и OpenCode. Возможности среды не равны возможностям подключённой модели.
- Vibe coding · вайбкодинг
- Разработка, при которой человек описывает желаемое поведение словами, а ИИ пишет и меняет код. Степень участия человека бывает разной. Работоспособность, безопасность и удобство результата всё равно требуют проверки.
- Context engineering · подготовка контекста
- Организация данных, которые модель получает для работы: инструкций, истории, документов, результатов инструментов и памяти. Задача состоит в том, чтобы передать нужные сведения и не занять всё окно лишними данными.
- Guardrails · защитные ограничения
- Проверки и правила вокруг модели: ограничения прав, проверка входа и ответа, подтверждение действий, лимит расходов. Они уменьшают риск ошибок и нежелательных действий, но не дают абсолютной гарантии безопасности.
Подключение к API
- API
- Интерфейс, через который программа отправляет запросы модели и получает ответы. Через API подключают модели к редакторам кода, ботам и своим приложениям. Доступ к API и подписка на готовый чат могут оплачиваться отдельно.
- API-ключ
- Секрет, которым приложение подтверждает право обращаться к API. Запросы с вашим ключом могут расходовать ваш баланс. Ключ не следует публиковать в репозитории, переписке или коде, который отправляется в браузер посетителя.
- Base URL
- Базовый адрес API провайдера, который указывают в приложении вместе с ключом и идентификатором модели. Адрес сайта и адрес API могут различаться. Точное значение берут из документации провайдера.
- Разработчик модели и API-провайдер
- Разработчик создаёт модель. API-провайдер предоставляет доступ к ней и определяет свои цены, оплату и лимиты. Им может быть сам разработчик или сторонний сервис. Одинаковое название модели не гарантирует одинаковых условий у всех провайдеров.
- Совместимый API
- API, который поддерживает формат запросов другого сервиса, например OpenAI. Это помогает подключать разные модели к одному приложению. Совместимость может быть частичной: инструменты, изображения и потоковые ответы нужно проверять отдельно.
- Rate limit · лимит запросов
- Ограничение частоты обращений или объёма данных за определённое время. Например, RPM означает запросы в минуту, TPM означает токены в минуту. Это отдельное ограничение, не размер контекстного окна и не остаток денег на балансе.
Цены, скорость и рейтинги
- Бенчмарк
- Набор заданий и правила измерения результата модели. Тесты кода, изображений и общего интеллекта проверяют разные способности. Баллы из разных тестов, версий или режимов нельзя напрямую считать одной шкалой.
- Evals · оценки и проверки
- Проверки того, как ИИ справляется с заданными примерами и требованиями. Это могут быть автоматические тесты, оценки людей или сравнения ответов. Собственные проверки на ваших задачах помогают понять, подходит ли модель лучше, чем одно место в общем рейтинге.
- Elo · рейтинг по сравнениям
- Оценка, рассчитанная по исходам парных сравнений. Например, люди выбирают лучший из двух ответов. Значение имеет смысл внутри конкретной системы рейтинга; само по себе это не процент правильных ответов.
- Индекс качества
- Сводная оценка модели по набору проверок внешнего источника. На LLMFinder источник и вид оценки помогают понять, что именно измерялось. Индекс модели не оценивает скорость, поддержку или надёжность конкретного API-провайдера.
- Кэш входных токенов
- Повторное использование уже обработанной части запроса, например одинаковой инструкции или документа. Чтение кэша может стоить дешевле обычного входа; запись иногда оплачивается отдельно. Условия, срок хранения и поддержка зависят от API.
- Batch · пакетная обработка
- Отправка группы запросов на выполнение без требования немедленного ответа. За такой режим провайдер может предлагать скидку. Пакетный тариф стоит отличать от обычного API, когда нужен ответ сразу.
- Задержка и скорость генерации
- Задержка до первого токена показывает, сколько ждать начала ответа. Скорость в токенах в секунду показывает, как быстро ответ появляется после старта. Быстрое начало не обязательно означает быстрое завершение длинного ответа.
- Оплата по расходу и подписка
- При оплате по расходу стоимость зависит от использованных токенов, изображений, секунд или запросов. Подписка даёт доступ на период с определёнными лимитами. Подписка на чат не обязательно включает API или безлимитную работу.
- Коэффициент «Цена / качество»
- На LLMFinder это баллы модели, делённые на минимальную цену среди провайдеров. Для текста цена складывается из 1 млн входных и 1 млн выходных токенов у одного провайдера. Сравнивать коэффициенты нужно внутри одной категории и шкалы оценки.
Документация по теме
- Курс Hugging Face о языковых моделях и токенизаторах.
- Anthropic об устройстве агентов.
- Документация Model Context Protocol.
- Открытый формат Agent Skills.
- Документация Anthropic по кэшу запросов.
Вопросы о ценах, выборе провайдера и работе сайта собраны в FAQ.