Через пять минут после разговора потенциальный покупатель получает тестовый портал Bitrix24, настроенный под контекст его бизнеса. До этого он отвечает на два-три вопроса — текстом, голосом или с изображениями. Языковая модель понимает ответы, уточняет намерение и готовит конфигурацию. Человек подключается там, где начинается решение о критической стадии, счёте или оплате.
LLM, или большая языковая модель, — это обученная на больших объёмах текста нейронная сеть, которая шаг за шагом предсказывает продолжение последовательности. Звучит почти как T9. Только этот «T9» настолько хорошо освоил закономерности языка, что может объяснять, переводить, классифицировать, писать код и помогать управлять инструментами.
Эта статья объясняет, как работает LLM, почему она иногда уверенно ошибается и чем сама модель отличается от ИИ-агента и harness-системы.
Что такое LLM простыми словами
LLM расшифровывается как Large Language Model — большая языковая модель. «Большая» обычно означает масштаб обучения, количество параметров и объём данных. «Языковая» — то, что основной рабочий материал модели представлен последовательностями токенов: фрагментов слов, знаков и других элементов. «Модель» — то, что перед нами не база готовых ответов, а вычислительная система, усвоившая закономерности данных.
Представьте невероятно натасканный T9. Обычный T9 предлагает следующее слово по небольшому словарю и простым частотам. LLM учитывает длинный контекст и связи между его частями. Она может продолжить не только фразу, но и деловое письмо, таблицу, программу или разбор договора. Аналогия намеренно упрощённая, но она снимает главную мистику: модель каждый раз строит продолжение, а не достаёт готовую мысль из тайного хранилища.
Отсюда следуют два свойства, которые всегда идут вместе:
- модель способна применять одни и те же языковые закономерности к очень разным задачам;
- убедительная формулировка не гарантирует фактическую истинность.
Как работает большая языковая модель
Сначала текст разбивается на токены. Затем токены переводятся в числовые представления, а сеть обрабатывает их с учётом доступного контекста. Во время обучения параметры модели многократно корректируются так, чтобы она лучше предсказывала следующий токен.
Большинство современных LLM опирается на архитектуру Transformer. В исходной работе Attention Is All You Need её авторы предложили архитектуру, построенную вокруг механизма внимания. Упрощённо, внимание помогает модели определить, какие элементы последовательности важны друг для друга в текущем вычислении.
Работу LLM удобно разделить на два периода:
- Обучение. Модель обрабатывает большое количество примеров и настраивает свои параметры. Это длительный и дорогой процесс, который пользователь обычно не видит.
- Использование. Пользователь передаёт запрос и контекст, после чего уже обученная модель генерирует ответ токен за токеном.
В обычном диалоге модель не переобучается после каждого сообщения. Новые инструкции, документы и примеры попадают в её текущий контекст, но не переписывают все параметры. Исследование Language Models are Few-Shot Learners показало, что крупная авторегрессионная модель может подстраиваться под ряд задач по инструкции и нескольким примерам прямо в контексте, без отдельного дообучения весов.
Что такое контекст LLM
Контекст — это вся информация, доступная модели в момент формирования ответа: системные правила, ваш запрос, предыдущие сообщения, переданные документы, результаты инструментов и примеры нужного формата. Если нужного факта в параметрах модели или в текущем контексте нет, красивый запрос не создаст достоверное знание из пустоты.
Именно поэтому два человека получают от одной модели результаты разного качества. Один пишет: «Подготовь коммерческое предложение». Другой передаёт описание клиента, стенограмму разговора, продуктовые ограничения, правила расчёта, примеры удачных предложений и критерии проверки. Модель та же. Рабочая среда задачи — разная.
Минимально полезная постановка задачи содержит шесть элементов:
- результат, который нужно получить;
- исходные данные и их происхождение;
- контекст ситуации и адресата;
- ограничения и недопустимые действия;
- формат результата;
- способ проверки и условие передачи человеку.
Промпт не заклинание. Это спецификация работы в пределах доступного контекста.
Чем LLM отличается от агента и harness
В разговорах об ИИ эти три уровня часто смешивают. Для бизнеса разница принципиальна: от неё зависят возможности системы, цена ошибки и способ контроля.
| Уровень | Что это | За что отвечает |
|---|---|---|
| LLM | Модель, обрабатывающая и генерирующая последовательности | Понимание формулировки, генерация, классификация, выбор следующего шага |
| ИИ-агент | LLM с целью, контекстом, памятью, инструментами и циклом работы | Наблюдать результат, выбирать действие, вызывать инструмент и продолжать задачу |
| Harness | Управляющая обвязка вокруг агента или группы агентов | Права, MCP и другие интеграции, выполнение кода, журналирование, проверки, повторы и условия остановки |
Это рабочие определения, а не единый отраслевой стандарт. Например, Anthropic отдельно различает workflows и agents: в workflow путь заранее задаёт код, а в агенте модель динамически выбирает процесс и инструменты.
ChatGPT, Claude или другой чат — это продуктовый интерфейс к модели. Он может получить агентные возможности, если ему разрешили использовать инструменты, файлы, поиск, код и выполнять последовательность действий. Но само окно чата ещё не превращает любую модель в автономного агента.
Есть и ещё одна важная граница. Модель не нажимает физическую кнопку в CRM и не создаёт портал собственными параметрами. Она выбирает действие и формирует данные для вызова. Интеграция выполняет операцию. Harness определяет, разрешена ли она, что записать в журнал и когда запросить подтверждение человека.
Как LLM меняет продажу Bitrix24: мой рабочий пример
Раньше типовой путь продажи интеграционного проекта выглядел так:
сайт → менеджер → опрос → прогрев → бизнес-аналитик → демонстрация
Каждая передача добавляла ожидание и новую точку, в которой клиент мог уйти. Кроме того, не каждый человек хочет начинать знакомство с продуктом с разговора с продавцом. Части покупателей удобнее сначала самостоятельно разобраться, попробовать и только потом обсуждать внедрение.
В своём контуре я изменил начало этого пути:
интерес → диалог с агентом → 2–3 уточнения → интерпретация потребности → конфигурация демо → тестовый портал
Клиент отвечает в удобной форме: текстом, голосом, изображением. Агент следует его намерению и собирает данные, необходимые для демонстрации. После разговора внутренний контур подготавливает тестовый портал Bitrix24, который сохраняет тематику и задачи бизнеса клиента. В текущем сценарии демо становится доступно примерно через пять минут.
Это пример из моей практики, а не обещание такой же скорости или роста конверсии для любого проекта. Публичной сравнительной статистики по воронке пока нет, поэтому я не буду приписывать системе прибыль, которую ещё не измерил.
Агент работает автономно только внутри заданного коридора. Он может опрашивать, уточнять, структурировать ответы и готовить демо. Он не проводит оплату и не принимает критические решения о движении сделки. Если клиент хочет поговорить с человеком или процесс доходит до стадии, требующей ответственности, подключается менеджер.
После передачи человеку модель не обязательно выключается. Она может перейти в режим «играющего тренера»: учитывать историю разговора, предлагать менеджеру следующий ответ, записывать разрешённую коммуникацию, готовить суммаризацию и возвращать структурированные данные в систему. Решение всё равно остаётся за человеком.
Почему первая ошибка не доказывает бесполезность LLM
Сколько раз вы ошибались, когда впервые сели за руль автомобиля? А сколько ошибок совершили бы с плохим инструктором рядом?
Если первый диалог с LLM закончился банальностью или выдуманной ссылкой, это неприятно, но ещё не диагноз технологии. Сначала стоит проверить постановку задачи: был ли у модели контекст, понимала ли она цель, знала ли ограничения и могла ли обратиться к нужному источнику.
У аналогии с автомобилем есть предел. Автомобиль при одинаковом управлении ведёт себя гораздо предсказуемее языковой модели. Генерация вероятностна, поэтому даже хороший промпт не даёт абсолютной гарантии. Для повторяемого бизнес-процесса нужны тестовые сценарии, структурированный результат, разрешённые инструменты, журнал действий и понятный момент передачи человеку.
Почему промпт-инжиниринг — базовый навык
Моя позиция жёсткая: я не считаю промпт-инжиниринг самостоятельной фундаментальной профессией для массового рынка. Название может встречаться в вакансиях, а сложные LLM-системы действительно требуют инженеров. Но умение дать модели контекст, сформулировать задачу и проверить результат должно стать обычной рабочей грамотностью.
Базу можно освоить за три содержательных вечера.
День 1. Понять модель
Разобраться, что LLM предсказывает продолжение, работает с токенами и не гарантирует истинность. Научиться отличать генерацию модели от поиска по источникам и действия внешнего инструмента.
День 2. Научиться собирать контекст
Передавать цель, исходные данные, ограничения и примеры. Понимать, что входит в контекст, что в него не попало и где находится корпоративная база знаний.
День 3. Научиться ставить и проверять задачу
Фиксировать ожидаемый формат, критерии качества, запрещённые действия и контрольную точку. Проверять результат на реальных примерах, а не судить по одному эффектному ответу.
Три вечера не сделают человека архитектором агентных систем. Но их достаточно, чтобы перестать обращаться с моделью как с игрушкой и начать видеть, где проблема находится в инструменте, а где — в постановке задачи.
Почему LLM галлюцинирует и где нужен человек
Я никогда не принимаю уверенный ответ модели за чистую монету. Особенно если речь идёт о медицине, праве, финансах, персональных данных, безопасности или техническом решении с высокой стоимостью ошибки.
NIST использует термин confabulation для уверенно представленного ошибочного или ложного содержания и относит такие ответы к рискам генеративного ИИ. В русском языке чаще говорят о галлюцинациях LLM. Они могут включать не только неверный вывод, но и выдуманную ссылку, цитату или объяснение.
Моя базовая проверка выглядит так:
- существует ли указанная ссылка;
- открывается ли она и действительно ли содержит заявленный тезис;
- актуален ли документ на дату решения;
- подходит ли тип источника для предметной области;
- подтверждается ли критическое утверждение ещё одним независимым способом.
Иерархия источников зависит от задачи. Для закона выше стоит официальный нормативный акт, для продукта — документация производителя, для научной гипотезы — оригинальная работа и последующая рецензируемая литература. Блог может помочь найти направление, но не должен автоматически становиться основанием для критического решения.
Системный промпт и корпоративная база знаний уменьшают неопределённость. Они не делают модель безошибочной. Поэтому любой процесс должен иметь хотя бы один из двух механизмов: жёсткие машинные правила вокруг модели или человеческую проверку на промежуточной стадии. Для критических действий нужны оба.
С чего начать руководителю бизнеса
Не начинайте с покупки «нейросети для компании». Выберите один повторяемый и обратимый процесс с понятным результатом: классификацию входящих обращений, подготовку черновика ответа, суммаризацию встречи или поиск по утверждённой базе знаний.
Дальше пройдите семь шагов:
- Опишите текущий процесс и его узкие места.
- Зафиксируйте входные данные и полезный результат.
- Соберите реальные типовые и сложные примеры.
- Определите источники, к которым можно обращаться.
- Запретите опасные действия и задайте условия остановки.
- Проверьте систему на примерах с заранее известным правильным исходом.
- Только после этого расширяйте автономность.
Большие языковые модели постепенно становятся таким же естественным рабочим инструментом, каким когда-то стал калькулятор. Бояться их бессмысленно. Столь же бессмысленно доверять им без границ. Задача руководителя — понять базовый механизм, научиться давать контекст и встроить модель в процесс так, чтобы полезные действия повторялись, а ответственность не растворялась в слове «ИИ».
Следующий шаг — разобраться, как устроен промпт-инжиниринг и как проверять ответы нейросети. Подробно о причинах ошибок и способах снижения риска я рассказываю в материале о галлюцинациях больших языковых моделей.