Как устроена работа с LLM

Простая картина

Работа с языковой моделью устроена проще, чем кажется снаружи. Есть четыре элемента, и понимание их даёт 80% разницы между «бросил после первой попытки» и «использует каждый день».

Промпт — это всё, что вы пишете модели. От «привет» до пятистраничного ТЗ — любой текст, отправленный в чат, это промпт. Качество промпта влияет на качество ответа больше, чем выбор модели.

Контекст — это всё, что модель видит в моменте: ваш текущий вопрос, история чата, прикреплённые файлы, инструкции из системы. Контекст имеет границу — после неё модель забывает начало разговора. Если вы 50 сообщений обсуждали стратегию, а потом прикрепили 500-страничный документ — что-то старое из контекста выпадет.

Модель — это конкретная версия LLM, в которой запущен ваш промпт. Claude Opus 4.7, Sonnet 4.6, GPT-5.5 — это разные модели. Они отличаются скоростью, стоимостью, способностью к рассуждению. Более мощная не значит более подходящая: для разовой переформулировки письма дорогая модель — это переплата.

Ответ — то, что модель возвращает. Внутри она прогнала ваш промпт + контекст через миллиарды параметров, обученных на текстах человечества, и сгенерировала наиболее вероятное продолжение. Это всегда вероятностный процесс — на один и тот же промпт она дважды может ответить по-разному.

Что меняет осмысленную работу

Многие, попробовав ChatGPT один раз, выносят впечатление «он галлюцинирует и пишет банальности». Чаще всего это означает, что человек дал плохой промпт и не дал контекста. Модель — это собеседник, который ничего о вас не знает, кроме того, что вы прямо написали. Она не видит вашу компанию, вашу роль, вашу задачу, вашего клиента — пока вы не расскажете.

Хороший промпт обычно содержит четыре вещи:

Задачу. Не «помоги с письмом», а «нужно сократить это письмо до 200 слов, сохранив тон уважения и конкретику по срокам».

Роль или контекст. Не «напиши план», а «ты эксперт по операционной эффективности с опытом в FMCG, мне нужен план оптимизации логистики».

Материалы. Не «у нас была встреча», а вставленная транскрипция встречи. Не «у нас есть отчёт», а прикреплённый отчёт.

Критерии успеха. Не «сделай хорошо», а «должно умещаться в одну страницу, читаться за две минуты, заканчиваться тремя пунктами для решения».

Когда промпт содержит все четыре элемента, разница в качестве ответа — двукратная или больше. Это не магия и не хитрый трюк — это нормальная постановка задачи, такая же, как для живого сотрудника. Анthropic в официальном гайде по промптингу использует ровно эту аналогию: «Представьте, что вы даёте инструкции талантливому новому сотруднику, у которого нет контекста по вашему проекту. Чем точнее объясняете — тем лучше результат».

Что важно понимать про контекст

Один из самых частых способов потерять время с моделью — раздуть контекст лишним. Прикрепить 200-страничный отчёт, когда нужен один абзац. Развести историю чата на 100 сообщений, обсуждая разные темы. Модель будет «теряться» — давать размытые ответы, забывать ваши первые инструкции, путать факты из разных источников.

Хорошая привычка — начинать новый чат под новую задачу. Не «продолжу там же, где был вчера», а «новый чат, новая постановка». Если задача связана с предыдущей — скопируйте нужный кусок из старого разговора в новый. Так контекст остаётся чистым.

Вторая привычка — давать только нужные документы. Если вопрос про один пункт договора — пришлите этот пункт, а не весь договор. Если работаете с большим документом — попросите сначала сделать оглавление, потом задавайте вопросы по конкретным разделам.

Что важно усвоить

• Работа с LLM = промпт + контекст → модель → ответ. Четыре элемента, и понимание каждого даёт большую часть результата.
• Качество промпта важнее выбора модели. Хороший промпт содержит задачу, роль/контекст, материалы и критерии успеха.
• Контекст имеет границу. Раздутый контекст = размытый ответ. Чистый чат под одну задачу — лучше длинного чата под десять задач.

Следующая статья: «Что ИИ умеет и не умеет» — карта применимости и где он точно подведёт.