Агент — не чат. Он не «отвечает», он работает шагами: прочитал файл, запустил команду, проверил результат — и на каждом шаге заново отправляет модели весь разговор целиком. Поэтому счёт растёт не от длины вопроса, а от длины беседы. Ниже — вся дисциплина экономии на реальных цифрах одного месяца работы: 435 вопросов, 6 881 обращение к модели, 27 долларов.
Обычный чат помнит разговор на стороне сервера. Агент устроен иначе: каждый шаг — это новый запрос, в который заново укладывается вся история: системная инструкция, список инструментов, память, все прошлые реплики и все результаты команд. Модель не «помнит» — ей каждый раз приносят всё заново.
Отсюда два следствия, которые объясняют почти всё:
В моём журнале на 435 вопросов пришлось 12 663 сообщения и 6 881 обращение к модели. Средний шаг нёс 4 601 новых токена на входе, 198 053 из кэша и 1 153 на выходе.
Средний размер контекста на шаг — 202 769 токенов. Это не размер вашего вопроса (вопрос — обычно пара сотен токенов), это вся беседа, принесённая заново.
Тариф устроен так: вход $0,30 за миллион, выход $1,20, повторное чтение уже виденного (кэш) — $0,006, в пятьдесят раз дешевле. Именно поэтому главный расход — не в цене токена, а в том, сколько их накопилось.
Три статьи расхода почти равны. Но управлять можно только первой и третьей: они целиком зависят от того, насколько длинную беседу вы ведёте. Выход — это то, что агент пишет вам в ответ.
| Размер беседы | Цена шага | В рублях |
|---|---|---|
| 5 тыс. токенов (только начали) | $0,0015 | 0,12 ₽ |
| 50 тыс. (полчаса работы) | $0,0024 | 0,20 ₽ |
| 100 тыс. (час работы) | $0,0034 | 0,29 ₽ |
| 200 тыс. (долгий разбор) | $0,0055 | 0,46 ₽ |
| 500 тыс. (марафон на весь день) | $0,0117 | 0,98 ₽ |
А теперь то же самое, но в понятных единицах — в вопросах. Считаю вопрос как «вопрос плюс восемь шагов работы»:
| Где задан вопрос | Цена вопроса | Вопросов на 1 $ |
|---|---|---|
| в свежей беседе | $0,014 · 1,16 ₽ | 72 |
| когда разговор уже на 100 тыс. токенов | $0,029 · 2,44 ₽ | 34 |
| когда разговор на 200 тыс. токенов | $0,046 · 3,83 ₽ | 22 |
Одна и та же работа стоит втрое дороже, если делать её в конце длинной беседы. Начать новый разговор — самый выгодный поступок из всех, что вы можете совершить.
Всего 6 881 обращение к модели, 31,7 млн новых токенов на входе, 7,9 млн на выходе и 1,36 млрд чтений из кэша. По тарифу это $27,20 — около 2 280 рублей за месяц. По льготному тарифу (о нём ниже) вышло бы $13,60.
| Вид работы | Шагов | Стоимость | Доля |
|---|---|---|---|
| Основная работа по вашим задачам | 5 565 | $22,03 | 81% |
| Фоновый разбор накопленного опыта | 737 | $4,97 | 18% |
| Запросы подтверждения действий | 567 | $0,21 | 1% |
| Сжатие длинных бесед | 2 | $0,05 | <1% |
| Придумывание названий бесед | 30 | $0,01 | <1% |
Фоновый разбор съел пятую часть счёта — почти 5 долларов. Это отдельный маленький агент, который после работы перечитывает ваш день и раскладывает выводы по заметкам. Полезно, но за деньги. Если бюджет в обрез — это первое, что стоит выключить или урезать.
Самая дорогая беседа месяца — 18 сентября: 591 шаг, 162,6 млн чтений из кэша, $3,63. В пересчёте на шаг — 0,6 цента. По отдельности шаг дешёвый, но их было почти шесть сотен.
| Правило | Почему работает | Эффект |
|---|---|---|
| Начинать новую беседу при смене темы | Контекст обнуляется, шаг дешевеет в разы | до 3× |
| Давать путь к файлу, а не его содержимое | Агент прочитает нужный кусок и только один раз | до 10× |
| Называть точную область: «файл X, строки 40–60» | Меньше поиска и перебора — меньше шагов | 2–4× |
| Просить проверяемый результат: число, а не «вроде работает» | Убирает цикл «попробовал — переделал» | 1,5–3× |
| Просить короткий отчёт по ходу | Выход — самая дорогая часть, $1,20 за миллион | до 1,5× |
| Работать в льготные часы | Тариф вдвое ниже: до 15:00 и после 21:00 по Москве, и всё воскресенье-субботу | 2× |
| Простые дела — дешёвой модели | Разница в цене между моделями — от 3 до 30 раз | до 10× |
| Не держать одну беседу на 60 шагов | На длинном контексте каждый следующий шаг дороже предыдущего | 2× |
| Выключать фоновый разбор, когда не нужен | У меня он стоил $4,97 из $27 | до 18% |
| Не вставлять таблицы и списки «на всякий случай» | Всё вставленное оплачивается на каждом следующем шаге | 1,5–5× |
| Останавливать агента, когда пошёл не туда | Ошибка, которую разбирают десять шагов, дороже ошибки, замеченной сразу | 2× |
| Хранить повторяющиеся рецепты отдельно | Готовая инструкция не даёт агенту искать заново | 2–5× |
Я тут собрал список файлов сайта,
вот он (140 строк):
index.php
styles.css
...ещё 138 строк...
Посмотри, что можно улучшить,
чтобы сайт быстрее работал.
Сайт лежит в /var/www/site.
Проверь, какие стили подключены
на главной странице, и назови
самые тяжёлые файлы с размерами.
Ответ — таблицей, не больше
10 строк.
В первом случае вы оплачиваете 140 строк в каждом из тридцати шагов, а агент ещё и сам полезет по всему сайту. Во втором — он прочитает один файл и вернёт таблицу. Разница в расходе на такую задачу — примерно пятикратная, при том же результате.
Продолжаем. Теперь почини мне
ещё и меню на телефоне,
и заодно проверь формы,
и вообще пройдись по всему.
Новая задача (отдельным разговором).
Файл templates/main/index.php,
мобильная шапка — блок d-lg-none.
Сейчас на 390 точках кнопка наезжает
на телефон. Сдвинь на 4 точки вниз,
покажи снимок и замер до/после.
«Заодно» — самое дорогое слово в общении с агентом. Каждое добавленное «и ещё вот это» тащит за собой поиск, чтение чужих файлов и лишние проверки, и всё это остаётся в контексте до конца беседы.
Точная формулировка с путём и ожидаемым результатом занимает у вас лишние полминуты. Взамен агент делает 5–10 шагов вместо 30–40. По моим замерам шаг стоит от 0,12 до 0,98 рубля, так что пять минут формулировки экономят десятки рублей.
Экономия токенов — это не про то, чтобы задавать меньше вопросов. Это про то, чтобы каждая задача начиналась на чистом контексте, формулировалась точно и заканчивалась проверяемым результатом. Агент, который сделал работу за пять шагов вместо тридцати, обходится в шесть раз дешевле — при том же, а часто и лучшем результате.
Мой месяц работы уложился в 27 долларов, из которых пять съел фоновый разбор, а половину — три самые длинные беседы. Разложив расход по полочкам, я нашёл там примерно половину, которую можно было не тратить, ничего не потеряв.