Почему всё выглядит как магия
ChatGPT, Claude, Gemini, Copilot и Codex выглядят как разные существа. Внутри большинства современных AI-продуктов повторяется один и тот же набор деталей: языковая модель, контекст, инструменты и программа, которая решает, что вызвать дальше.
Если разделить эти уровни, новости про AI становятся проще. Можно отдельно обсуждать качество модели, отдельно — продуктовый интерфейс и отдельно — инженерный контур, который превращает генерацию текста в действие.
Модель предлагает следующий токен. Система вокруг неё превращает ответ в работу.
Модель
Языковая модель получает последовательность токенов и предсказывает продолжение. Она умеет работать с кодом и естественным языком, потому что видела много структурированных примеров. Но у неё нет встроенной файловой системы, браузера или терминала. Эти возможности добавляет продукт вокруг модели.
Разные модели отличаются обучением, размером, скоростью, ценой и тем, насколько хорошо они следуют инструкциям. Но знакомое окно чата — уже не сама модель. Это интерфейс, история сообщений, системные инструкции и набор дополнительных функций.
Агент и инструменты
Агент появляется, когда программа разрешает модели выбрать действие, вызвать инструмент, прочитать результат и решить, что делать дальше. Например: найти файл, изменить код, запустить тест и на основании ошибки сделать следующую попытку.
Повторение не гарантирует качество. Полезным цикл делает обратная связь из внешнего мира: компилятор, тест, лог, скриншот или человек. Если агент спрашивает только себя, он может очень быстро повторять одну и ту же ошибку.
Контекст
Контекст — это рабочее состояние текущего вызова: инструкции, сообщения, фрагменты кода и результаты инструментов. Окно контекста ограничено, поэтому длинный процесс сжимает историю, сохраняет решения снаружи или начинает новый разговор.
Большое окно не равно бесконечному вниманию. Чем больше несвязанных деталей загружено, тем сильнее они конкурируют. Хороший контекст содержит не всё — он вовремя подводит к следующему решению правильные данные.
Короткий словарь
- Токен — небольшая единица текста, которой оперирует модель.
- Промпт — инструкции и данные текущего вызова.
- Инструмент — внешняя функция: поиск, терминал, браузер, API.
- Агент — цикл, в котором модель выбирает действие и получает результат.
- Harness — среда, правила и проверки вокруг агентского цикла.
Три правила
- Проверяйте результат во внешнем мире, а не уверенность ответа.
- Давайте ровно тот контекст и те права, которые нужны следующему шагу.
- Разделяйте качество модели и качество системы вокруг неё.
Так AI перестаёт быть магией. Он становится обычной инженерной системой: со входами, состоянием, инструментами, ограничениями и наблюдаемым результатом.