Я думал, что LLM запомнит контекст, а в итоге он еще более забывчив, чем золотая рыбка

Разрабатывая Copilot, я общался с AI до N-го раунда и наконец не выдержал:

Только что предоставленный API-документ он говорит, что "не видел"

Только что утвержденная архитектура, в следующем раунде сама отменяет

Тот же самый баг исправлял три раза, потому что он вообще не помнит, как исправлял в прошлый раз

Тот день я потратил 3 часа, постоянно повторяя "Я только что говорил об этом".

Потом я понял: AI — не человек, он — безсостояний функция. Если не кормить его памятью, он действительно как золотая рыбка.

Мой подход очень глупый, но эффективный:

На каждом этапе делаю «Краткий отчет по проекту» — текущий прогресс, технический выбор, пройденные ошибки, всё записываю. Каждый раз в начале диалога даю ему это.

С тех пор я больше не сходил с ума из-за "он опять забыл".