Eu achava que o LLM iria lembrar do contexto, mas no final ele é mais esquecido que um peixe dourado

Ao desenvolver o Copilot, conversei com a IA até a N-ésima rodada e finalmente não aguentei mais:

A API que acabei de fornecer, ela disse que "não viu"

A arquitetura que acertei, na próxima rodada ela derruba por conta própria

O mesmo bug foi corrigido três vezes, porque ela simplesmente não lembra como resolveu na última vez

Naquele tarde, perdi 3 horas, repetindo incessantemente "Eu não acabei de dizer isso?"

Depois percebi: a IA não é uma pessoa, ela é uma função sem estado. Se você não alimentá-la com memória, ela é mesmo um peixe dourado.

Minha abordagem é burra, mas funciona:

A cada etapa, faço uma "Captura de Estado do Projeto" — progresso atual, escolhas tecnológicas, problemas enfrentados, tudo anotado. E na primeira frase de cada conversa, dou isso a ela.

Desde então, nunca mais fiquei frustrado com "Como ela esqueceu de novo".

Conclusão: não espere que a IA seja inteligente. Seu trabalho não é "conversar", é "alimentar memória".