Tôi cứ nghĩ LLM sẽ ghi nhớ ngữ cảnh, kết quả lại còn nhớ kém hơn cá vàng

Khi phát triển Copilot, tôi đã trò chuyện với AI đến lượt thứ N, cuối cùng không nhịn được nữa:

API tài liệu đã gửi rồi, nó nói "chưa từng thấy"

Kiến trúc đã định xong, lượt tiếp theo tự ý thay đổi

Cùng một lỗi đã sửa ba lần, vì nó hoàn toàn không nhớ lần sửa trước như thế nào

Chiều hôm đó tôi đã lãng phí 3 giờ, cứ lặp đi lặp lại "Tôi đã nói rồi mà".

Sau này tôi mới hiểu: AI không phải là người, nó là một hàm không trạng thái. Bạn không cung cấp cho nó trí nhớ, nó thật sự là cá vàng.

Cách của tôi rất ngu nhưng hiệu quả:

Mỗi giai đoạn làm một bản "Ảnh chụp dự án" — tiến độ hiện tại, lựa chọn công nghệ, các lỗi đã gặp, tất cả ghi lại. Mỗi lần trò chuyện, câu đầu tiên là cung cấp cho nó cái này.

Từ đó không còn phát điên vì "Nó lại quên rồi" nữa.

Kết luận: đừng mong AI thông minh. Công việc của bạn không phải là " trò chuyện", mà là "cung cấp trí nhớ".