Công ty chứng khoán Thiên Phong: Cách mạng lưu trữ AI đã đến "Lưu trữ thay tính toán" mở ra kỷ nguyên lưu trữ mới

Jin10 dữ liệu ngày 27 tháng 9, báo cáo nghiên cứu của Tianfeng Securities chỉ ra rằng, để vượt qua rào cản khả năng tính toán và "bức tường lưu trữ", "thả lưu trữ thay cho tính toán" như một hình thức công nghệ đột phá đã ra đời. Công nghệ này thông qua việc di chuyển dữ liệu vector (như KVCache) trong quá trình suy diễn AI từ DRAM và HBM đắt đỏ sang phương tiện SSD có dung lượng lớn và hiệu suất cao, thực hiện sự mở rộng chiến lược của lớp lưu trữ từ bộ nhớ sang SSD, thay vì chỉ đơn giản là thay thế. Giá trị cốt lõi của nó nằm ở việc giảm đáng kể độ trễ token đầu tiên, nâng cao thông lượng suy diễn và tối ưu hóa đáng kể chi phí suy diễn đầu cuối, cung cấp con đường khả thi cho việc triển khai quy mô lớn AI. Cách mạng lưu trữ AI đã đến, "thả lưu trữ thay cho tính toán" tạo ra cơ hội cốt lõi, tiết kiệm đáng kể tiêu thụ khả năng tính toán và thúc đẩy suy diễn AI, làm tăng tốc độ nhu cầu SSD vượt quá đường cong truyền thống.