Vài tuần qua tôi luôn suy nghĩ về một vấn đề: nếu AI không còn chỉ là một đối tượng trò chuyện của bạn, không chỉ đưa ra gợi ý, mà thực sự bắt đầu làm thay bạn - chuyển tiền, đặt hàng, gọi tài nguyên, giao tiếp với các hệ thống khác, liệu thế giới có thực sự sẵn sàng không?

Đây không phải là những công việc nhỏ như viết một bản sao. Tôi đang nói đến những thứ cứng cáp hơn - sự luân chuyển của tiền thật, sự hợp tác gọi giữa các hệ thống. Càng nghĩ nhiều càng cảm thấy hơi rùng rợn. Chúng ta suốt ngày nói về việc mô hình thông minh đến mức nào, suy luận nhanh ra sao, nhưng rất ít người thực sự phân tích: Khi AI bắt đầu hành động, thì nó dựa vào đâu để đảm bảo?

Cũng chính vì câu hỏi này, tôi bắt đầu chú ý đến dự án Kite.

Nói thật, nó đặc biệt "khiêm tốn". Không có quảng cáo rầm rộ, khái niệm cũng không bị dồn nén nhiều. Nhưng nếu nhìn kỹ, bạn sẽ thấy nhóm người này có chút "trung thực một cách không bình thường". Cảm giác không giống như đang theo đuổi cơn sốt, mà giống như một nhóm người ngồi lại, phân tích từng vấn đề có thể xảy ra trong tương lai một cách kỹ lưỡng.

Hầu hết các dự án AI đều nói về khả năng. Kite lại bắt đầu bằng cách nói về giới hạn. Cách suy nghĩ này đã chạm đến điểm đau.

Nó phân tách khía cạnh danh tính thành ba chiều: ai là người, ai là đại lý, ai sẽ chịu trách nhiệm cho thao tác này. Nghe có vẻ hơi kỹ thuật, nhưng bản chất thực sự rất đơn giản - bạn không thể để một hệ thống trực tiếp xử lý tiền khi không rõ "ai đang làm gì, có thể làm đến đâu". Một khi logic này đứng vững, toàn bộ sự việc sẽ ổn định: người dùng có được cảm giác an toàn, đại lý có không gian hoạt động, và hệ thống cũng sẽ không mất kiểm soát.

Điều khiến tôi cảm thấy Kite đã suy nghĩ sâu sắc là cách nó hiểu về "thanh toán" trong quy trình. Tôi luôn tin rằng, trong tương lai, tần suất giao dịch của AI chắc chắn sẽ vượt xa con người. Tôi không nói về một hoặc hai giao dịch, mà là giao dịch tự động quy mô lớn và tần suất cao. Khi tình huống này xảy ra, mô hình thanh toán truyền thống sẽ cần phải được thiết kế lại.