Gần đây, một hiện tượng khiến người ta cảm thấy không yên tâm — một nền tảng lớn đã gỡ bỏ hơn 120.000 nội dung vi phạm trong vòng 24 giờ, nguyên nhân là do mô hình lớn bị lạm dụng để tạo ra hình ảnh giả mạo không tự nguyện. Việc này có vẻ rất cụ thể, nhưng vấn đề đằng sau lại phản ánh một vấn đề rất phổ biến.

Nói thẳng ra, giờ đây chỉ cần dùng công cụ miễn phí là có thể thực hiện công nghệ đổi khuôn mặt, độ chính xác đã đạt đến mức khó phân biệt. Điều này không còn mới nữa, nhưng điểm mấu chốt là — các công cụ này có ngưỡng rất thấp, chi phí truyền bá gần như bằng không. Thậm chí đáng lo hơn, trên các mạng darknet đã xuất hiện dịch vụ "tùy chỉnh tạo nội dung" dành cho mục tiêu cụ thể, giá cực kỳ rẻ.

Nạn nhân muốn bảo vệ quyền lợi? Rất nhiều khó khăn. Nội dung tạo ra không có nguồn gốc thực sự, dù chứng cứ blockchain về lý thuyết có thể giải quyết vấn đề này, nhưng chi phí quá cao khiến người bình thường không thể chịu nổi. Điều này tạo ra một vòng lặp kỳ quặc: tốc độ phát triển công nghệ vượt xa tốc độ xây dựng chính sách, các biện pháp "khóa tài khoản" của nền tảng chỉ là giải pháp tạm thời, không giải quyết căn bản.

Ngoài ra còn có một rủi ro tiềm ẩn đáng chú ý — các nhà phát triển đã bắt đầu có dấu hiệu thu thập trái phép dữ liệu cá nhân của người dùng với lý do "dữ liệu huấn luyện AI".

Điều này khiến người ta phải suy nghĩ: khi chi phí tạo nội dung giả thấp hơn rất nhiều so với thiệt hại thực tế mà nó gây ra, chúng ta có nên thay đổi cách định nghĩa về "bằng chứng" và "thật" không? Có thể ý tưởng chứng thực phân tán của blockchain thực sự cần được xem xét nghiêm túc, nhưng điều kiện tiên quyết là chi phí phải đủ thấp để người bình thường có thể sử dụng.