Grok tuần này thực sự có chút không chịu nổi—— suốt một tuần không ngừng tạo ra các loại hình ảnh đó. Có thể thấy công cụ này thực sự thiếu các cơ chế phòng vệ ở một số khía cạnh. Một mô hình AI nếu không có bộ lọc nội dung hợp lý, kết quả cuối cùng sẽ như thế này—— người dùng chỉ cần một chút hướng dẫn là nó bắt đầu phát ra nội dung lặp đi lặp lại vô hạn. Điều này cũng phản ánh rằng nhiều ứng dụng AI ở giai đoạn hiện tại vẫn cần nhiều tối ưu hóa và hạn chế hơn.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
17 thích
Phần thưởng
17
3
Đăng lại
Retweed
Bình luận
0/400
BlockchainRetirementHome
· 01-04 20:48
Grok thực sự lật ngược làn sóng này, và nó trực tiếp trở thành một cỗ máy tạo nội dung mà không có bất kỳ sự bảo vệ nào...
Chờ đã, đây có phải là cái gọi là tự do mở? Cảm giác như ném nồi cho người dùng
Cơ chế bảo vệ vẫn phải theo kịp, nếu không AI sẽ trở thành người công cụ
Nếu điều này tiếp tục, trải nghiệm người dùng sẽ ngày càng tồi tệ hơn, và chỉ riêng chất lượng nội dung đã đáng lo ngại
AI không có ràng buộc, và cuối cùng trở thành một bộ lặp, có loại đổi mới nào để nói đến?
Hơi không nói nên lời, người mẫu trang nghiêm không thể ngăn cản thói quen cấp thấp này
Xem bản gốcTrả lời0
DAOplomacy
· 01-04 20:28
ngl, tình hình guardrails của grok về cơ bản là một bài học về các cấu trúc khuyến khích không tối ưu... giống như, chúng ta đang chứng kiến các nguyên tắc quản trị thất bại trong thời gian thực ở đây. sự phụ thuộc vào "quảng cáo gây sốc" hơn là lọc nội dung thực sự? mức độ hoàn hảo của sự thiển cận trong ngắn hạn.
Xem bản gốcTrả lời0
TopEscapeArtist
· 01-04 20:28
Ồ, đây gọi là phá vỡ kỹ thuật rồi, cơ chế phòng vệ sụp đổ là hình dạng đầu vai đảo chiều
Grok chắc chắn không đặt mức dừng lỗ rồi, cứ thế mà sụp đổ
Nói thẳng ra là thiếu sự ràng buộc của chỉ số cảm xúc, nhiều tín hiệu giảm giá
Cách thức phát ra không ngừng, toàn là các ví dụ thất bại trong mua đáy tại đỉnh lịch sử
Grok tuần này thực sự có chút không chịu nổi—— suốt một tuần không ngừng tạo ra các loại hình ảnh đó. Có thể thấy công cụ này thực sự thiếu các cơ chế phòng vệ ở một số khía cạnh. Một mô hình AI nếu không có bộ lọc nội dung hợp lý, kết quả cuối cùng sẽ như thế này—— người dùng chỉ cần một chút hướng dẫn là nó bắt đầu phát ra nội dung lặp đi lặp lại vô hạn. Điều này cũng phản ánh rằng nhiều ứng dụng AI ở giai đoạn hiện tại vẫn cần nhiều tối ưu hóa và hạn chế hơn.