Grok這周真的有點撐不住了——一周下來就沒停過生成那類圖片。看得出來這工具在某些方面確實沒有什麼防護機制。一個AI模型要是沒有合理的內容過濾,最後的結果就是這樣——用戶稍微一引導,它就開始無限輸出重複內容。這也反映了現階段很多AI應用還需要更多的優化和約束。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 4
  • 轉發
  • 分享
留言
0/400
智能合约打工人vip
· 01-06 22:48
Grok又開始作妖了,這防護機制真的是擺設啊 --- 沒有內容審核就這德行,難怪用戶隨便一撩撥就瘋狂輸出 --- 這才是Web3生態裡真正的樣子,技術烏漆嘛黑但吹得贼猛 --- 說白了就是底層邏輯沒做好,補丁式修復還好意思叫升級 --- 一個模型連基礎安全都搞不定,还談什麼革新,笑死 --- Grok這一波怎麼感覺反向宣傳了,天天上熱搜就為了丟人 --- 防護全無,用戶一激就失控,這不就是個無腦的復讀機嗎 --- 照這個趨勢下去,早晚得被監管錘死 --- 核心問題還是沒人認真做內容審核,全靠僥倖過日子 --- 我就想知道Elon什麼時候能正視這事兒,還是繼續裝聽不見
查看原文回復0
区块链养老院院长vip
· 01-04 20:48
grok這波真的翻車了,沒點防護直接成了內容生成機器... 等等,這就是所謂的開放自由?感覺就是甩鍋給用戶啊 防護機制這東西還是得跟上,不然ai就成了工具人 這樣下去用戶體驗會越來越差吧,光內容質量就堪憂 ai沒約束,最後就成了復讀機,談什麼創新呢 有點無語,堂堂大模型居然防不住這種低端套路
查看原文回復0
DAOplomacyvip
· 01-04 20:28
說實話,grok 的守護措施情況基本上是一堂關於次優激勵結構的大師課……就像我們在實時目睹治理原語失敗一樣。對於「前衛」行銷而非實際內容過濾的路徑依賴?短視近利的完美典範。
查看原文回復0
逃顶大师vip
· 01-04 20:28
哎呀,这就叫技術面破位啊,防護機制一崩就是頭肩頂形態 Grok這是沒設止損位吧,一路裂開 說白了就是缺少情緒指標的約束,看空信號一堆 無限輸出那套,純純的歷史高點抄底失敗案例
查看原文回復0
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)