关于AI的事情——只要让它不断输入自己的输出,结果就会一发不可收拾。每一代都变得更加混乱,扭曲不断堆积,最终你会得到一个基本上毫无用处的模型。



那么,如何打破这个循环呢?通过让人类保持在环节中。这是核心思想:人类审查员成为每次训练迭代的支柱,而不是事后补充。当你将模型开发基于真实的人类判断,而不是让算法自己吃自己尾巴时,你实际上是在维护质量。

以这种方式运行的分布式系统?那才是真正有趣的地方。你不会集中在一个盲点,也不会被困在看着AI逐渐自我毒害的局面中。相反,你拥有一个基于实际人类监督的网络方法。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 转发
  • 分享
评论
0/400
椰子丝半仙vip
· 01-09 09:18
这逻辑其实早就该普及了,模型自我循环就是自我污染...早该有人挑明这事儿
回复0
GweiWatcher1vip
· 01-09 09:01
ai吃自己尾巴这比喻绝了,但说实话人工审核那套能scale吗...
回复0
TxFailedvip
· 01-06 13:51
ngl 这只是“垃圾进,垃圾出”的变体,只不过多了些步骤,但没错,人工干预的角度实际上解决了真正的问题。通过观看模型输出在大约三个训练周期内退化,我也深刻体会到了这个道理,真是苦涩的教训 lol
查看原文回复0
pumpamentalistvip
· 01-06 13:43
说得没错啊,AI自己吃自己的屎迟早得拉稀。还是得靠人来把关,不然模型越来越烂。
回复0
SelfRuggervip
· 01-06 13:34
说得没错啊,AI吃自己屎迟早完蛋。还是得靠人来把关
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)