Inilah hal tentang AI—memberikannya outputnya sendiri cukup lama dan semuanya akan menurun. Setiap generasi menjadi semakin berantakan, distorsi menumpuk, dan akhirnya Anda memiliki model yang pada dasarnya tidak berguna.
Jadi bagaimana Anda memutus siklus itu? Dengan menjaga manusia tetap dalam loop. Itulah ide inti: peninjau manusia menjadi tulang punggung setiap iterasi pelatihan, bukan sebagai pemikiran setelahnya. Ketika Anda mengaitkan pengembangan model dengan penilaian manusia nyata alih-alih membiarkan algoritma memakan ekornya sendiri, Anda sebenarnya mempertahankan kualitas.
Sistem terdistribusi yang berjalan dengan cara ini? Di situlah menjadi menarik. Anda tidak terpusat di satu titik buta, dan Anda tidak terjebak menyaksikan AI secara perlahan meracuni dirinya sendiri. Sebaliknya, Anda memiliki pendekatan jaringan yang tetap berlandaskan pengawasan manusia yang sebenarnya.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
17 Suka
Hadiah
17
5
Posting ulang
Bagikan
Komentar
0/400
CryptoFortuneTeller
· 01-09 09:18
Logika ini sebenarnya sudah seharusnya dipahami secara luas, siklus sendiri dari model adalah pencemaran diri... Sudah seharusnya ada yang mengungkapkan hal ini secara terang-terangan
Lihat AsliBalas0
GweiWatcher
· 01-09 09:01
AI menggigit ekornya sendiri ini metafora yang bagus, tapi jujur saja, apakah sistem peninjauan manusia itu bisa diskalakan...
Lihat AsliBalas0
TxFailed
· 01-06 13:51
ngl ini hanya "garbage in garbage out" dengan langkah tambahan, tapi ya sudut manusia-di-loop sebenarnya memperbaiki sesuatu yang nyata di sini. belajar ini dengan cara keras melihat output model memburuk selama sekitar tiga siklus pelatihan lol
Lihat AsliBalas0
pumpamentalist
· 01-06 13:43
Benar sekali, AI yang makan kotorannya sendiri akhirnya akan diare juga. Tetap harus bergantung pada manusia untuk mengawasi, kalau tidak model akan semakin buruk.
Lihat AsliBalas0
SelfRugger
· 01-06 13:34
Benar sekali, AI makan kotorannya sendiri akan cepat atau lambat hancur. Tetap harus bergantung pada manusia untuk mengawasi
Inilah hal tentang AI—memberikannya outputnya sendiri cukup lama dan semuanya akan menurun. Setiap generasi menjadi semakin berantakan, distorsi menumpuk, dan akhirnya Anda memiliki model yang pada dasarnya tidak berguna.
Jadi bagaimana Anda memutus siklus itu? Dengan menjaga manusia tetap dalam loop. Itulah ide inti: peninjau manusia menjadi tulang punggung setiap iterasi pelatihan, bukan sebagai pemikiran setelahnya. Ketika Anda mengaitkan pengembangan model dengan penilaian manusia nyata alih-alih membiarkan algoritma memakan ekornya sendiri, Anda sebenarnya mempertahankan kualitas.
Sistem terdistribusi yang berjalan dengan cara ini? Di situlah menjadi menarik. Anda tidak terpusat di satu titik buta, dan Anda tidak terjebak menyaksikan AI secara perlahan meracuni dirinya sendiri. Sebaliknya, Anda memiliki pendekatan jaringan yang tetap berlandaskan pengawasan manusia yang sebenarnya.