AIについての話ですが、自分の出力を十分に与え続けると、すべてが悪化していきます。各世代はますます乱雑になり、歪みが積み重なり、最終的にはほとんど役に立たないモデルになってしまいます。

では、そのサイクルをどうやって断ち切るのか？人間をループに保持することです。これが基本的なアイデアです：人間のレビュアーが各トレーニングの中核となり、後付けではありません。モデル開発を実際の人間の判断に基づかせ、アルゴリズムが自分の尾を食べるのを許さないことで、実際に品質を維持します。

このように動作する分散システム？そこが面白くなる部分です。1つの盲点に集中せず、AIが徐々に自らを毒するのを見ているだけの状態にも陥りません。代わりに、実際の人間の監督に基づいたネットワークアプローチを持っています。