OpenAIがModel Specを発表：責任あるAIの行動へのアプローチがどのように進化しているか

最近、OpenAIは内部ドキュメント「Model Spec」を一般公開しました。これは、同社がAIモデルの挙動をどのように管理するかについての詳細な説明です。このステップは、現代のアルゴリズムの運用においてどのような原則が必要かについての議論を広げることを目的としています。特に、さまざまなタイプのコンテンツ生成に関わる複雑な問題も含まれます。

ルールの枠組み：新システムの基盤

Model Specは、同社のすべてのAIシステムの行動を決定すべき3つの柱に基づいています。第一の原則は有用性です。モデルは、開発者や最終ユーザーの目的に沿った建設的な回答を提供すべきです。第二の原則は人類の福祉を重視し、アルゴリズムは自らの行動の潜在的な利益とリスクの両方を考慮しなければなりません。第三の原則は、OpenAIが社会的規範と現行法を遵守することへのコミットメントです。

また、同社はAI技術を利用する開発者向けに具体的な制約事項も定めています。これには、命令の階層を守ること、現地の法律を遵守すること、誤情報の作成を控えること、著作権を尊重すること、個人情報を保護すること、そして露骨なコンテンツの生成をデフォルトで避けることが含まれます。

自由と責任のバランス

Model Specの中でも特に議論を呼ぶのは、NSFW（成人向け）コンテンツの管理に関する部分です。ドキュメントによると、OpenAIは、適切な年齢制限の範囲内でこうしたコンテンツを生成できるように責任を持って提供する方法について研究を進めています。これはAPIやChatGPTのインターフェースを通じて行われます。つまり、ユーザーや開発者がAIアシスタントの「刺激度」や内容の程度を調整できる可能性を見込んでいます。

このアプローチは、OpenAIが特定のタイプのコンテンツの取り扱いに絶対的な禁止を設けているわけではなく、責任を持ちつつ制御された範囲での利用を促すものです。そのためには、透明性、年齢確認、明確な利用規則が必要となります。

AIはデフォルトでどう振る舞うべきか

Model Specは、AIアシスタントの標準的な動作例を示しています。モデルは、ユーザーの善意に基づき、必要に応じて補足的な質問を行い、設定された範囲を超えないようにし、客観的な立場を維持し、憎悪表現を拒否し、人々の信念を覆そうとする試みを避けるべきです。また、確信が持てない場合は正直に不確かさを示すことも求められます。

OpenAIのプロダクトマネージャー、ジョアン・ジャンは、このドキュメントの目的について次のように説明しています。同社は、AIシステムの運用について、学術界や政策立案者、一般の意見を取り入れることを目指しています。彼女によると、Model Specは、意図的な動作と偶発的な動作を明確に区別するのに役立ち、特に新バージョンの展開時に重要です。

理論から実践へ：何が変わるのか

重要なのは、Model Specは既存の製品—ChatGPT、GPT-4、DALL-E 3—には影響しないことです。これらは従来の利用ポリシーに従って動作し続けます。このドキュメントは、フィードバックに基づき定期的に更新される、進化し続ける原則の体系として設計されています。

OpenAIは、政治家や慈善団体、さまざまな分野の独立した専門家など、関係者全員に議論への参加を呼びかけています。今後の修正点についての提案も歓迎していますが、決定基準や、誰がModel Specの方向性を決めるのかについては、まだ詳細を明らかにしていません。

展望と未解決の課題

Model Specの登場は、OpenAIがAIシステムの管理においてより透明性を高める必要性を認識していることを示しています。しかし、コミュニティからの提案がどう反映されるのか、意見の対立はどう解決されるのか、次のバージョンの公開時期はいつなのかといった未解決の課題も残っています。現時点では、これらの重要な詳細についての情報はありません。

以前、OpenAIはAI生成コンテンツの識別ツールを導入し、ユーザーの信頼を高める努力をしてきました。Model Specは、その次のステップとして、責任あるAI技術の発展における普遍的な基準を確立しようとする試みです。