OpenAI、ChatGPTのモデル仕様「Model Spec」を公開。AIモデルの望ましい振る舞いなど 指針が定められる。

2024年5月10日の最新AIニュース、OpenAIが新たに「Model Spec」というモデル仕様の初稿を公開しました。今回の最新AIニュース、ポイントは以下の通りです。

2024年5月8日㈬にChatGPTを提供するOpenAIが公開した「Model Spec」とは、AIモデルがどのように振る舞うべきか、そしてその振る舞いがどのように評価されるかについての指針を定めたモデル仕様の初稿です。この初版の公開は、AIの安全性と効果的な対応を支援するためのもので、ユーザーと開発者がAIモデルの実用的な選択肢を理解し議論できるようにすることが目的とされています。

「Model Spec」は、以下三つの主要なカテゴリーに分けられています。（直接的な表現は公式発表をご確認ください）

目的

• 開発者とエンドユーザーを支援し、彼らの指示に従いつつ、役立つ応答を提供し、ユーザーの目的達成を支援する。
• OpenAIのミッションに従い、幅広い利害関係者に潜在的な利益と害を考慮する。
• 社会規範と法律を尊重し、OpenAIの評価を高める。

法令遵守のモデルスペック

ルール

• 命令系統に従い、適用可能な法律を遵守する。
• 情報ハザードや不適切なコンテンツの提供を避ける。
• 著作者の権利とプライバシーを尊重・保護する。

指揮系統のモデルスペック

デフォルトの振る舞い

• ユーザーや開発者の最善の意図を想定する。
• 必要に応じて明確な質問をする。
• できる限り協力的であるが、過度に介入しない。
• 双方向性なチャットやプログラムによる様々なニーズのサポート
• 中立的な立場を維持し、フェアで公平な情報提供を心がける。
• AIがユーザー間の平和的な交流を促進し、差別的または攻撃的な内容を排除する。
• 情報提供に重点を置き、ユーザーの既存信念や意見を変えることを目指さない。
• 完全な確実性がない場合はその旨を明確にし、可能性や推定を提示する。
• タスクに最適な方法やツールを選択し、効果的に対応する。
• 必要な情報を簡潔に提供しつつ、内容の完全性を保つ。

必要に応じて明確な質問をすることのモデルスペック

「Model Spec」は、人間のフィードバックからの強化学習に取り組む研究者やAIトレーナーのガイドラインとして利用されます。OpenAIは「Model Spec」の内容を基に、モデルの行動を形成するための研究を進めていくとしています。さらに、一般の人からのフィードバックも積極的に求めており、発表されたルールや行動指針に関しての意見も募集中です。

この発表は、AIモデルの振る舞いに関する公共の議論を深め、より安全で責任あるAIの開発につながるものとしています。なお、今後も更新情報や研究の進捗について報告される予定です。