Constitutional AIとは？-AI関連の用語集【クラベルAI】-

Constitutional AI（憲法AI）

Constitutional AIとは、人が決めた原則の一覧をもとに、AI自身が答えを見直して学ぶ手法のことです。2022年にAnthropicが論文で発表し、「憲法AI」とも呼ばれます。有害な答えを避けるかどうかを、人が1つずつ評価する代わりに、原則に照らしてAIが判断します。人の負担を減らしつつ、判断の基準を文章で示せるのが特徴です。

Constitutional AI（憲法AI）関連用語

Constitutional AI（憲法AI）に関連する単語は以下の通りです。

• RLHF（人のフィードバックによる強化学習）人が評価する方法との違いは？→
• AIアライメントAIを人の望みに合わせるとは？→
• AIセーフティAIの安全はどう守られる？→
• Claude（クロード）この考え方を使うClaudeとは？→
• Anthropic（アンソロピック）開発したAnthropicはどんな会社？→
• ガードレール（AI）AIの暴走を止める仕組みは？→

Constitutional AI（憲法AI）で知っておくと得する有益情報

Constitutional AIは、AIの振る舞いの決め方に関する考え方です。押さえたい点を3つにまとめました。

• 基準が文章で見えるどんな原則で振る舞いを決めるかを、言葉で示して調整できます。
• 人の評価を減らせる有害さの判定の一部をAIが担い、人の作業負担を抑えます。
• 安全の保証ではない原則を使っても、望ましくない答えが完全に消えるわけではありません。

RLHFとの違い（一般的な説明）

憲法AIの理解クイズ

Constitutional AIで、AIは何を手がかりに答えを見直すでしょう。

人が決めた原則の一覧利用者のアクセス数インターネット上の人気順位

AIの振る舞いを、原則という言葉で決められる手法です。

Constitutional AI（憲法AI）やさしい解説

AIに憲法があるって、どういうこと？

学校の校則のように、「してはいけないこと」「大事にすること」を文章にして、AIに渡すイメージです。

AIはその校則に照らして、自分の答えを見直します。

自社でAIを使うときも、似た考え方が使えます。たとえば「個人情報は書かない」「根拠が不明なときは分からないと答える」といった決まりを、指示文にまとめておくのです。基準を言葉にすると、ぶれが減ります。

Constitutional AI（憲法AI）についてのみんなの疑問

Constitutional AIは誰が作った手法ですか？

AIの開発会社Anthropicが、2022年に論文で発表しました。論文のタイトルは「Constitutional AI: Harmlessness from AI Feedback」です。同社のClaudeの開発に、この考え方が関わっていると説明されています。

原則はどんな内容なんですか？

有害さを避けるための、短い方針の集まりです。内容は開発会社が決めて公開します。何を原則にするかで振る舞いが変わるため、どんな基準かを知ることは、サービス選びの判断材料になります。

これがあれば、AIは安全だと言えますか？

安全と言い切れません。対策の一つと考えましょう。原則があっても、想定外の質問には不適切な答えが出る場合があります。利用ルールの整備や人による確認を、あわせて行うことが大切です。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

AI関連の用語集（全用語）気になった言葉は、ここからまとめて探せます。用語集を開く →

参考にした公式情報：Constitutional AI: Harmlessness from AI Feedback（arXiv）

この記事は役に立ちましたか？

はい、役に立った いまいち

この記事をシェア

X Facebook LINE はてブ URLをコピー

ブログやSNSで紹介していただくときは、このページのURLをそのままお使いください（リンクはご自由にどうぞ）。

このサイトをホーム画面に追加

分からない言葉が出たとき、すぐ開けます。