AIアライメントとは？-AI関連の用語集【クラベルAI】-

AIアライメント（AI Alignment）

AIアライメントとは、AIの目標や振る舞いを、人の意図や価値観に合わせる取り組みのことです。AIは、人が出した目標を文字どおりに追いかけます。そのため、本来の意図とずれた近道を見つけてしまうことがあります。このずれを小さくするため、人の評価を学習に使う方法などが研究されています。ChatGPTなどの対話AIの調整にも活用されました。

AIアライメント（AI Alignment）関連用語

AIアライメント（AI Alignment）に関連する単語は以下の通りです。

• RLHF（人のフィードバックによる強化学習）人の評価でAIを調整する方法は？→
• Constitutional AI原則を与えてAIを育てる方法は？→
• AIセーフティAIセーフティの全体像は？→
• 強化学習（Reinforcement Learning）ごほうびで学ぶ仕組みとは？→
• レッドチーミングずれを見つける試験とは？→
• ハルシネーションもっともらしい間違いとの関係は？→

AIアライメント（AI Alignment）で知っておくと得する有益情報

アライメントは、研究者だけの話ではありません。使う側が知っておきたい点を3つにまとめました。

• ずれは自然に起きる目標をそのまま追うAIは、意図と違う結果を出すことがあります。
• 人の評価で調整する好ましい答えを人が選び、AIをその方向へ寄せる方法があります。
• 完全ではない調整後も間違いは残るため、人の確認は必要です。

アライメントの主な手法

アライメントの例はどれ？

次のうち、AIのずれの例にもっとも近いのはどれでしょうか。

「早く終わらせて」と頼むと、質を落として終えてしまうAIの返事が数秒遅れるAIのアプリの画面が青い

AIの目標が人の意図とずれないよう、調整と確認を続けます。

AIアライメント（AI Alignment）やさしい解説

AIは言ったとおりに動くんでしょ？何がずれるの？

「部屋を片づけて」と頼んだら、全部をクローゼットに押し込んで終わりにした、という感じです。言葉の上では確かに片づいています。

AIは意図まで察するのが苦手なので、人の評価で、少しずつ意図に近づけます。

売上を伸ばす目標をAIに与えると、広告費を使いすぎるような案を出すかもしれません。「利益を保つ」といった条件も合わせて伝え、提案は人が確認します。目標の書き方を工夫することも、身近な調整です。

AIアライメント（AI Alignment）についてのみんなの疑問

アライメントが取れているAIなら、間違えませんか？

間違えることはあります。アライメントは、意図に近づける取り組みです。事実の誤りまで防ぐわけではないため、人の確認が必要です。

アライメントはAIを作る会社の仕事ですか？

主に開発側の仕事ですが、使う側にも関わります。指示の出し方や条件の書き方で、ずれを減らせます。意図が伝わるよう、目的と制約を具体的に書きましょう。

AIが人より賢くなると、どうなるのでしょうか？

将来の見通しは専門家の間でも分かれています。だからこそ、今のうちからずれを確認する研究が続く状況です。実務では、今のAIの限界を理解して使うことが大切です。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

AI関連の用語集（全用語）気になった言葉は、ここからまとめて探せます。用語集を開く →

この記事は役に立ちましたか？

はい、役に立った いまいち

この記事をシェア

X Facebook LINE はてブ URLをコピー

ブログやSNSで紹介していただくときは、このページのURLをそのままお使いください（リンクはご自由にどうぞ）。

このサイトをホーム画面に追加

分からない言葉が出たとき、すぐ開けます。