AI関連の用語集

Top-p(核サンプリング)とは?-AI関連の用語集【クラベルAI】-

Top-p(核サンプリング)とは?AI関連の用語集【クラベルAI】

Top-p(核サンプリング)

ここまで選ぶ外れる合計90%AIの仕組み
アイちゃんのイラスト有力な候補だけに絞って選ぶ
  1. 候補を確率の高い順に並べます。
  2. 合計が一定になるまでを残します。
  3. 残りの候補は選ばれません。

Top-p(核サンプリング)とは、AIが次の言葉を選ぶ候補を、確率の高いものから合計が一定になるまでに絞る設定のことです。たとえばTop-pを0.9にすると、可能性の高い順に候補を足していき、合計が90%に届くところまでを選び対象にします。それ以降の、ほとんど起こらない候補は外れます。温度と合わせて、答えのばらつきを調整する役割があります。

Top-p(核サンプリング)関連用語

Top-p(核サンプリング)に関連する単語は以下の通りです。

Top-p(核サンプリング)で知っておくと得する有益情報

Top-pは、温度と似た働きをします。両方を同時に大きく動かさないのが、安全な使い方です。

  • 値が小さいほど安定0.1のように小さくすると、ごく確実な候補だけが残ります。
  • 温度と片方ずつ調整両方を同時に変えると、結果の原因が分かりにくくなります。
  • 画面に無いことも多いAPI利用など、設定できる環境は限られます。

TemperatureとTop-pの違い

TemperatureTop-p
調整するもの確率の差の大きさ選ぶ候補の範囲
低くすると確実な候補が選ばれやすい選ぶ候補が少なくなる
高くすると意外な候補も選ばれやすい選ぶ候補が広がる
迷ったらまず温度で調整する温度で足りないとき検討

選ばれる候補の確率を試算

上位3つの候補の確率を入れて、Top-pで残る候補の合計を見ます。

選ばれる候補の数0個
その合計確率0%

上位3候補だけの簡易計算です。実際の候補は数万以上あり、確率も仮の値です。

Top-pは、候補の範囲を絞って答えのぶれを抑える設定です。

Top-p(核サンプリング)やさしい解説

いたずらなくまのイラスト
確率で絞るって、どういうこと?
アイちゃんのイラスト
ラーメン屋の人気ランキングを思い浮かべてください。上位の店だけで、売上の9割を占めていることがありますよね。
アイちゃんのイラスト
Top-pは、その上位の店だけから選ぶ方法です。下位の店は最初から除外します。

たとえば問い合わせの返信文を作るとき、変な言い回しが混ざるのを避けたいなら、Top-pを小さめにします。社内の標準文案を作る場面では、おかしな候補が除かれ、読みやすい文章になります。

Top-p(核サンプリング)についてのみんなの疑問

質問する、いたずらなくまのイラスト

TemperatureとTop-pはどちらを使えばいい?

答えるアイちゃんのイラスト

まずTemperatureだけで調整するのが分かりやすいです。二つは似た働きなので、同時に動かすと原因が見えにくくなります。足りない場合に、もう一方を少しずつ試しましょう。

質問する、いたずらなくまのイラスト

Top-pを1にするとどうなりますか?

答えるアイちゃんのイラスト

すべての候補が対象になり、絞り込みなしと同じです。あとは温度の設定だけで、ばらつきが決まります。多くのサービスで、初期値は1に近い値です。

質問する、いたずらなくまのイラスト

普通のチャット画面でも設定できますか?

答えるアイちゃんのイラスト

ふつうのチャット画面では設定できないことが多いです。API利用や開発者向けの画面で変更できます。使うサービスのヘルプで、対応している設定を確認してください。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

アイちゃんのイラストAI関連の用語集(全用語)気になった言葉は、ここからまとめて探せます。用語集を開く →

参考にした公式情報:The Curious Case of Neural Text Degeneration(arXiv)

この記事は役に立ちましたか?

分からない言葉が出たとき、すぐ開けます。

  • この記事を書いた人
  • 最新記事

クラベルAI運営事務局

AI活用の第一相談なら「クラベルAI」 このコンテンツはクラベルAI運営事務局が作成しております。 事務局メンバーには、第1回生成AIパスポートの資格保有者も在籍。 AI活用における、誰に・何を・どう聞けばいいの?というところからAIを使った大規模開発の相談まで、「クラベルAI」なら何度でも無料でご相談いただけます。ご相談内容に合わせて最適なパートナーとのマッチングサービスも提供。提携パートナーも随時募集中です。(個人・法人どなた様もご応募可能いただけます。) AI活用の第一相談所を目指し、日々有益な情報発信に努めております。 ご意見・ご感想等ございましたらお気軽にご連絡ください。運営会社は株式会社フィオリエラ(https://fioriera.co.jp/)です。

-AI関連の用語集
-