パープレキシティ(Perplexity)
パープレキシティ(Perplexity)は、主に言語モデル(Language Model)の性能を評価する指標の1つです。
簡単に言うと、「モデルが次に来る単語をどれくらい予測しやすいか(または予測に迷っているか)」を数値で表します。
例えば、もしパープレキシティが 50 なら、「モデルは次の単語を50択クイズぐらいの難しさで予測している」という感覚的な意味になります。
理想的には 1 に近い(迷わない)ほど良いですが、現実の自然言語は多様なので、大規模モデルでも数十〜数百になることがあります。
言語モデルの学習や評価では、損失関数としてクロスエントロピー(Cross Entropy)が使われますがパープレキシティはその値を指数変換したもので、直感的に理解しやすくした指標ともいえます。
パープレキシティ(Perplexity)関連用語
パープレキシティ(Perplexity)に関連する単語は以下の通りです。
- 言語モデル(Language Model)
- クロスエントロピー(Cross Entropy)
- 確率分布(Probability Distribution)
パープレキシティ(Perplexity)やさしい解説
パープレキシティ(Perplexity)は、AIが「次の言葉」をどれくらい自信を持って当てられるかを表す数字です。
数字が小さいほど自信満々で、大きいほど「うーん…いろんな可能性があって迷うなぁ」という状態です。
例えば「今日は空が…」と言ったら、多くの人は「青い」とすぐに思いつきます(パープレキシティ小)。
でも「今日は机が…」と言われたら何が続くか分かりにくく、予測が難しい(パープレキシティ大)です。
AI関連の用語集【まとめ】
AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方はぜひご覧ください。
\AIの導入・開発・相談なら【クラベルAI】に相談しよう!/