SHAPとは？-AI関連の用語集【クラベルAI】-

SHAP（SHapley Additive exPlanations）

SHAP（シャップ）とは、AIの予測に、各項目がどれだけ影響したかを数値で示す手法のことです。協力ゲームの理論にあるシャープレイ値を、AIの説明に応用したものです。2017年にLundbergとLeeが論文で発表しました。予測を、基準の値に各項目の影響を足し合わせた形で表すので、プラスとマイナスの向きまで読み取れます。

SHAP（SHapley Additive exPlanations）関連用語

SHAP（SHapley Additive exPlanations）に関連する単語は以下の通りです。

• XAI（説明可能なAI）説明可能なAIの全体像は？→
• 解釈可能性（Interpretability）解釈できるとはどういうこと？→
• 特徴抽出AIは何を手がかりにしている？→
• アルゴリズムバイアス偏りの発見にも使える？→
• AIの公平性公平性の点検に役立つ？→
• 決定木（Decision Tree）最初から読めるAIとは？→

SHAP（SHapley Additive exPlanations）で知っておくと得する有益情報

SHAPの結果は、読み方を知っておくと現場で役立ちます。要点を3つにまとめました。

• 向きと大きさを見るプラスは予測を上げ、マイナスは下げる向きの影響です。
• 1件ごとにも全体にも1人分の理由も、全体で効く項目の順位も出せます。
• 因果とは別物影響の大きさは、原因を意味しません。解釈には注意が必要です。

SHAPの結果の例（仮の数値）

予測を、各項目の押し上げと押し下げに分けて見る手法です。

SHAP（SHapley Additive exPlanations）やさしい解説

SHAPって、なんだかお菓子みたいな名前だね。

みんなで割り勘をするとき、誰がいくら出したかを公平に計算するような考え方が元になっています。

AIの予測を、各項目の貢献分に分けて、1つずつ見える形にします。

解約しそうなお客様をAIが予測したとします。SHAPで見ると「利用回数の少なさ」が大きく押し上げていると分かるかもしれません。それなら、利用を促す連絡を優先するなど、打ち手を具体的に決められます。

SHAP（SHapley Additive exPlanations）についてのみんなの疑問

SHAPは誰でも使えますか？

専門のプログラムが必要ですが、無料の公開ツールがあります。データ分析の担当者がいれば、Pythonのライブラリで計算できます。結果の読み方は、本記事の要点を参考にしてください。

SHAPが示す項目が、原因だと考えてよいですか？

原因だとは言い切れないのです。SHAPはAIが予測に使った要素を示すもので、現実の原因を示すとは限りません。判断の前に、現場の知識で確認しましょう。

SHAPと説明可能なAIは同じですか？

SHAPは、説明可能なAIの手法の一つです。ほかにも、決定木のように最初から読めるモデルや、注目箇所を色で示す方法などがあります。

AI関連の用語集【まとめ】

AI関連の用語集が気になる方のために、用語集一覧を作成しました。AIに関する学びを深めたいとお考えの方は、ぜひご覧ください。

AI関連の用語集（全用語）気になった言葉は、ここからまとめて探せます。用語集を開く →

参考にした公式情報：A Unified Approach to Interpreting Model Predictions（arXiv）

この記事は役に立ちましたか？

はい、役に立った いまいち

この記事をシェア

X Facebook LINE はてブ URLをコピー

ブログやSNSで紹介していただくときは、このページのURLをそのままお使いください（リンクはご自由にどうぞ）。

このサイトをホーム画面に追加

分からない言葉が出たとき、すぐ開けます。