説明可能なAI（XAI）とは？
読み方: セツメイカノウナエーアイ
30秒まとめ
AIの判断理由を人間が理解できる形で説明する技術。信頼性と透明性の確保に不可欠。
説明可能なAI（XAI）の意味・定義
説明可能なAI（Explainable AI、XAI）は、AIモデルがなぜその判断・予測を行ったかを、人間が理解できる形で説明する技術・手法の総称です。ディープラーニングなどの複雑なモデルは「ブラックボックス」と呼ばれ、内部の判断プロセスが不透明という問題がありました。SHAP値、LIME、Attention可視化、特徴量重要度などの手法により、どの入力要素がどの程度判断に影響したかを可視化します。医療診断、融資審査、司法判断など、人間の生活に大きな影響を与える領域でAIの透明性と説明責任を確保するために不可欠であり、EU AI規制法でも説明可能性が求められています。