AIハルシネーション検出とは？
読み方: エーアイハルシネーションケンシュツ
30秒まとめ
AIが生成した誤情報（ハルシネーション）を自動的に検出・特定する技術。AI信頼性の鍵。
AIハルシネーション検出の意味・定義
AIハルシネーション検出（AI Hallucination Detection）は、LLMが生成したテキストに含まれる事実に反する情報（ハルシネーション）を自動的に検出・特定する技術です。主なアプローチとして、外部知識ベースとの照合（ファクトチェック）、モデルの出力確率分析（不確実性の高い箇所の特定）、自己一貫性チェック（複数回の生成結果の比較）、別のAIモデルによるクロスバリデーションなどがあります。RAGと組み合わせてソース情報との整合性を検証する手法も有効です。企業がAIを業務に導入する際、ハルシネーションのリスク管理は最重要課題であり、Perplexity AIのような出典明示型の検索エンジンや、GroundingやRetrieval技術の発展がこの課題に対処しています。