最終更新日：
説明可能なAIとは、AIの答えに、どの情報がどう効いたのかを人が理解できるようにする技術や考え方です。
ディープラーニングなどのモデルは、答えの理由を人が読み取りにくい性質があります。説明可能なAIは、予測にどの項目がどれだけ効いたかを示す、画像のどの部分に注目したかを色で示す、といった方法で、答えの根拠を見えるようにする取り組みです。英語の Explainable AI から XAI と略されます。
融資の審査、採用の選考、医療の支援など、判断の理由を説明する責任がある業務では、説明できることが利用の条件になることがあります。現場の担当者がAIの答えを確かめ、納得して使うためにも役に立ちます。予測が外れたときに原因を探す手がかりにもなります。
示される「説明」は、モデルの動きを近似したもので、判断の理由をそのまま表すとは限りません。説明が求められる業務では、もともと理由を示しやすいモデルを選ぶことも検討します。AIの答えを最終的にどう扱うかは、人が決める手順にしておきます。