融資審査にAIを導入した銀行が、AIの判定を担当者が確認して最終決定する運用 （ヒューマンインザループ）を採っている。これに加えて説明可能なAI（XAI）を 組み合わせる理由として、最も適切なものはどれか。
正解：エ
ア担当者ごとの判断のばらつきをなくし、審査の全工程をAIだけで完結させられるから。
誤り。人が最終決定を担うヒューマンインザループとは正反対の方向です。XAIは 判断の根拠を人に示す技術であって、人の関与をなくすためのものではありません。 説明できるようになるほど自動化してよい、というものでもありません。
イ担当者が下した判定をAIに再学習させることで、AIの精度を高められるから。
誤り。人が直した結果を学習に回して精度を上げるのは、ヒューマンインザループを 続けたことで得られる効果です。XAIは学習の仕組みではなく、既にできあがったAIの 出力について、その根拠を人に示すためのものです。
ウ入力した顧客情報がAIの学習に使われないようにでき、情報漏えいを防げるから。
誤り。これはAIサービスのオプトアウトポリシーの話です。事業者に預けたデータを どう扱わせるかという入力側の論点であり、審査結果の根拠が担当者に見えるか どうかとは別の問題です。
エ担当者が判定の根拠を確かめられるようになり、結果をそのまま追認せずに済むから。
正解。根拠が見えないままでは、担当者はAIの結果に同意ボタンを押すだけの係に なりがちです。根拠が示されて初めて、人の確認が形式でなく実質を伴います。
承認欄にはんこを押すだけの人にしないために
人を最終決定者に置いても、その人が判断材料を持っていなければ、実際にやることは AIの出力を追認するだけになります。これでは確認したという体裁が整うだけで、 誤りは素通りします。人の確認を実質のあるものにするには、判断の根拠が見える ことが要ります。ここで 説明可能なAI（XAI） が効いてきます。
二つは役割が違う
- XAI：AIの出力に対し、どの要素がどう効いたのかを人に見せる
- ヒューマンインザループ：その内容を人が確かめ、最終的な決定を下す
XAIだけでは、根拠が見えても止める人がいません。ヒューマンインザループだけでは、 止める人はいても止める理由が分かりません。両方そろって初めて、AIの判断を 人が引き受けられる体制になります。これがAIガバナンスの基本の形です。
混同しやすいものとの違い
| 用語 | 担う役割 |
|---|---|
| 説明可能なAI（XAI） | 判断の根拠を人に見える形で示す |
| ヒューマンインザループ | 人が確認し、最終決定を下す |
| オプトアウトポリシー | 入力したデータを学習に使わせない |
融資、採用、人事評価のように人の権利や利益を左右する場面ほど、この組み合わせが 求められます。「根拠を示す」のがXAI、「人が決める」のがヒューマンインザループです。