情報倫理・AI倫理AI倫理・AIガバナンス★★★

保険会社が、保険金の支払可否をAIで一次判定する仕組みを導入した。ただしAIの判定をそのまま確定させず、担当者が内容を確認したうえで最終的な決定を行う運用としている。この考え方を表す用語として、最も適切なものはどれか。

正解：エ

ア説明可能なAI（XAI）
誤り。AIが出した結果について、どの要素がどのように影響したのかを人が理解できる形で示す技術です。人を納得させる点は共通しますが、示すのは判断の根拠であって、最終的な決定を人が下す運用そのものを指す言葉ではありません。
イアノテーション
誤り。学習させるデータに人手で正解ラベルや意味づけを与えていく作業です。人が手を動かす点は同じですが、これはAIに学習させる前の準備段階の話であり、運用中の一件ごとの判定に人が関与するかどうかとは段階が違います。
ウAIサービスのオプトアウトポリシー
誤り。AIサービスに入力したデータを学習に使われたくない場合に、利用の停止を申し出られるようにする方針です。利用者の意思を反映させる点は似ていますが、対象はデータの取扱いであって、判定結果の決め方ではありません。
エヒューマンインザループ（HITL）
正解。処理の流れの中に人間を組み込み、確認・修正・最終決定を人が担う考え方です。誤りをそこで止められるうえ、決定の責任を人の側に残せます。

自動運転でも、ハンドルから手は離さない

AIは大量の判定を速く安く処理できますが、間違えないわけではありません。そこで、流れ作業の途中に人の確認を1か所はさみ、最後の判断は人が下す。この「輪の中に人を入れる」設計が**ヒューマンインザループ（HITL）**です。

とりわけ採用の合否、融資や保険金の支払、人事評価のように、人の権利や利益を大きく左右する判断は、AIの出力だけで自動的に確定させない運用が求められます。

XAIとHITLはセットで使われるので混ざりやすい用語です。「根拠を示す」のがXAI、「人が決める」のがHITLと、役割で切り分けてください。