問題 16★★☆

AIでメールの不審さを点数化し、しきい値を超えたものを隔離する仕組みを使っている。 正常なメールの隔離が多いため、しきい値を上げて隔離されにくくすることにした。 この変更の説明として、最も適切なものはどれか。

正解:ア

各選択肢の解説

  1. ア誤検知は減るが、不審なメールを見逃して利用者に届ける可能性が高まる。

    正解。しきい値を上げると、点数が中くらいの本物の攻撃メールも隔離を すり抜けます。誤検知と見逃しは一方を減らすと他方が増える関係なので、 どこに線を引くかは、見逃したときの被害と確認の手間を比べて決めます。

  2. イ誤検知も見逃しも同時に減り、AIによる判定の精度そのものが高まる。

    誤り。しきい値は判定の線を引く位置を変えるだけで、AIの点数の付け方は 変わりません。精度そのものを上げるには、学習や評価の見直しが要ります。 線を動かすと、誤検知と見逃しのどちらかが増えます。

  3. ウしきい値は誤検知の件数だけを左右し、見逃しの件数には影響しない。

    誤り。同じ線で「隔離するか、届けるか」を分けているので、線を上げれば 届く側に入るメールが増えます。その中には攻撃メールも含まれます。 誤検知と見逃しは同じ線の両側にあると考えます。

  4. エAIが隔離しなかったメールは安全と確認されたので、利用者への注意喚起は不要になる。

    誤り。隔離されなかったのは「点数がしきい値に届かなかった」だけで、 安全と確認されたわけではありません。しきい値を上げた後はなおさら、 届いたメールの中に攻撃が混じる前提で、利用者の注意と報告の経路を保ちます。

理解を深めるために

網の目を粗くすれば、小魚と一緒に獲物も逃げる

ごみを取り除く網の目を粗くすれば、引っかかる小石(正常なメール)は減りますが、 すり抜ける獲物(攻撃メール)も増えます。AIを使ったセキュリティ技術 (AI for Security)で、点数としきい値で判定する仕組みは、この網と同じ性質を持ちます。

しきい値が動かすもの

AIはメールごとに不審さの点数を付け、しきい値を超えたものを隔離します。 しきい値は「どこで線を引くか」で、AIの点数の付け方そのものは変わりません。

  • しきい値を上げる: 正常なメールの隔離(誤検知)は減る。攻撃メールの通過(見逃し)は増える
  • しきい値を下げる: 見逃しは減る。誤検知は増え、確認の手間が膨らむ

どちらがよいかは一律には決まりません。見逃したときの被害の大きさ、誤検知を 確認する人手、利用者が隔離されたメールを取り出す手順などを比べて決めます。 しきい値を上げる場合は、届いたメールに攻撃が混じる前提で、利用者への注意喚起と 不審メールの報告経路を保ちます。

選択肢の考え方の比べ方

考え方 誤検知 見逃し
しきい値を上げる(正しい理解) 減る 増える
両方減って精度が上がる 減る 減る(実際には増える)
誤検知だけが動く 減る 変わらない(実際には増える)
隔離されない=安全の確認 ― 見逃しの存在を無視している

AIの検知の問題では、誤検知と見逃しが同じ線の両側にあることを押さえておくと、 「両方なくせる」「片方だけ動く」という選択肢を外せます。

前の問題へ次の問題へ