AI利活用生成AI利活用★★☆

問合せ対応の部署で生成AIを使う。返金手続の案内文は書式も言い回しも決まっており 毎回同じ文面にしたい。一方、キャンペーンの見出し案はできるだけ違う切り口を 多く出したい。出力のばらつきを調整する設定の使い方として、最も適切なものはどれか。

正解:

  1. 案内文はばらつきを大きくし、見出し案はばらつきを小さくする。

    誤り。設定の向きが逆です。案内文のばらつきを大きくすると、毎回違う言い回しが 混ざって決められた書式から外れます。見出し案は小さくすると似た案ばかりが 並び、選ぶ楽しみがなくなります。用途と向きの対応を押さえます。

  2. 案内文はばらつきを小さくし、見出し案はばらつきを大きくする。

    正解。文面が決まっている案内文は、毎回同じ答えに近づくよう振れを抑えます。 逆に案を数多く出したい見出しは、振れを大きくして表現の幅を広げます。 求めるものが安定か多様かで、設定の向きを決めます。

  3. 事実の誤りを防ぐため、案内文も見出し案もばらつきを最小にする。

    誤り。ばらつきを抑えると回答は安定しますが、内容が正しくなるわけでは ありません。誤った内容が毎回同じように出てくることもあります。安定度の 調整であって、正確さの保証ではないという点が混同されがちです。

  4. 出力の長さを抑えるため、案内文だけばらつきを小さくする。

    誤り。この設定は表現の振れ幅を決めるもので、文字数を決めるものでは ありません。長さを揃えたいなら「200字程度で」と指示文に書きます。 調整するのがばらつきなのか、出力の形式なのかが違います。

同じことを聞いても、毎回同じ答えとは限らない

生成AIは、次に続く言葉を確からしさで選びながら文章を作ります。 確からしさが高いものだけを選べば、毎回ほぼ同じ答えになります。 少し外れたものも選ぶようにすれば、思いがけない表現が混ざります。 この振れ幅の大きさは設定で調整できます。これがランダム性の制御です。

サイコロを振る幅を、自分で決められると考えると分かりやすいでしょう。 幅を狭めれば安定した答えが、広げれば多様な答えが返ってきます。

どちらに振るかは用途で決まる

用途 ばらつき 理由
規程の説明、手続の案内 小さく 文面が決まっており、毎回違うと困る
議事録の要約、分類 小さく 同じ入力から同じ結果が出てほしい
広告の見出し、企画の案出し 大きく 似た案が並ぶより、幅のある案が欲しい

注意したいのは、ばらつきを小さくしても内容が正しくなるわけではないことです。 安定して同じ誤りを返すこともあります。正しさを確かめる工程は別に要ります。

似た調整との違い

調整 何を変えるか
ランダム性の制御 出力の振れ幅。安定させるか、多様にするか
プロンプトエンジニアリング 指示文の書き方。出力の内容や形式を整える
RAGによる知識連携 参照させる知識。答えられる範囲を広げる

問題文が「毎回同じ答えにしたい」「たくさん案が欲しい」と言っていたら、 ばらつきの調整の話だと考えてよいでしょう。

次の問題へ