文章を作るのではなく、選択肢を評価する
大規模言語モデル(LLM)は、質問への回答や文章作成に力を発揮します。一方、業務システムが必要とするのは、必ずしも自然な文章ではありません。たとえば「二重請求されたので返金してほしい」という問い合わせなら、担当部署、緊急度、返金希望の有無が分かれば、次の処理に進めます。
LLMにJSON形式で答えさせる方法もありますが、形式が崩れたり、指定外の値が返ったりする可能性があります。意思決定モデルは、入力された状況(state)と質問、許可された回答候補を受け取り、候補ごとの確率を含む構造化された結果を返します。文章を一から生成しないため、選択が目的の処理に向いた設計です。
分類モデルやゼロショット分類との違い
従来の分類モデルは、学習時に定めたラベルから答えを選びます。出力クラスがモデルに組み込まれているため、「請求」「技術サポート」「営業」に「法務」を加える場合、モデルの変更や追加学習が必要になることがあります。
ゼロショット分類は、推論時に候補ラベルを渡せるため、ラベルを後から変えられます。自然言語推論(文同士の意味的な関係を判定する方法)を利用し、入力が候補の説明にどの程度合うかを評価する実装もあります。意思決定モデルも候補を実行時に指定できますが、複数の質問をまとめて扱い、質問ごとに回答形式を変えられる点が特徴です。
質問に合わせた回答形式を指定する
記事では、選択肢から選ぶ「choice」、順序のある尺度で評価する「score」、ある文が正しい確率を見積もる「noul」という形式が紹介されています。たとえば、部署を選び、緊急度を尺度で評価し、返金を求めているかを判定する、といった異なる判断を同じ入力についてまとめて行えます。
結果には選択内容だけでなく、各候補の確率も含まれます。確率があれば、候補間の迷いを把握したり、一定の基準を下回る場合だけ人に確認してもらったりする設計に役立ちます。ただし、確率は正しさの保証ではありません。実際の業務データで精度や信頼性を確かめる必要があります。
導入時は小さな判断から試す
Hugging Faceの記事では、Transformersのパイプラインからの利用に加え、llama.cppでの提供、Hubでのモデル探索、関連ツールを使った学習が扱われています。意思決定モデルは、特定の分類手法を置き換えるというより、質問、回答形式、確率を一貫したインターフェースで扱う考え方といえます。従来型の分類モデルで十分な場合もあり、用途に応じた選択が重要です。
今日から試すなら、問い合わせ対応など、正解候補を明確に決められる業務を一つ選びましょう。質問と選択肢を定義し、モデルの判定を既存の担当者の判断と比較します。誤りやすいケースを確認してから、適用範囲を広げるのが現実的です。
参考リンク
Hugging Face:Decision Models in Hugging Face
本記事はAIが生成し、自動公開しています。内容の正確性には努めていますが、重要な判断の際は必ず一次情報をご確認ください。