LLM機能を本番に出す:プロンプトのバージョン管理、評価セット、回帰ゲート

要点: LLM機能が本番でおかしな振る舞いをするとき、原因がモデルそのものであることは多くありません。誰かがプロンプトをその場で書き換えた、出力形式を誰も検証していなかった、モデルが更新されたのに誰も再テストしなかった、というケースがほとんどです。私たちはプロンプトをコードとして管理し、出力は下流に渡す前にスキーマと業務ルールで検証し、機能ごとに評価セットを持ち、プロンプトやモデルが変わるたびにCIで回帰テストを回します。スコアが下がれば、その変更はマージしません。

LLM機能のデリバリーを示す図。上段は実行時の経路で、リポジトリ内のプロンプトファイルがプロバイダーアダプター付きのゲートウェイを経てモデルに渡り、出力はスキーマとルールで検証され、結果かフォールバックが返ります。検証に失敗すると1回再試行し、その後フォールバックします。下段は変更時の経路で、プロンプト、モデル、スキーマの変更は評価セットと実モデルによるCI回帰を通り、基準を維持した場合のみマージされます。
図1. 実行時の経路と変更時の経路。本番で動くのは、マージされ回帰を通過した版のプロンプトだけです。

1.0 デモではうまくいき、本番ではぶれる理由

デモの段階では、すべてが作った本人の手の中にあります。プロンプトは本人のエディターにあり、入力は本人が選び、答えの良し悪しは本人が見ればわかります。本番ではその前提が崩れます。

  • プロンプトがコード中の文字列、管理画面、個人のメモに散らばり、どの版が稼働しているのか誰も説明できない。
  • 出力は自由形式のテキストで、下流は「たぶんJSON」として解析している。モデルが前置きの一文を付けただけで壊れる。
  • 提供者がモデルの版を更新し、同じプロンプトの振る舞いが変わっても誰も気づかない。
  • 固定のテスト入力がないため、「良くなったのか悪くなったのか」が感覚の問題になる。

2.0 プロンプトはリポジトリに置く

プロンプトは1つにつき1ファイルとしてリポジトリに置き、呼び出すコードと一緒にレビューします。ファイルの冒頭には用途、入力変数、期待する出力構造、対象モデルを書きます。提供者ごとに書き方を変える必要があるなら、1つのテンプレートに条件分岐を詰め込まず、ファイルを分けます。

実行ログにはプロンプトファイルのハッシュとモデルの識別子を記録します。問題が起きたとき、どの版のプロンプトとどのモデルが出した出力なのかをたどれます。

プロンプトを管理画面からいつでも編集できるようにすることはお勧めしません。柔軟に見えますが、レビューとテストを飛ばして本番のロジックを直接書き換えるのと同じです。運用側で本当に調整が必要な部分(口調や例文など)は、範囲を限ったパラメーターとして公開し、プロンプト全体は開放しません。

3.0 出力は使う前に検証する

層役割
構造構造化出力を要求し、JSON Schemaまたは同等の型定義で検証する。失敗したら1回再試行し、それでもだめならフォールバック
業務ルール決定的なコードで、列挙値、値の範囲、必須項目、参照IDが実在するかを確認する
安全モデルの自制に頼らない、ローカルのキーワードとルールの層。該当したら決められた処理経路に進む
フォールバックタイムアウト、レート制限、検証失敗のときにユーザーへ何を返すかを事前に決め、テストで確認する

決定的なコードで判断できることはモデルに任せません。採点基準に固定の減点項目があるなら、ルールエンジンで計算し、モデルには理解、要約、生成といった得意な部分だけを担当させます。結果が再現可能になり、「なぜ減点されたのか」という質問にも答えられます。

4.0 評価セットと回帰ゲート

機能ごとに評価セットを用意します。典型的な入力、境界的な入力、過去に問題を起こした入力です。各項目には、構造が正しいか、重要な項目が正しいか、出てはいけない内容が含まれていないかのアサーションを付けます。主観的な品質は採点基準に沿ってモデルが評価し、その評価自体が妥当かを人が定期的に確認します。

次の変更ではCIで回帰テストを実行します。プロンプト、出力スキーマ、モデルまたはモデルの版、解析コードです。しきい値は事前に書き出しておきます。たとえば、アサーションの合格率が前回の基準を下回らないこと。満たさない変更はマージしません。モデルの出力にはばらつきがあるため、同じ入力を複数回実行して一貫性を見るほうが、1回だけの実行より信頼できます。

実際の呼び出しにはお金と時間がかかるので、2層に分けます。日常の単体テストは決定的なデータを返すモックプロバイダーを使い、パイプライン全体をオフラインで動かせるようにします。プロンプトの回帰テストは実モデルを使い、プロンプト関連のファイルが変わったときだけ実行します。

5.0 提供者とコスト

  • ゲートウェイには提供者ごとにアダプターを置き、業務コードは提供者のSDKを直接参照しません。提供者の切り替えや予備の追加はアダプターだけで済みます。
  • モデルはlatestのような別名ではなく、特定のスナップショットに固定します。モデルの更新はリリースとして扱い、先に回帰テストを通します。
  • トークン使用量を機能ごとに記録し、利用上限はサーバー側で計算します。クライアントの申告は信用しません。
  • 自社運用が必要な場合は、OpenAI互換APIを持つ推論サーバー(vLLMなど)を選び、開発中はローカルのモックサーバーで代替します。クライアントのコードは変わりません。

6.0 お渡しするもの

  • プロンプトファイルとその変更履歴。
  • 出力スキーマ、ルール検証、フォールバック経路と、それぞれのテスト。
  • 評価セット、採点基準、CIの回帰設定、現時点の基準スコア。
  • 提供者アダプター層と使用量の記録。

新しい製品や既存の製品にAI機能を加える場合は、Web・クラウド・デバイス管理をご覧ください。具体的な状況についてはプロジェクトのご相談からお聞かせください。

参考資料

よくあるご質問

評価セットはどのくらいの規模が必要ですか?

手元にある実際の入力と、過去に問題を起こしたケースから始めてください。主要なシナリオと既知の失敗パターンを押さえるだけで、回帰の大半は捕まえられます。その後は本番で問題が起きるたびに、その入力を追加します。最初から網羅を目指すより、問題とともに育てるほうが現実的です。

モデルに別のモデルを採点させて信用できますか?

採点基準が明確なら大量の一次選別には向きますが、採点モデル自体にも偏りがあります。私たちは定期的に人が採点結果を抜き取りで確認し、人の判断と食い違い続ける観点はルールによる判定か人手のレビューに切り替えます。

安いモデルに切り替えるにはどれくらいの手間がかかりますか?

評価セットがあるかどうかで決まります。あれば、アダプターの設定を変えて回帰を回し、スコアとコストを比べるだけで、どこに差があるかがはっきりします。なければ、まず評価セットを作るところからです。

モデル提供者に自社データを学習に使われませんか?

提供者のデータ利用条件と締結する契約によります。選定の段階で確認すべき項目です。機密性の高いデータなら、自社運用の推論サーバーを使うか、送信前にマスキングするのが一般的です。