Skip to Content
Docs09. ビジネス実務PoC から本番への進め方

この記事の音声は準備中です。

音声の一覧・再生リストへ

PoC から本番への進め方

この記事の目的

「デモは動くが本番に行けない」を防ぎ、PoC(概念実証)→ パイロット → 本番という段階と、各段階の関門・撤退基準・体制を設計できるようになります。Agent 案件が最も多く止まるのは PoC と本番の間であり、本記事はその谷の渡り方を扱います。

対象読者

  • PoC の実施を任されたエンジニア・テックリード
  • PoC の結果から本番化の可否を判断するエンジニアリングマネージャー・プロダクト責任者

前提知識

本文

概要

PoC から本番までを 1 回のジャンプにせず、関門付きの 3 段階で進めます。各段階には目的・期間・通過条件があり、どの段階からも「撤退・ピボット」に分岐できることが健全な設計です。

PoC から本番への進め方: 概要の図PoC から本番への進め方: 概要の図
PoC から本番への進め方: 概要の図
図を元の大きさで表示

図の中をスクロールして読めます。キーボードでは図の領域へ Tab で移動し、矢印キーを使います。読み終わったら、この見出しをもう一度選ぶと閉じます。

PoC から本番への進め方: 概要の図PoC から本番への進め方: 概要の図
  • PoC: 「この業務で・このデータで・必要な精度が出るか」という技術的な問いを検証する
  • パイロット: 限られた利用者・範囲で実運用し、「業務として回るか」(レビュー体制・例外処理・利用者の受容)を検証する
  • 本番: 対象範囲と自律度を段階的に広げる

PoC の設計

PoC の品質は、作り込みではなく 問いの絞り込み で決まります。

  • 問いを 1 つに絞る: 「経費明細の規程照合で、人のチェックと同等の検出率が出るか」のように 1 文で書けること。複数の問いがあるなら PoC を分けます
  • 期間と予算を区切る: 数週間単位で締め切りを置き、延長するなら「何が分かれば延長の価値があるか」を明示します
  • 使い捨て前提で作る: PoC コードは本番の土台ではなく、問いに答えるための実験装置です。エラー処理・監視・権限管理を省いた実装は本番に持ち込めません
  • ただし評価データセットは資産として作る: PoC で作った評価ケースと採点方法は、本番後の回帰テストプロンプト・ツール・モデルの変更で既存の品質が壊れていないかを、評価データセットの再実行と前回比較で検知するテスト。まで使い続ける数少ない持ち越し資産です(回帰テストと CI 組み込み)
  • 本物のデータで測る: 整形済みのきれいなサンプルだけで測った精度は、本番の入力分布では再現しません

最大の敵は 「デモの罠」 です。うまくいく 5 件を見せるデモは説得力がありますが、何も証明していません。PoC の成果物はデモではなく、(1) 分布を代表する評価セットでの測定結果、(2) 失敗ケースの分析、(3) 本番化に必要な残課題リスト、の 3 点セットです。

本番化の関門チェック

「デモが動く」と「本番に置ける」の間には、機能以外の関門が並んでいます。関門 2(パイロット → 本番)では最低限、次の観点を確認します。

観点関門の問い参照
評価定量評価が成功基準を超え、変更のたびに再評価できる仕組みがあるかAgent 評価の基礎
セキュリティ脅威モデルシステムの攻撃面を棚卸しし、脅威を列挙・分類してリスクを優先順位付けする作業とその成果物。構成変更のたびに見直す。を作り、インジェクション・権限・データ持ち出しのレビューを通過したかAgent の脅威モデル概観
運用体制監視・アラート・キルスイッチインシデント時にデプロイなしで Agent を止める・自律度を下げるための、事前に用意された停止手段。全停止・縮退・ツール単位の無効化など粒度を分けて設計する。があり、「誰が止めるか」が決まっているかインシデント対応
コスト本番トラフィックでのコスト見積もりがあり、上限とアラートを設定したかコスト管理
人の関与レビュー・承認の運用が現実的な負荷で回ることをパイロットで確認したかHuman-in-the-Loop 設計
データ会話ログ・顧客データの保持と共有の方針を関係部門と合意したかデータ漏えい対策

この表は本番化判定会議のアジェンダとしてそのまま使えます。重要なのは、関門を PoC 開始前に公開しておく ことです。後出しの関門は「動いているのになぜ出せないのか」という不毛な対立を生みます。

段階的リリース

本番リリースは「全ユーザー・全自動」への一斉切り替えではなく、2 つの軸を段階的に広げます。

  1. 自律度の軸: 提案のみ(人が実行)→ 承認付き実行 → 限定範囲の自動実行 → 自動実行 + 抜き取り監査。引き上げの判断は稼働データ(修正率・エラー率)で行います
  2. 対象範囲の軸: 社内利用者 → 一部の顧客・カテゴリ → 全体。トラフィックを絞ったカナリアリリースと、問題時に旧フローへ戻すロールバック手段を先に用意します(バージョニング・デプロイ・モデル更新追従)

有効な中間手段として シャドーラン(本番の入力を Agent に流すが、結果は業務に使わず人の結果と突き合わせる)があります。送信・購入・DB 更新などの副作用を持つツールは無効化またはモック化し、応答も利用者に配信しないことが条件です。最終回答だけを捨てても、途中のツール実行による業務への影響は消えません。読み取り先への負荷、推論費、データの複製・保持にも上限と管理を設けます。この条件下で本番分布の品質を測り、関門 1 と関門 2 の間に挟みます(バージョニング・デプロイ・モデル更新追従)。

撤退・ピボットの判断

撤退基準は 着手前に 決めます。作った後に決めようとすると、サンクコスト(投じた工数への愛着)で判断が歪むからです。

  • 撤退基準の例: 「評価セットでの精度が 2 回の改善イテレーションを経ても基準未達」「人の修正コストが削減時間を上回る」「前提としていたデータが継続的に得られない」
  • 全面撤退の前に検討するピボットの型:
    • 自律度を下げる: 自動実行 → 下書き生成に切り替える(価値は減るが人の修正で品質を担保できる)
    • 範囲を狭める: 全カテゴリ → 精度の高い 1〜2 カテゴリに限定する
    • Workflow 化: 判断部分を捨て、手順が固定の部分だけを従来型の自動化にする(Workflow 型 vs Agent 型)
  • 撤退しても、評価データセット・失敗分析・「この業務は現状の技術では合わない」という知見は残ります。撤退を「失敗」ではなく計測結果として報告する文化が、次の案件の速度を上げます

体制と引き継ぎ

Agent は作って終わりではなく、モデル更新・入力分布の変化・プロンプト改善が続きます。「作る人」と「運用する人」が分断していると本番後に品質が漂流するため、パイロット段階から運用側を巻き込みます。

本番移行時の引き継ぎ物は最低限、次の 5 点です。

  1. 評価ハーネスAgent の評価を繰り返し実行可能にする仕組み一式。データセット・実行系・採点系・レポートの 4 点で構成される。と評価データセット(更新の手順を含む)
  2. プロンプト・設定・ツール定義の管理場所と変更フロー
  3. 既知の失敗モードと対処の記録(失敗ケース分析の続き)
  4. 運用手順書(Runbook。監視項目・アラート対応・キルスイッチの場所 → インシデント対応)
  5. コストダッシュボードと予算アラート

オーナーシップは「業務側オーナー(品質と業務影響の最終責任)」と「技術側オーナー(システムの維持改善)」を 1 人ずつ明示します。どちらかが空席のまま本番化した Agent は、最初のインシデントで止まったまま再開されない、という結末になりがちです。

実務での注意点

アンチパターン

  • PoC のコードをそのまま本番に昇格させる → エラー処理・監視・権限管理がなく、最初の異常入力やインシデントで破綻する → 本番実装は関門を通す前提で作り直し、持ち越すのは評価データセットとプロンプトの知見にする
  • デモの成功で本番 GO を判断する → ハッピーパス偏重のまま本番に出て、例外入力で事故が起きる → 分布を代表する評価セットでの測定結果と失敗分析で判断する
  • 撤退基準を決めずに延命し続ける → サンクコストで「あと少し」を繰り返し、数か月と信頼を失う → 着手前に撤退条件を文書で合意する
  • セキュリティレビューを本番化直前に初めて実施する → 権限設計やデータフローの手戻りが大きく、リリースが数週間止まる → PoC 段階で脅威モデルに目を通し、パイロット前にレビューを受ける
  • 全ユーザーへ一斉リリースする → 問題発生時の影響とロールバックのコストが最大化する → 自律度と対象範囲の 2 軸で段階的に広げ、ロールバック手段を先に用意する

チェックリスト

本番化判定(関門 2)でそのまま使える形にしています。

  • PoC の問いが 1 文で書かれており、本物のデータ分布での測定結果がある
  • 評価データセットと回帰テストが、本番後も回る形で引き継がれる
  • セキュリティレビュー(脅威モデル・権限・インジェクション・データフロー)を通過した
  • 監視・アラート・キルスイッチがあり、「誰が止めるか」が決まっている
  • 本番トラフィックでのコスト見積もりと予算アラートを設定した
  • レビュー・承認の運用負荷がパイロットで実測され、現実的である
  • 撤退・ロールバックの条件と手段が文書化されている
  • 業務側オーナーと技術側オーナーが 1 人ずつ決まり、引き継ぎ物 5 点が揃っている

関連トピック

参考資料

TODO・未確認事項

なし