Skip to Content
Docs03. 実装セクション概要

03-implementation — 実装ガイド

「どう書くか」を扱うセクションです。実装パターン・コード例・フレームワークの比較を提供します。概念の説明は 01-concepts へのリンクで済ませ、重複解説しません。

この章の記事

記事内容
ツール定義の設計ツール定義の設計(命名・スキーマ・説明文・エラー返却)
Agent 向けプロンプト設計Agent 向けプロンプト設計(システムプロンプトの構造化)
構造化出力構造化出力LLM の出力を JSON Schema などの機械可読なスキーマに従わせる技術。後続の処理がコードである出力(分類・抽出・スコア)に使う。(スキーマ強制・検証・リトライ)
ツール接続標準(MCP とエコシステム)ツール接続標準(MCPツールやデータソースを LLM アプリケーションに接続するための標準プロトコル。概要は ツール使用、接続の実務は ツール接続標準(MCP とエコシステム) とエコシステム。自前ツールとの使い分け)
ストリーミングと Agent の UX 実装パターンストリーミングと Agent の UX 実装パターン(進捗提示・中断・軌道修正)
フレームワーク選定ガイドフレームワーク選定ガイド
モデル選定ガイドモデル選定ガイド(判断軸・用途別の使い分け・ティア混在設計)
主要 LLM の全体像(モデルカタログ)主要 LLM の全体像(プロバイダー別カタログ。鮮度リスク集約ページ)
RAG 実装パターンRAG 実装パターン(チャンキングRAG の取り込みで、文書を検索・投入の単位に分割すること。分割のサイズと境界(構造・意味)の設計が検索品質の上限を決める。・検索方式・リランキング一次検索で広めに取った候補を、より精密なモデルで並べ直して上位数件に絞る 2 段目の検索処理。一次検索が再現率を、リランキングが精度を担当する分業になる。・Agentic RAG外部の知識ソースを検索し、結果を LLM の入力に加えて回答の根拠にする手法。検索の判断を Agent に任せる構成は Agentic RAG と呼ばれる。・権限反映)
長期記憶の実装長期記憶の実装(抽出・保存・想起・忘却・プライバシー)
プロンプト資産の管理とバージョニングプロンプト資産の管理とバージョニング(テンプレート化・変更フロー・実験の記録)
ブラウザ・コンピュータ操作の実装ブラウザ・コンピュータ操作の実装(要素特定・待機と検証・安全策)
音声エージェントの実装音声エージェント音声で対話しツールで行動するエージェント。STT → LLM → TTS のパイプライン型と、音声を直接入出力する speech-to-speech 型の 2 アーキテクチャがあり、レイテンシ・ターンテイキング・中間テキストの制御性で選ぶ。の実装(パイプライン vs speech-to-speech・会話制御・評価)
ファインチューニングと蒸留ファインチューニング既存モデルの重みを自分のデータで追加調整すること。形式・文体・ドメイン特化の挙動に加え事実知識も学習し得るが、正確な再現や容易な更新は保証されない。評価・データ準備・再学習の費用を、プロンプト改善・RAG・モデル変更と比較して選ぶ。と蒸留上位モデル(教師)の出力を学習データにして、小型モデル(生徒)をファインチューニングする手法。品質が確認できた特定タスクを、小型モデルで安く速く量産するためのコスト削減手段。(選ぶ前の判断・手法概観・データ準備・運用)
プロンプトエンジニアリングの基礎技法プロンプトエンジニアリングモデルへの入力(指示・例・データ・形式)を設計して、出力の品質・形式・安定性を高める技法の総称。技法の効果はモデル世代で変わるため、評価で検証してから採用する。の基礎技法(汎用技法カタログ。Agent 特化記事の前提)
プロンプトエンジニアリングの上級パターンプロンプトエンジニアリングの上級パターン(構造化・例示・思考・出力・長文・頑健性の詳解)
プロンプト最適化(評価駆動の改善と自動化)プロンプト最適化(評価駆動の改善サイクル・失敗モード別対策・自動最適化の原理)
ループ内フィードバックと検証器の設計ループ内フィードバックと検証器ループの中でモデルの出力・行動の正しさを確かめる仕組み。決定的検証(テスト・lint・スキーマ)・モデル検証(judge)・人による検証(HITL)の 3 種があり、安くて確実なものから順に配置する。の設計(ツール結果整形・エラーメッセージ設計・検証器の 3 種と配置・自己修正・検証改竄対策)
Claude 特化プロンプティングガイドClaude 特化プロンプティングガイド(XML・アダプティブ思考/effort・prefill 移行・長文配置・世代差。鮮度管理型)
OpenAI(GPT 系)特化プロンプティングガイドOpenAI(GPT 系)特化プロンプティングガイド(指示階層・reasoning effort・Structured Outputs・世代差。鮮度管理型)
Gemini 特化プロンプティングガイドGemini 特化プロンプティングガイド(few-shot 重視・thinking_level・サンプリング・マルチモーダルテキスト以外の入力(画像・音声など)を理解できるモデルの能力。コンピュータ操作型 Agent の前提となる。・世代差。鮮度管理型)
モデル間の違いと移行(横断比較)モデル間の違いと移行(横断比較。相違の構造マップ・移行チェックリスト・マルチプロバイダー設計。鮮度管理型)
埋め込み(embeddings)の選定と運用埋め込みテキストや画像を、意味的な近さが距離に対応する数値ベクトルに変換したもの。RAG・記憶・分類の土台で、「何が近いか」はモデルで変わるため自社データで評価して選ぶ。モデル変更は全チャンクの再インデックスを伴う。(embeddings)の選定と運用(類似度の意味・選定軸・次元・非対称検索・モデル更新=全再インデックス)
ベクトルデータベースの選定と運用ベクトルデータベース埋め込みベクトルを格納し、近似最近傍探索で類似検索する基盤。専用 DB・既存 DB の拡張・マネージド・組み込みの類型があり、数万件規模なら単純解で足りることが多い。の選定と運用(類型・ANN・フィルタ/権限反映の対応力・スケール・小規模の現実解)
LLM 向けデータ前処理パイプラインLLM 向けデータ前処理パイプライン(抽出・クリーニング・重複排除・メタデータ設計・増分更新)
GraphRAG とナレッジグラフGraphRAGナレッジグラフを検索に使う RAG。多段の関係たどりや全体集約の問いに強い一方、構築・維持コストが大きい。エンティティ検索 + グラフ辿り / コミュニティ要約型 / ベクトル検索との併用の型がある。 とナレッジグラフ知識をエンティティ(節点)と関係(辺)のネットワークで表したもの。ベクトル検索が返す断片と違い、つながりをたどれる。構築・維持コストが大きいため、通常の RAG で足りるかをまず判断する。(グラフ型知識表現の使いどころ・構築の限界・型・「本当にグラフが要るか」の判断)
学習用合成データの実務学習用合成データLLM に生成させた評価・学習用のデータ。量とバリエーションを安く稼げる一方、分布の偏りと盲点の共有(生成モデルと評価対象が同系だと弱点が現れない)に注意が必要。の実務(用途の型・生成・品質管理・モデル崩壊モデルの出力を学習データにして次のモデルを訓練する、を繰り返すと分布の裾(まれなパターン)が失われ、出力が単調に崩れる現象。合成データは実データの代替ではなく補強にとどめ、実データを混ぜて避ける。・権利・評価データとの分離)
小型言語モデル(SLM)の活用戦略小型言語モデル(SLM小型の言語モデル。分類・抽出等の限定タスクで費用や速度の改善候補になるが、能力差はモデル・学習・用途に依存する。小型モデルを先に使うルーティングでは、失敗の検出・上位への昇格率・二重実行の費用と遅延まで含めて評価する。)の活用戦略(得意領域と崖・SLM ファースト・ルーティング・タスク特化・評価)
ローカル・オンデバイス LLM の実務ローカル・オンデバイス LLM の実務(向くユースケース・実行環境の類型・量子化モデルの重みを低い数値精度(INT8・INT4 等)で表現してサイズを縮める手法。VRAM とメモリ帯域の負荷が下がり、同じ GPU により大きいモデル・多い同時実行を載せられる。精度を下げるほど品質が落ちうるため、量子化後の品質は自社タスクで検証してから使う。形式・品質ギャップ検証・ハイブリッド・配布)
コード実行サンドボックスの実装コード実行サンドボックスモデルが生成したコードの実行やコンピュータ操作を、本番システムから隔離された使い捨て環境(ネットワーク・資源制限付き)で行う仕組み。の実装(守る対象・実装技術の類型〔コンテナ/microVM/Wasm ほか〕・ライフサイクル・エグレス制御・マルチテナント複数のテナント(顧客・部門)が同一の Agent 基盤を共有する構成です。データ・設定・容量・費用を分けて設計し、認証キーを分けた場合も上流の共有上限と容量の隔離を別に確認します。分離)
エージェント間連携プロトコルエージェント間連携プロトコル(ツール接続との非対称・発見/委譲/認証の 5 要素・信頼の段階設計・攻撃面・標準の現在地。鮮度管理型)
オープンソース AI エコシステムオープンソース AI エコシステム(ハブ・ライセンス類型〔オープン ≠ 商用自由〕・モデルカードモデルの想定用途・非推奨用途・既知の限界・学習データ・評価・ライセンス・ベースモデルなどを記した説明書。ハブでは `README.md` の機械可読メタデータ(`license`・`base_model`)+ 本文として実装される。採用前に必ず読み、`license` と intended/limitations を確認する。データ版はデータシート。の読み方・派生モデルの信頼・持続性。鮮度管理型)
エージェントの API 設計ツール定義の設計