Skip to Content
Docs06. セキュリティコンプライアンスとガバナンス
中級compliancegovernance更新: 2026-10-08この記事の誤りを報告

この記事の音声は準備中です。

音声の一覧・再生リストへ

コンプライアンスとガバナンス

この記事の目的

AI AgentLLM を判断の中枢に置き、ツールを使いながら、目標達成までの手順を実行時に自律的に決めて実行するシステム。 を業務・プロダクトに導入する際のコンプライアンス対応を、(1) 規制の地図、(2) 会話ログのデータ保護、(3) 社内ガバナンス、(4) 監査への備え、(5) ベンダー契約の 5 つに分解して着手できるようになります。規制の内容を解説する記事ではなく、「何が存在し、いつ適用され、どの一次情報発信源そのものの情報(論文の原典・公式ドキュメント・公式ブログ・規格本文・法令)。解説・まとめ(二次情報)と区別し、根拠は一次情報に置くのが情報リテラシーの基本。二次情報は「存在を知る」までに使い、一次まで遡って確かめる。を見るべきか」の入口の地図を提供します。

免責: 本記事は法的助言ではありません。規制の適用判断・契約の解釈は、必ず自社の法務部門・専門家に確認してください。

対象読者

  • Agent の本番導入にあたり、法規制・社内統制の論点を洗い出す立場のエンジニア・テックリード
  • 法務・コンプライアンス部門と会話するための共通地図が欲しい開発チーム

前提知識

本文

最終確認日: 2026-09-10 — EU・日本・米国の改正法と規則・政策案を再確認しました。ベンダー規約などの確認日は各参考資料を参照してください。適用時期・内容は変わるため、判断時は必ず本文中の一次情報を確認してください。調査記録は research/professional/compliance.md にあります。

2026-09-21 の部分確認では、PPC の施行準備と EU AI Act の改正後の期限を照合しました。以下の日本の段落に 9 月 16 日の議論・資料公表を反映しています。米国・ベンダー規約などの確認日は据え置きです。

2026-10-08 の部分確認では、PPC の 10 月 1 日の後続議論と Colorado の 10 月 6 日の中間案公表を反映しました。EU 改正条文の期限も照合しましたが、個別の整合規格・施行政令・規則の最終化などは未確認です。ベンダー規約や他の対象記事の全主張を再確認したものではありません。

概要: 5 つの問いに分解する

AI のコンプライアンスは漠然と捉えると動けません。次の 5 つの問いに分解すると、それぞれ担当と作業が決まります。

問い主な相手本記事の節
どの法域のどの規制が自分に適用されるか法務規制の全体像
会話ログ(個人データ)をどう扱うか法務・セキュリティデータ保護と会話ログ
社内の AI 利用を誰がどう統制するか経営・情報システム社内ガバナンス
「適切にやっている」ことをどう証明するか監査・顧客監査への備え
ベンダーとの契約で何を確認するか法務・調達ベンダー契約チェック

エージェントは「自動化された判断 + 実世界への行動」を持つため、AI 規制が重視する論点(透明性・人間による監視・ログ)と正面からぶつかります。後付けでの対応は設計変更を強いるため、PoC から本番への進め方の関門にデータ・コンプライアンス観点を含めるのが実務の型です。

規制の全体像(2026-09-10 時点)

規制は変化が速いため、ここでは「存在・時間軸・一次情報の場所」だけを押さえます。

EU — AI Act(Regulation (EU) 2024/1689)。世界で最も包括的な AI 規制で、リスクベースの階層構造を取ります: 禁止プラクティス / 高リスク(雇用・教育・重要サービス等。リスク管理・ログ・人間による監視などの義務)/ 透明性義務(AI との対話の開示・生成コンテンツの識別可能化)/ 最小リスク(義務なし)。加えて汎用 AI(GPAI)モデル提供者への横断的義務があります。適用は段階制で、2026-09-10 時点の時間軸は次のとおりです。

  1. 適用済み: 既存の禁止プラクティス(2025-02-02〜)、GPAI モデル義務(2025-08-02〜)、全般適用・透明性義務(AI との対話の開示・生成コンテンツの識別可能化を含む。2026-08-02〜)
  2. 延期が確定: 高リスクシステムの義務は「Digital Omnibus on AI」改正(Regulation (EU) 2026/1744、2026-07-27 発効)により 2027-12-02(単体システム)/ 2028-08-02(製品組み込み)へ延期済みです
  3. 新設の禁止行為: 改正で追加された Article 5(1)(ba)の非同意の親密画像等に関する類型と、(bb)の児童性的虐待コンテンツに関する類型、および同条(1a)/(1b)は 2026-12-02 から適用されます。2025 年からの禁止行為と一括しません

透明性義務の実務には、欧州委員会の運用ガイドライン(2026-07-20 採択)と、生成コンテンツの透明性に関する実務規範(Code of Practice on Transparency of AI-generated Content、2026-06-10 最終版)が入口になります。なお 2026-08-02 より前に市場投入済みの生成 AI システムに限り、生成コンテンツのマーキング義務には Article 111(4)により 2026-12-02 までの猶予が認められています。

重要な概念として、義務は 提供者(provider)と導入者(deployer)で異なります。LLM API を使って自社アプリを提供する企業は、構成によりどちらにもなり得るため、「自分はどちらの立場か」が最初の確認事項です。一次情報は欧州委員会の公式実装ポータル(AI Act Service Desk)が入口になります。

日本 — 推進法 + ソフトロー + 個人情報保護法。2025 年成立の AI 法(正式名称「人工知能関連技術の研究開発及び活用の推進に関する法律」)は規制法ではなく推進法で、事業者への義務は国の施策への協力責務にとどまります(公式の概要資料に罰則の記載はありません)。実務の参照点はむしろ、(1) 総務省・経産省の「AI 事業者ガイドライン」(法的拘束力のないソフトロー。開発者・提供者・利用者の 3 主体別に整理)、(2) 個人情報保護法です。個人情報保護委員会は生成 AI について「個人データを含むプロンプトが応答生成以外の目的(学習など)に利用される場合、本人同意なしでは違反のおそれ」と注意喚起しており、これはエージェントの入力設計に直接効きます。

課徴金制度を含む改正法は 2026-07-10 に成立し、2026-07-17 に公布されました(令和 8 年法律第 56 号)。主な施行は公布から 2 年以内の政令指定日で、2026-09-10 時点では未確定です。一部罰則は 2027-01-17 に施行されます。PPC は 2026-09-16 の第 369 回委員会で、子ども・顔特徴データ等を含む「政令・規則の整備に向けた基本的な考え方について①」を議論し、資料を公表しました。9 月中旬の議論を予定としていた 2026-09-09 工程表に対する進捗です。さらに 2026-10-01 の第 370 回委員会で「政令・規則の整備に向けた基本的な考え方について②」を議論し、統計作成等の特例、委託先における個人データ等の適正な取扱い、漏えい等報告・本人通知義務を扱う資料を公表しました。10 月中旬の課徴金等の後続議論、主な施行政令、正式な意見公募と最終規則は 2026-10-08 の確認では未確認です。正式な意見公募(パブリックコメント)は、その後の条文案の議論を経て開始する工程であり、①・②の資料公表を公募開始や規則の最終化とは扱いません。法案提出、成立・公布、意見募集、施行を別々に記録し、e-Gov の将来施行版を現行条文として読まないようにします。

米国 — 連邦の既存法・大統領令と州法の組み合わせ。米国向け展開では、制度名だけでなく義務主体・適用日・規則案の段階を分けます。

制度2026-09-10 時点の確認事項
California AI Transparency Act基礎義務は 2026-08-02 に適用開始。BPC §22757.3.1 の大規模オンラインプラットフォームと §22757.3.2 の生成 AI ホスティングプラットフォームは 2027-01-01、§22757.3.3 の撮影機器メーカーは 2028-01-01 からの義務を別に確認
Colorado ADMT 法(SB 26-189)重要な意思決定に使う自動意思決定技術の開発者・導入者の義務は 2027-01-01 から
Colorado Chatbot Safety Act(HB 26-1263)対話 AI の開示・未成年保護などを扱う別法。義務は 2027-01-01 から。ADMT 法と同じ対象・要件とみなさない
FTC の AI accuracy 政策声明2026-07-01 公表の提案で、コメント期限は 7/31。最終政策や、州法が一律に無効になったことの根拠として扱わない

2026-09-10 の確認記録では、Colorado の規則改訂案の共有期日は 2026-09-23 と案内されていました。この予定の実施・延期は確認できていません。司法長官は 2026-10-06 の中間案(interim draft)公表を告知し、PDF を掲載しました(アクセス日: 2026-10-08)。中間案の公表確認を、9 月 23 日の予定の実施・延期や規則の最終化の確認とは扱いません。2026-10-08 に確認した公式ページでは、コメントは 10 月 26 日まで受け付け、正式審理が 10 月 26 日を超えて続く場合は最終日まで延長すると明記されています。コメント受付の確認と規則案の公開実施を分け、規則案と確定義務も区別します。

国際規格 — 説明可能な体制の道具。NIST AI Risk Management Framework(任意のリスク管理フレームワーク。生成 AI プロファイルあり)と ISO/IEC 42001組織が AI マネジメントシステム(AIMS)を PDCA で確立・運用するための要求事項を定めた、世界初の AI マネジメントシステム規格(2023 年)。第三者認証の対象になるが、認証は「AI を統制する仕組みの確認」であって AI の安全・正しさの保証ではない。ISMS(ISO/IEC 27001)と統合しやすい。(AI マネジメントシステムの認証可能な規格)は、規制そのものではありませんが、「体系的に管理している」ことを対外的に説明する共通言語として使われます。顧客からの調達要件に現れることも増えています。

データ保護と会話ログ

エージェントの会話ログは、ユーザー入力・ツールが取得した社内データ・生成応答を含む個人データ・機密データの塊です。技術面の扱い(可観測性とトレーシングのマスキング・保持・アクセス制御)に加え、制度面で次を決めます。

  • 利用目的の特定と通知: 会話ログを何に使うか(品質改善・評価データセット・監査)を利用目的として整理し、プライバシーポリシー・社内規程に反映します
  • 学習利用の管理: ベンダー側の学習利用の既定(後述)と、自社側での二次利用(評価・分析)の両方を管理します。本番ログを評価データセットへ還流するときのマスキングは評価データセットの構築と保守の前提条件です
  • 保持期間: 「全文は短く、集計は長く」の原則で期間を決め、自動削除を実装します
  • 越境移転: ベンダーの処理リージョンと、自国の移転規制(EU の十分性・標準契約条項など)の対応を法務と確認します
  • 削除要求への対応: 削除要求は会話ログだけでなく、長期記憶・評価データセット・派生データまで波及します。削除経路の設計は長期記憶の実装で扱ったとおり、後付けできません

漏えい時の報告・本人通知

個人データの漏えい・滅失・毀損が疑われる場合は、インシデント対応の技術的封じ込めと並行して、法務・個人情報管理担当へ即時連絡します。報告・通知の対象かをエンジニアだけで断定せず、発覚時刻、データの種類・人数、宛先、委託関係、封じ込めと証拠を担当者に渡します。

  • 日本: 個人情報保護委員会の漏えい等報告の入口 から、報告対象、速報・確報、本人通知の要否と手続を確認します(アクセス日: 2026-10-03)。ベンダーから自社への DPA 上の通知と、自社の当局報告・本人通知は別の導線です。
  • EU: GDPR Article 33(監督機関への通知)・34(本人への連絡)を公式条文 で確認します。管理者・処理者の役割と例外の適用判断を法務に渡します。

社内ガバナンス

  • AI 利用ポリシーを 1 枚作る: 最低限、(1) 許可されるユースケースの類型と禁止事項、(2) 入力してよいデータの分類(公開情報 / 社内情報 / 個人データ・機密の別)、(3) 新規ユースケースの承認プロセス、(4) 責任者、を定めます。「何が許可されているか分からないから各自が勝手に使う」状態が最大のリスクです
  • AI インベントリ(台帳): どの部門で・何の AI/Agent が・どんなデータで動いているかの一覧を維持します。EU AI Act のような分類ベースの規制対応も、監査対応も、この台帳がなければ始まりません
  • リスクに応じたレビューゲート: すべてを重厚に審査すると形骸化します。個人データ・自動実行・社外影響の有無でリスクを分類し、低リスクは軽く、高リスクは脅威モデル・データ保護・人間の関与設計のレビューを必須にします
  • 既存プロセスに統合する: 新しい「AI 委員会」を乱立させるより、既存のセキュリティレビュー・個人情報管理・調達プロセスに AI 観点を追加する方が回ります。ユースケース発見と要件定義・PoC から本番への進め方の関門に組み込むのが自然な統合先です

監査への備え

監査対応の要諦は、「監査のために書類を作る」のではなく、普段の運用の副産物として記録が残るようにすることです。エージェントの場合、求められる記録の多くは本ライブラリの他章で設計済みのものと一致します。

記録普段の運用での出どころ
AI の利用一覧と用途AI インベントリ(前節)
リスク評価・レビューの記録レビューゲートの成果物(脅威モデルシステムの攻撃面を棚卸しし、脅威を列挙・分類してリスクを優先順位付けする作業とその成果物。構成変更のたびに見直す。・承認記録)
いつ・どの構成で動いていたかプロンプト・モデルのバージョン管理とトレース(バージョニング・デプロイ・モデル更新追従)
人間による監視・承認の記録承認ログと帰属(エージェントの認証・認可の actor / subject 記録)
品質・安全性の検証記録評価結果とリリース判定(Agent 評価の基礎)
インシデントと対応の記録インシデント対応の記録・振り返り

EU AI Act の高リスク義務(ログ保存・人間による監視・技術文書)は延期されましたが、上の表の運用はどの規制が来ても共通の土台になります。「規制が確定してから作る」のではなく、運用の質として先に整えておくのが結果的に安上がりです。

ベンダー契約チェック

LLM ベンダー・エージェント製品との契約では、最低限次を確認します(個別の確認日は参考資料に記載していますが、規約は頻繁に変わるため必ず契約時に公式ページで確認し、確認日を記録してください)。

  • 学習利用の既定: 商用契約で入力・出力を既定で学習に使わない提供形態と、製品改善へ利用する形態を区別します。Gemini API 追加規約では、利用者が EEA・スイス・英国にいる場合、無償枠を含め Paid Services のデータ条項が適用されます。また Gemini API は有効な Cloud Billing アカウントに紐づくプロジェクト経由かで Paid Services を判定します。AI Studio はそのプロジェクトへのアクセス権または Workspace enterprise アカウントという条件もあり、請求額が 0 円かだけで判定できません
  • データ保持と ZDR: 既定では不正利用監視などの目的で一定期間保持されるのが一般的です。保持ゼロ(ZDR: zero data retention)は既定ではなく審査・承認制であり、対象製品・エンドポイントも限定されます。「ZDR がある」ではなく「自分の構成が対象か」を確認します
  • データ処理契約(DPA): 個人データを扱うなら、管理者(controller)/ 処理者(processor)の役割分担、再委託先(サブプロセッサ)、侵害時の通知義務を含む DPA の締結を確認します
  • 処理リージョンと越境: データがどこで処理・保存されるか、リージョン指定が可能か
  • 認証・監査資料: SOC 2・ISO/IEC 27001・42001 などの第三者認証や監査レポートの提供有無
  • モデル・規約の変更通知: モデルの廃止や規約変更がどう通知されるか(バージョニング・デプロイ・モデル更新追従の廃止スケジュール追跡と対になる契約面です)

実務での注意点

アンチパターン

  • 規制の適用時期・内容を解説記事の記憶で判断する → 延期・改正が頻繁で(EU 高リスク義務の延期、米州法の縮小改正など)、古い情報での判断は過剰対応にも無対応にもなる → 一次情報(公式ポータル・官報・所管当局)で確認し、最終判断は法務に通す
  • 「国内サービスだから海外規制は無関係」と決める → EU 域内の利用者に影響が及ぶ構成では域外にも適用され得る → 適用範囲(地理・立場 = provider / deployer)の確認を法務と最初に行う
  • 条件を確認せず無償枠・個人アカウントで業務データを扱う → 学習利用の既定が商用契約と反転している場合があり、入力した業務データが学習に使われる → 利用地域・アカウント・課金設定・契約条項を確認し、データ分類ごとに業務利用できる提供形態をポリシーで定める
  • 会話ログを通常のアプリログと同じ扱いで無期限保持する → 個人データの塊であり、保持・削除・越境の義務に抵触し得る → 利用目的・保持期間・削除経路を設計し、自動化する
  • 監査書類を監査の直前に作る → 過去の構成・判断を再現できず、記録の信頼性も低い → バージョン管理・トレース・承認ログの副産物として普段から残す
  • AI ガバナンスを新設の委員会だけで担う → 現場のリリースフローと乖離して形骸化する → 既存のセキュリティ・個人情報・調達レビューに AI 観点を統合する

チェックリスト

  • 自社の Agent が「どの法域の・どの分類・どの立場(provider / deployer)」に当たるかを法務と確認した
  • 規制の一次情報の定点観測先(公式ポータル・所管当局)と確認担当を決めた
  • 会話ログの利用目的・保持期間・削除経路・越境の扱いが文書化されている
  • 漏えいの疑いを法務へ即時連絡し、当局報告・本人通知の要否と期限を確認する担当と一次情報が決まっている
  • AI 利用ポリシー(許可ユースケース・入力可能データ・承認プロセス・責任者)が周知されている
  • AI インベントリ(どこで・何が・どんなデータで動くか)が維持されている
  • リスクに応じたレビューゲートが PoC本番導入を判断するために必要な「問い」を、期間を区切って検証する使い捨て前提の試作。デモの成功ではなく、本物のデータ分布での測定結果を成果物とする。 → 本番の関門に統合されている
  • 監査で求められる記録(バージョン・承認・評価・インシデント)を普段の運用から出せる
  • ベンダーの学習利用既定・保持 / ZDR・DPA・リージョンを契約時に確認し、確認日を記録した
  • 規制・規約の変化を四半期ごとに見直す運用がある

関連トピック

参考資料

TODO・未確認事項

変わりやすい項目(定点観測)

  • EU: 新設禁止行為と既存システムのマーキング期限(2026-12-02)、高リスク義務(2027-12-02 / 2028-08-02)の施行準備と整合規格、透明性ガイドライン・実務規範の運用実態
  • 日本: 改正個人情報保護法の施行政令・関連ガイドライン整備、AI 事業者ガイドラインの改版(2026-08 時点の最新は第 1.2 版)
  • 米国: 連邦(EO 14365 に基づく州法への対抗。DOJ の Colorado AI 法違憲訴訟への介入など)と州法(Colorado 2027-01-01 適用予定、California SB 942 系の 2027-01-01 / 2028-01-01 段階適用と執行動向)の綱引き
  • ベンダー規約: 学習利用の既定・ZDR の条件・ポリシーページの URL 移転
  • 国際規格: NIST AI RMF の改訂(2026-08 時点も 1.0 が最新・改訂作業中)
エージェントのレッドチーミングAI 規格・認証の実務(ISO/IEC 42001 ほか)