STOP Inc.

生成AIガバナンス設計

2026.04.28
#AIガバナンス #AIプラットフォーム #コンプライアンス #データガバナンス #プライバシー保護 #リスク管理 #生成AI
生成AIガバナンス設計

生成AIガバナンス設計

目的と境界を最初に“線引き”する

ガバナンスは「使わないための壁」ではなく、「安全に使い倒すためのガイドレール」です。最初に決めるべきは、目的と境界の明確化です。目的は事業KPIと紐づけ、境界はデータとユースケースで線を引きます。

  • ユースケース境界：顧客応対の一次回答草案作成は可／価格や契約条件の自動決定は不可（人の承認必須）
  • データ境界：公開情報・一般社内情報・機密（個人情報/契約/財務）の3分類。機密はLLMの学習・保管に使わない
  • モデル境界：許可モデル（ChatGPT, Claude, Gemini）を用途別にホワイトリスト。画像生成は現時点で社内情報と混在させない

合わせて「調達・変更管理」のルールも初手で決めます。新モデルを採用する際は、セキュリティチェックリスト、評価データでの品質検証、費用見積りを必須化。ここまでを1ページの「AI利用基本方針」として全社に配布します。

ポリシーは「モデル・データ・人」の3層で書く

モデル層：選定と制御

  • モデル選定基準：社外持ち出し可否、保持期間、監査ログ提供可否、地域（データ所在地）。ChatGPTは迅速な試作、Claudeは長文・要約、GeminiはGWS連携など特性を明示
  • パラメータ制御：温度/最大トークン上限、ツール使用可否、関数呼び出しの入力バリデーション
  • 安全対策：プロンプト注入検知（システムプロンプト保護）、NGワード・URLの出力ブロック、外部API呼び出しのサンドボックス化

データ層：最小化と可観測性

  • 前処理：個人情報・取引先名は自動マスキング。RAGは「要約→抽出→検索→回答」の分離で最小限提示
  • 保存方針：プロンプト/応答はハッシュ化＋メタデータ（ユースケースID/権限/コスト）で30日保持、機密フラグは即時削除
  • ベクトルDB運用：取り込み前に分類器で機密チェック、暗号化、テナント分離。削除権限は業務システム管理者のみ

人の層：役割とハンドオフ

  • 役割定義：オーナー（事業KPI）/プロダクト（品質・SLO）/セキュリティ（リスク）/法務（権利・出典）/現場チャンピオン（運用）
  • 意思決定の閾値：高リスク回答（価格/法的見解/医療助言など）は必ず人が承認。Copilotのコード提案は新規関数50行超でレビュー必須
  • 教育：月1回のプロンプト・レッドチーミング演習、失敗事例のナレッジ共有

運用を支える監査とSLO

導入後は「見える化」と「例外処理」で回します。ダッシュボードには、コスト・品質・安全の3指標を並べます。

  • 品質SLO：社内評価セットでの幻覚率2%以下、引用率90%以上、p95応答3秒以内
  • 安全SLO：個人情報の含有ゼロ、ブロックリスト発火率0.5%以下、機密データ流出インシデント0
  • コストSLO：1件あたり平均トークン単価上限、月次上限と自動スロットリング

監査の具体は次の通りです。

  • プロンプトログ：原文は暗号化、感度に応じて要約を監査用に保存
  • 出力試験：週次で100ケースの自動回帰（回答差分・根拠リンクの有無をチェック）
  • ベンダー監査：四半期ごとにモデル更新の影響評価、保持ポリシー変更の確認
  • 例外運用：誤検知や緊急時の一時バイパスは24時間限定＋事後レビュー

身近な企業活用例：EC中小の失敗と改善

カスタマーサポートの下書きにChatGPTを導入。開始1か月で応答速度は向上したものの、返品規約の誤案内が増え、オペレータが顧客アカウント名をそのままプロンプトに貼り付ける事例も発生しました。監査ログがなく、原因分析ができなかったのが痛点です。

改善では次を実施しました。

  • ユースケース再定義：価格・在庫は人承認必須、規約回答は社内RAG参照を強制
  • プロンプトUI改修：顧客名・住所は自動マスキング、問い合わせIDのみ入力可
  • モデル選択：長文要約はClaude、社内FAQ回答はChatGPTのRAG、在庫照会は社内API。更新ログは30日保持
  • 品質ゲート：根拠リンクのない回答は送信不可。誤案内を週次100件で自動チェック
  • 教育：30分のプロンプト衛生研修とレッドチーム演習を月例化

結果、誤案内率は3.8%→1.1%に低下、1件あたり応答コストは27%削減。監査ダッシュボードで「規約改定直後に幻覚率が上がる」傾向を掴み、改定時はFAQ埋め込みを即日更新する運用に切り替えました。開発チームはCopilotで管理画面の改修を高速化し、レビュー必須ルールで品質も担保しています。

ガバナンス設計は、モデル・データ・人を分けて定義し、SLOと監査で回すことで、導入スピードと安全性を両立できます。事業として生成AIを横断提供するなら、これらを共通の「社内生成AIプラットフォーム」に実装し、利用部門が同じレール上で拡張できる状態が理想です。GeminiやChatGPT、Claude、Copilotといった外部サービスの良さを活かしつつ、組織の意志を反映した基盤を整えることが、生成AIプラットフォーム事業の競争力そのものになります。

関連記事