エンタープライズ AI ガバナンス:CIO が問う 4 つの質問
AI 支出に関する経営レビューは、最後に 4 つの質問に収束します。本ページの各回答は、検証可能な出荷済みの仕組みを指します。ロードマップではありません。
モデルへのアクセス権を与えるのは簡単で、統制するのは簡単ではありません。次の 4 つの質問が、AI プログラムが最初の監査を通過できるかを決めます。
誰がどのモデルを、どれだけ使っているのか?
すべてのリクエストに鍵、鍵グループ、モデルが付きます。GateLLM は input・output・キャッシュヒットのトークンをリクエスト単位・分単位で記録し、鍵・グループ・モデル別の日次／月次時系列を提供します。どのクライアントが接続できるかは入場制御がリクエストヘッダーで決めます。
- •利用量とコストは人・鍵・鍵グループ・モデル別に分解できます。ログの再構築は不要です。
- •クライアント入場制御は User-Agent により、グローバル・グループ・鍵の 3 スコープで統制します。
- •リクエスト単位の記録により、1 回の呼び出しを端から端まで追跡できます。
いくらかかり、誰が負担するのか?
支出はベンダーの定価ではなく、自社が持つレートカードで計測されます。交渉済みの価格を固定し、タグで呼び出しを配賦し、期間ごとのレポートを出力し、日次／月次のコストクォータを設定して予算超過時にはリクエストを拒否できます。GateLLM はプロバイダ価格にトークン課金を上乗せしません。
- •期間ごとのレートカードのスナップショットにより、数か月前のレポートも再現できます。
- •タグによる配賦で、AI 支出を配賦可能な台帳に変えられます。
- •日次／月次クォータは上限到達時に 429 を返すので、暴走したエージェントは設定した額で止まります。
データは外部に出たのか、証明できるか?
ゲートウェイはあなたの側で動くため、プロンプトと応答の通信が当社を通ることはありません。BYOK ではプロバイダの鍵はゲートウェイのメモリだけに存在します。認証情報と PII はリクエスト経路で検出され、スコープごとに記録・マスク・ブロックできます。保存されるログ本文はすべての出口でマスクされます。
- •リクエストは設定したモデルエンドポイントにのみ送られます。セルフホストの vLLM や Ollama 上流も含みます。
- •リクエストログは既定で無効です。原文の表示は管理者のみ・監査付きです。
- •OIDC または SAML による SSO と SCIM プロビジョニング、テナント別の鍵とクォータに対応します。
プロバイダ障害やモデル変更のとき、どれだけコードを変えるのか?
プロバイダが 5xx を返した場合やタイムアウトした場合、アプリのコードを変えずに別プロバイダで再試行します。4 系統のチャットプロトコルを双方向に変換するため、クライアントは自前の SDK を使い続けられます。モデルの同一性はゲートウェイ側で、アクセスキー別・ヘッダー別・包括ルールでマッピングされます。
- •5xx やタイムアウト時のプロバイダ跨ぎフォールバック。クライアント変更は不要です。
- •入口の許可リストと包括マッピングにより、バックエンドが変わってもモデル名は安定します。
- •能力メタデータはレジストリから読み込むため、モデルの変化にリリースは不要です。