# SDK / フレームワーク統合 - GateLLM

> 任意の SDK やフレームワークを GateLLM に接続：OpenAI、Anthropic、Gemini、DashScope、LangChain、LlamaIndex、CrewAI、Vercel AI SDK、OpenAI Agents SDK、Ollama など 30+。base_url の差し替えは 1 回で、SDK ごとのハマりどころも掲載。

正規 URL: https://www.gatellm.io/ja/integrations/

## SDK / フレームワーク統合
どの SDK も同じ 3 ステップで GateLLM に接続します。お使いの SDK を見つけ、base_url の規約とハマりどころを確認し、パターンをコピーしてください。
ゲートウェイはプロトコル指向です。どの SDK を使っていても、OpenAI / Anthropic / Gemini / DashScope / Realtime / MCP を話せるなら、base_url をゲートウェイに向けてアクセスキーに差し替えるだけで、設定済みの任意のモデルを呼び出せます。他ベンダーのモデルへのクロスプロトコル呼び出しも含みます。
## 使い慣れた SDK でそのまま動きます
任意の SDK やフレームワークを 1 行でゲートウェイに向けられます。OpenAI、Anthropic、Gemini、DashScope はネイティブ接続、LangChain、LlamaIndex、CrewAI、Vercel AI SDK など 30+ は同じ base_url の差し替えで利用できます。
### base_url をゲートウェイに向ける
既定値は https://your-gateway.gatellm.io です。/v1 を含むかどうかは SDK によって異なります（各例に正確な値を記載）。
### ゲートウェイのアクセスキーに差し替える
アップストリームの sk-… キーではありません。同じアクセスキーを、お使いの SDK が期待するヘッダーに載せます。
### ゲートウェイのモデル名を使う
コンソールで設定した名前です。ベンダー公式の名前ではありません。
```
# base_url convention differs by SDK — match the one you're using
from openai import OpenAI
OpenAI(base_url="https://your-gateway.gatellm.io/v1")        # OpenAI SDK: /v1

import anthropic
anthropic.Anthropic(base_url="https://your-gateway.gatellm.io")  # Anthropic SDK: root (appends /v1/messages)

# Vercel AI SDK createAnthropic: baseURL ".../v1" (appends /messages) — the reverse
# LangChain ChatOpenAI: base_url="https://your-gateway.gatellm.io/v1"
```
### `Authorization: Bearer <key>`
- SDK / フレームワーク: OpenAI · DashScope · 汎用
- Bearer プレフィックスは大文字小文字を区別しません

### `x-api-key: <key>`
- SDK / フレームワーク: Anthropic SDK
- Authorization も使用可能

### `x-goog-api-key: <key>`
- SDK / フレームワーク: Gemini SDK
- Authorization も使用可能

## SDK 選択マトリクス

### ベンダー公式 SDK
OpenAI / Anthropic / Google の SDK はネイティブ接続。変更は base_url のみです
| SDK / フレームワーク | 言語 | プロトコル | ドキュメント |
| --- | --- | --- | --- |
| OpenAI SDK | Python, Node.js | OpenAI | https://docs.gatellm.io/en/sdk/vendor-sdks |
| Anthropic SDK | Python, Node.js | Anthropic | https://docs.gatellm.io/en/sdk/vendor-sdks |
| Google GenAI SDK | Python, JavaScript | Gemini | https://docs.gatellm.io/en/sdk/vendor-sdks |
| OpenAI-compatible third parties | Python, Node.js | OpenAI-compatible | https://docs.gatellm.io/en/sdk/vendor-sdks |

### DashScope ネイティブ
テキスト、画像、非同期動画、埋め込み、リランクをひとつのエンドポイントで
| SDK / フレームワーク | 言語 | プロトコル | ドキュメント |
| --- | --- | --- | --- |
| DashScope SDK | Python | DashScope | https://docs.gatellm.io/en/quickstart/dashscope |

### 統合 SDK / ゲートウェイ
Vercel AI SDK、LiteLLM、Portkey、Semantic Kernel、Spring AI
| SDK / フレームワーク | 言語 | プロトコル | ドキュメント |
| --- | --- | --- | --- |
| Vercel AI SDK | TypeScript | OpenAI / Anthropic | https://docs.gatellm.io/en/sdk/unified-sdks |
| LiteLLM | Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/unified-sdks |
| Portkey | Node.js, Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/unified-sdks |
| Braintrust / Langbase | TypeScript, Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/unified-sdks |
| Semantic Kernel | Python, .NET | OpenAI-compatible | https://docs.gatellm.io/en/sdk/unified-sdks |
| Spring AI | Java | OpenAI-compatible | https://docs.gatellm.io/en/sdk/unified-sdks |

### オーケストレーションフレームワーク
LangChain、LlamaIndex、CrewAI、AutoGen、DSPy、Haystack
| SDK / フレームワーク | 言語 | プロトコル | ドキュメント |
| --- | --- | --- | --- |
| LangChain | Python, TypeScript | OpenAI / Anthropic | https://docs.gatellm.io/en/sdk/orchestration-frameworks |
| LangGraph | Python, TypeScript | OpenAI / Anthropic | https://docs.gatellm.io/en/sdk/orchestration-frameworks |
| LlamaIndex | Python, TypeScript | OpenAI-compatible | https://docs.gatellm.io/en/sdk/orchestration-frameworks |
| CrewAI | Python | OpenAI-compatible (LiteLLM) | https://docs.gatellm.io/en/sdk/orchestration-frameworks |
| AutoGen / AG2 | Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/orchestration-frameworks |
| DSPy | Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/orchestration-frameworks |
| Haystack | Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/orchestration-frameworks |
| Llama Stack | Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/orchestration-frameworks |

### エージェント SDK
OpenAI Agents、Claude Agent、Pydantic AI、ADK、Mastra
| SDK / フレームワーク | 言語 | プロトコル | ドキュメント |
| --- | --- | --- | --- |
| OpenAI Agents SDK | Python, TypeScript | OpenAI Responses | https://docs.gatellm.io/en/sdk/agent-sdks |
| Claude Agent SDK | Python, TypeScript | Anthropic | https://docs.gatellm.io/en/quickstart/anthropic-interop |
| Pydantic AI | Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/agent-sdks |
| Google ADK | Python | OpenAI-compatible (LiteLLM) | https://docs.gatellm.io/en/sdk/agent-sdks |
| Mastra | TypeScript | OpenAI-compatible | https://docs.gatellm.io/en/sdk/agent-sdks |
| Microsoft Agent Framework | .NET, Python | OpenAI-compatible | https://docs.gatellm.io/en/sdk/agent-sdks |
| MCP SDK | Python, TypeScript | MCP | https://docs.gatellm.io/en/reference/mcp-config |

### リアルタイム / 音声
Realtime WebSocket 音声 + openai_audio ASR / TTS
| SDK / フレームワーク | 言語 | プロトコル | ドキュメント |
| --- | --- | --- | --- |
| Realtime WebSocket | Any WS client | OpenAI Realtime | https://docs.gatellm.io/en/sdk/realtime-and-audio |
| openai_audio (ASR / TTS) | Python, Node.js | OpenAI audio | https://docs.gatellm.io/en/sdk/realtime-and-audio |

### ローカル / セルフホスト
Ollama、vLLM、llama.cpp をアップストリームとして利用。クライアント SDK はそのまま
| SDK / フレームワーク | 言語 | プロトコル | ドキュメント |
| --- | --- | --- | --- |
| Ollama | REST | OpenAI-compatible (upstream) | https://docs.gatellm.io/en/sdk/local-inference |
| vLLM | REST | OpenAI-compatible (upstream) | https://docs.gatellm.io/en/sdk/local-inference |
| llama.cpp server | REST | OpenAI-compatible (upstream) | https://docs.gatellm.io/en/sdk/local-inference |
| SGLang | REST | OpenAI-compatible (upstream) | https://docs.gatellm.io/en/sdk/local-inference |
| Text Generation Inference (TGI) | REST | OpenAI-compatible (upstream) | https://docs.gatellm.io/en/sdk/local-inference |
| LM Studio | REST | OpenAI-compatible (upstream) | https://docs.gatellm.io/en/sdk/local-inference |

## ハマりどころ
### モデル名はゲートウェイの設定と一致させる必要があります
ベンダー公式の名前でもアップストリームのモデル ID でもなく、コンソールで付けた名前です。名前が違うと 404 model_not_found になります。

### base_url に /v1 を含むかは SDK によって異なります
OpenAI SDK は /v1 を付けます。Anthropic SDK はルートを指定します（/v1/messages を自身で付加）。Vercel AI SDK の createAnthropic は /v1 を付けます（/messages を付加）。間違えるとパスのセグメントが余分に付いたり欠けたりします。

### フィールドはプロトコルをまたいで翻訳・制約されます
アップストリームが Responses プロトコルのモデルの場合、max_tokens が max_output_tokens に変換され、下限（例：16 以上）が付くことがあります。小さすぎると 400 になります。

### thinking ブロックはゲートウェイがラップします
Claude / Gemini の thinking コンテンツと署名はパススルーされるか除去されます。content 配列のうち type == "text" の要素を取得し、content[0] がテキストだと仮定しないでください。

### OpenAI Agents SDK の既定は /v1/responses です
Chat Completions ではなく Responses API を呼びます。アップストリームが openai（Chat）の場合は OpenAIChatCompletionsModel で明示的に切り替えてください。openai_response であれば文字列のモデル名でそのまま動きます。

### LlamaIndex はモデル名を許可リストで検証します
OpenAI クラスは認識できるファミリーしか受け付けず、ゲートウェイのカスタム名を拒否します。OpenAILike（Python）を使うか、モデル情報を明示的に宣言してください。

### CrewAI は内部で LiteLLM により動作します
base_url はフレームワークのパラメーターではなく OPENAI_API_BASE 環境変数で指定し、model には openai/ プレフィックスが必要です。

### AutoGen は model_info の明示が必要です
未知のモデル名は既定の一覧でエラーになります。model_info を明示的に宣言してチェックを回避してください。

### Google GenAI SDK はルートを指定します
base_url は http_options.base_url で指定し（/v1 なし）、キーは x-goog-api-key ヘッダーに載せます。

## FAQ
### GateLLM は LangChain / LlamaIndex / CrewAI で動きますか？
はい。各フレームワークの基底チャットモデルをゲートウェイの OpenAI 互換エンドポイントに向けてください。それぞれ「base_url を変える」入口があります。LangChain は ChatOpenAI(base_url=…)、LlamaIndex は OpenAILike、CrewAI は OPENAI_API_BASE 環境変数を設定します（内部は LiteLLM です）。
### Claude Agent SDK や Claude Code を GateLLM 経由で使えますか？
はい。これらの SDK は ANTHROPIC_BASE_URL / ANTHROPIC_AUTH_TOKEN 環境変数を読むので、ゲートウェイのルートに向け、ゲートウェイのアクセスキーを使ってください。ゲートウェイのモデル名はエージェントが要求する ID と完全に一致させるか、ANTHROPIC_MODEL で合わせてください。
### OpenAI Agents SDK はどう接続しますか？
その OpenAI クライアントをゲートウェイに向け、モデルを設定します。既定が /v1/responses である点に注意してください。アップストリームが Chat プロトコルのモデルなら、OpenAIChatCompletionsModel で明示的に切り替えます。トレースもゲートウェイに届かないよう、トレースを無効化（set_tracing_disabled）してください。
### GateLLM は Ollama / vLLM / llama.cpp を前面に置けますか？
はい。OpenAI 互換のアップストリームとして設定すれば、任意のクライアント SDK をそのまま使えます。ゲートウェイがセルフホストモデルの上にルーティング、フォールバック、ガバナンスを追加します。
### base_url に /v1 は含めますか？
SDK によって異なります。OpenAI SDK は /v1 を付け、Anthropic SDK はルートを指定し（/v1/messages を自身で付加）、Vercel AI SDK の createAnthropic は /v1 を付けます（/messages を付加）。正確な値は SDK ごとにドキュメントに記載しています。
### ゲートウェイのアクセスキーとアップストリームキーは何が違いますか？
ゲートウェイのアクセスキーはクライアントが提示するもので、SDK が使うヘッダー（Authorization、x-api-key、x-goog-api-key）に載せます。アップストリームのベンダーキーはゲートウェイ内に留まり、クライアントに露出することはありません。

## 関連ページ
- [ホーム](https://www.gatellm.io/ja/index.md)
- [料金](https://www.gatellm.io/ja/pricing.md)
- [コスト計算ツール](https://www.gatellm.io/ja/calculator.md)
- [会社概要](https://www.gatellm.io/ja/about.md)
- [デモを予約](https://www.gatellm.io/ja/demo.md)
- [FAQ](https://www.gatellm.io/ja/faq.md)
- [AI ゲートウェイ比較](https://www.gatellm.io/ja/compare.md)
- [LiteLLM 比較](https://www.gatellm.io/ja/compare/litellm.md)
- [OpenRouter 比較](https://www.gatellm.io/ja/compare/openrouter.md)
- [Alibaba Cloud AI Gateway 比較](https://www.gatellm.io/ja/compare/alibaba-cloud.md)
- [Azure API Management 比較](https://www.gatellm.io/ja/compare/azure-apim.md)
- [Apigee 比較](https://www.gatellm.io/ja/compare/apigee.md)
- [Cloudflare AI Gateway 比較](https://www.gatellm.io/ja/compare/cloudflare.md)
- [Kong AI Gateway 比較](https://www.gatellm.io/ja/compare/kong.md)
- [Portkey 比較](https://www.gatellm.io/ja/compare/portkey.md)
- [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/ja/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/ja/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/ja/compare/litellm-vs-portkey.md)
- [ユースケース](https://www.gatellm.io/ja/use-cases.md)
- [LLM コスト削減](https://www.gatellm.io/ja/use-cases/reduce-cost.md)
- [高可用性](https://www.gatellm.io/ja/use-cases/high-availability.md)
- [マルチテナント分離](https://www.gatellm.io/ja/use-cases/multi-tenant.md)
- [コンプライアンスと監査](https://www.gatellm.io/ja/use-cases/compliance-audit.md)
- [症状別トラブルシューティング](https://www.gatellm.io/ja/use-cases/troubleshooting.md)
- [マルチベンダー混合モデル構成](https://www.gatellm.io/ja/use-cases/mixed-model-stack.md)
- [Office 内での AI セルフホスト](https://www.gatellm.io/ja/use-cases/self-hosted-office-ai.md)
- [Token 使用量の可視化と帰属](https://www.gatellm.io/ja/use-cases/token-ops.md)
- [Token FinOps：AI コストの配賦と統制](https://www.gatellm.io/ja/use-cases/token-finops.md)
- [MCP ツールガバナンス](https://www.gatellm.io/ja/use-cases/mcp-tool-governance.md)
- [すべてのモデルに Web 検索を追加](https://www.gatellm.io/ja/use-cases/web-search-grounding.md)
- [マルチキーのローテーションと待機系](https://www.gatellm.io/ja/use-cases/multi-key-pooling.md)
- [接続クライアントの受付制御](https://www.gatellm.io/ja/use-cases/client-admission-control.md)
- [モデル利用ポリシーの強制](https://www.gatellm.io/ja/use-cases/enforce-model-policy.md)
- [クライアントにモデル選択を公開しない](https://www.gatellm.io/ja/use-cases/automatic-model-tiering.md)
- [1 つのプロトコルで、あらゆるモデル](https://www.gatellm.io/ja/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 アドイン](https://www.gatellm.io/ja/office-addin.md)
- [用語集](https://www.gatellm.io/ja/glossary.md)
- [モデルカタログ](https://www.gatellm.io/ja/models.md)
- [AI コーディングエージェントとハーネス](https://www.gatellm.io/ja/coding-agents.md)
- [セキュリティとコンプライアンス](https://www.gatellm.io/ja/security.md)