CClaude Code 中文教學
简体繁體EN
文件 / llm-gateway

其他 LLM gateway

官方中文文件· 查看原文 ↗ ·官方譯文，未經機器翻譯

透過您的組織已運行的 LLM gateway 路由 Claude Code。涵蓋將 Claude Code 連接到 gateway、為您的組織推出 gateway，以及 Claude Code 發送到 gateway 的內容。

本節涵蓋使用您的組織已運行的 gateway 產品，而不是 Claude apps gateway。有關 gateway 是什麼、它如何位於 Claude Code 和您的提供商之間，以及如何在 Claude apps gateway 和其他產品之間進行選擇，請參閱 gateway 概述。

提示

任何公開支持的 API 格式的 gateway 都可以運作。Anthropic 不認可、維護或審計第三方 gateway 產品，也不支持透過任何 gateway 將 Claude Code 路由到非 Claude 模型。按照 gateway 自己的文檔部署它，然後使用下面的推出步驟完成 Claude Code 端的配置。

gateway 提供的功能

gateway 為您的組織提供一個地方來管理：

  • 憑證：提供商金鑰保留在伺服器端；開發人員改為持有 gateway 憑證
  • 使用情況追蹤：按開發人員或團隊歸屬使用情況，無論哪個提供商處理請求
  • 成本控制：在一個地方強制執行預算和速率限制
  • 審計日誌：記錄每個模型請求以進行合規性檢查
  • 提供商切換：在 gateway 配置中更改提供商，無需觸及開發人員機器

除了提供商切換外，所有這些都適用於上游是 Anthropic API 還是雲提供商。提供商切換而無需重新配置開發人員機器也取決於 gateway 公開單一 Anthropic 格式端點，無論上游如何；公開提供商自己格式的 gateway 將客戶端配置與該提供商綁定。

權衡是 gateway 成為您的組織運營的基礎設施。Claude Code 在每個版本中添加功能，不轉發這些功能的 gateway 會破壞相應的功能，因此 gateway 產品需要隨著 Claude Code 的發展而保持更新。gateway 協議參考涵蓋要轉發的內容。

推出 gateway

當您準備好為組織推出 LLM gateway 時，無論您選擇哪個 gateway 產品，順序都是相同的：

  1. 部署 gateway 並給予它您的提供商憑證，以便它可以對它轉發的請求進行身份驗證。
  2. 為每個開發人員發行 gateway 憑證，以便使用情況歸屬於開發人員，離職時撤銷一個憑證。
  3. 透過受管設定檔和您的機密工具分發配置，以便每台機器都接收基本 URL 和憑證。當兩者都分發時，開發人員無需配置任何內容。如果您沒有設定分發，開發人員按照連接頁面自己設置變數。
  4. 讓每個開發人員檢查 Claude Code 中的配置，以便分發問題在他們依賴 gateway 之前浮出水面。

為您的組織推出 LLM gateway逐步介紹每個步驟，並顯示在每個步驟分發的配置檔案。gateway 是組織設置的一部分；有關政策強制執行、使用情況可見性和資料處理決策，請參閱為您的組織設置 Claude Code。

訂閱和 gateway

當gateway 憑證變數或 apiKeyHelper 處於活動狀態時，開發人員的 claude.ai 訂閱不被使用：憑證替換該會話的訂閱登錄，訂閱的使用限制不適用。該流量按令牌計費給擁有 gateway 轉發的憑證的人，例如您的組織的 Anthropic Console 帳戶，或當 gateway 路由到那裡時您的 Amazon Bedrock、Google Cloud 的 Agent Platform 或 Microsoft Foundry 帳戶。

ANTHROPIC_BASE_URL是指向 Claude Code 指向 gateway 的變數。僅設置該變數而不設置 gateway 憑證不會替換訂閱。請求仍然透過 gateway 路由，但保存的 claude.ai 登錄保持活動憑證，因此其使用限制和計費適用。將此流量轉發給 Anthropic 的 gateway 必須轉發 anthropic-beta 中的 OAuth 功能；請參閱請求標頭參考。

上一頁在 Google Cloud 上部署 Claude 應用程式閘道