> ## Documentation Index
> Fetch the complete documentation index at: https://enterprise-docs.dify.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# 模型供应商

> 为你的工作空间配置 AI 模型访问，这是驱动所有应用程序的基础

模型供应商为你的工作空间提供 AI 模型访问。你构建的每个应用程序都需要模型才能运行，在工作空间级别配置供应商意味着所有团队成员都可以在所有项目中使用它们。

配置模型供应商时，你需要为 OpenAI、Anthropic、Google 等服务填入自己的 API 密钥。由此你将获得完全控制权，并通过各供应商直接计费。

## 配置供应商

只有工作空间管理员和所有者才能配置模型供应商。整个过程在各供应商之间是一致的：

<Steps>
  <Step title="导航至设置 → 模型供应商">
    在工作空间设置中访问模型供应商配置。
  </Step>

  <Step title="选择你的供应商">
    从 OpenAI、Anthropic、Google、Cohere 或其他支持的供应商中选择。
  </Step>

  <Step title="添加凭据">
    输入你的 API 密钥和供应商要求的任何其他配置。
  </Step>

  <Step title="测试并保存">
    Dify 在使供应商对你的工作空间可用之前会验证你的凭据。
  </Step>
</Steps>

## 支持的供应商

**大型语言模型**：

* OpenAI (GPT-4, GPT-3.5-turbo)
* Anthropic (Claude)
* Google (Gemini)
* Cohere
* 通过 Ollama 的本地模型

**文本嵌入模型**：

* OpenAI Embeddings
* Cohere Embeddings
* Azure OpenAI
* 本地文本嵌入模型

**专用模型**：

* 图像生成 (DALL-E, Stable Diffusion)
* 语音 (Whisper, ElevenLabs)
* 内容审核 API

## 供应商配置示例

<Tabs>
  <Tab title="OpenAI">
    **必需**：来自 OpenAI 平台的 API 密钥

    **可选**：用于 Azure OpenAI 或代理的自定义基础 URL，用于组织范围使用的组织 ID

    **可用模型**：GPT-4、GPT-3.5-turbo、DALL-E、Whisper、文本嵌入
  </Tab>

  <Tab title="Anthropic">
    **必需**：来自 Anthropic 控制台的 API 密钥

    **可用模型**：Claude 3 (Opus, Sonnet, Haiku)、Claude 2.1、Claude Instant
  </Tab>

  <Tab title="本地 (Ollama)">
    **必需**：Ollama 服务器 URL（通常为 [http://localhost:11434）](http://localhost:11434）)

    **设置**：安装 Ollama，拉取模型（`ollama pull llama2`），配置 Dify 连接

    **优势**：完全数据隐私，无外部 API 成本，自定义模型微调
  </Tab>
</Tabs>

## 管理模型凭据

为模型供应商的预定义模型和自定义模型添加多个凭据，并轻松进行切换、删除、修改等操作。

在以下场景中，推荐添加多个模型凭据：

* **环境隔离**：为开发、测试、生产等不同环境配置独立的模型凭据。例如，在开发环境中选择有速率限制的凭据用于功能调试，在生产环境中选择性能稳定、配额充足的付费凭据以保障服务质量。

* **成本优化**：通过添加和切换来自不同账户或模型供应商的多个凭据，最大限度地利用免费或低成本额度，降低应用开发与运营成本。

* **模型实验**：在模型微调或迭代过程中，可能会产出多个模型版本。通过添加不同模型版本的凭据，快速切换并测试其应用效果。

<Tabs>
  <Tab title="预定义模型">
    安装模型供应商并配置首个凭据后，点击供应商面板右上角的 **配置**，可进行以下操作：

    * 添加新凭据
    * 选择任一凭据作为所有预定义模型的默认凭据
    * 修改凭据
    * 删除凭据

    <Note>
      若默认凭据被删除，需手动指定新的默认凭据。
    </Note>

    <Frame>
      <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/predefined-model-credential.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=6d4ebd8fa5e6108abf9433f350db881c" alt="管理预定义模型的凭证" width="1538" height="678" data-path="images/use-dify/workspace/predefined-model-credential.png" />
    </Frame>
  </Tab>

  <Tab title="自定义模型">
    ### 管理单个自定义模型的凭据

    安装模型供应商并添加自定义模型后，按照以下步骤操作：

    1. 在模型列表中，点击模型对应的 **配置**。

    2. 在 **指定模型凭据** 面板中，点击默认凭据以打开凭据列表，可进行以下操作：

       * 添加新凭据
       * 选择任一凭据作为该自定义模型的默认凭据
       * 修改凭据
       * 删除凭据

    <Warning>
      若删除某个自定义模型的唯一凭据，该模型将被一同删除。
    </Warning>

    <Frame>
      <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/custom-model-credential.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=d68bad1fc8141fee43e3da1e0ea8e96f" alt="管理单个自定义模型的凭证" width="1328" height="722" data-path="images/use-dify/workspace/custom-model-credential.png" />
    </Frame>

    <Info>
      添加自定义模型时，若填写的模型名称与模型类型与一个已存在的自定义模型完全相同，系统将不会创建重复的模型，而是会为已存在的模型添加一个新的凭据。
    </Info>

    ### 管理所有自定义模型的凭据

    点击 **管理凭据**，查看、修改或删除所有自定义模型的凭据。

    <Frame>
      <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/custom-model-credential-list.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=5ea53c4ed34c7c6e76fd15b43f0fc927" alt="管理所有自定义模型的凭证" width="1528" height="692" data-path="images/use-dify/workspace/custom-model-credential-list.png" />
    </Frame>

    对于被移除的自定义模型，其所有凭据仍将保留在 **管理凭据** 列表中。当你点击 **添加模型** 时，系统将展示所有已移除但凭据尚存的自定义模型，供你快速重新添加。

    <Frame>
      <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/removed-custom-model-re-add.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=f550dae3974ab628a171c2ca073df77a" alt="已移除模型显示以便快速重新添加" width="1534" height="564" data-path="images/use-dify/workspace/removed-custom-model-re-add.png" />
    </Frame>

    若从 **管理凭据** 列表中删除某个已移除的自定义模型的所有凭据，该模型将不会在点击 **添加模型** 时出现。
  </Tab>
</Tabs>

## 负载均衡

当一个模型供应商配置了多个凭据时，可在这些凭据之间自动分配请求。负载均衡会分散流量，避免单个凭据触及速率限制，从而在高负载下保持吞吐量。

默认情况下，Dify 采用轮询策略，将每个请求依次分配给负载均衡池中的下一个凭据。若某个凭据触发速率限制，系统会将其暂时移出轮询一分钟，之后再重新尝试。

设置步骤：

1. 在模型列表中找到目标模型，点击对应的 **配置**，选择 **负载均衡**。
2. 向负载均衡池中添加凭据，可从已有凭据中选择，也可添加新凭据。
3. 至少启用两个凭据，然后点击 **保存**。已启用负载均衡的模型会带有专属标识。

<Frame>
  <img src="https://mintcdn.com/dify-4171f9f9/vMKCXdVD-5Kdilzi/images/add_load_balancing_credential.png?fit=max&auto=format&n=vMKCXdVD-5Kdilzi&q=85&s=256768f6904446580b6dc30f4e4468ea" alt="向负载均衡池添加凭据" width="1194" height="872" data-path="images/add_load_balancing_credential.png" />
</Frame>

<Frame>
  <img src="https://mintcdn.com/dify-4171f9f9/mZ12wIe1vYw_wFxp/images/load_balancing_icon.png?fit=max&auto=format&n=mZ12wIe1vYw_wFxp&q=85&s=e2eb7cd7da2b0deec279b61493a8e8d0" alt="带有负载均衡标识的模型" width="1564" height="358" data-path="images/load_balancing_icon.png" />
</Frame>

## 访问和权限

团队访问遵循工作空间权限：

* **所有者/管理员** 可以配置、修改和删除供应商
* **编辑者/成员** 可以查看可用供应商并在应用程序中使用它们

<Warning>
  API 密钥授予工作空间范围的模型访问权限，并会通过各供应商的账户直接计费。只将管理权限授予可信的团队成员。
</Warning>

## 故障排除

**身份验证失败**：验证 API 密钥准确性，检查过期时间，确保有足够积分，确认密钥权限。

**模型不可用**：检查供应商配置是否包含该模型，验证 API 密钥等级访问权限，刷新供应商设置。

**速率限制**：升级供应商账户，实施请求队列，考虑使用自定义供应商获得更高限制。