> ## Documentation Index
> Fetch the complete documentation index at: https://enterprise-docs.dify.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# 模型供应商

> 为工作空间添加模型供应商，让应用能够使用 LLM、Embedding 模型及其他 AI 服务

每个 Dify 应用都至少需要一个模型供应商。安装供应商并填入 API 密钥后，工作空间内的所有应用都能使用它的模型。

<Warning>
  API 密钥授予工作空间范围的模型访问权限，并会通过各供应商的账户直接计费。只有工作空间所有者和管理员可以管理供应商。
</Warning>

## 添加供应商

1. 在 **集成** > **模型供应商** 中，浏览 **安装模型供应商** 区域，或访问 [Marketplace](https://marketplace.dify.ai/) 获取更多选项。

2. 安装完成后，点击供应商卡片上的 **设置**，填入 API 密钥（以及供应商要求的其他凭据，如自定义端点 URL 或组织 ID）。Dify 会先验证凭据，再将该供应商投入使用。

## 添加自定义模型

大多数供应商自带模型，授权其中一个后，它的模型即可使用。只有当你需要的模型不在列表中时，才需要自行添加，通常有两种情况：

* 你运行着自己的推理服务器（如 Ollama 或 Xinference），Dify 无法得知你加载了哪些模型。
* 供应商列出了自己的模型，但你需要的特定模型（如新发布或微调的模型）不在其中。

点击供应商卡片上的 **添加模型**，为模型填写名称和凭据。如果某个供应商只提供固定的一组模型，则不会显示此选项。

<Info>
  若添加的自定义模型名称和类型与已有模型完全相同，Dify 会将新密钥附加到现有模型上，而不会创建重复的模型。
</Info>

## 管理凭据

当你想隔离开发与生产环境、在多个账户间分摊用量，或将不同模型指向不同服务器时，可为一个供应商添加多个密钥或端点。

密钥的管理位置取决于模型类型：

* 对于供应商自带的模型，点击供应商卡片上的 **配置**，统一管理这些模型共享的密钥。
  <Frame>
    <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/predefined-model-credential.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=6d4ebd8fa5e6108abf9433f350db881c" alt="管理预定义模型的凭据" width="1538" height="678" data-path="images/use-dify/workspace/predefined-model-credential.png" />
  </Frame>
* 对于你添加的自定义模型，点击该模型的 **配置**，管理它自己的密钥。

  <Columns cols={2}>
    <Frame>
      <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/custom-model-config.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=aa5c43e96cd1266626df7fb39de00815" alt="自定义模型配置" width="1472" height="270" data-path="images/use-dify/workspace/custom-model-config.png" />
    </Frame>

    <Frame>
      <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/custom-model-credential.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=d68bad1fc8141fee43e3da1e0ea8e96f" alt="自定义模型凭据" width="1328" height="722" data-path="images/use-dify/workspace/custom-model-credential.png" />
    </Frame>
  </Columns>

  <Warning>
    你添加的模型依赖于自己的凭据。删除它唯一的凭据时，该模型也会一并删除。
  </Warning>

点击供应商卡片上的 **管理凭据**，可在同一处查看所有自定义模型的密钥。

<Frame>
  <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/custom-model-credential-list.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=5ea53c4ed34c7c6e76fd15b43f0fc927" alt="管理所有自定义模型的凭据" width="1528" height="692" data-path="images/use-dify/workspace/custom-model-credential-list.png" />
</Frame>

即使移除模型后，密钥仍保留在此处，方便你日后重新添加该模型而无需再次录入。

<Frame>
  <img src="https://mintcdn.com/dify-4171f9f9/UBmmoVHERrjglfCJ/images/use-dify/workspace/removed-custom-model-re-add.png?fit=max&auto=format&n=UBmmoVHERrjglfCJ&q=85&s=f550dae3974ab628a171c2ca073df77a" alt="重新添加已移除的模型" width="1534" height="564" data-path="images/use-dify/workspace/removed-custom-model-re-add.png" />
</Frame>

## 负载均衡

当一个模型供应商配置了多个凭据时，可在这些凭据之间自动分配请求。负载均衡会分散流量，避免单个凭据触及速率限制，从而在高负载下保持吞吐量。

默认情况下，Dify 采用轮询策略，将每个请求依次分配给负载均衡池中的下一个凭据。若某个凭据触发速率限制，系统会将其暂时移出轮询一分钟，之后再重新尝试。

设置步骤：

1. 在模型列表中找到目标模型，点击对应的 **配置**，选择 **负载均衡**。
2. 向负载均衡池中添加凭据，可从已有凭据中选择，也可添加新凭据。
3. 至少启用两个凭据，然后点击 **保存**。已启用负载均衡的模型会带有专属标识。

<Frame>
  <img src="https://mintcdn.com/dify-4171f9f9/vMKCXdVD-5Kdilzi/images/add_load_balancing_credential.png?fit=max&auto=format&n=vMKCXdVD-5Kdilzi&q=85&s=256768f6904446580b6dc30f4e4468ea" alt="向负载均衡池添加凭据" width="1194" height="872" data-path="images/add_load_balancing_credential.png" />
</Frame>

<Frame>
  <img src="https://mintcdn.com/dify-4171f9f9/mZ12wIe1vYw_wFxp/images/load_balancing_icon.png?fit=max&auto=format&n=mZ12wIe1vYw_wFxp&q=85&s=e2eb7cd7da2b0deec279b61493a8e8d0" alt="带有负载均衡标识的模型" width="1564" height="358" data-path="images/load_balancing_icon.png" />
</Frame>

## 设置默认模型

点击工具栏中的 **默认模型设置**，为每个类别指定回退模型。未单独指定模型的应用和节点会使用这些默认值：

* **系统推理模型**：默认的 LLM。
* **Embedding 模型**：用于知识库的索引和检索。
* **Rerank 模型**：按相关性对检索结果重新排序。
* **语音转文本模型**：将音频输入转换为文本。
* **文本转语音模型**：将文本回复转换为音频。
