添加供应商
- 在 集成 > 模型供应商 中,浏览 安装模型供应商 区域,或访问 Marketplace 获取更多选项。
- 安装完成后,点击供应商卡片上的 设置,填入 API 密钥(以及供应商要求的其他凭据,如自定义端点 URL 或组织 ID)。Dify 会先验证凭据,再将该供应商投入使用。
添加自定义模型
大多数供应商自带模型,授权其中一个后,它的模型即可使用。只有当你需要的模型不在列表中时,才需要自行添加,通常有两种情况:- 你运行着自己的推理服务器(如 Ollama 或 Xinference),Dify 无法得知你加载了哪些模型。
- 供应商列出了自己的模型,但你需要的特定模型(如新发布或微调的模型)不在其中。
若添加的自定义模型名称和类型与已有模型完全相同,Dify 会将新密钥附加到现有模型上,而不会创建重复的模型。
管理凭据
当你想隔离开发与生产环境、在多个账户间分摊用量,或将不同模型指向不同服务器时,可为一个供应商添加多个密钥或端点。 密钥的管理位置取决于模型类型:-
对于供应商自带的模型,点击供应商卡片上的 配置,统一管理这些模型共享的密钥。

-
对于你添加的自定义模型,点击该模型的 配置,管理它自己的密钥。




负载均衡
当一个模型供应商配置了多个凭据时,可在这些凭据之间自动分配请求。负载均衡会分散流量,避免单个凭据触及速率限制,从而在高负载下保持吞吐量。 默认情况下,Dify 采用轮询策略,将每个请求依次分配给负载均衡池中的下一个凭据。若某个凭据触发速率限制,系统会将其暂时移出轮询一分钟,之后再重新尝试。 设置步骤:- 在模型列表中找到目标模型,点击对应的 配置,选择 负载均衡。
- 向负载均衡池中添加凭据,可从已有凭据中选择,也可添加新凭据。
- 至少启用两个凭据,然后点击 保存。已启用负载均衡的模型会带有专属标识。


设置默认模型
点击工具栏中的 默认模型设置,为每个类别指定回退模型。未单独指定模型的应用和节点会使用这些默认值:- 系统推理模型:默认的 LLM。
- Embedding 模型:用于知识库的索引和检索。
- Rerank 模型:按相关性对检索结果重新排序。
- 语音转文本模型:将音频输入转换为文本。
- 文本转语音模型:将文本回复转换为音频。