モデルプロバイダー

すべての Dify アプリには、少なくとも 1 つのモデルプロバイダーが必要です。プロバイダーをインストールして API キーを追加すると、ワークスペース内のすべてのアプリでそのモデルを利用できます。

​

プロバイダーを追加する

1. 統合 > モデルプロバイダー で モデルプロバイダーをインストール セクションを表示するか、Marketplace でより多くの選択肢を確認します。
2. インストール後、プロバイダーカードの セットアップ をクリックし、API キー（およびカスタムエンドポイント URL や組織 ID など、必要なその他の認証情報）を入力します。Dify はプロバイダーを利用可能にする前に認証情報を検証します。

​

カスタムモデルを追加する

ほとんどのプロバイダーは独自のモデルを備えているため、認証情報を設定すればそのモデルをすぐに利用できます。モデルを自分で追加する必要があるのは、必要なモデルが用意されていない場合だけで、主に次の 2 つのケースです。

• Ollama や Xinference など、自前の推論サーバーを運用しており、読み込んだモデルを Dify が把握できない場合。
• プロバイダーがモデルを一覧表示しているものの、必要な特定のモデル（新しくリリースされたモデルやファインチューニング済みモデルなど）がない場合。

プロバイダーカードの モデルを追加 をクリックし、モデル名と認証情報を指定します。固定されたモデルのみを提供するプロバイダーでは、このオプションは表示されません。

​

認証情報を管理する

開発環境と本番環境を分けたい場合、複数のアカウントに使用量を分散させたい場合、モデルごとに異なるサーバーへ振り分けたい場合は、1 つのプロバイダーに複数のキーやエンドポイントを追加します。 キーを管理する場所は、モデルの種類によって異なります。

• プロバイダー独自のモデルでは、プロバイダーカードの コンフィグ をクリックすると、すべてのモデルで共有されるキーを管理できます。
  
• 追加したカスタムモデルでは、そのモデルの コンフィグ をクリックすると、モデル固有のキーを管理できます。
  

  
  追加したモデルは独自の認証情報に依存します。唯一の認証情報を削除すると、そのモデルも削除されます。

すべてのカスタムモデルのキーを 1 か所で確認するには、プロバイダーカードの 認証情報を管理 をクリックします。 モデルを削除してもキーはここに残るため、再入力せずにモデルを後で追加し直せます。

​

負荷分散

モデルプロバイダーに複数の認証情報がある場合、リクエストを自動的に分散できます。負荷分散によってトラフィックが分散され、単一の認証情報がレート制限に達することを防ぎ、高負荷時でもスループットを維持しやすくなります。 デフォルトでは、Dify はラウンドロビン方式を採用し、各リクエストをプール内の次の認証情報へ順番にルーティングします。ある認証情報がレート制限に達すると、その認証情報は 1 分間ローテーションから外され、その後で再試行されます。 設定手順：

1. モデルリストで対象のモデルを探し、対応する コンフィグ をクリックして 負荷分散 を選択します。
2. 負荷分散プールに認証情報を追加します。既存の認証情報から選択するか、新しく追加できます。
3. 認証情報を 2 つ以上有効にして、保存 をクリックします。負荷分散が有効なモデルには専用のアイコンが表示されます。

​

デフォルトモデルを設定する

ツールバーの システムモデル設定 をクリックすると、カテゴリごとにフォールバックモデルを割り当てられます。モデルを指定しないアプリやノードは、ここで設定したモデルを使用します。

• システム推論モデル：デフォルトの LLM です。
• 埋め込みモデル：ナレッジベースのインデックス作成と検索に使用します。
• Rerank モデル：検索結果を関連度で並べ替えます。
• 音声-to-テキストモデル：音声入力をテキストに変換します。
• テキスト-to-音声モデル：テキストの応答を音声に変換します。