アノテーションリプライ

アノテーションリプライ機能は、手動編集されたアノテーションを通じて、アプリケーションにカスタマイズされた高品質なQ&Aリプライ能力を提供します。適用シーン：

特定分野のカスタマイズ回答： 企業や政府などのカスタマーサービスやナレッジベースQ&Aのシーンで、特定の問題に対してシステムが明確な結果を提供することを望む場合、特定の問題についてカスタマイズされた出力結果が必要です。例えば、特定の問題に対する「標準回答」や、特定の問題に対する「回答不可」の設定などが挙げられます。
POCやデモ製品の迅速なチューニング： プロトタイプ製品を迅速に構築する際に、アノテーションリプライを通じて実現されたカスタマイズ回答は、Q&Aの生成結果の予期を効率的に向上させ、顧客満足度を高めることができます。

アノテーションリプライ機能は、LLM (大規模言語モデル) の生成プロセスをスキップし、RAG (Retrieval-Augmented Generation) のハルシネーション問題を回避するための別の検索強化システムを提供するものです。

使用プロセス

アノテーションリプライ機能を有効にすると、LLMの会話リプライ内容に対してアノテーションを行うことができます。LLMがリプライした高品質な回答を直接アノテーションとして追加することもできますし、必要に応じて高品質な回答を手動で編集することもできます。これらの編集されたアノテーション内容は永続保存されます。
ユーザーが再度類似の質問をした場合、その質問をベクトル化し、類似するアノテーションをクエリします。
マッチング項目が見つかった場合、そのアノテーションに対応する回答を直接返し、LLMやRAGのプロセスを経由せずにリプライします。
マッチング項目が見つからなかった場合、質問は通常プロセスを継続します（LLMやRAGに渡されます）。
アノテーションリプライ機能をオフにすると、システムはアノテーションからのマッチングリプライを行いません。

アノテーションリプライの流れ

プロンプト編成でアノテーションリプライを有効にする

「アプリケーション構築->機能追加」からアノテーションリプライのスイッチを有効にします：

プロンプト編成でアノテーションリプライを有効にする

有効にする際には、まずアノテーションリプライのパラメータを設定する必要があります。設定可能なパラメータには次のものがあります：スコア閾値とEmbeddingモデル スコア閾値：アノテーションリプライのマッチング類似度閾値を設定するために使用されます。閾値スコアを超えるアノテーションのみがリコールされます。 Embeddingモデル：アノテーションテキストをベクトル化するために使用され、モデルの切り替え時には再度埋め込みが生成されます。保存して有効にすると、この設定は直ちに有効となり、システムはすべての保存されたアノテーションに対してEmbeddingモデルを利用して埋め込みを生成し保存します。

アノテーションリプライのパラメータ設定

会話デバッグページでアノテーションを追加する

デバッグおよびプレビューページでモデルのリプライ情報に直接アノテーションを追加または編集できます。

アノテーションリプライを追加する

必要なアノテーションリプライに編集して保存します。

アノテーションリプライを編集する

同じ質問を再度入力すると、システムは既に保存されたアノテーションを使用して質問に直接リプライします。

保存されたアノテーションを通じてユーザー質問にリプライする

ログとアノテーションでアノテーションリプライを有効にする

「アプリケーション構築->ログとアノテーション->アノテーション」からアノテーションリプライのスイッチを有効にします：

ログとアノテーションでアノテーションリプライを有効にする

アノテーションバックエンドでアノテーションリプライのパラメータを設定する

アノテーションリプライで設定可能なパラメータには次のものがあります：スコア閾値と埋め込みモデル スコア閾値：アノテーションリプライのマッチング類似度閾値を設定するために使用されます。閾値スコアを超えるアノテーションのみがリコールされます。 埋め込みモデル：アノテーションテキストをベクトル化するために使用され、モデルの切り替え時には再度埋め込みが生成されます。

アノテーションリプライのパラメータを設定する

アノテーションQ&Aペアを一括インポートする

一括インポート機能内で、アノテーションインポートテンプレートをダウンロードし、テンプレート形式に従ってアノテーションQ&Aペアを編集します。編集が完了したら、一括インポートできます。

アノテーションQ&Aペアを一括インポートする

アノテーションQ&Aペアを一括エクスポートする

アノテーション一括エクスポート機能を通じて、システム内に保存されたすべてのアノテーションQ&Aペアを一度にエクスポートできます。

アノテーションQ&Aペアを一括エクスポートする