Azure AI Studio 内のフロー用 LLM ツール
重要
この記事で説明する機能の一部は、プレビューでのみ使用できる場合があります。 このプレビューはサービス レベル アグリーメントなしで提供されており、運用環境ではお勧めしません。 特定の機能はサポート対象ではなく、機能が制限されることがあります。 詳しくは、Microsoft Azure プレビューの追加使用条件に関するページをご覧ください。
自然言語処理に大規模言語モデル (LLM) を使用するには、プロンプト フロー LLM ツールを使用します。
Note
さまざまな自然言語処理タスクのために、テキストを密ベクトル表現に変換するための埋め込みについては、「埋め込みツール」を参照してください。
前提条件
プロンプト ツール ドキュメントの説明に従って、プロンプトを準備します。 LLM ツールとプロンプト ツールはどちらも Jinja テンプレートをサポートしています。 詳細とベスト プラクティスについては、「プロンプト エンジニアリングの手法」を参照してください。
LLM ツールを使用してビルドする
Azure AI Studio でフローを作成するか、開きます。 詳細については、「フローの作成」を参照してください。
[+ LLM] を選択し、LLM ツールをフローに追加します。
プロビジョニングされたリソースの 1 つへの接続を選択します。 たとえば、Default_AzureOpenAI を選択します。
[Api] ドロップダウン リストから、[チャット] または [入力候補] を選択します。
テキスト入力候補の表で説明されている LLM ツール入力パラメータの値を入力します。 [チャット] API を選択した場合、「チャット入力」表を参照してください。 [入力候補] API を選択した場合、「テキスト入力候補入力」表を参照してください。 プロンプト入力を準備する方法については、「前提条件」を参照してください。
必要に応じて、フローにさらにツールを追加します。 または、[実行] を選択してフローを実行します。
出力については、出力の表で説明します。
入力
次の入力パラメータを使用できます。
テキスト入力候補入力
| 名前 | 種類 | 内容 | 必須 |
|---|---|---|---|
| prompt | string | 言語モデルのテキスト プロンプト。 | はい |
| model、deployment_name | string | 使う言語モデル。 | はい |
| max_tokens | 整数 (integer) | 完了で生成されるトークンの最大数。 既定値は 16 です。 | いいえ |
| 温度 | float | 生成されるテキストのランダム性。 既定値は 1 です。 | いいえ |
| stop | list | 生成されるテキストの停止シーケンス。 既定値は Null です。 | いいえ |
| suffix | string | 入力候補の末尾に追加されるテキスト。 | いいえ |
| top_p | float | 生成されたトークンから一番上の選択肢を使う確率。 既定値は 1 です。 | いいえ |
| logprobs | 整数 (integer) | 生成するログ確率の数。 既定値は Null です。 | いいえ |
| echo | boolean | 応答でプロンプトをエコー バックするかどうかを示す値。 既定値は False です。 | いいえ |
| presence_penalty | float | フレーズの繰り返しに関するモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| frequency_penalty | float | まれなフレーズの生成に関するモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| best_of | 整数 (integer) | 生成する最適な入力候補の数。 既定値は 1 です。 | いいえ |
| logit_bias | ディクショナリ | 言語モデルのロジットの偏り。 既定値は空の辞書です。 | いいえ |
チャット入力
| 名前 | 種類 | 内容 | 必須 |
|---|---|---|---|
| prompt | string | 言語モデルが応答するテキスト プロンプト。 | はい |
| model、deployment_name | string | 使う言語モデル。 | はい |
| max_tokens | 整数 (integer) | 応答で生成するトークンの最大数。 既定は inf です。 | いいえ |
| 温度 | float | 生成されるテキストのランダム性。 既定値は 1 です。 | いいえ |
| stop | list | 生成されるテキストの停止シーケンス。 既定値は Null です。 | いいえ |
| top_p | float | 生成されたトークンから一番上の選択肢を使う確率。 既定値は 1 です。 | いいえ |
| presence_penalty | float | フレーズの繰り返しに関するモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| frequency_penalty | float | まれなフレーズの生成に関するモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| logit_bias | ディクショナリ | 言語モデルのロジットの偏り。 既定値は空の辞書です。 | いいえ |
出力
出力は、入力に選択した API によって異なります。
| API | 返り値の種類 | 説明 |
|---|---|---|
| Completion | string | 1 つの予測される入力候補のテキスト。 |
| チャット | string | 会話の 1 つの応答のテキスト。 |