プロンプト フローの大規模言語モデル (LLM) ツールを使用すると、 OpenAI や Azure AI Foundry Models の Azure OpenAI などの広く使用されている大規模な言語モデル、または自然言語処理のために Azure AI モデル推論 API でサポートされている任意の言語モデルを利用できます。
プロンプト フローには、以下のように、いくつかの異なる大規模言語モデル API が用意されています。
- 入力候補: OpenAI の入力候補モデルを使うと、指定されたプロンプトに基づいてテキストを生成できます。
- チャット: OpenAI のチャット モデルと Azure AI チャット モデルは、テキストベースの入力と応答を使用した対話型の会話を容易にします。
注
LLM ツール API 設定から embedding オプションを削除しました。 埋め込み API は、 組み込みツールで使用できます。
Azure OpenAI 接続では、キーベースの認証のみがサポートされています。
Azure OpenAI リソースのリソース グループ名に ascii 以外の文字を使用しないでください。プロンプト フローではこのケースはサポートされていません。
前提条件
次の OpenAI のリソースを作成します。
OpenAI:
- OpenAI の Web サイトでアカウントをサインアップします。
- サインインして個人用 API キーを見つけます。
Azure OpenAI:
- これらの手順 使用して Azure OpenAI リソースを作成します。
標準デプロイにデプロイされたモデル
- 対象のカタログからモデルを使用してエンドポイントを作成 し、標準デプロイでデプロイします。
- Mistral、Cohere、Meta Llama、Microsoft ファミリのモデルなど、Azure AI モデル推論 API でサポートされている標準デプロイにデプロイされたモデルを使用するには、プロジェクト内でエンドポイントへの接続を作成する必要があります。
つながり
プロビジョニングされたリソースへの接続をプロンプト フローで設定します。
| タイプ | 名前 | API キー | [API の種類] | API バージョン |
|---|---|---|---|---|
| OpenAI | 必須 | 必須 | - | - |
| Azure OpenAI - API キー | 必須 | 必須 | 必須 | 必須 |
| Azure OpenAI - Microsoft Entra ID | 必須 | - | - | 必須 |
| サーバーレス モデル | 必須 | 必須 | - | - |
ヒント
- Azure OpenAI 接続に Microsoft Entra ID 認証タイプを使用するには、ユーザーまたはユーザー割り当てマネージド ID に
Cognitive Services OpenAI UserまたはCognitive Services OpenAI Contributor roleを割り当てる必要があります。 - ユーザー ID を使用してフロー実行を送信するように指定する方法の詳細を確認します。
- マネージド ID を使用して Azure OpenAI を構成する方法について説明します。
入力
次のセクションでは、さまざまな入力を示します。
テキスト入力候補
| 名前 | タイプ | 内容 | 必須 |
|---|---|---|---|
| ダイアログを表示する | 文字列 | 言語モデルのテキスト プロンプト。 | はい |
| model、deployment_name | 文字列 | 使用する言語モデル。 | はい |
| マックス_トークン | 整数 | 完了時に生成するトークンの最大数。 既定値は 16 です。 | いいえ |
| 温度 | float | 生成されるテキストのランダム性。 既定値は 1 です。 | いいえ |
| 止まれ | リスト | 生成されるテキストの停止シーケンス。 既定値は Null です。 | いいえ |
| 接尾辞 | 文字列 | 入力候補の末尾に追加されたテキスト。 | いいえ |
| top_p | float | 生成されたトークンから一番上の選択肢を使う確率。 既定値は 1 です。 | いいえ |
| logprobs | 整数 | 生成するログ確率の数。 既定値は Null です。 | いいえ |
| エコー | ブーリアン | 応答でプロンプトをエコー バックするかどうかを示す値。 既定値は false です。 | いいえ |
| presence_penalty | float | 繰り返しフレーズのモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| 頻度ペナルティ (frequency_penalty) | float | まれなフレーズを生成するためのモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| ベスト・オブ | 整数 | 生成する最適な完了の数。 既定値は 1 です。 | いいえ |
| ロジットバイアス | 辞書 | 言語モデルの Logit バイアス。 既定値は空のディクショナリです。 | いいえ |
チャット
| 名前 | タイプ | 内容 | 必須 |
|---|---|---|---|
| ダイアログを表示する | 文字列 | 言語モデルが応答に使用するテキスト プロンプト。 | はい |
| model、deployment_name | 文字列 | 使用する言語モデル。 モデルが標準デプロイにデプロイされている場合、このパラメーターは必要ありません。 | あり* |
| マックス_トークン | 整数 | 応答で生成するトークンの最大数。 既定は inf です。 | いいえ |
| 温度 | float | 生成されるテキストのランダム性。 既定値は 1 です。 | いいえ |
| 止まれ | リスト | 生成されるテキストの停止シーケンス。 既定値は Null です。 | いいえ |
| top_p | float | 生成されたトークンから一番上の選択肢を使う確率。 既定値は 1 です。 | いいえ |
| presence_penalty | float | 繰り返しフレーズのモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| 頻度ペナルティ (frequency_penalty) | float | まれなフレーズを生成するためのモデルの動作を制御する値。 既定値は 0 です。 | いいえ |
| ロジットバイアス | 辞書 | 言語モデルの Logit バイアス。 既定値は空のディクショナリです。 | いいえ |
出力
| API | 返り値の種類 | 内容 |
|---|---|---|
| 完了 | 文字列 | 1 つの予測完了のテキスト |
| チャット | 文字列 | 会話の 1 つの応答のテキスト |
LLM ツールを使用する
- OpenAI リソースまたは標準デプロイへの接続を設定して選択します。
- 大規模言語モデル API とそのパラメーターを構成します。
- ガイダンスを参考にしてプロンプトを準備します。