プロンプトとテキスト生成機能についてよくあるご質問
これらのよくある質問 (FAQ) では、AI Builder のプロンプト機能が AI に与える影響について説明します。
プロンプトとは?
AI Builder のプロンプト機能は、AI を活用したワークフロー、アプリケーション、データ変換、コパイロットのカスタマイズを開発するための多彩な機能をユーザーに提供します。 これにより、文書の要約、回答草案の作成、テキストの分類、言語の翻訳を行うワークフローとアプリケーションの作成が可能になります。 この機能は、Generative Pre-trained Transformer (GPT) テクノロジーを利用したAzure OpenAI Service に搭載されています。 これらのモデルは膨大な量のテキスト データでトレーニングされており、人間が書いたコンテンツに似たテキストを生成できます。 Azure OpenAI Service の詳細については、Azure OpenAI Service の透明性に関する注意事項 をご覧ください。
プロンプトの使用目的は何ですか?
AI Builder のプロンプトを使用すると、インテリジェントなアプリケーション、ワークフローを構築し、コパイロットを拡張できます。 これらは事前トレーニングされた GPT モデルの機能を活用し、カスタム モデルのトレーニングの必要性を排除します。 たとえば、顧客から寄せられた苦情を要約するワークフローを構築することが目的である場合があります。 次に、受信した苦情のカテゴリに基づいて、インシデント管理ツールでチケットを作成します。 この例では、メーカーは、受信した苦情を分類して要約し、新しいインシデントを作成するようにモデルに指示するだけで済みます。
次のリストには、このサービスの最も一般的な使用例が含まれています。
- メール、会話、トランスクリプト、ドキュメントなどの要約処理。
- 顧客の問い合わせ、苦情、メールなどに対する回答の下書きの提案。
- 契約書、メール、請求書、注文書などからの情報の抽出。
- コンテンツを目的のカテゴリに分類 (例: メールが注文、苦情、返品のいずれなのか)。
- 特定のテキストの感情分析 (例: 製品レビューのセンチメントの特定)。
これらすべての場合において、ユーザーはシステムの最終的な結果に対して責任を負います。 生成されたコンテンツを使用する前に、不正確さや不完全さの可能性がないことを確認する必要があります。
プロンプト機能の準備状況はどのように評価されましたか? パフォーマンスの測定にはどのようなメトリックが使用されますか?
この機能の評価には、さまざまな安全パラメータにわたる包括的なテストが含まれます。 これにより、この機能が組織の責任ある AI 基準および原則と確実に一致するようになります。 また、サービスは潜在的な脆弱性についても継続的に評価されます。 私たちが使用するパフォーマンス指標には主に、コンテンツのフィルタリングの効率と、フィルタリングされたコンテンツとフィルタリングされていないコンテンツに関する人間とマシンの一致度が含まれます。
プロンプトにはどのようなコンテンツモデレーションが実装されていますか?
GPT モデルはインターネット データでトレーニングされるため、一般的な世界モデルの構築に最適です。 同時に、同じソースから有害で有害な偏ったコンテンツを継承する可能性があります。 モデルは安全に動作し、有害なコンテンツを生成しないようにトレーニングされていますが、場合によっては有害な出力を生成する可能性があります。 AI Builder プロンプトは Azure AI Content Satefy サービスを利用して、AI プロンプト内に最先端のコンテンツ モデレーション機能を組み込みます。 これには、マルチ重大度のテキスト スキャナーを使用して生成された出力を分析するサービスと、プロンプト インジェクション攻撃に対する安全性が含まれます。 出力では、保護された物質の逆流もスキャンされます。
このプロンプト機能にはどのような制限がありますか? システムを使用する際、ユーザーはどのようにプロンプト制限の影響を最小限に抑えられますか？
この技術の使用は、Azure OpenAI Service の行動規範 の要件に従う必要があります。 このテクノロジーは、政治的プロパガンダ、ヘイトスピーチ、誤った情報、自傷行為、差別、露骨な性的内容、または行動規範で禁止されているその他のコンテンツに関連するコンテンツの生成に使用してはなりません。 このテクノロジーでサポートされていない用途には、アドバイスの提供、法律、金融、健康関連のガイダンス、未来予測、金融、科学、数学的計算、および Azure OpenAI サービスに関する透明性のメモ に記載されているその他のサポートされていない使い方が含まれます。 現在、このサービスは米国のみでサポートされており、英語でのみ利用可能です。
AI によって生成されたコンテンツには間違いが含まれる可能性があるため、メーカーは、このモデルによるコンテンツ生成が AI によって透過的な方法で作成されていることをソリューションのエンド ユーザーに通知する必要があります。 AI によって生成されたコンテンツの明確なコミュニケーションは、過度の依存を避けるのに役立ちます。 メーカーは、AI が生成したコンテンツが正確かつ適切であることを使用前に確認するために、人間によるレビュー ステップの可能性を組み込む必要があります。
システムを効果的に責任を持って利用できるようにするために、どのような運用要因および設定がありますか?
AI モデルによって生成されるコンテンツは本質的に確率的なものであるため、同じプロンプトに対してモデルの応答が異なる可能性があります。 生成された応答は不正確または誤解を招く可能性があり、フローまたはアプリから意図しない結果が生じる可能性があります。 たとえば、法人顧客は、誤った情報、推奨事項、サポートを受け取る可能性があります。 メーカーは、フローやアプリ内に人間による有意義な監視を実装するとともに、マイクロソフトの行動規範に記載されている有害な行為や禁止されたコンテンツの生成につながる可能性がないかプロンプトをテストする必要があります。 ローコード開発者は、アプリやフローでの AI の使用について透明性を確保し、コンテンツが AI によって生成されたものであることをビジネス ユーザーに通知する必要もあります。 さらに、生成された応答は、長さの制限、コンテンツのフィルタリング、またはモデルの選択により、ローコード開発者の期待と一致しない可能性があります。
GPT モデルは何と呼ばれ、どこでホストされ、どのようにアクセスできますか？
GPT-3.5 Turbo モデルは Azure OpenAI サービスでホストされています。 これにアクセスするには、Azure OpenAI Service REST API、Python SDK、Azure OpenAI Studio の Web ベースのインターフェイスを使用できます。
詳細については、Azure OpenAI サービスの新機能 をご覧ください
「プロンプトを使用して GPT でテキストを作成する」アクションに追加されたコンテンツは、一般公開されていますか?
アクションの バージョン情報タブには、このアクションは、Azure OpenAI Service上で実行されている GPT モデルを活用したプロンプトへのアクセスを提供します と記述されています。
プロンプトを使用して GPT でテキストを作成する アクション Power Automate に追加するプロンプトは、規定では非公開です。 これらは組織内でのみ表示および使用可能であり、世界からアクセスすることはできません。 プロンプトは非公開であり、社内での使用を目的としています。
新しく作成されたプロンプトは既定で非公開です。 これは、それらを作成した人のみが Power Automate、Power Apps、および Microsoft Copilot Studio で表示および使用できることを意味します。 これにより、作成者はアプリやワークフローでテストおよび評価し、共有する前にその正確性を確認する時間を確保できます。
環境またはグループの他のユーザーが Power Apps または Power Automate でプロンプトを使用できるようにするには、プロンプトを共有する必要があります。
詳細については、プロンプトの共有 にアクセスしてください。
カスタムプロンプトとAI機能とは何ですか?
カスタム プロンプト
カスタム プロンプト は、LLM (大規模言語モデル) に、特定の挙動やタスクを指示する自由を与えます。 注意深くプロンプトを作成することで、特定のビジネス ニーズに合った回答を生み出すことができます。 これにより、LLM モデルは様々なタスクを達成するための柔軟なツールへと変化しました。
例
言語モデルを使用すると、カスタム プロンプトは、質問に答える、テキストを完成させる、言語を翻訳する、ドキュメントを要約する、テキスト内のタスク、ToDo、アクションアイテムを識別するようにモデルを導くことができます。 カスタム プロンプトの複雑さは、タスクによって、一文からより複雑なものまでさまざまです。
AI 関数
事前構築済み AI 関数は、マイクロソフトチームによって作成された事前設定済みのプロンプトで、メーカーが一般的なタスクを簡単に達成できるように支援します。 さまざまなユースケースですぐに使えるAI機能を提供しており、ソリューションにインテリジェンスを注入するためのメーカー エクスペリエンスを簡素化します。
例
言語モデルに事前構築されたプロンプトは次のようになります:
[TextToExtract] から行動ポイントを番号付きリストとして抽出します
この場合、ユーザーはアクション ポイントを抽出したい [TextToExtract] のテキストを入力するだけですみます。 あとは事前構築されたプロンプトが処理します。