このドキュメントで質問に対する回答が見つからない場合でも、Foundry Tools サポート オプション ガイドを確認してください。
全般
Azure OpenAI モデルと Microsoft Foundry モデルの違いは何ですか?
Azure OpenAI を使用すると、OpenAI の高度な言語モデルにaccessできます。 Microsoft Foundry Models は、このような機能を拡張して、同じサービス、エンドポイント、資格情報で Microsoft Foundry のすべての主力モデルにaccessを提供します。 これには、OpenAI、Cohere、Mistral AI、Meta Llama、AI21 ラボなどのAzureが含まれています。お客様は、コードを変更することなく、モデルをシームレスに切り替えることができます。
Azure OpenAI は、Foundry Models の Azure ファミリによって販売されるモデルに含まれています。
Foundry Tools と Microsoft Foundry の違いは何ですか?
Foundry Tools は、一般的な AI シナリオ用の事前構築済み API を提供する AI サービスのスイートです。 Foundry Tools は、Microsoft Foundry プラットフォームの一部です。 Foundry Tools は、事前構築済みの AI 機能を使用してモデルを強化するために、Microsoft Foundry ポータルで使用できます。
サーバーレス API デプロイと Foundry モデルの違いは何ですか?
どちらの機能でも、サービスとしてのモデルを Microsoft Foundry にデプロイできます。 ただし、これには違いがいくつかあります。
- 関連するリソース: サーバーレス API デプロイは AI project リソース内にデプロイされ、Foundry Models は Microsoft Foundry リソースの一部です。
- デプロイ オプション: サーバーレス API デプロイではリージョンデプロイが許可され、Foundry Models ではグローバル容量でのデプロイが可能です。
- Models: Foundry Models では、Azure OpenAI モデルのデプロイもサポートされています。
- エンドポイント: サーバーレス API デプロイではデプロイごとに 1 つのエンドポイントと資格情報が作成され、Foundry Models ではリソースごとに 1 つのエンドポイントと資格情報が作成されます。
- モデル ルーター: Foundry Models を使用すると、モデル ルーターを使用してコードを変更せずにモデルを切り替えることができます。
モデル
Microsoft Foundry サービスで Microsoft モデル カタログのすべてのモデルがサポートされないのはなぜですか?
Foundry Models では、従量課金制の Azure AI カタログ内のすべてのモデルがサポートされます。 詳細については、モデルに関する記事を参照してください。
Microsoft モデル カタログには、より広範なモデルの一覧が含まれていますが、これらのモデルにはサブスクリプションのコンピューティング クォータが必要です。 また、デプロイをホストするprojectまたは AI ハブも必要です。 詳細については、「Microsoft Foundry の展開オプション」をご覧ください。
私の会社では、使用する特定のモデルが承認されていません。 ユーザーが展開できないようにするにはどうすればよいですか?
Foundry Tools でデプロイに使用できるモデルは、Azure ポリシーを使用して制限できます。 モデルはカタログに一覧表示されますが、モデルをデプロイしようとするとブロックされます。 「カスタム ポリシーを使用して AI モデル デプロイを制御する」をご覧ください。
SDK とプログラミング言語
Foundry モデルでサポートされている SDK とプログラミング言語はどれですか?
Azure推論 SDK は、Microsoft Foundry サービスの Foundry Models、OpenAI SDK の AzureOpenAI クラス、または Azure OpenAI SDK でサポートされている任意のモデルで使用できます。
Foundry Tools に接続されている場合、Cohere SDK、Mistral SDK、およびモデル プロバイダー固有の SDK はサポートされません。
詳細については、「サポートされている言語とフレームワーク」を参照してください。
Foundry Models は、OpenAI (バージョン>=1.0) によってリリースされた最新の Python ライブラリで動作しますか?
Foundry Tools では、OpenAI Python ライブラリ (version>=1.0) の最新リリースがサポートされています。
Foundry Models をサポートするモデルを要求していますが、404 エラーが発生しています。 どうしたらいいでしょう。
特定のモデルのデプロイを作成し、デプロイ名が パラメーターで渡す値とmodelことを確認します。 ルーティングでは大文字と小文字は区別されませんが、特別な句読点やスペースは一般的な間違いの原因となるため、これらの入力ミスがないことを確認してください。
Python 用の 'azure-ai-inference' パッケージを使用しています。キーを使用して認証しようとすると 401 エラーが発生します。 どうしたらいいでしょう。
Foundry Tools リソースには、Python のバージョン azure-ai-inference>=1.0.0b5が必要です。 そのバージョンを使用していることを確認します。
OpenAI SDK を使用していて、基本 URL (https://<resource-name>.openai.azure.com) としてAzure OpenAI 推論エンドポイントを示しました。 しかし、404 エラーが発生します。 どうしたらいいでしょう。
Azure OpenAI の正しいエンドポイントと適切な資格情報セットを使用していることを確認します。 また、使用される認証メカニズムと URL が異なるため、OpenAI SDK からの AzureOpenAI クラスを使用していることを確認します。
Foundry Models はカスタム API ヘッダーをサポートしていますか? API 要求にカスタム ヘッダーを追加すると、HTTP 431 エラーが発生します。
現在の API では、パイプラインを通過して返されるカスタム ヘッダーを最大 10 個使用できます。 一部のお客様はこのヘッダー数を超過しており、HTTP 431 エラーが発生していることが判明しています。 ヘッダー ボリュームを減らす以外に、このエラーの解決策は存在しません。 今後の API バージョンでは、カスタム ヘッダーの通過を停止します。 今後のシステム アーキテクチャでは、カスタム ヘッダーに依存しないことをお勧めします。
価格と課金
Foundry Models はどのように課金されますか?
API への入力と出力に対して (通常はトークンで) 課金されます。 リソース自体またはデプロイに関連するコストはありません。
トークンの価格は各モデルによって異なり、1,000 個のトークンごとに課金されます。 特定のモデルをデプロイする前に、価格の詳細を確認できます。 課金の詳細については、「コストの管理」を参照してください。
請求書の詳細はどこで確認できますか?
課金とコストは、Microsoft Cost Management + Billing に表示されます。 使用状況の詳細は、Azure portal で確認できます。
課金は Microsoft Foundry ポータルには表示されません。
請求に使用制限を設定するにはどうすればよいですか?
使用制限は、Azure portalMicrosoft Cost Management + Billing で設定できます。 この制限を設定することで、設定した制限を超える支出を防げます。 使用制限に達すると、サブスクリプションは無効になり、次の請求期間までエンドポイントを使用できなくなります。
データとプライバシー
パートナーやコミュニティのモデルはどのように利用できますか?
従量課金制 (Meta AI モデルや Mistral モデルなど) を使用して Foundry Tools でデプロイできるパートナーやコミュニティのモデルは、モデル プロバイダーによって提供されますが、Microsoftマネージド Azure インフラストラクチャでホストされ、Foundry Models エンドポイントの API 経由でアクセスされます。 モデル プロバイダーはライセンス条項を定義し、モデルの使用価格を設定しますが、Foundry Tools サービスはホスティング インフラストラクチャを管理し、推論 API を使用できるようにします。また、デプロイされたモデルによって送信されたプロンプトとコンテンツ出力のデータ プロセッサとして機能します。 サード パーティ モデルのデータ プライバシーとセキュリティについて確認します。
Global-Standard 展開の種類によってデータはどのように処理されますか?
Foundry Tools リソースのモデルデプロイでは、要求ごとに最適な可用性でデータ センターにトラフィックを動的にルーティングするために、Azureのグローバル インフラストラクチャを使用してプロンプトと出力が処理されます。 グローバル標準では、最大の既定クォータが提供され、複数のリソース間での負荷分散の必要がなくなります。 保存時に格納されたデータは指定されたAzure地域に残りますが、データは任意のAzureの場所で推論のために処理される場合があります。 詳細については、data residency を参照してください。
モデルのトレーニングには自社のデータが使用されますか?
Foundry Models では、モデルの再トレーニングに顧客データは使用されません。また、顧客データがモデル プロバイダーと共有されることはありません。
データはモデル プロバイダーと共有されますか?
Microsoft は、Foundry Tools リソースのモデル デプロイに送信され、生成されるプロンプトと出力のデータ プロセッサとして機能します。 Microsoft は、これらのプロンプトと出力をモデル プロバイダーと共有しません。 また、Microsoft は、Microsoft モデル、モデル プロバイダーのモデル、またはサード パーティのモデルをトレーニングまたは改善するために、これらのプロンプトと出力を使用しません。 サービスとしてのモデルのデプロイ プロセスで説明したように、Microsoft は顧客の連絡先情報とトランザクションの詳細 (オファリングに関連付けられている使用量を含む) をモデル publisherと共有して、publisherがモデルに関して顧客に連絡できるようにする場合があります。 パートナー センターの Microsoft コマーシャル マーケットプレースのAccess分析情報でモデルパブリッシャーが利用できる情報について説明します。
お客様の著作権に関するコミットメント
顧客著作権コミットメントの補償を取得するにはどうすればいいですか？
Customer Copyright Commitment は、2023 年 12 月 1 日の Microsoft の製品条項に含まれる規定であり、出力コンテンツに関連する特定の Microsoft 以外の知的財産権に関するクレームから顧客を保護するための Microsoft の義務を説明するものです。 要求の対象が、Azure OpenAI (またはお客様が安全システムを構成できるその他の対象製品) から生成された出力コンテンツである場合、顧客は、出力コンテンツを配信したオファリングでAzure OpenAI ドキュメントに必要なすべての軽減策を実装している必要があります。 必要な軽減策は文書化され、継続的に更新されます。 新しいサービス、機能、モデル、またはユース ケースの場合、新しい CCC 要件が投稿され、そのようなサービス、機能、モデル、またはユース ケースの開始時または開始後に有効になります。 それ以外の場合、CCC のカバレッジを維持するために、顧客は公開から 6 か月以内に新しい軽減策を実装することになります。 顧客がクレームを申し立てる場合、その顧客は関連する要件への準拠を示す必要があります。 これらの軽減策は、お客様が Azure OpenAI を含む安全システムを構成できるようにする対象製品に必要です。他の対象製品を使用しているお客様の対象には影響しません。