モデル カタログとコレクション

  • [アーティクル]

Azure Machine Learning スタジオのモデル カタログは、さまざまなサードパーティのオープン ソースと、さまざまな言語、音声、ビジョンのユース ケース用に事前トレーニングされた Microsoft 開発の基盤モデルのハブです。 ネイティブの機能を使用してこれらのモデルを評価、カスタマイズ、デプロイし、大規模なオープンソース基盤モデルを構築および運用化して、エンタープライズ レベルのセキュリティとデータ ガバナンスを含むこれらの事前トレーニング済みモデルをアプリケーションに簡単に統合できます。

  • 検出: モデルの説明を確認し、サンプル推論を試し、コード サンプルを参照してモデルを評価、微調整、またはデプロイします。
  • 評価: 独自のテスト データを提供して、モデルが特定のワークロードに適しているかどうかを評価します。 評価メトリックを使用すると、選択したモデルがシナリオでどの程度適切に実行されているかを簡単に視覚化できます。
  • 微調整: 独自のトレーニング データを使用してこれらのモデルをカスタマイズします。 微調整を高速化し、微調整に必要なメモリとコンピューティングを削減する組み込みの最適化機能です。 Azure Machine Learning の実験と追跡機能を適用して、トレーニング ジョブを整理し、ニーズに最適なモデルを見つけます。
  • デプロイ: ジョブ モードで大規模な推論データセットを処理するために、事前トレーニング済みの基盤モデルまたは微調整されたモデルをシームレスにオンライン エンドポイントにデプロイして、リアルタイム推論またはバッチ エンドポイントを行います。 Azure Machine Learning で業界をリードする機械学習の運用化機能を適用します。
  • インポート: オープンソース モデルは頻繁にリリースされます。 カタログ内のものと同様のモデルをインポートすることで、Azure Machine Learning で常に最新のモデルを使用できます。 たとえば、同じライブラリを使用するサポートされているタスクのモデルをインポートできます。

まず、モデル コレクションを調べるか、タスクとライセンスに基づいてフィルター処理して、ユース ケースに合ったモデルを見つけます。 Task は、基盤モデルを使用できる推論タスクを呼び出します。 Finetuning-tasks は、このモデルで微調整できるタスクを一覧表示します。 License は、ライセンス情報を呼び出します。

コレクション

モデル カタログには、次の 3 種類のコレクションがあります。

Azure AI によってキュレーションされたオープンソース モデル: Azure Machine Learning によってキュレーションされた最も一般的なオープンソースのサードパーティ モデル。 これらのモデルは、すぐに使用できるようにパッケージ化されており、Azure Machine Learning での使用に最適化されています。また、Azure ハードウェアで最先端のパフォーマンスとスループットを提供します。 分散トレーニングのネイティブ サポートを提供し、Azure ハードウェア間で簡単に移植できます。

"Azure AI によるキュレーション" と Meta、NVIDIA、Mistral AI などのパートナーからのコレクションはすべて、カタログ上のキュレーションされたコレクションです。

Azure OpenAI モデル、Azureでのみ使用可能: モデル カタログの "Azure Open AI" コレクションを使用して、Azure OpenAI モデルをデプロイします。

HuggingFace ハブの Transformers モデル: オンライン エンドポイントを使用したリアルタイム推論のための "Hugging Face" コレクションを使用して、HuggingFace ハブの数千のモデルにアクセスできます。

重要

モデル カタログ内のモデルは、サード パーティのライセンス対象となります。 使用する予定のモデルのライセンスについて理解し、ライセンスによってユース ケースが許可されていることを確認します。 モデル カタログ内の一部のモデルは現在プレビュー段階です。 次のステートメントの 1 つ以上が該当する場合、そのモデルはプレビュー段階です。
分離されたネットワーク内ではモデルは使用できない (デプロイ、微調整、評価はできる)。
モデルのパッケージと推論スキーマが、モデルの新しいバージョンで変更される可能性がある。 プレビューの詳細については、「Microsoft Azure プレビューの追加使用条件」を参照してください。

モデルの機能をコレクション別に比較する

機能 Azure Machine Learning によってキュレーションされたオープンソース モデル HuggingFace ハブからのトランスフォーマー モデル
推論 オンライン推論とバッチ推論 オンライン推論
評価と微調整 UI、SDK、または CLI を使用して評価と微調整を行う 利用不可
モデルのインポート SDK または CLI を使用したモデルのインポートの制限付きサポート 利用不可

コレクションの属性を比較する

属性 Azure Machine Learning によってキュレーションされたオープンソース モデル HuggingFace ハブからのトランスフォーマー モデル
モデル形式 オンラインおよびバッチ エンドポイントを使用したコードなしのシームレスなデプロイのために MLFlow または Triton モデル形式でキュレーションされます トランスフォーマー
モデルのホスティング モデルの重みは Azure ではホストされます モデルの重みは、HuggingFace ハブからのデプロイ中にオンデマンドでプルされます。
ネットワーク分離ワークスペースでの使用 モデルを使用するためのすぐに使用できる送信機能。 一部のモデルでは、実行時にパッケージをインストールするためにパブリック ドメインへの送信が必要になります。 HuggingFace ハブ、Docker ハブ、および CDN への送信を許可します
サポート Microsoft によってサポートされ、Azure Machine Learning SLA の対象となります Hugging Face は、HuggingFace コミュニティ レジストリにリストされているモデルを作成し、維持します。 ヘルプについては、HuggingFace フォーラムまたは HuggingFace サポートをご利用ください。

詳細情報