Von Bedeutung
この機能は プレビュー段階です。
Microsoft Fabricは、安全でスケーラブル、使いやすいオンラインエンドポイントを用いて、MLモデルからリアルタイムの予測を提供できます。 ほとんどのFabricモデルはこれらのエンドポイントを組み込みプロパティとして含み、完全管理されたリアルタイム展開を開始するためのセットアップは不要です。
公開 REST API を使用して、モデル エンドポイントのアクティブ化、構成、クエリを実行できます。 また、Fabricインターフェースから直接、ローコード体験を使ってモデルエンドポイントを起動し、予測を即座にプレビューすることもできます。
[前提条件]
- テナントはデフォルトで機械学習モデルのエンドポイントが有効になっています。 管理者がこの機能を無効にしたい場合は、OneLake catalog>Govern>Configurations>Tenant設定でMLモデルエンドポイントのテナントスイッチをオフにできます。
制限事項
- エンドポイントは現在、Keras、LightGBM、Sklearn、XGBoost など、限られた ML モデル フレーバーのセットで使用できます。
- 現在、エンドポイント は 、テンソルベースのスキーマを持つモデルやスキーマがないモデルでは使用できません。
注
機械学習エンドポイントはAutoMLで学習済みのモデルをサポートしています。
モデル エンドポイントを開始する
FabricのMLモデルには、リアルタイム予測を提供するために使えるオンラインエンドポイントがあらかじめ組み込まれています。 登録済みモデルの各バージョンには専用のエンドポイントURLがあり、Fabricインターフェースの「エンドポイント詳細」見出しで確認できます。 このURLは特定のバージョン(例: /versions/1/score)を示すサブパスで終わります。
モデル エンドポイントには、次のプロパティがあります。
| 財産 | 説明 | デフォルト |
|---|---|---|
| 既定のバージョン | この性質(Yes または No)は、そのバージョンがモデルのデフォルトとして実際の予測を提供しているかどうかを示します。 モデル の設定で既定のバージョンをカスタマイズ できます。 |
No |
| Status | このプロパティは、エンドポイントが予測を提供する準備ができているかどうかを示します。 状態は、 Inactive、 Activating、 Active、 Deactivating、または Failedにすることができます。 アクティブなエンドポイントのみが予測を提供できます。 |
Inactive |
| 自動スリープ | このプロパティ (On または Off) は、エンドポイントがアクティブになると、トラフィックがない場合に容量使用量をゼロにスケールダウンする必要があるかどうかを示します。 オートスリープがオンの場合、エンドポイントは5分間リクエストが入らなければアイドル状態に入ります。 アイドル状態のエンドポイントをウェイクアップするための最初の呼び出しには、短い遅延が伴います。 |
On |
モデル エンドポイントのアクティブ化
モデル エンドポイントは、Fabric インターフェイスから直接アクティブ化できます。 リアルタイム予測に使いたいバージョンに行き、リボンから「 バージョンのエンドポイントを有効化 」を選択してください。
&
トースト メッセージが表示され、Fabric が予測を提供できるようにエンドポイントを準備していることが示されます。さらに、エンドポイントのステータスが Activating に変わります。 裏方では、Fabricがモデルをホストするための基盤となるコンテナインフラを構築します。 数分以内に、エンドポイントで予測を提供する準備が整います。
すべてのエンドポイントには、リアルタイム予測を提供できるかどうかを示すステータスがあります:
| Status | 説明 |
|---|---|
Inactive |
エンドポイントはリアルタイム予測を提供するために有効化されておらず、Fabricの容量も消費していません。 |
Activating |
エンドポイントは、リアルタイムの予測を提供するように構成されています。 バックグラウンドで、Fabricモデルをホストするように基になるコンテナー インフラストラクチャを設定します。 数分以内に、エンドポイントがアクティブになります。 |
Active |
エンドポイントは、リアルタイムの予測を提供する準備ができています。 バックグラウンドで、Fabricは基になるインフラストラクチャを管理し、受信トラフィックに基づいてリソース使用量をスケールアップします。 トラフィックが多いほど、Fabric容量の使用量が増加します。 |
Deactivating |
エンドポイントは無効化され、リアルタイムの予測やFabric容量の使用はなくなりました。 バックグラウンドで、Fabricは基になるコンテナー インフラストラクチャを分解します。 |
注
ML モデルでは、最大 5 つのバージョンのアクティブなエンドポイントを一度にサポートできます。 6 番目のバージョンからの予測を提供するには、最初に アクティブなエンドポイントを非アクティブ化する必要があります。
モデル エンドポイントの管理
モデルのアクティブなエンドポイントの概要を見るには、インターフェースのリボンから 「エンドポイント管理」 を選択してください。 すべてのモデルにはカスタマイズ可能な既定のエンドポイントがあり、選択したバージョンからの予測が提供されます。 設定ペインのドロップダウンセレクターを使ってデフォルトバージョンを更新できます。
Von Bedeutung
使う予定があるなら、デフォルトプロパティをアクティブバージョンに設定してください。 デフォルトプロパティを設定しなかったり、非アクティブバージョンに設定した場合、デフォルトエンドポイントへの呼び出しは失敗します。
モデルのエンドポイント設定には、アクティブなエンドポイントを持つすべてのバージョンが記載されています。 スイッチャーを オン か オフに切り替えることで、各エンドポイントのオートスリーププロパティを変更できます。
ヒント
自動スリープがオンになったアクティブエンドポイントは、トラフィックがなくなった5分後にアイドル状態に入ります。 彼らを起こすための最初の呼びかけには短い遅延があります。 本番環境のエンドポイントではこのプロパティをオフにしたほうがいいかもしれません。
モデル エンドポイントにクエリを実行してリアルタイムの予測を行う
Fabricのローコード体験を使えば、モデルエンドポイントを即座にテストできます。 アクティブなエンドポイントがあるバージョンに行き、インターフェースのリボンからプレビュー 予測 を選択します。 モデルの入力署名に合致するフォームフィールドを使うことで、エンドポイントにサンプルリクエストを送信し、リアルタイムでサンプル予測を得ることができます。
フォームフィールドにランダムなサンプル値で入力するために 自動入力 を選択します。 複数の入力でエンドポイントをテストするために、フォーム値のセットを追加することもできます。 「 予測を取得」 を選択して、エンドポイントにサンプルリクエストを送信します。
サンプル要求を JSON ペイロードとして書式設定する場合は、ドロップダウン セレクターを使用してビューを変更します。
モデル エンドポイントを非アクティブ化する
モデル エンドポイントは、Fabric インターフェイスから直接非アクティブ化できます。 リアルタイム予測を提供しなくなったバージョンに行き、インターフェースのリボンから「 非アクティブ化」エンドポイント を選択してください。
トーストメッセージはFabricがアクティブなデプロイメントを解除していることを示し、エンドポイントの状態がDeactivatingに変わります。 エンドポイントは再起動しない限りリアルタイム予測を提供できません。
モデルの設定ウィンドウから、複数のバージョンのエンドポイントを一度に非アクティブ化できます。 インターフェースのリボンから 「エンドポイント管理 」を選択し、1つ以上のアクティブなエンドポイントを選択して無効化します。
消費率
アクティブなモデル エンドポイントをホストすると、Fabric容量ユニット (CU) が消費されます。 エンドポイントはコンピューティング ノードで実行され、受信トラフィックに基づいて最大 3 つのノードを自動的にスケールアップできます。 課金は、エンドポイントがアクティブな間にノードごとに計算されます。 以下の表は、アクティブMLモデルエンドポイントのCU消費量を示しています。
| 操作 | 操作用測定単位 | 従量課金レート |
|---|---|---|
| モデルエンドポイント | ノードあたり 1 秒あたり 1 つのモデル エンドポイント (バージョン) | 5 CU 秒 |
以下の表は、例となるシナリオとその対応する消費率と時間あたりのコストを示しています。
| シナリオ | 説明 | 従量課金レート | 時間単位のコスト |
|---|---|---|---|
| 非アクティブなエンドポイントを持つモデル | これらのモデルには、アクティブなバージョン エンドポイントがなく、関連するリソース使用率もありません。 追加コストはかからなくなります。 | 0 CU秒 | 0 CU 時間 |
| アクティブだがアイドル状態のエンドポイントを持つモデル | これらのモデルには1つ以上のアクティブなバージョンエンドポイントがありますが、定期的なトラフィックがなければすべてのエンドポイントがゼロにスケールし、コストを自動的に削減します。 | 5 CU 秒 | 0.42 CU時間 |
| エンドポイントが1つだけアクティブで、トラフィックが一定して低いモデル | これらのモデルには、予測を提供するアクティブなバージョン エンドポイントが 1 つだけありますが、フル スケールアウトをトリガーするのに十分なトラフィックがありません。1 つのノードですべてのトラフィックを処理できます。 他のバージョンのエンドポイントは非アクティブまたはアイドル状態かもしれません。 | 5 CU 秒 | 5 CU 時間 |
| アクティブなエンドポイントが 1 つあり、トラフィックが一定のモデル | これらのモデルは予測を提供するアクティブバージョンエンドポイントが1つだけで、十分なトラフィックを持ち、完全なスケールアウトをトリガーします。他のバージョンのエンドポイントは非アクティブまたはアイドル状態かもしれません。 | 15 CU秒 | 15 CU時間 |
| アクティブなエンドポイントが 5 つあり、トラフィックが一定のモデル | これらのモデルには5つのアクティブなバージョンエンドポイントがあり、これらはそれぞれの予測サービスに十分なトラフィックがあり、完全なスケールアウトを促進します。これは現在の制限です。 | 75 CU 秒 | 75 CU 時間 |
Fabric容量メトリック アプリでは、モデル エンドポイント操作の合計容量使用量が "モデル エンドポイント" という名前で表示されます。 さらに、ユーザーは「ML Model Endpoint Capacity Usage CU」という請求項目でモデルエンドポイント使用の請求請求要約を確認できます。
モデル エンドポイント操作は 、バックグラウンド操作として分類されます。
従量課金制は、いつでも変更される可能性があります。 Microsoftは、電子メールまたは製品内通知を通じて通知を提供するために合理的な努力を使用します。 変更はMicrosoftリリースノートまたはMicrosoft Fabricブログに記載された日付から有効となります。 Fabric従量課金レートでモデル エンドポイントに変更が加わると、使用に必要な容量ユニット (CU) が大幅に増加する場合、顧客は選択した支払い方法で利用可能なキャンセル オプションを使用できます。
関連コンテンツ
- MLモデルのエンドポイントREST APIを使って、エンドポイントをプログラム的に管理・クエリできます。
- リアルタイム データ エンリッチメントのために Dataflow Gen2 からモデル エンドポイントを呼び出します。
- Fabricノートブックの
PREDICT関数を使ってバッチ予測を生成します。 - Fabricのモデルのトレーニングと実験について説明します。
- 必要な機能が見逃されましたか? あなたの提案をFabricアイデアフォーラムでしてください。