Important
このページでは、現在 ベータ版の新しい Unity AI Gateway (UI のサイドバーに表示されます) について説明します。 アカウント管理者は、アカウント コンソールの [プレビュー ] ページでこの機能へのアクセスを有効にすることができます。 Manage Azure Databricks プレビューを参照してください。
(Unity AI Gateway ではなく) 以前のバージョンの AI ゲートウェイの詳細については、 エンドポイントを提供するための AI ゲートウェイに関するページを参照してください。
Unity AI Gateway は、エンタープライズ AI のAzure Databricks ガバナンス ソリューションです。 Unity カタログ上に構築され、データと AI 資産を超えたガバナンスを、モデル、エージェント、MCP サーバー、およびツール間のランタイム対話に拡張します。 使用できる AI サービス チームを制御し、AI トラフィックのルーティングと管理、ガードレールの設定、1 つのコントロール プレーンからの使用状況の監視を行います。
概要
AI 資産、トラフィック、サービスの動作全体に AI ガバナンスを設定して適用します。
| トピック | Description |
|---|---|
| AI ガバナンス ガイド | 管理者が AI 資産へのアクセス、トラフィックとコスト、要求と応答の内容を管理するためのエンド ツー エンドパス。 |
| チュートリアル: コーディング エージェントの GitHub MCP アクセスを管理する | Unity カタログのアクセス許可と組み込みのサービス ポリシーを使用して、GitHub MCP ツールへのコーディング エージェントのアクセスを制限します。 |
| チュートリアル: サービス ポリシーを使用してモデル サービスにガードレールを実装する | 組み込みのカスタム サービス ポリシーを使用して、モデル サービスにガードレールを実装します。 |
使用できる AI サービス チームを制御する
AI 資産を Unity カタログのセキュリティ保護可能なオブジェクトとして登録し、テーブルとボリュームに使用するのと同じ権限でアクセス権を付与および取り消します。 エージェントは、同じセキュリティ保護可能なリソースを通じて管理されます。エージェントは Unity カタログ モデルとして登録され、呼び出されるツールは MCP サービス、関数、接続として管理されます。
| トピック | Description |
|---|---|
| Models | 登録された ML モデル (Azure Databricks ホストされる基盤モデルを含む) を Unity カタログ特権で管理します。 |
| Foundation モデルのアクセス許可 | アカウント全体またはグループごとに、組織がアクセスできるAzure Databricksホストされる基盤モデルを制限します。 |
| MCP ツール | ツールのフィルター処理とサービス ポリシーを使用して、Unity カタログセキュリティ保護可能なリソースとして登録されている MCP サーバーを管理します。 |
| カスタム ツール | エージェントがツールとして使用する Unity カタログ関数を、データに使用するのと同じ特権で管理します。 |
| HTTP 接続 | 外部 API と MCP サーバーに到達するために使用される Unity カタログ接続を管理します。 |
| モデル サービスを作成する | モデル サービスを Unity カタログのセキュリティ保護可能なオブジェクトとしてワークスペース間で定義および共有します。 |
AI トラフィックのルーティングと管理
Unity AI Gateway は、中央コントロール プレーンからモデルと MCP サービスに要求をルーティングするため、プロバイダー間で容量、可用性、支出を管理できます。
| トピック | Description |
|---|---|
| レート制限を適用する | 容量とコストを管理するために、モデル サービスと MCP サービスに使用制限を適用します。 |
| トラフィックの分割とフォールバックを構成する | 複数のモデル バックエンドに要求を分散し、フェールオーバーを追加して可用性を向上させます。 |
| 予算を管理する | Azure Databricksホスト型プロバイダーと外部プロバイダー全体の支出を監視し、ユーザーごとのしきい値とハード キャップを設定します。 |
注
Unity AI Gateway の機能では、ベータ期間中に料金は発生しません。
ガードレールとアクセス ポリシーを設定する
サービス ポリシー (ガードレールとも呼ばれます) は、各要求と応答の進行方法を、その内容と呼び出しを行うユーザーに基づいて制御します。
| トピック | Description |
|---|---|
| AI の保護対象に関するサービスポリシー | 組み込みポリシーとカスタム ポリシーを使用して、サービス ポリシーが AI サービスへの要求と応答の内容を管理する方法。 |
| サービス ポリシーを作成してアタッチする | サービス ポリシー関数を記述し、MCP サービスまたはモデル サービスにアタッチする方法。 |
使用状況、コスト、およびリスクを監視する
すべての Unity AI Gateway サービスのアクティビティ、支出、結果を追跡します。
| トピック | Description |
|---|---|
| 使用状況の監視 | システム テーブルを使用して、モデル サービスの要求、トークンの使用状況、待機時間を追跡します。 |
| コストの分析 | Azure Databricks のコストをサービス、ターゲット モデル、プリンシパル、タグに配分します。 |
| リクエストと応答を監査する | 監視とデバッグのために、Unity カタログ デルタ テーブルへの要求と応答をログに記録します。 |
エンドポイントを提供するモデル (前)
以前のバージョンの AI Gateway には、外部モデル エンドポイント、Foundation Model API エンドポイント、カスタム モデル エンドポイントなど、ワークスペース レベルでエンドポイントを提供するモデルのガバナンス機能があります。
| トピック | Description |
|---|---|
| エンドポイントを提供するための AI ゲートウェイ | サポートされている機能や制限事項など、エンドポイントにサービスを提供するための AI Gateway の機能について説明します。 |
| Model Serving エンドポイントで AI Gateway を構成する | エンドポイントを提供するモデルで、使用状況の追跡、ペイロードのログ記録、レート制限、ガードレールなどの AI ゲートウェイ機能を構成します。 |
| AI Gateway 対応推論テーブルを使用して提供されたモデルを監視する | AI ゲートウェイ対応の推論テーブルを使用して、提供されたモデルを監視します。 |