Azure Databricksでは、大規模言語モデル (LLM)、基盤モデル、デプロイされたエージェントに対してクエリを実行する複数の方法が用意されています。 ワークフローに応じて、対話型 UI、SQL、REST API、またはクライアント ライブラリを選択します。
AI プレイグラウンド
AI Playground は、LLM のプロンプトと比較を行うAzure Databricks ワークスペース内のコードなしのチャット環境です。 これを使用して、プロンプトの実験、温度や最大トークンなどのパラメーターの調整、ツール呼び出しエージェントと質問に回答するボットのプロトタイプをコードに移動する前に並べて調整します。
AI 関数を使用してデータを強化する
AI Functions は、AZURE DATABRICKSに格納されているデータに LLM やその他のモデルを適用する組み込みの SQL 関数です。 それらを Databricks SQL、ノートブック、Lakeflow Spark 宣言パイプライン、またはワークフローから実行して、サポート チケットの分類、ドキュメントからのエンティティの抽出、コンテンツの要約、テキストのバッチスケールでの翻訳を行います。
関数の 2 つのスタイルから選択します。
-
タスク固有の関数 (
ai_classify、ai_extract、ai_parse_documentなど) は、1 つのタスク用に最適化され、Azure Databricksマネージドの研究支援システムを使用します。 -
ai_queryは汎用関数です。独自のプロンプトを表示し、サポートされている任意の基盤モデルを選択します。 「ai_queryの使用」を参照してください。
エンド ツー エンドの例については、「 AI Functions を使用して顧客レビューを分析する」を参照してください。
クエリ エージェント
エージェントをビルドしてデプロイしたら、アプリケーションから エージェントにクエリを実行 します。 エージェントは、Databricks アプリまたはモザイク AI モデル サービス エンドポイントでホストできます。 Azure Databricksでは、次の 3 つのクエリ メソッドがサポートされています。
- Databricks OpenAI Client — ネイティブ ストリーミングと完全な機能サポートを備えた新しいアプリケーションに推奨されます。
- OpenAI と互換性のある REST API (言語に依存しない) は、既に OpenAI API を話す任意のプラットフォームで動作します。
-
ai_query— SQL から Model Serving エンドポイントでホストされているレガシ エージェントに対してクエリを実行します。
基盤モデル
Mosaic AI Model Serving は、統合 API の背後にあるオープン、Azure Databricksマネージド、および外部基盤モデルをホストします。 ワークロードに合ったデプロイ オプションを選択します。
- トークンごとの支払い — インフラストラクチャ コミットメントなしでワークスペース内の事前構成済みエンドポイントに対してクエリを実行します。 実験に適しています。
- プロビジョニング済みスループット — 運用に対するサービスとパフォーマンスの保証を最適化して、微調整されたモデルをデプロイします。
- External モデル — Azure Databricksガバナンスを通じて、OpenAI や Anthropic などのプロバイダーに要求をルーティングします。