Mosaic AI では、検索拡張生成 (RAG) チャットボットからツール呼び出しエージェントまで、単純な GenAI アプリケーションと複雑な GenAI アプリケーションの両方がサポートされています。 このユーザー ガイドでは、Databricks 上の GenAI アプリとエージェント システムの背後にある主要な概念について説明し、GenAI アプリの構築、評価、スケーリングに関するガイダンスを提供します。
| ページ | Description |
|---|---|
| 作業の開始: コードなしの GenAI | UI ベースのテストとプロトタイプ作成のために AI Playground を試す。 |
| はじめに: GenAI 用 MLflow 3 | GenAI トレース、評価、および人間のフィードバックのために MLflow を試してください。 |
| 概念: Databricks の GenAI | GenAI モデル、エージェント、ツール、アプリについて説明します。 |
| プラットフォーム: GenAI の主な機能 | Azure Databricks の GenAI の主な機能の詳細を確認します。 |
GenAI アプリの構築を開始する
Azure Databricks で UI ベースおよびコード ベースの GenAI を試す。
| Tutorial | Description |
|---|---|
| はじめに: コードなしで LLM にクエリを実行し、AI エージェントのプロトタイプを作成する | UI ベースのテストとプロトタイプ作成のための AI Playground について理解します。 |
| はじめに: GenAI 用 MLflow 3 | MLflow for GenAI のトレース、評価、および人間のフィードバックを試してみてください。 |
| Databricks での LLM のクエリの開始 | Foundation Model API を使用して、コードを使用して GenAI モデルにクエリを実行します。 |
GenAI の概念について学習する
モデル、エージェント、ツール、アプリなどの基本的な GenAI の概念について理解します。
| ガイド | Description |
|---|---|
| 概念: Azure Databricks での生成 AI | GenAI モデル、エージェント、ツール、アプリについて説明します。 |
| GenAI アプリの構築における主な課題 | GenAI の主な課題と、Databricks がそれらに対処する方法について説明します。 |
| エージェント システムの設計パターン | 単純なチェーンから複雑なマルチエージェント システムまで、エージェント設計のオプションとトレードオフについて説明します。 |
Azure Databricks 機能を使用して GenAI アプリを構築する
コードなしまたはロー コードのアプローチの場合は、まず次の作業を理解します。
| 特徴 | Description |
|---|---|
| エージェントブリックス | 一般的なユース ケースに合わせて、ドメイン固有の高品質の AI エージェント システムを構築して最適化します。 |
| AI プレイグラウンド | GenAI モデルとエージェントにクエリを実行し、プロンプト エンジニアリングを行い、UI でツール呼び出しエージェントのプロトタイプを作成します。 |
| AI 関数 | AI タスクの組み込み SQL 関数を呼び出します。 |
コードファーストのアプローチでは、まず次の作業を理解します。
| 特徴 | Description |
|---|---|
| GenAI の MLflow | トレースと監視、評価、監視には MLflow を使用します。 |
| Model Serving の基礎モデル | Databricks でホストされる Foundation Models API や外部モデルなど、GenAI モデル エンドポイントを使用します。 |
| ベクトル検索 | RAG およびその他のエージェント システムのベクター インデックスを作成してクエリを実行します。 |
| Mosaic AI エージェント フレームワーク | コードを使用して AI エージェントをビルドしてデプロイします。 |
| AI ゲートウェイ | GenAI モデルとエンドポイントへのアクセスを管理および監視します。 |
詳細な一覧については、「 GenAI のモザイク AI 機能」を参照してください。
一般的なインテリジェンスとデータ インテリジェンス
- 一般的なインテリジェンス とは、LLM が多様なテキストに対する広範な事前トレーニングから本質的に認識しているものを指します。 これは、言語の流暢さと一般的な推論に役立ちます。
- データ インテリジェンス とは、組織のドメイン固有のデータと API を指します。 これには、顧客レコード、製品情報、ナレッジ ベース、または独自のビジネス環境を反映したドキュメントが含まれる場合があります。
エージェント システムは、これら 2 つの知識ソースを組み合わせたものです。LLM の広範で汎用的な知識から始まり、リアルタイムまたはドメイン固有のデータを取り込んで詳細な質問に回答したり、特殊なアクションを実行したりします。 Azure Databricks を使用すると、あらゆるレベルで GenAI アプリにデータ インテリジェンスを埋め込むことができます。
- ベクター インデックスや Genie などのデータ ソース
- エージェント(エージェントブリックのカスタムエージェント設計と自動設計の両方を含む)
- 評価データとメトリック
- 評価データに基づくプロンプトの最適化
- Agent Bricks によるカスタム微調整と自動チューニングの両方を含む、モデルの微調整
GenAI と ML とディープ ラーニング
生成人工知能 (GenAI)、機械学習 (ML)、ディープ ラーニング (DL) の境界はあいまいになる可能性があります。 このガイドでは GenAI に焦点を当てていますが、次の Databricks プラットフォーム機能では ML、ディープ ラーニング、GenAI がサポートされています。
- Model Serving では 、ML、ディープ ラーニング、GenAI モデルがサポートされます。 GenAI バッチ推論や、カスタム モデル サービスを使用してエージェントまたは微調整されたモデルをデプロイするために使用できます。
- Machine Learning 用のサーバーレス GPU コンピューティングと GPU 対応 Databricks ランタイムを使用して、ML、ディープ ラーニング、GenAI モデルのトレーニングと微調整を行うことができます。
- MLflow 実験の追跡 を使用して、従来の ML と GenAI の両方の実験と実行を追跡できます。
- Databricks Feature Store を使用して、従来の ML と GenAI の両方の構造化データを管理および提供できます。