SQL データベース ワークロードのモデルを理解して評価する

完了済み

Tip

詳細については、「 テキストと画像 」タブを参照してください。

大規模言語モデル (LLM) を使用すると、アプリケーションはユーザー入力に対する応答の生成、情報の要約、および理由を生成できます。 データベースに格納されているアプリケーション データにアクセスできる場合、その有用性が高くなります。

Azure SQL Database と Fabric SQL Database では、埋め込み、ベクター データ型、ベクター検索などの AI 機能を統合することで、インテリジェントなアプリケーションの構築をサポートしています。 これらの機能により、モデルはリレーショナル データを直接操作できるため、セマンティック検索や取得拡張生成 (RAG) などの一般的なパターンが可能になります。

モデルを SQL ベースのソリューションに統合する前に、さまざまなモデルの動作と、その特性がアプリケーション設計にどのように影響するかを理解することが重要です。

SQL データベース ワークロードのモデル特性を特定する

モデルは、機能、パフォーマンス特性、サポートされている入力および出力形式が異なります。 Azure SQL Database または Fabric SQL データベースで使用するモデルを評価する場合は、次の要因を考慮してください。

モダリティ
テキストのみを処理するモデルもあれば、画像や構造化データなどの他の入力をサポートするモデルもあります。 必要なモダリティは、データベースに格納されているデータの種類と、目的のアプリケーション シナリオによって異なります。

言語サポート
多言語サポートは、アプリケーションが複数のリージョン間でユーザーにサービスを提供する場合、または保存されたコンテンツが複数の言語にまたがる場合に重要です。

モデルのサイズと容量
通常、モデルが大きいほど、推論が強くなり、出力が微妙になりますが、より多くのトークンも消費され、待機時間とコストが高くなる可能性があります。 埋め込み生成などの重点的なタスクには、より小さいモデルが適している場合があります。

構造化された出力
JSON などの構造化された出力を生成できるモデルは、応答をプログラムで処理する必要がある SQL ベースのワークフローに簡単に統合できます。

これらの特性は、モデルが埋め込みの生成、RAG パターンのサポート、またはデータベース コンテンツへの会話アクセスの有効化に適しているかどうかに影響します。

モデルが Azure SQL データと対話する方法について説明する

Azure SQL Database と Fabric SQL Database では、リレーショナル ストレージとベクター データ型やベクター関数などの AI 機能を組み合わせることにより、インテリジェントなアプリケーション パターンがサポートされます。

一般的なパターンは、検索拡張生成 (RAG) です。この場合、関連するデータはデータベースから取得され、応答を生成する前にコンテキストとしてモデルに提供されます。 この手順により、モデルの事前トレーニング済みの知識のみに依存するのではなく、アプリケーション データに応答を基にできます。

いくつかの概念は、モデルがデータベース データと対話する方法に影響します。

  • トークン。これは、モデルがテキストの処理に使用する単位です
  • データをベクターとして表す埋め込み
  • 埋め込みを比較してセマンティック類似性を識別するベクター検索

ベクターは Azure SQL Database のリレーショナル データと共に存在するため、ベクター類似性検索と任意の標準 SQL 機能を 1 つのクエリで組み合わせることができます。 たとえば、 WHERE 句を使用してベクター検索結果を絞り込んだり、関連するテーブルに結合したり、フルテキスト BM25 スコアでベクター コサインランク付けをブレンドしたりできます。 このベクター検索と通常の SQL 操作の組み合わせは 、ハイブリッド検索と呼ばれます。 個別の検索サービスに要求を送信して結果を調整する代わりに、セマンティック類似性とリレーショナル フィルター処理の両方を一緒に処理する 1 つのデータベースに対してクエリを実行します。

これらの概念を理解することは、パフォーマンスとコストを管理しながら AI 機能を効果的に使用する SQL ベースのアプリケーションを設計するのに役立ちます。

トークンがコストと設計にどのように影響するかを説明する

モデルはテキストを生の文字として処理しません。 代わりに、テキストをトークンに分割します。 トークンは、単語、単語の一部、句読点などの小さなチャンクです。 たとえば、"hamburger" という単語は "ham"、"bur"、"ger" の 3 つのトークンになり、"the" のような一般的な単語は通常 1 つのトークンになります。

トークン数は 2 つの理由で重要です。 まず、モデルには入力制限があります。 モデルは、1 つの要求で最大 8,000 個または 128,000 個のトークンを受け入れる場合があります。 この制限により、RAG パターンにコンテキストとして含めることができるデータベース コンテンツの量が制限されます。 第 2 に、モデル プロバイダーは通常、処理されたトークンに基づいて課金します。 トークンが多いほどコストが高くなります。そのため、効率的なテキスト処理は運用コストに直接影響します。

SQL ベースの AI ソリューションを設計する場合、トークンの制限は、埋め込み用のコンテンツをチャンクする方法と、生成中にモデルに渡すことができるコンテキストの量に影響します。

モデルはトークンの制限を課し、埋め込みの生成方法が異なるため、これらの特性はスキーマの設計、チャンク戦略、およびクエリ動作に影響します。

Microsoft Foundry を使用してモデルを探索する

Microsoft Foundry Models には、Azure サービスで使用できる AI モデルのカタログが用意されています。 カタログには、テキスト処理、埋め込み生成、推論、マルチモーダル入力などのタスクをサポートするモデルが含まれています。

SQL データベース ワークロードの場合、Foundry は、Azure SQL Database または Fabric SQL Database との統合に適したモデルを評価するのに役立ちます。 サポートされている入力の種類、言語カバレッジ、デプロイ オプションはすべて、シナリオに適したモデルに影響します。

モデル カタログでは、モデルの機能、ベンチマーク、バージョンの詳細、ライフサイクルの状態などの情報が公開されます。 この情報は、モデルをデータベース ワークフローに接続する前に、パフォーマンスと運用上の制約を理解するのに役立ちます。

設計時に Foundry を使用すると、選択したモデルが SQL ベースのアプリケーション要件と一致し、リレーショナル データと予測可能に統合できるようになります。

ソリューションのモデルを選択する

モデルの選択は、パフォーマンス、コスト、保守容易性に影響を与える設計上の決定です。 Azure SQL Database または Fabric SQL データベースで使用するモデルを選択する場合は、次の点を考慮してください。

  • データベースに格納されているデータの種類と形式
  • パフォーマンスとスケーラビリティの要件
  • 言語またはモダリティの要件
  • デプロイとライフサイクルに関する考慮事項

これらのトレードオフを理解することで、予測可能でスケーラブルで、アプリケーションの目標に合わせた方法で、AI 機能が SQL データベース ソリューションに統合されます。

重要なポイント

モデルはモダリティ、言語サポート、サイズ、構造化された出力機能によって異なり、これらの違いは SQL データベース ワークロードとの統合方法に影響します。 RAG は関連するデータベース コンテンツを取得し、コンテキストとしてモデルに提供します。一方、トークンは入力テキストと出力テキストの処理方法を決定します。 埋め込みは、セマンティック類似性の比較を可能にするベクトルとしてデータを表します。 Microsoft Foundry Models には、SQL ベースのアプリケーション要件に合ったモデルを評価および選択するためのカタログが用意されています。