イントロダクション

完了済み

大規模な言語モデルでは、質問への回答、コンテンツの要約、テキストの生成を行うことができます。 しかし、彼らはトレーニング中に学んだことを知っているだけです。 会社の製品、顧客の注文、または互換性のあるコンポーネントについて尋ねると、モデルに役立つ回答はありません。 取得拡張生成 (RAG) は、クエリ時にモデルにデータへのアクセス権を付与することで、この問題を解決します。 モデルが製品カタログを認識する代わりに、データベースから関連する製品を取得し、プロンプトに含めます。 その後、モデルは、実際の現在の情報に接地された応答を生成します。

RAG は、データが既に存在するデータベース レイヤー内で AI 処理を維持します。 この方法では、システム間でのデータの移動を回避し、Transact-SQL を使用してモデルが受け取るコンテキストを制御できます。 その結果、テーブルの実際の up-to-date 情報を使用して、特定の質問に回答できるアプリケーションが得られます。

製品データベースの上にカスタマー サポート アプリケーションを構築する小売チームを想像してください。 お客様から「寒い天候のサイクリングに最適な手袋はどれですか?」アプリケーションでは、製品カタログを検索し、一致するアクセサリを検索し、LLM を使用して役立つ応答を生成する必要があります。 このワークフローは RAG の動作です。関連するデータを取得し、そのデータでプロンプトを拡張し、根拠のある応答を生成します。 このワークフローを SQL で構築することで、チームは取得手順をデータの近くに保持し、個別の取得サービスの構築を回避します。

このモジュールを完了すると、次のことができるようになります。

  • RAG がアプリケーションに適したアプローチであるタイミングを特定します。
  • 大規模言語モデル (LLM) 処理のために SQL クエリの結果を JSON に変換します。
  • 命令とデータベース コンテキストを組み合わせたプロンプトを作成します。
  • SQL から LLM エンドポイントを呼び出します。
  • LLM 応答を解析し、アプリケーションに回答を返します。

Note

私たちは、異なる人々が異なる方法で学ぶのが好きであることを認識しています。 このモジュールをビデオベースの形式で完了するか、コンテンツをテキストと画像として読み取ることができます。 テキストにはビデオよりも詳細な情報が含まれているため、ビデオ プレゼンテーションの補足資料として参照したい場合があります。