生成 AI アプリケーションを監視する
中級
AI エンジニア
Microsoft Foundry
Microsoft Foundry を使用して生成 AI アプリケーションのパフォーマンスを監視する方法について説明します。 このモジュールでは、待機時間やトークンの使用状況などの主要なメトリックを追跡して、情報に基づいてコスト効率の高いデプロイの決定を行う方法について説明します。
学習の目的
このモジュールを終了すると、次のことができるようになります。
- Gen AI アプリを運用環境の準備に移行するときに監視が不可欠な理由を理解します。
- 主要なパフォーマンス メトリック (待機時間、スループット、トークン使用量、エラー率) を特定して解釈します。
- Azure Monitor を Microsoft Foundry と共に使用して、アプリの動作を監視および分析します。
- 分析情報を適用して、Gen AI ソリューションのパフォーマンス、コスト、ユーザー エクスペリエンスを最適化します。
前提条件
このモジュールを開始する前に、次の知識が必要です。
- 基本的なソフトウェア開発の概念
- 基本的な AI の概念
- Azure の基本的な概念