この記事では、信頼できる AI エージェントを構築およびデプロイするためのリソースの概要について説明します。 これには、エージェントライフサイクルのすべての段階で制御とチェックポイントを使用したエンドツーエンドのセキュリティ、可観測性、ガバナンスが含まれます。 推奨される基本的な開発手順は、独自のエンジニアリング チームが従うポリシー要件を設定する Microsoft Responsible AI Standard に記載されています。 Standard のコンテンツの多くはパターンに従い、潜在的なコンテンツ リスクの検出、保護、管理をチームに依頼します。
Microsoftでは、製品要件を確立し、"北星" として機能する AI 原則に根ざしたガバナンス フレームワークに基づいてアプローチします。生成 AI のビジネス ユース ケースを特定する際に、まず AI システムの潜在的なリスクを発見して評価し、重要な重点領域を特定します。
これらのリスクを特定したら、体系的な測定を通じて AI システム内でのそれらの有病率を評価し、注意が必要な領域に優先順位を付けるのに役立ちます。 その後、これらのリスクに対してモデルとエージェント レベルで適切な保護を適用します。
最後に、デプロイと運用の準備、継続的なガバナンスをサポートするための監視の設定など、運用環境のリスクを管理するための戦略を検討し、コンプライアンスを確保し、アプリケーションの稼働後に新しいリスクを表面化します。
Microsoftの RAI プラクティスに合わせて、これらの推奨事項は次の 3 つの段階に分かれています。
- デプロイの前後にエージェントの品質、安全性、セキュリティのリスクを検出します。 たとえば、エージェントを敵対的なプロンプトでテストして、脱獄の潜在的な脆弱性を特定します。
- セキュリティ リスク、望ましくない出力、安全でないアクションから、モデル出力レベルとエージェント ランタイム レベルの両方で保護します。 コンテンツ フィルターとガードレールを使用して、ユーザーに到達する前に有害な出力をブロックします。
- トレースおよび監視ツールとコンプライアンス統合を通じてエージェントを管理します。 エージェントの動作を追跡し、運用環境の異常を検出するように継続的な監視を設定します。
セキュリティ アラートを表示して対応する
Defender for Cloudセキュリティ アラートと推奨事項を表示して、Risks + alerts セクションでセキュリティ体制を改善できます。 セキュリティ アラートは、AI ワークロードで脅威が特定されたときに、Foundry Tools プランのDefenderによって生成される通知です。 これらのアラートに対処するには、Azure ポータルまたは Defender ポータルでアクションを実行できます。
セキュリティ アラートを表示するには:
- Microsoft Foundry ポータルにサインインします。
- プロジェクトに移動します。
- 左側のナビゲーションで、[ リスク + アラート] を選択します。
- アクティブなアラートと推奨事項を確認します。
- アラートを選択すると、詳細と修復手順が表示されます。
- セキュリティ アラートの詳細については、「 AI ワークロードのアラート (プレビュー)」を参照してください。
- セキュリティに関する推奨事項の詳細については、「セキュリティに関する 推奨事項を確認する」を参照してください。