責任ある AI は、AI システムの動作方法を定義する一連の原則によって導かれます。 これらの原則は、公平性、信頼性、安全性、プライバシー、セキュリティ、包括性、透明性、アカウンタビリティに重点を置いています。 リスクの評価、AI 機能の設計、責任あるシステム動作の確保Microsoft方法を規定する標準を確立します。
エージェントの設計にこれらの原則を適用すると、バイアス、誤った情報、プライバシー違反などの意図しない損害を防ぐことができます。 また、ユーザーの信頼と長期的な導入もサポートします。 これらのガイドラインに従うことで、ユーザーや社会がMicrosoft製品に期待する整合性と尊重の基準を守りながら、効果的に機能する AI エージェントを作成できます。
この記事では、エージェント設計に適用される責任ある AI の概要について説明します。 包括的なガイダンスについては、Microsoftの責任ある AI の原則とアプローチを参照してください。
責任ある AI の原則
責任ある AI の原則は、Microsoft 365 Copilotでエージェントを設計、構築、運用する方法をガイドします。 エージェントの動作、データ処理、ユーザー操作の共有標準を確立して、AI システムが信頼でき、セキュリティで保護され、人間の価値と一致していることを確認します。
これらの原則は、設計と開発からデプロイ、継続的な使用まで、エージェントのライフサイクル全体にわたって適用されます。 相互作用の設計、モデルと知識の選択、自律性、セキュリティ、ガバナンスに関する決定を通知します。 これらの原則に従うことで、エージェントはユーザーの信頼と長期的な導入を維持しながら、責任を持って価値を提供できます。
| 原理 | エージェント設計への意味合い |
|---|---|
| 公平 | AI システムは、すべてのユーザーに一貫した公平な結果を提供する必要があります。 エージェントの動作では、機密性の高い属性やユーザー コンテキストに基づいて不公平な扱いを作成または強化しないようにする必要があります。 |
| 信頼性と安全性 | AI システムは、さまざまな条件で意図したとおりに動作する必要があります。 エージェントは、安全で予測可能な動作をサポートする方法で、変動性、エッジ ケース、予期しない入力を処理する必要があります。 |
| プライバシーとセキュリティ | AI システムは、ユーザー データを保護し、確立されたプライバシーとセキュリティの要件を尊重する必要があります。 エージェントは、アクセスが許可されている情報のみを使用し、その情報を責任を持って処理する必要があります。 |
| 包括性 | AI システムは、すべてのユーザーを支援し、多様なニーズに対応する必要があります。 エージェントは、包括的なエクスペリエンスを確保するために、アクセシビリティ、言語のバリエーション、およびさまざまなレベルの技術的能力を考慮する必要があります。 |
| Transparency | AI システムは、その機能と制限を明確にする必要があります。 エージェントは、ユーザーが情報に基づいて意思決定を行えるように、何ができるか、情報の使用方法、出力がどのように生成されるかを伝える必要があります。 |
| アカウンタビリティ | AI システムには明確な監視が必要です。 エージェントを開発するチームは、システムが責任ある AI 原則に準拠し、コンプライアンス要件を満たし、適切な人間のガバナンスの下で動作することを保証する責任があります。 |
エージェント開発での責任ある AI の適用
Microsoftでは、構造化されたモデルを使用して、AI エージェントの開発全体を通じて責任ある AI の原則を統合します。 このモデルは、チームがリスクを特定し、適切な軽減策を見つけ、エージェントのライフサイクル全体にわたって責任ある行動を維持するのに役立ちます。
デザイナーとして、決定は、これらの関数の実行方法に直接影響します。 次の主要な機能は、責任ある AI がどのように実践されるかを示しています。
| Function | Description |
|---|---|
| 管理 | エージェントの設計と展開時にチームが従うポリシー、ロール、およびプロセスを確立します。 ガバナンスにより、責任ある AI 原則との整合性が確保され、明確な説明責任が提供されます。 |
| 地図 | AI シナリオに関連する潜在的なリスクを特定し、優先順位を付けます。 マッピングにより、軽減戦略に関する情報に基づいた意思決定が可能になり、AI ソリューションが目的のコンテキストに適しているかどうかを判断するのに役立ちます。 |
| 測定 | リスクとシステム パフォーマンスを評価して、軽減策の設計と絞り込みをガイドします。 測定は、AI 機能が複雑になり、継続的な評価が必要になる場合に不可欠です。 |
| Manage | デプロイと継続的な運用を通じてリスク軽減策を適用し、維持します。 Teams は、システムの動作を監視し、必要に応じて軽減策を調整して、エージェントが時間の経過と同時に責任を負い続けられるようにします。 |
AI の透明性と安全性フィルター
透明性は、責任ある AI の基礎です。 エージェントを設計するときは、製品エクスペリエンス内で AI の存在と役割を明確に伝えます。 エージェントの目的、機能、制限事項、および潜在的なリスクについてユーザーを教育します。 この透明性により、ユーザーは情報に基づいた意思決定を行い、システムへの信頼を促進できます。
透明性の実際的な実装には、透明性に関するメモや、AI がどのように機能し、ユーザーが期待できるかを説明する製品内開示が含まれます。 たとえば、ビジネス チャット エクスペリエンスでは、エージェントは "AI によって生成されたコンテンツが正しくない可能性があります" などのラベル付けなどの明確なインジケーターを使用して、適切な期待を設定し、責任ある使用をサポートします。
安全フィルター
安全フィルターは、エージェントが適切で、敬意を払い、Microsoftの責任ある AI 原則に沿った方法で動作することを保証するのに役立ちます。 これらのセーフガードにより、有害な出力、偏った出力、または誤解を招く出力のリスクが軽減され、対話全体を通じてユーザーのプライバシーと機密情報が保護されます。
Copilot上に構築されたエージェントは、公平性、信頼性、プライバシー、透明性に重点を置く、Microsoftの責任ある AI コミットメントを継承します。 安全性フィルターは、エージェントがユーザー入力に応答する方法、機密性の高いトピックを処理する方法、データへのアクセスを管理する方法をガイドすることで、これらのコミットメントを実施する上で重要な役割を果たします。
Important
デザイナーは、安全フィルターを直接構成しません。 Microsoftは、プラットフォーム レベルでそれらを適用します。 ただし、トーン、スコープ、透明性に関する設計上の決定は、安全フィルターが保護するように設計されている信頼を直接強化または損ないます。
安全フィルターを一貫して適用することで、エージェントはユーザーの信頼と信頼をサポートできます。 ユーザーは、AI の責任ある行動と倫理的な使用を促進するためにセーフガードが実施されていることを知って、エージェントの応答に頼ることができるようになります。
Tip
詳細な原則、ガバナンス フレームワーク、透明性レポートなど、Microsoftの責任ある AI アプローチに関する包括的なガイダンスについては、Microsoft の責任ある AI の原則とアプローチを参照してください。