責任ある AI を理解する
Microsoft では、6 つの原則のセットを指針として、AI ソフトウェアを開発しています。これらの原則は、意図しない悪影響を及ぼすことなく困難な問題に対する素晴らしいソリューションを確実に提供できるように設計されています。
公平性
AI システムではすべての人を公平に扱う必要があります。 たとえば、銀行の融資承認申請をサポートする機械学習モデルを作成するとします。 このモデルでは、偏見なしでローンを承認するか拒否するかを予測します。 この偏見はたとえば、性別、民族、あるいは特定の応募者グループにとって不公平になるその他の要因に基づきます。
Azure Machine Learning には、モデルを解釈し、データの各特徴量がモデルの予測にどの程度影響するかを定量化する機能が含まれています。 この機能は、データ サイエンティストや開発者がモデルの偏りを特定し、軽減するのに役立ちます。
もう 1 つの例として、「Face サービスで責任のある AI」を Microsoft が実装したというものがあります。この実装では、感情や身元属性の推測試行に利用できる顔の認識機能が廃止されます。 そのような機能は、誤用された場合、固定観念、差別、不公平なサービス拒否を人に与える可能性があります。
公平性に関する考慮事項の詳細については、次のビデオをご覧ください。
信頼性と安全性
AI システムは確実かつ安全に実行される必要があります。 たとえば、自律走行車用の AI ベースのソフトウェア システム、または患者の症状を診断し、処方箋を推奨する機械学習モデルを考えてみましょう。 この種のシステムの信頼性が低いと、人命に大きなリスクが生じる可能性があります。
AI ベースのソフトウェア アプリケーション開発では、リリース前に期待どおりの動作を確保するために、厳格なテストおよびデプロイ管理プロセスを実施する必要があります。
信頼性と安全性に関する考慮事項の詳細については、次のビデオをご覧ください。
プライバシーとセキュリティ
AI システムは安全であり、プライバシーを尊重する必要があります。 AI システムのベースとなる機械学習モデルは、大量のデータに依存しており、これには非公開にする必要のある個人の詳細が含まれている場合があります。 モデルがトレーニングされ、システムが本稼働に入った後でも、プライバシーとセキュリティを考慮する必要があります。 予測したり、行動したりするとき、システムで新しいデータが利用されるため、データとデータから行われる決定の両方にプライバシーまたはセキュリティ上の懸念が発生することがあります。
プライバシーとセキュリティに関する考慮事項の詳細については、次のビデオをご覧ください。
包括性
AI システムはあらゆる人に力を与え、人々を結びつける必要があります。 AI は、身体能力、性別、性的指向、民族性などの要因に関係なく、社会のすべての部分に利益をもたらす必要があります。
包括性に関する考慮事項の詳細については、次のビデオをご覧ください。
透明性
AI システムは理解しやすい必要があります。 ユーザーは、システムの目的、しくみ、想定される制限事項を十分に認識する必要があります。
透明性に関する考慮事項の詳細については、次のビデオをご覧ください。
アカウンタビリティ
人々は AI システムに対して説明責任があります。 AI ベースのソリューションの設計者と開発者は、明確に定義された倫理的および法的基準をソリューションが確実に満たすようにするガバナンスと組織の原則の枠組みの中で作業する必要があります。
アカウンタビリティに関する考慮事項の詳細については、次のビデオをご覧ください。
責任ある AI の原則は、開発者が倫理的な AI ソリューションを作成しようとするときに直面する課題の一部を理解するのに役立ちます。
その他のリソース
責任ある AI の原則を実践するのに役立つその他のリソースについては、https://www.microsoft.com/ai/responsible-ai-resources を参照してください。
こうしたポリシーの実際は、「責任をもって AI システムを構築するための Microsoft のフレームワーク」で確認できます。