Informationen zu verantwortlicher KI
Bei Microsoft orientiert sich die KI-Softwareentwicklung an sechs Prinzipien, mit denen sichergestellt werden soll, dass KI-Anwendungen gute Lösungen für komplexe Probleme darstellen, ohne dass es zu unbeabsichtigten negativen Folgen kommt.
Fairness
KI-Systeme sollten alle Menschen fair behandeln. Angenommen, Sie erstellen ein Modell für maschinelles Lernen für eine Anwendung für eine Bank, über die Kredite genehmigt werden. Das Modell sollte ohne Bias prognostizieren, ob der Kredit genehmigt oder verweigert werden sollte. Dieser Bias könnte auf dem Geschlecht, der ethnischen Zugehörigkeit oder anderen Faktoren basieren, die zu einem unfairen Vor- oder Nachteil für bestimmte Bewerbergruppen führen.
Azure Machine Learning umfasst Funktionen, um Modelle zu interpretieren und zu quantifizieren, inwieweit die einzelnen Datenmerkmale die Vorhersage des Modells beeinflussen. Diese Funktion hilft wissenschaftlichen Fachkräften für Daten und Entwicklern dabei, Voreingenommenheiten des Modells zu identifizieren und zu minimieren.
Ein weiteres Beispiel ist die Implementierung der Responsible AI in der Gesichtserkennung durch Microsoft, die die Gesichtserkennungsfunktionen ersetzt, mit denen Gefühlszustände und Identitätsmerkmale abgeleitet werden können. Wenn diese Funktionen missbraucht werden, können sie zu Stereotypisierung, Diskriminierung oder einer unfairen Verweigerung von Dienstleistungen verleiten.
Weitere Informationen zum Thema Fairness finden Sie im folgenden Video.
Zuverlässigkeit und Sicherheit
KI-Systeme sollten sicher und zuverlässig arbeiten. Stellen Sie sich beispielsweise ein KI-basiertes Softwaresystem für ein autonomes Fahrzeug oder ein Modell für maschinelles Lernen vor, das Patientensymptome diagnostiziert und Medikamente empfiehlt. Eine Unzuverlässigkeit in solchen Systemen kann zu einem erheblichen Risiko für das Leben von Menschen führen.
Die Entwicklung von KI-basierten Softwareanwendungen muss strengen Prozessen für Tests und die Bereitstellungsverwaltung unterzogen werden, um sicherzustellen, dass die Anwendungen bereits vor der Veröffentlichung wie erwartet funktionieren.
Weitere Informationen zum Thema Zuverlässigkeit und Sicherheit finden Sie im folgenden Video.
Datenschutz und -sicherheit
KI-Systeme sollten sicher sein und die Privatsphäre schützen. Die Modelle für maschinelles Lernen, auf denen KI-Systeme basieren, benötigen große Datenmengen, die möglicherweise persönliche Informationen enthalten, die geheim gehalten werden müssen. Auch nachdem die Modelle trainiert wurden und sich das System in der Produktion befindet, müssen Datenschutz und Sicherheit berücksichtigt werden. Da das System neue Daten verwendet, um Vorhersagen zu treffen oder Maßnahmen zu ergreifen, können sowohl für die Daten als auch für die Entscheidungen, die auf Grundlage der Daten getroffen werden, Datenschutz- oder Sicherheitsbedenken vorliegen.
Weitere Informationen zum Thema Datenschutz und -sicherheit finden Sie im folgenden Video.
Inklusion
KI-Systeme sollten alle Menschen berücksichtigen und einbeziehen. Jeder sollte von KI profitieren, unabhängig von körperlichen Fähigkeiten, dem Geschlecht, der sexuellen Orientierung, der ethnischen Zugehörigkeit oder anderen Faktoren.
Weitere Informationen zum Thema Inklusion finden Sie im folgenden Video.
Transparenz
KI-Systeme sollten verständlich sein. Benutzer sollten umfassend über den Zweck des Systems, seine Funktionsweise und die zu erwartenden Einschränkungen informiert werden.
Weitere Informationen zum Thema Transparenz finden Sie im folgenden Video.
Verantwortlichkeit
Für KI-Systeme sollten Menschen verantwortlich sein. Designer und Entwickler von KI-basierten Lösungen sollten in einem Framework von Governance- und Organisationsprinzipien arbeiten, die sicherstellen, dass die Lösung klar definierten ethischen und rechtlichen Standards entspricht.
Weitere Informationen zum Thema Verantwortlichkeit finden Sie im folgenden Video.
Wenn Sie die Prinzipien von verantwortlicher KI kennen, können Sie die Herausforderungen besser nachvollziehen, die Entwickler bewältigen müssen, wenn sie KI-Lösungen erstellen, die ethischen Grundsätzen entsprechen.
Weitere Ressourcen
Weitere Ressourcen, die Ihnen dabei helfen, Prinzipien für verantwortliche KI in die Praxis umzusetzen, finden Sie unter https://www.microsoft.com/ai/responsible-ai-resources.
Unter Microsoft-Framework für Responsible-AI-Systeme werden diese Richtlinien im Praxiseinsatz vorgestellt.