Verstehen von Überlegungen für verantwortungsvolle KI
In der vorherigen Lerneinheit wurde die Notwendigkeit von Überlegungen zur verantwortungsvollen und ethischen Entwicklung von KI-fähiger Software behandelt. In dieser Lerneinheit besprechen wir einige grundlegende Prinzipien verantwortungsvoller KI, die bei Microsoft eingeführt wurden.
Fairness
KI-Systeme sollten alle Menschen fair behandeln. Angenommen, Sie erstellen ein Modell für maschinelles Lernen für eine Anwendung für eine Bank, über die Kredite genehmigt werden. Das Modell soll ohne Voreingenommenheiten zum Geschlecht, zur ethnischen Zugehörigkeit oder anderen Faktoren, die bestimmten Antragstellergruppen unfaire Vor- oder Nachteile verschaffen können, Vorhersagen zur Kreditvergabe zu treffen.
Fairness von Machine Learning-Systemen ist ein sehr aktiver Bereich der laufenden Forschung, und es gibt einige Softwarelösungen zur Bewertung, Quantifizierung und Abmilderung von Unfairness in Machine Learning-Modellen. Tools allein sind jedoch nicht ausreichend, um Fairness sicherzustellen. Berücksichtigen Sie Fairness vom Anfang des Anwendungsentwicklungsprozesses an. Überprüfen Sie die Trainingsdaten sorgfältig, um sicherzustellen, dass sie für alle potenziell betroffenen Personen repräsentativ sind, und bewerten Sie die Vorhersageleistung für Unterabschnitte Ihrer Benutzerpopulation während des gesamten Entwicklungslebenszyklus.
Zuverlässigkeit und Sicherheit
KI-Systeme sollten sicher und zuverlässig arbeiten. Stellen Sie sich beispielsweise ein KI-basiertes Softwaresystem für ein autonomes Fahrzeug oder ein Modell für maschinelles Lernen vor, das Patientensymptome diagnostiziert und Medikamente empfiehlt. Wenn solche Systeme unzuverlässig sind, kann dies eine große Gefahr für das Leben der betreffenden Menschen darstellen.
Wie bei jeder Software muss die Entwicklung von KI-basierten Softwareanwendungen strengen Prozessen für Tests und die Bereitstellungsverwaltung unterzogen werden, um sicherzustellen, dass die Anwendungen bereits vor der Veröffentlichung wie erwartet funktionieren. Darüber hinaus müssen Softwareentwickler die probabilistische Natur von Machine Learning-Modellen berücksichtigen und geeignete Schwellenwerte anwenden, wenn Konfidenzbewertungen für Vorhersagen ausgewertet werden.
Datenschutz und Sicherheit
KI-Systeme sollten sicher sein und die Privatsphäre schützen. Die Modelle für maschinelles Lernen, auf denen KI-Systeme basieren, benötigen große Datenmengen, die möglicherweise persönliche Informationen enthalten, die geheim gehalten werden müssen. Auch nachdem Modelle trainiert wurden und sich das System in der Produktion befindet, verwenden es neue Daten, um Vorhersagen zu treffen oder Maßnahmen zu ergreifen, die Datenschutz- oder Sicherheitsbedenken unterliegen können. Daher müssen geeignete Sicherheitsmaßnahmen zum Schutz von Daten und Kundeninhalten implementiert werden.
Inklusion
KI-Systeme sollten alle Menschen berücksichtigen und einbeziehen. Jeder sollte von KI profitieren, unabhängig von körperlichen Fähigkeiten, dem Geschlecht, der sexuellen Orientierung, der ethnischen Zugehörigkeit oder anderen Faktoren.
Eine Möglichkeit, um hinsichtlich Inklusion zu optimieren, besteht in der Sicherstellung, dass der Entwurf, die Entwicklung und das Testen Ihrer Anwendung Eingaben von einer so diversen wie möglichen Gruppe von Personen enthält.
Transparenz
KI-Systeme sollten verständlich sein. Benutzer sollten umfassend über den Zweck des Systems, seine Funktionsweise und die zu erwartenden Einschränkungen informiert werden.
Wenn ein KI-System beispielsweise auf einem Machine Learning-Modell basiert, sollten Sie die Benutzer generell auf Faktoren aufmerksam machen, die sich auf die Genauigkeit seiner Vorhersagen auswirken können, z. B. die Anzahl der Fälle, die zum Trainieren des Modells verwendet wurden, oder die spezifischen Merkmale, die den größten Einfluss auf seine Vorhersagen haben. Sie sollten auch Informationen zur Konfidenzbewertung für Vorhersagen teilen.
Wenn eine KI-Anwendung auf personenbezogenen Daten basiert, z. B. ein Gesichtserkennungssystem, das Bilder von Personen zu deren Erkennung verwendet, sollten Sie dem Benutzer klar machen, wie seine Daten verwendet und aufbewahrt werden und wer Zugriff darauf hat.
Verantwortlichkeit
Für KI-Systeme sollten Menschen verantwortlich sein. Obwohl viele KI-Systeme autonom zu arbeiten scheinen, liegt es letztendlich in der Verantwortung der Entwickler, die die von ihnen eingesetzten Modelle trainiert und überprüft sowie die Logik definiert haben, die Entscheidungen auf Modellvorhersagen basiert, um sicherzustellen, dass das Gesamtsystem die Anforderungen an die Verantwortlichkeit erfüllt. Um beim Erreichen dieses Ziels zu helfen, sollten Designer und Entwickler von KI-basierten Lösungen ein Framework aus Governance- und Organisationsrichtlinien verwenden, die sicherstellen, dass die Lösung ethischen und rechtlichen Standards entspricht, die klar definiert sind.
Hinweis
Microsoft hat im Juni 2022 bedeutende Updates für den Standard der verantwortungsvollen KI veröffentlicht. In diesem Zusammenhang haben wir den Ansatz für die Gesichtserkennung aktualisiert und eine neue Richtlinie für den eingeschränkten Zugriff auf bestimmte Features eingeführt, um einen verantwortungsvollen Gebrauch zu gewährleisten. Sie können diesen eingeschränkten Zugriff beantragen, um diese Features für Ihre Anwendung zu aktivieren.
Weitere Informationen zu den Prinzipien von Microsoft für verantwortungsvolle KI finden Sie auf der Microsoft-Website für verantwortungsvolle KI.