Übernehmen der Prinzipien für verantwortungsvolle und vertrauenswürdige KI
Zu den sechs Grundprinzipien von Microsoft für verantwortungsvolle KI zählen Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusion, Transparenz sowie Verantwortlichkeit. Orientieren Sie sich an diesen Prinzipien, um bei der Einführung von KI in Ihrem Unternehmen eine verantwortungsvolle und vertrauenswürdige KI in Mainstreamprodukte und -dienste zu integrieren.
Prinzipien für verantwortungsbewusste KI
Microsoft verpflichtet sich, verantwortungsvolle KI-Praktiken zu fördern.
Sechs Grundprinzipien definieren verantwortungsvolle KI:
Fairness: KI-Systeme sollten alle Menschen gleich behandeln und allen dieselben Empfehlungen geben. Fairness in KI-Systemen verhindert Diskriminierung aufgrund persönlicher Merkmale.
Zuverlässigkeit und Sicherheit: KI-Systeme müssen zuverlässig, sicher und einheitlich unter verschiedenen Bedingungen funktionieren, damit Vertrauen entstehen kann.
Datenschutz und Sicherheit: KI-Systeme müssen den Datenschutz respektieren und die Sicherheit wahren, indem sie private und vertrauliche Informationen schützen. Sie müssen auch Angriffe und Versuche abwehren, die darauf abzielen, das System zu beschädigen oder zu kompromittieren.
Inklusion: KI-Systeme sollten allen Menschen dienen und alle ansprechen. Inklusive Designpraktiken können KI-Systementwickler*innen helfen, potenziell ausschließende Barrieren bei einem Produkt oder Dienst zu erkennen und zu beseitigen. Inklusion fördert Innovation und hilft bei der Gestaltung von Erfahrungen, die allen zugute kommen.
Transparenz: KI-Systeme sollten transparent und verständlich sein. KI-Systeme können Entscheidungen beeinflussen, die weitreichende Folgen für das Leben der Menschen haben. Daher müssen die Menschen wissen, wie das System zu diesen Entscheidungen gelangt.
Verantwortlichkeit:: KI-Systeme und ihre Entwickler*innen sollten verantwortungsbewusst und vertrauenswürdig sein.
Berücksichtigen Sie verantwortungsvolle KI-Prinzipien während der gesamten KI-Einführung, von der Strategie und Planung bis hin zur Implementierung. Stellen Sie sicher, dass Sie diese Prinzipien bei der Sicherung, Verwaltung und Steuerung Ihrer KI-Initiativen umsetzen.
Dieser Leitfaden zur KI-Einführung enthält Beispiele dafür, wie Ihnen das Cloud Adoption Framework für Azure bei der Implementierung verantwortungsvoller KI-Praktiken helfen kann. Die Prinzipien einer verantwortungsvollen KI sind Bestandteil der Anleitungen und Empfehlungen dieser KI-Einführung.
Die Bedeutung verantwortungsvoller KI
Verantwortungsvolle KI trägt dazu bei, die folgenden Risiken zu minimieren:
Unbeabsichtigte Folgen: Planen und überwachen Sie die Implementierung Ihrer verantwortungsvollen KI, um das Risiko unerwarteter Ergebnisse mit ethischen Auswirkungen zu reduzieren.
Entstehende Bedrohungen: Mit der Weiterentwicklung der KI-Technologie entwickeln sich auch regelmäßig neue Bedrohungen. Halten Sie sich an die Prinzipien einer verantwortungsvollen KI, um diese Bedrohungen zu minimieren und vorwegzunehmen.
Voreingenommenheit: Voreingenommenheit in KI kann eine Herausforderung sein. Doch es muss sichergestellt werden, dass KI-Systeme fair und unvoreingenommen sind. Halten Sie sich als Leitlinie an die Prinzipien für verantwortungsvolle KI.
Sensible Technologien: Technologien wie Gesichtserkennung werden als sensibel angesehen, da sie Grundfreiheiten und Menschenrechte gefährden können. Denken Sie an die Auswirkungen dieser Technologien, um sicherzustellen, dass Sie sie verantwortungsbewusst verwenden.
Umsetzung in Azure
Microsoft Azure bietet eine Reihe von Tools, Diensten und Ressourcen, mit denen Sie verantwortungsvolle KI-Systeme erstellen können.
Erstellen sicherer Systeme mit Microsoft Azure KI Inhaltssicherheit
Entdecken Sie mithilfe von Microsoft Azure KI Inhaltssicherheit schädliche benutzergenerierte und KI-generierte Inhalte in Anwendungen und Diensten. Inhaltssicherheit hilft Ihnen dabei, generierte Inhalte in Ihren KI-Anwendungen, einschließlich Texten und Bildern, zu analysieren und sicherzustellen, dass sie für Ihre Benutzer sicher und geeignet sind. Inhaltssicherheit bietet die folgenden Funktionen:
Prompt Shields scannt Text und Dokumente auf potenzielle Angriffe durch Benutzereingaben oder Jailbreaking von Large Language Models (LLMs).
Groundedness-Erkennung erkennt, ob die Textantworten eines LLM auf den von den Benutzer*innen bereitgestellten Quellmaterialien basieren.
Geschützte Materialerkennung erkennt, ob die Textantworten eines LLM geschütztes Material enthalten, z. B. urheberrechtlich geschützten Text, Songtexte, Artikel und Webinhalte.
Die API für benutzerdefinierte Kategorien (schnell) definiert aufkommende schädliche Inhaltsmuster und durchsucht Text und Bilder nach Übereinstimmungen.
Die Textanalyse-API analysiert potenziell schädlichen Textinhalt. In der Regel erkennt sie Kategorien wie Hass, Selbstverletzung und sexuelle oder gewalttätige Inhalte.
Die Bildanalyse-API analysiert potenzielle schädliche Bildinhalte. In der Regel erkennt sie Kategorien wie Hass, Selbstverletzung und sexuelle oder gewalttätige Inhalte.
Verantwortungsvolle Verwendung von KI in Azure KI Services
Microsoft stellt eine Liste der Transparenzhinweise für KI-relevante Azure-Dienste bereit. Die Liste enthält Dienste in der Azure KI Services-Suite. Weitere Informationen finden Sie unter Verantwortungsvolle Nutzung von KI mit Azure KI Services.
Verwenden des Dashboards für verantwortungsvolle KI in Azure Machine Learning
Wenn Sie Systeme mit Azure Machine Learning erstellen, können Sie das Dashboard für verantwortungsvolle KI verwenden, um Ihre KI-Systeme zu bewerten. Das Dashboard für verantwortungsvolle KI bietet eine Schnittstelle, die Sie bei der Implementierung der Prinzipien verantwortungsvoller KI unterstützt. Zu den Funktionen des Dashboards für verantwortungsvolle KI gehören:
Datenanalyse: Die Verteilungen und Statistiken Ihrer Datasets verstehen und untersuchen.
Modellübersicht und Fairnessbewertung: Die Leistung des Modells und die Probleme des Modells hinsichtlich Gruppenfairness verstehen.
Fehleranalyse: Die Verteilung von Fehlern im Dataset anzeigen und verstehen.
Modellinterpretierbarkeit: Die Vorhersagen des Modells und seine Vorgehensweise bei individuellen und allgemeinen Vorhersagen verstehen.
Kontrafaktische Was-wäre-wenn-Analyse: Feststellen, wie sich Änderungen an Features auf die Vorhersagen des Modells auswirken.
Ursachenanalyse: Anhand von historischen Daten die kausalen Auswirkungen von Behandlungsfeatures auf reale Ergebnisse betrachten.
Verantwortungsvolles Entwickeln von KI
| Resource | Beschreibung |
|---|---|
| Praktische Tools für die Erstellung effektiver Mensch-KI-Erfahrungen (HAXs) | Verwenden Sie das HAX Toolkit frühzeitig in Ihrem Entwurfsprozess, sodass Sie besser konzipieren können, wie das KI-System vorgeht und sich verhält. Verwenden Sie das HAX Toolkit für benutzerorientierte KI-Produkte. |
| Richtlinien für Gesprächs-KI | Entwerfen Sie Bots auf eine Weise, die das Vertrauen anderer verdient, um Menschen und der Gesellschaft zu helfen, ihr volles Potenzial auszuschöpfen. Verwenden Sie diese Richtlinien, um einen Bot zu erstellen, der Vertrauen in das Unternehmen aufbaut und in den Dienst, den er darstellt. |
| Richtlinien für inklusives KI-Design | Entwerfen Sie nach diesen Richtlinien alle Menschen einbeziehende und für jeden zugängliche KI. |
| Prüfliste für KI-Fairness | Ermitteln Sie anhand der Checkliste für KI-Fairness, ob Ihr KI-System fair und unvoreingenommen ist. |
| Verantwortungsvolle KI in Machine Learning | Berücksichtigen Sie diese Ressourcen für verantwortungsvolle KI, wenn Sie KI-Systeme mithilfe von Machine Learning erstellen. |