Teilen über

Verantwortungsvolle KI-Prinzipien anwenden

Zu einem KI-System gehört nicht nur die Technologie, sondern auch die Menschen, die sie nutzen, die Menschen, die von ihr betroffen sind, und die Umgebung, in der sie bereitgestellt wird. Agenten müssen sich an die Prinzipien verantwortungsvoller KI halten, um Fairness, Verantwortlichkeit, Transparenz und ethisches Verhalten zu gewährleisten.

Gestalten Sie das KI-System so, dass alle Benutzenden fair behandelt werden, Entwicklungsfachkräfte und Benutzende für seine Leistung die Verantwortung tragen, der KI-Einsatz transparent ist und ethische Standards eingehalten werden.

Microsoft engagiert sich für die Weiterentwicklung von KI auf der Grundlage von Prinzipien, die den Menschen in den Mittelpunkt stellen. Generative Modelle haben erhebliche potenzielle Vorteile, doch ohne sorgfältiges Design und durchdachte Eindämmungsmaßnahmen können solche Modell potenziell falsche oder sogar schädliche Inhalte generieren. Microsoft hat erhebliche Investitionen getätigt, um sich vor Missbrauch und unbeabsichtigten Schäden zu schützen, darunter die Einbeziehung der Grundsätze von Microsoft für den verantwortungsvollen Einsatz von verantwortungsvollen Einsatz von KI, die Verabschiedung eines Verhaltenskodex, die Entwicklung von Inhaltsfiltern zur Unterstützung von Kunden und die Bereitstellung von verantwortungsvoller KI für Informatioen und Anleitung, die Kunden bei der Verwendung generativer KI berücksichtigen. sollten.

Copilot Studio und generative KI-Funktionen folgen einer Reihe von Kernsicherheits- und Datenschutzpraktiken sowie dem Microsoft Responsible AI Standard.

Weitere Informationen:

Grundprinzipien verantwortungsvoller KI

Zu den Grundprinzipien einer verantwortungsvollen KI gehören Fairness, Verantwortlichkeit, Transparenz und Ethik. Sicherzustellen, dass ein mit Copilot Studio erstellter Agent diese Grundprinzipien einhält, umfasst mehrere wichtige Praktiken:

  • Fairness: Verwenden Sie vielfältige und repräsentative Trainingsdaten, um Verzerrungen zu minimieren. Aktualisieren Sie Trainingsdaten regelmäßig und ziehen Sie Fachkräfte hinzu, die sie auf Fairness und Prinzipien der Gleichstellung überprüfen.
  • Verantwortlichkeit: Definieren Sie klare Rollen und Verantwortlichkeiten für die Teammitglieder, die an dem KI-Projekt beteiligt sind. Legen Sie ethische Standards, die Fairness und Verantwortlichkeit in den Vordergrund stellen, fest und halten Sie sie ein.
  • Transparenz: Stellen Sie sicher, dass Nutzer wissen, dass sie einen Agenten verwenden, der generative KI-Funktionen nutzt. Kommunizieren Sie klar und deutlich, warum Sie sich für eine KI-Lösung entschieden haben, wie sie konzipiert wurde und wie sie überwacht und aktualisiert wird.
  • Ethik: Fördern Sie eine integrative Belegschaft und holen Sie frühzeitig im Entwicklungsprozess Input von verschiedenen Gemeinschaften ein. Bewerten und testen Sie Modelle regelmäßig auf ethische Bedenken und Leistungsunterschiede. Legen Sie einen Governance-Rahmen fest, zu dem auch regelmäßige Prüfungen gehören.

Integrieren Sie diese Praktiken in Ihre Entwicklungs- und Bereitstellungsprozesse, um Agenten zu schaffen, die den Kernprinzipien verantwortungsvoller KI entsprechen.

Datenschutz und Sicherheit

Die Gewährleistung des Datenschutzes ist entscheidend, insbesondere da der Agent möglicherweise mit sensiblen Daten umgeht. Bei der Planung eines Agenten mit Copilot Studio ist es wichtig, mehrere zentrale Risiken anzugehen und wirksame Minderungsstrategien umzusetzen:

  • Plattformfunktionen: Verstehen Sie native Steuerelemente und Plattformfunktionen, die Ihre Daten schützen. Lesen Sie die FAQs zu Responsible AI für Copilot Studio , um spezifische KI-Systeme und -Funktionen, die Microsoft entwickelt, besser zu verstehen.
  • Datenverschlüsselung: Dienstseitige Technologien verschlüsseln Unternehmensinhalte sowohl im Ruhezustand als auch während der Übertragung und sorgen so für eine robuste Sicherheit. Verbindungen werden durch Transport Layer Security (TLS) geschützt und Datenübertragungen zwischen Dynamics 365, Power Platform und Azure OpenAI erfolgen über das Microsoft-Backbone-Netzwerk, womit Zuverlässigkeit und Sicherheit gewährleistet werden. Mehr erfahren über Verschlüsselung in der Microsoft Cloud.
  • Zugriffskontrollen: Daten werden einem Agenten basierend auf der Zugriffsstufe des aktuellen Benutzers zur Verfügung gestellt. Implementieren Sie die rollenbasierte Zugriffssteuerung (RBAC) mithilfe von Microsoft Entra ID, um sicherzustellen, dass nur autorisierte Benutzer auf Daten zugreifen können. Wenden Sie das Prinzip der geringstmöglichen Berechtigungen an, um den Zugriff auf das Notwendige zu beschränken. Überprüfen Sie die Leitlinien, wie Sie Ihre Copilot Studio-Projekte sowie die wichtigsten Sicherheits- und Governance-Konzepte von Copilot Studio sichern können.
  • Überwachung und Audit: Erkennen und reagieren Sie auf potenzielle Sicherheitsvorfälle, indem Sie regelmäßig den Zugriff und die Nutzung des Agenten überwachen. Pflegen Sie detaillierte Überwachungsprotokolle, um Datenzugriffe und -Änderungen zu verfolgen.
  • Compliance und Governance: Stellen Sie die Einhaltung relevanter Datenschutzbestimmungen wie DSGVO (Datenschutz-Grundverordnung), HIPAA (Health Insurance Portability and Accountability Act) und CCPA (California Consumer Privacy Act) sicher. Implementieren Sie ethische KI-Praktiken, um bei den KI-Ergebnissen Verzerrungen zu vermeiden und Fairness zu gewährleisten.
  • Benutzerschulung und -ausbildung: Trainieren Sie Benutzer für Best Practices für die Sicherheit und die Bedeutung des Datenschutzes. Halten Sie die Benutzenden über Aktualisierungen und Änderungen an Sicherheitsrichtlinien und -verfahren auf dem Laufenden.

Bewusstsein für Verzerrungen und Minderung

Erkennen Sie, wie wichtig es ist, Verzerrungen im System anzugehen, und sorgen Sie für Fairness, um Verzerrungen bei KI-Antworten zu vermeiden.

  • Vielfältige und repräsentative Daten: Stellen Sie sicher, dass die Trainingsdaten vielfältig und repräsentativ für verschiedene demografische Merkmale sind, um inhärente Verzerrungen zu minimieren. Prüfen Sie die Daten regelmäßig auf Verzerrungen und Ungleichgewichte und ergreifen Sie bei Bedarf Gegenmaßnahmen.
  • Tools zur Erkennung und Minderung von Verzerrungen: Verwenden Sie Tools und Techniken, um Verzerrungen in den KI-Modellen zu erkennen, z. B. statistische Analysen und Fairness-Metriken. Implementieren Sie Debiasing-Techniken, einschließlich Resampling, Reweighting oder Adversarial Debiasing, um Verzerrungen in den Modellen zu reduzieren.
  • Human-in-the-Loop: Integrieren Sie menschliche Überprüfungs- und Feedbackschleifen, um Verzerrungen zu identifizieren und zu korrigieren, die die KI möglicherweise einführt. Richten Sie einen Ethikausschuss oder ein Governance-Board ein, um die Entwicklung und den Einsatz von KI zu überwachen und sicherzustellen, dass ethische Standards eingehalten werden.
  • Transparenz und Vertrauen: Stellen Sie sicher, dass Nutzer wissen, dass sie einen Agenten nutzen, der generative KI-Funktionen nutzt. Kommunizieren Sie klar und deutlich, warum Sie sich für eine KI-Lösung entschieden haben, und stellen Sie Informationen dazu bereit, wie sie konzipiert wurde und wie sie überwacht und aktualisiert wird.
  • Kontinuierliche Überwachung und Verbesserung: Überwachen Sie das KI-System kontinuierlich auf Verzerrungen und Leistungsprobleme und aktualisieren Sie die Modelle nach Bedarf. Stellen Sie sicher, dass die Modelle fair und von Verzerrungen frei bleiben, indem Sie sie regelmäßig mit aktualisierten und vielfältigeren Daten neu trainieren.

Laufende Überwachung und Evaluierung

Verbessern Sie weiterhin Ihren Agenten. Schaffen Sie einen Rahmen für kontinuierliche Überwachung und Bewertung und integrieren Sie Nutzerfeedback sowie sich entwickelnde ethische Standards in Aktualisierungen.

  • Feedbackschleifen: Richten Sie Feedback-Mechanismen ein, in denen Benutzer Ungenauigkeiten melden können, die dann zur Verfeinerung und Verbesserung der Modelle verwendet werden können.
  • Überwachung und Prüfung: Erkennen und reagieren Sie auf potenzielle Sicherheitsvorfälle, indem Sie den Zugriff und die Nutzung des KI-Systems regelmäßig überwachen. Pflegen Sie detaillierte Überwachungsprotokolle, um Datenzugriffe und -Änderungen zu verfolgen.

Nächster Schritt

Nutzen Sie die Zusammenfassungscheckliste, um zu prüfen, ob Ihr Projekt bereit ist, zur Umsetzung überzugehen, und wenden Sie Best-Practice-Callouts an, um Ihren Projektansatz vor dem Übergang in die Implementierungsphase zu verfeinern.

Überprüfen Sie die Plan-Checkliste

  • Last updated on