Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Verantwortungsvolle KI wird durch eine Reihe von Prinzipien geleitet, die definieren, wie KI-Systeme funktionieren sollen. Diese Prinzipien konzentrieren sich auf Fairness, Zuverlässigkeit, Sicherheit, Datenschutz, Sicherheit, Inklusion, Transparenz und Rechenschaftspflicht. Sie legen die Standards fest, die steuern, wie Microsoft Risiken auswertet, KI-Features entwirft und das verantwortungsvolle Systemverhalten gewährleistet.
Das Anwenden dieser Prinzipien auf das Agentdesign trägt dazu bei, unbeabsichtigte Schäden wie Voreingenommenheit, Fehlinformationen oder Datenschutzverletzungen zu verhindern. Sie unterstützt auch die Benutzervertrauensstellung und die langfristige Einführung. Durch die Einhaltung dieser Richtlinien können Sie KI-Agents erstellen, die effektiv ausgeführt werden, während sie die Integritätsstandards einhalten und respektieren, die Benutzer und Gesellschaft von Microsoft Produkten erwarten.
Dieser Artikel bietet eine allgemeine Einführung in verantwortungsvolle KI im Kontext des Entwurfs von Agenten. Umfassende Anleitungen finden Sie unter Microsoft verantwortungsvolle KI-Prinzipien und -Ansätze.
Verantwortungsvolle KI-Prinzipien
Verantwortungsvolle KI-Prinzipien führen dazu, wie Sie Agents in Microsoft 365 Copilot entwerfen, erstellen und betreiben. Sie richten einen gemeinsamen Standard für Agentverhalten, Datenverarbeitung und Benutzerinteraktion ein, um sicherzustellen, dass KI-Systeme vertrauenswürdig, sicher und an menschliche Werte ausgerichtet sind.
Diese Prinzipien gelten für den gesamten Agent-Lebenszyklus, vom Entwurf und der Entwicklung bis hin zur Bereitstellung und fortlaufenden Verwendung. Sie informieren Entscheidungen über Interaktionsdesign, Modell- und Wissensauswahl, Autonomie, Sicherheit und Governance. Indem Sie diese Prinzipien befolgen, stellen Sie sicher, dass Agenten verantwortungsbewusst Wert liefern und gleichzeitig die Benutzervertrauensstellung und die langfristige Akzeptanz beibehalten.
| Prinzip | Was dies für den Agententwurf bedeutet |
|---|---|
| Fairness | KI-Systeme sollten für alle Benutzer konsistente und gerechte Ergebnisse liefern. Das Verhalten von Agenten muss vermeiden, aufgrund sensibler Merkmale oder des Nutzerkontexts zu unfairer Behandlung zu führen oder diese zu verstärken. |
| Zuverlässigkeit und Sicherheit | KI-Systeme sollten für eine Vielzahl von Bedingungen wie vorgesehen ausgeführt werden. Agents müssen Variationen, Grenzfälle und unerwartete Eingaben so handhaben, dass ein sicheres und vorhersehbares Verhalten gewährleistet wird. |
| Datenschutz und Sicherheit | KI-Systeme müssen Benutzerdaten schützen und die etablierten Datenschutz- und Sicherheitsanforderungen respektieren. Agents sollten nur Informationen verwenden, auf die sie autorisierten Zugriff haben, und diese Informationen verantwortungsvoll behandeln. |
| Inklusivität | KI-Systeme sollten alle Benutzer befähigen und vielfältige Anforderungen erfüllen. Die Agenten sollten Barrierefreiheit, Sprachvariation und unterschiedliche Technische Kenntnisse berücksichtigen, um eine inklusive Erfahrung zu gewährleisten. |
| Transparency | KI-Systeme sollten ihre Fähigkeiten und Einschränkungen deutlich machen. Agenten müssen klar vermitteln, was sie tun können, wie Informationen verwendet werden und wie Ergebnisse erzeugt werden, damit Benutzer fundierte Entscheidungen treffen können. |
| Verantwortlichkeit | KI-Systeme erfordern eine klare Aufsicht. Teams, die Agents entwickeln, sind dafür verantwortlich, sicherzustellen, dass das System den Grundsätzen der verantwortlichen KI entspricht, complianceanforderungen erfüllt und unter angemessener menschlicher Governance arbeitet. |
Anwenden von verantwortungsvoller KI in der Agententwicklung
Microsoft verwendet ein strukturiertes Modell, um verantwortungsvolle KI-Prinzipien während der gesamten Entwicklung von KI-Agenten zu integrieren. Dieses Modell hilft Teams dabei, Risiken zu erkennen, die richtigen Gegenmaßnahmen zu finden und das verantwortungsvolle Verhalten während des gesamten Lebenszyklus des Agenten beizubehalten.
Als Designer beeinflussen Ihre Entscheidungen direkt, wie diese Funktionen erfüllt werden. Die folgenden Schlüsselfunktionen beschreiben, wie verantwortungsvolle KI in die Praxis umgesetzt wird:
| Funktion | Beschreibung |
|---|---|
| Govern | Richtet die Richtlinien, Rollen und Prozesse ein, die Teams beim Entwerfen und Bereitstellen von Agents befolgen. Governance gewährleistet die Übereinstimmung mit den Prinzipien verantwortungsvoller KI und schafft klare Verantwortlichkeiten. |
| Landkarte | Identifiziert und priorisiert potenzielle Risiken, die mit einem KI-Szenario verbunden sind. Die Zuordnung ermöglicht fundierte Entscheidungen zu Entschärfungsstrategien und hilft zu bestimmen, ob eine KI-Lösung für den vorgesehenen Kontext geeignet ist. |
| Messung | Wertet Risiken und Systemleistung aus, um den Entwurf und die Verfeinerung von Entschärfungen zu unterstützen. Die Messung ist unerlässlich, da KI-Fähigkeiten in Komplexität wachsen und eine laufende Bewertung erfordern. |
| Verwalten | Wendet Risikominderungen während der gesamten Bereitstellung und des fortgesetzten Betriebs an und verwaltet sie. Teams überwachen das Systemverhalten und passen die Abhilfemaßnahmen nach Bedarf an, um sicherzustellen, dass Agenten dauerhaft verantwortungsvoll handeln. |
KI-Transparenz- und Sicherheitsfilter
Transparenz ist ein Eckpfeiler verantwortungsvoller KI. Kommunizieren Sie beim Entwerfen von Agenten klar die Anwesenheit und Rolle von KI innerhalb der Produkterfahrung. Informieren Sie Benutzer über den Zweck, die Funktionen, Einschränkungen und potenziellen Risiken des Agents. Diese Transparenz ermöglicht es den Benutzern, fundierte Entscheidungen zu treffen und das Vertrauen in das System zu fördern.
Praktische Implementierungen der Transparenz umfassen Transparenzhinweise und produktinterne Offenlegungen, die erläutern, wie die KI funktioniert und was Benutzer erwarten können. Beispielsweise verwendet der Agent in der Geschäftschaterfahrung klare Indikatoren, z. B. "KI-generierte Inhalte sind möglicherweise falsch", um geeignete Erwartungen festzulegen und die verantwortungsvolle Verwendung zu unterstützen.
Sicherheitsfilter
Sicherheitsfilter tragen dazu bei, sicherzustellen, dass Sich Agents auf geeignete, respektvolle Weise verhalten und sich an die Prinzipien der verantwortungsvollen KI Microsoft ausrichten. Diese Sicherheitsvorkehrungen verringern das Risiko schädlicher, verzerrter oder irreführender Ausgaben und schützen zugleich die Privatsphäre der Nutzer sowie sensible Informationen während der gesamten Interaktion.
Agents, die auf Copilot basieren, erben die verantwortungsvollen KI-Verpflichtungen von Microsoft, die sich auf Fairness, Zuverlässigkeit, Datenschutz und Transparenz konzentrieren. Sicherheitsfilter spielen eine wichtige Rolle bei der Durchsetzung dieser Verpflichtungen, indem sie steuern, wie Agents auf Benutzereingaben reagieren, vertrauliche Themen behandeln und den Zugriff auf Daten verwalten.
Important
Als Designer konfigurieren Sie keine Sicherheitsfilter direkt. Microsoft erzwingt sie auf Plattformebene. Allerdings stärken oder untergraben Ihre Designentscheidungen in Bezug auf Ton, Umfang und Transparenz direkt das Vertrauen, das durch Sicherheitsfilter geschützt werden soll.
Durch die konsequente Anwendung von Sicherheitsfiltern können Agenten das Vertrauen und die Zuversicht der Nutzer stärken. Benutzer können sich besser auf Agentenantworten verlassen, da sie wissen, dass Sicherheitsvorkehrungen vorhanden sind, um verantwortungsvolles Verhalten und ethische Nutzung von KI zu fördern.
Tip
Umfassende Anleitungen zum Verantwortungs-KI-Ansatz von Microsoft, einschließlich detaillierter Prinzipien, Governanceframeworks und Transparenzberichterstattung, finden Sie unter Microsoft verantwortungsvolle KI-Prinzipien und -Ansatz.