Steuern Azure Plattformdienste (PaaS) für KI

In diesem Artikel werden Governancepraktiken für Organisationen beschrieben, die Azure KI-Plattform-as-a-Service-Lösungen (PaaS) verwenden. Diese Methoden helfen Ihnen, verantwortungsvolle KI-Systeme zu erstellen und Sicherheits-, Kosten- und Compliancerisiken zu reduzieren. Effektive Governance stellt sicher, dass Ihre KI-Investitionen ihren Geschäftszielen entsprechen.

Verwalten von KI-Plattformen

Die Governance der KI-Plattform nutzt Richtlinien zur Steuerung, um Foundry-Tools durchgehend konsistent zu betreiben. Plattformbasierte Governance erzwingt Sicherheit, Compliance und betriebliche Standards in Ihrer KI-Umgebung. Implementieren Sie umfassende Richtlinien, um die Aufsicht aufrechtzuerhalten und das KI-Management zu verbessern. Führen Sie die folgenden Schritte aus, um Azure KI-Plattformen zu steuern:

1. Wenden Sie integrierte Governancerichtlinien für jede KI-Plattform an. Azure Policy bietet vordefinierte Richtliniendefinitionen für allgemeine Governanceanforderungen in KI-Diensten. Diese Richtlinien erzwingen Sicherheitseinstellungen, Kostenkontrollen und Complianceanforderungen ohne benutzerdefinierte Entwicklung. Verwenden Sie Azure Policy, um integrierte Richtliniendefinitionen für Folgendes anzuwenden:

• Microsoft Foundry
• Gießereiwerkzeuge
• Azure KI-Suche

2. Aktivieren Sie Azure KI-Richtlinien für die Zielzone für eine umfassende Abdeckung. Azure Zielzonen bieten kuratierte Richtliniensätze für workload-spezifische Governance. Diese Richtlinien verwenden getestete Konfigurationen, die Microsoft Empfehlungen für KI-Workloads befolgen. Wenn Sie eine Azure-Zielzone bereitstellen, wählen Sie die Richtlinieninitiative aus der Kategorie Workload Specific Compliance aus. Folgende Optionen sind verfügbar:

• Azure OpenAI
• Azure Machine Learning
• Azure KI-Suche
• Azure KI Bot Service

Verwalten von KI-Modellen

Modellgovernance legt Steuerelemente fest, um KI-Modelle sicher, zuverlässig und ethisch zu halten. Sie verwendet Azure Policy, um einzuschränken, welche Modelle bereitgestellt werden können. Inhaltssicherheitsfilter blockieren schädliche oder unangemessene Ausgaben. Klare Regeln für Eingaben und Ausgaben verhindern Missbrauch und schützen vor schädlichen Inhalten. Diese Maßnahmen gewährleisten die Einhaltung von Vorschriften und unterstützen die verantwortungsvollen KI-Prinzipien. Die kontinuierliche Überwachung durch Monitoring, Prüfungen und Richtlinienüberprüfungen schützt Benutzer und schafft Vertrauen. Führen Sie die folgenden Schritte aus, um KI-Modelle zu steuern:

1. Erstellen und Verwalten eines KI-Agentenbestands. Microsoft Entra-Agent-ID bietet Ihnen eine zentrale Ansicht und Verwaltung von KI-Agents, die in Foundry und Copilot Studio erstellt wurden. Durch die Aufrechterhaltung eines vollständigen Inventars können Sie Zugriffskontrollen erzwingen und die Richtliniencompliance in Ihrer Organisation überwachen. Verwenden Sie Microsoft Entra-Agent-ID, um Ihre KI-Agents nachzuverfolgen und zu verwalten.

2. Erzwingen Sie Modelleinschränkungen. mit Azure Policy können Sie steuern, welche KI-Modelle Ihre Organisation verwendet. Wenden Sie modellspezifische Richtlinien in Foundry an, um die Standards und Anforderungen Ihrer Organisation zu erfüllen.

3. Implementieren Sie KI-Risikoerkennungsprozesse. Verwenden Sie Defender for Cloud, um AI-Workloads zu ermitteln und Risiken zu bewerten vor der Bereitstellung. Führen Sie regelmäßige rote Teambewertungen für generative KI-Modelle aus. Dokumentieren Sie Ihre Ergebnisse und aktualisieren Sie Governancerichtlinien, um neue Risiken zu bewältigen.

   Schritt	Action	Beschreibung
   Aktivieren der KI-Workload-Erkennung in Defender für Cloud	Verwenden Sie Defender for Cloud, um KI-Workloads zu identifizieren und Risiken vor der Bereitstellung zu bewerten.	In diesem Schritt wird sichergestellt, dass die KI-Workloads sichtbar sind und potenzielle Sicherheitsrisiken frühzeitig erkannt werden.
   Planen Sie regelmäßige Red-Team-Bewertungen	Führen Sie regelmäßig rote Teambewertungen von generativen KI-Modellen durch.	Regelmäßige Bewertungen helfen dabei, Schwachstellen zu erkennen und den Sicherheitsstatus von KI-Modellen zu verbessern.
   Dokumentieren und Nachverfolgen identifizierter Risiken	Führen Sie einen Überblick über risiken, die während der Bewertungen ermittelt wurden.	Das Nachverfolgen von Risiken gewährleistet die Rechenschaftspflicht und unterstützt eine kontinuierliche Verbesserung der Governancerichtlinien.
   Aktualisieren von Richtlinien basierend auf Ergebnissen	Überarbeiten Sie Governancerichtlinien, um neu identifizierte Risiken zu beheben.	Richtlinienupdates stellen sicher, dass Governance-Maßnahmen wirksam bleiben und mit den aktuellen Risiken in Einklang stehen.

4. Wenden Sie Inhaltssicherheitskontrollen auf alle Modelle an.Azure KI Inhaltssicherheit bietet Filter, die die Generierung schädlicher Inhalte verhindern. Durch die konsequente Anwendung dieser Kontrollen werden Sicherheitsstandards beibehalten und rechtliche Risiken durch unangemessene KI-Ausgaben reduziert.

5. Wenden Sie Techniken zum Modell-Grounding an. Steuern der KI-Modell-Ausgaben mithilfe von Systemmeldungen und abrufgestützter Generierung (RAG). RAG kombiniert KI-Modellausgaben mit Informationen, die aus externen Quellen abgerufen werden, um die Genauigkeit und Relevanz zu verbessern. Beispielsweise kann RAG eine Wissensbasis verwenden, um genauere Antworten auf Benutzerabfragen bereitzustellen. Testen Sie die Bodenwirkung mit Werkzeugen wie PyRIT um sicherzustellen, dass Modelle konsistent und angemessen reagieren.

Verwalten von KI-Kosten

Kostenverwaltungskontrollen tragen dazu bei, unnötige KI-Ausgaben zu vermeiden und die betriebliche Effizienz zu maximieren. Effektive Kontrollen halten KI-Investitionen an Geschäftsziele ausgerichtet und verhindern Budgetüberläufe von Ressourcenmissbrauch. Implementieren Sie finanzielle Aufsicht und Ressourcenoptimierung, um kostenwirksame KI-Vorgänge aufrechtzuerhalten. Führen Sie die folgenden Schritte aus, um KI-Kosten zu verwalten und zu steuern:

1. Wählen Sie das entsprechende Abrechnungsmodell für Ihre Workloadmuster aus. Verpflichtungsstufen und bereitgestellter Durchsatz bieten vorhersehbare Kosten für stabile Workloads. Provisioned-Durchsatzeinheiten (PTUs) sind eine Abrechnungsoption in Azure OpenAI, die eine festgelegte Menge an Compute-Ressourcen für vorhersehbare Kosten reservieren und in der Regel weniger kosten als die Preise im Pay-as-you-go-Modell bei konstanter Nutzung. Um Lastspitzen effizient zu bewältigen, kombinieren Sie PTU-Endpunkte mit verbrauchsbasierten Endpunkten. Verwenden Sie PTUs für primäre Endpunkte und verbrauchsbasierte Endpunkte für Überlaufverkehr. Weitere Anleitungen finden Sie unter Einführen eines Gateways für mehrere Azure OpenAI-Instanzen.

2. Wählen Sie Modelle aus, die den Anforderungen entsprechen, ohne das Budget zu überschreiten. Die Modellauswahl wirkt sich sowohl auf Kosten- als auch auf Funktionsanforderungen aus. Weniger teure Modelle liefern häufig genügend Leistung für viele Anwendungsfälle, ohne dass die benötigten Funktionen verloren gehen. Für Informationen zu Foundry, sehen Sie Foundry-Preise und Modellabrechnungsinformationen an. Verwenden Sie Azure-Policy-Definitionen, um spezifische Modelle zuzulassen, die Ihren Kostenanforderungen entsprechen.

3. Legen Sie Kontingente und Grenzwerte fest, um Kostenüberläufe zu verhindern. Bereitstellungskontingente steuern die Ressourcenzuordnung und verhindern unerwartete Gebühren. Weisen Sie Kontingente für jedes Modell basierend auf erwarteten Workloads zu. Überwachen Sie Kontingente regelmäßig, um sicherzustellen, dass sie der tatsächlichen Nachfrage entsprechen. Passen Sie Kontingente nach Bedarf an, um den optimalen Durchsatz zu gewährleisten, ohne zu viel Geld auszugeben.

4. Wählen Sie kostenwirksame Bereitstellungsoptionen aus. Foundry-Modelle bieten verschiedene Bereitstellungsoptionen. Wählen Sie die kostengünstigste und kompatible Option für Ihren Anwendungsfall aus.

5. Steuern von Clientnutzungsmustern. Das Kundenverhalten wirkt sich direkt auf die Verbrauchskosten in Pay-per-Use-Diensten aus. Beschränken des Clientzugriffs mithilfe von Sicherheitsprotokollen, z. B.:

• Steuerelemente für das Netzwerk
• Schlüssel
• Rollenbasierte Zugriffssteuerung (Role-Based Access Control, RBAC)

Durchsetzung von API-Beschränkungen, einschließlich:

• Maximale Token
• Maximale Fertigstellung

Batchanforderungen, wenn möglich, um die Effizienz zu optimieren. Halten Sie Aufforderungen präzise, und stellen Sie nur den erforderlichen Kontext bereit, um den Tokenverbrauch zu reduzieren.

6. Automatisieren Sie das Herunterfahren von Ressourcen für nicht-produktive Arbeitslasten. Das automatische Herunterfahren verhindert unnötige Berechnungskosten während Leerlaufzeiten. Definieren und erzwingen Sie Richtlinien, die KI-Ressourcen erfordern, um automatische Herunterfahren-Features auf virtuellen Computern zu verwenden und Instanzen in Foundry und Azure Machine Learning zu berechnen. Wenden Sie das automatische Herunterfahren auf nicht-produktive Umgebungen an. Wenden Sie sie auch auf Produktionsworkloads an, die während bestimmter Zeiträume offline gehen können.

7. Implementieren Sie Gateway-Steuerelemente für das Kostenmanagement. Ein generatives KI-Gateway bietet zentrale Kostensteuerungen für KI-Endpunkte. Das Gateway verfolgt die Tokennutzung, drosselt den Verbrauch, wendet Schaltkreisschalter an und leitet Datenverkehr an verschiedene Endpunkte weiter, um Kosten zu optimieren. Sie können z. B. ein generatives KI-Gateway verwenden, um die Tokennutzung während der Spitzenzeiten zu begrenzen und Anforderungen an weniger teure Endpunkte weiterzuleiten.

Weitere Anleitungen zur Kostenverwaltung finden Sie unter Verwalten von KI-Kosten und Kostenoptimierung in der Basisarchitektur des Foundry-Chats.

Steuern der KI-Sicherheit

KI-Governance schützt KI-Workloads vor Bedrohungen für Daten, Modelle oder Infrastruktur. Sicherheitskontrollen verhindern unbefugten Zugriff und Datenschutzverletzungen. Implementieren Sie umfassende Sicherheitsmaßnahmen, um die Integrität und Zuverlässigkeit Ihrer KI-Lösungen aufrechtzuerhalten. Führen Sie die folgenden Schritte aus, um die KI-Sicherheit zu steuern:

1. Aktivieren Sie umfassende Bedrohungserkennung für alle KI-Ressourcen. Microsoft Defender for Cloud bietet Sicherheitsüberwachung und Bedrohungserkennung für KI-Workloads. Dieser Dienst identifiziert Fehlkonfigurationen und Sicherheitsrisiken, bevor sie zu Sicherheitsrisiken werden. Aktivieren Sie Defender for Cloud für jedes Abonnement, und aktivieren Sie AI Threat Protection, um KI-spezifische Sicherheitsrisiken zu überwachen.

2. Implementieren Sie die Zugriffssteuerungen für die geringsten Berechtigungen. Rollenbasierte Zugriffssteuerung (RBAC) ist eine Sicherheitsmethode, die Benutzerberechtigungen nur auf die erforderlichen Elemente beschränkt. Dieser Ansatz reduziert die Angriffsfläche und verhindert nicht autorisierten Zugriff auf sensible KI-Ressourcen. Weisen Sie die Leserrolle standardmäßig allen Benutzern zu. Erhöhen Sie Benutzer nur dann zur Rolle "Mitwirkender", wenn für die Entwicklungsarbeit mehr Berechtigungen erforderlich sind. Verwenden Sie benutzerdefinierte Rollen , wenn integrierte Rollen übermäßige Berechtigungen bereitstellen. Erstellen Sie beispielsweise eine benutzerdefinierte Rolle, die den Zugriff nur auf bestimmte AI-Modellendpunkte zulässt.

3. Verwenden Sie verwaltete Identitäten für die Dienstauthentifizierung. Verwaltete Identitäten entfernen die Notwendigkeit, Anmeldeinformationen in Code- oder Konfigurationsdateien zu speichern. Dieser Ansatz reduziert anmeldeinformationsdiebstahlrisiken und vereinfacht die Authentifizierungsverwaltung. Implementieren Sie managed Identity für alle unterstützten Azure Dienste, die auf KI-Modellendpunkte zugreifen. Gewähren Sie den geringsten Berechtigungszugriff auf Anwendungsressourcen.

4. Wenden Sie just-in-time-Zugriff auf Administrative Vorgänge an. Privileged Identity Management (PIM) bietet temporären erhöhten Zugriff auf Ressourcen für Administrative Aufgaben. Dieser Ansatz minimiert die Belichtungszeit für Konten mit hohen Rechten und reduziert Sicherheitsrisiken. Verwenden Sie Privileged Identity Management für den administrativen Zugriff auf KI-Ressourcen. Erfordern Sie Genehmigungsworkflows für sensible Vorgänge, z. B. das Ändern des Zugriffs auf Produktions-KI-Modelle.

5. Sicherer Netzwerkzugriff auf KI-Endpunkte. Netzwerksteuerelemente verhindern nicht autorisierten Zugriff auf KI-Dienste von nicht vertrauenswürdigen Netzwerken. Private Endpunkte und die Integration virtueller Netzwerke schützen KI-Ressourcen vor internetbasierten Angriffen. Konfigurieren sie private Endpunkte für Foundry Tools. Verwenden Sie Virtuelle Netzwerkdienstendpunkte , um den Zugriff auf genehmigte Netzwerke einzuschränken.

Steuern von KI-Vorgängen

Die KI-Betriebsführung legt Steuerelemente für die Verwaltung und Wartung von KI-Diensten fest, um eine stabile Leistung zu gewährleisten. Diese Steuerelemente bieten langfristige Zuverlässigkeit und konsistenten Geschäftswert von KI-Investitionen. Implementieren Sie zentrale Aufsichts- und Kontinuitätspläne, um Ausfallzeiten zu verhindern und die betriebliche Effektivität aufrechtzuerhalten. Führen Sie die folgenden Schritte aus, um KI-Vorgänge zu steuern:

1. Einrichten von Modelllebenszyklusverwaltungsrichtlinien. Modellversionsrichtlinien sorgen für Kompatibilität und reibungslose Übergänge zwischen Updates. Die Versionssteuerung verhindert Unterbrechungen, wenn Modelle aktualisiert oder eingestellt werden. Außerdem wird die Systemstabilität über Bereitstellungen hinweg beibehalten. Erstellen Sie Richtlinien, die Modellversionsverwaltungsstandards, Kompatibilitätstestanforderungen und Rollbackverfahren für alle KI-Plattformen in Ihrer Organisation definieren. Verwenden Sie beispielsweise Azure Policy, um einzuschränken, welche Modelle für die Bereitstellung verfügbar sind. Wenden Sie Sicherheitsfilter für Inhalte an, um schädliche Ausgaben zu verhindern. Wenn ein Modell aktualisiert wird und Probleme auftreten, verwenden Sie Rollbackprozeduren, um die vorherige Version wiederherzustellen.

2. Implementieren Sie Geschäftskontinuitäts- und Notfallwiederherstellungspläne. Notfallwiederherstellungspläne schützen KI-Vorgänge vor Dienstunterbrechungen und Datenverlust. Konfigurieren Sie z. B. Sicherung und Failover für Azure AI-Modellendpunkte, um die Dienstverfügbarkeit während Ausfällen aufrechtzuerhalten. Diese Pläne tragen dazu bei, dass Geschäftsvorgänge während Ausfällen fortgesetzt werden und die Dienstverfügbarkeit für kritische KI-Workloads beibehalten werden. Konfigurieren der grundlegenden Notfallwiederherstellung für Ressourcen, die AI-Modelendpunkte hosten, einschließlich:

• Foundry
• Azure OpenAI
• Gießerei-Werkzeuge

3. Konfigurieren Sie die Überwachung und Warnung für KI-Workloads. Basiskennzahlen bieten eine frühe Warnung vor Leistungsverschlechterung und betrieblichen Problemen, bevor sie die Benutzer betreffen. Warnungsregeln ermöglichen proaktive Reaktionen, um Dienstunterbrechungen zu verhindern. Aktivieren Sie empfohlene Warnungsregeln für Azure KI-Suche, Foundry Agent Service-Bereitstellungen und einzelne Foundry Tools.

Steuern der Einhaltung gesetzlicher Bestimmungen für KI

Die Einhaltung gesetzlicher Vorschriften von KI legt Kontrollen fest, um Branchenstandards und gesetzliche Anforderungen für KI-Bereitstellungen zu erfüllen. Compliance-Kontrollen reduzieren Haftungsrisiken, schaffen Vertrauen in die Projektbeteiligten und tragen dazu bei, behördliche Sanktionen zu vermeiden. Implementieren Sie systematische Complianceprozesse, um die regulierungsrechtliche Ausrichtung aufrechtzuerhalten und verantwortungsvolle KI-Praktiken zu demonstrieren. Führen Sie die folgenden Schritte aus, um die Einhaltung gesetzlicher KI-Vorschriften zu steuern:

1. Automatisieren Sie Compliancebewertungs- und Verwaltungsprozesse. Microsoft Purview Compliance Manager bietet eine zentrale Compliancenachverfolgung in cloudbasierten Umgebungen. Die automatisierte Bewertung reduziert die manuelle Aufsicht und stellt eine konsistente Complianceüberwachung sicher. Verwenden Sie Microsoft Purview Compliance Manager, um den Compliancestatus zu bewerten. In Azure Policy anwenden Sie Initiativen zur Einhaltung gesetzlicher Bestimmungen für Ihre Branchenanforderungen.

2. Entwickeln branchenspezifischer Compliance-Frameworks. Die gesetzlichen Anforderungen variieren je nach Branche und geografischen Standorten. Angepasste Compliance-Frameworks adressieren spezifische Verpflichtungen für Ihren Geschäftskontext. Erstellen Sie Compliance-Checklisten, die regulatorische Anforderungen für Ihre Branche widerspiegeln. Verwenden Sie Standards wie ISO/IEC 23053:2022 (Framework for Artificial Intelligence Systems Using Machine Learning), um Richtlinien zu überwachen, die auf Ihre KI-Workloads angewendet werden. Wenn Sie beispielsweise im Gesundheitswesen arbeiten, schließen Sie HIPAA-Anforderungen in Ihre Compliance-Checkliste ein.

Verwalten von KI-Daten

KI-Daten-Governance schützt vertrauliche Informationen und geistiges Eigentum und trägt dazu bei, qualitativ hochwertige KI-Ergebnisse sicherzustellen. Datenkontrollen verhindern nicht autorisierten Zugriff und verwalten die Einhaltung gesetzlicher Vorschriften für KI-Workloads. Implementieren Sie umfassende Datenschutzmaßnahmen zum Schutz des Datenschutzes und zur Aufrechterhaltung der Integrität von KI-Lösungen. Führen Sie die folgenden Schritte aus, um KI-Daten zu steuern:

1. Implementieren Sie zentralisierte Datenermittlung und -klassifizierung. Microsoft Purview bietet einheitliche Datengovernance über Organisationssysteme hinweg. Die zentralisierte Klassifizierung gewährleistet konsistente Standards für die Datenverarbeitung und die Einhaltung gesetzlicher Vorschriften. Verwenden Sie Microsoft Purview, um Daten aus Systemen in Ihrer Organisation zu scannen, zu katalogisieren und zu klassifizieren. Implementieren Sie Microsoft Purview SDKs, um Compliancerichtlinien programmgesteuert durchzusetzen. Verwenden Sie beispielsweise das SDK, um vertrauliche Daten automatisch zu markieren und den Zugriff basierend auf der Klassifizierung einzuschränken.

2. Behalten Sie Datensicherheitsgrenzen über KI-Systeme hinweg bei. Sicherheitsgrenzen verhindern, dass vertrauliche Informationen nicht autorisierte KI-Endpunkte erreichen. Indizierungsprozesse können vorhandene Sicherheitskontrollen in Bezug auf Datenquellen entfernen. Stellen Sie vor der Verwendung von Daten in KI-Anwendungen sicher, dass daten, die in KI-Modelle aufgenommen wurden, den Klassifizierungsstandards entsprechen und eine Sicherheitsüberprüfung bestanden haben.

3. Verhindern Sie Urheberrechtsverletzungen in KI-Ausgaben. Inhaltsfiltersysteme verhindern Verletzungen des geistigen Eigentums in von KI generierten Inhalten. Der Urheberrechtsschutz reduziert rechtliche Risiken und unterstützt ethische KI-Praktiken. Verwenden Sie Schutzmaterialerkennung in Azure KI Inhaltssicherheit, um urheberrechtlich geschützte Materialien zu filtern. Stellen Sie sicher, dass Schulungs- oder Feinabstimmungsdaten legal erworbene und ordnungsgemäß lizenzierte Quellen verwenden.

4. Richten Sie die Versionssteuerung für KI-Schulungsdaten ein. Die Versionssteuerung für Erdungsdaten sorgt für Konsistenz und ermöglicht Rollbackfunktionen. Verwenden Sie beispielsweise Git oder Azure DevOps, um Änderungen an Schulungsdatensätzen nachzuverfolgen und bei Bedarf auf frühere Versionen zurückgesetzt zu werden. Die Datenversionsverwaltung trägt dazu bei, die Bereitstellungsstabilität aufrechtzuerhalten und die Änderungsverwaltung über KI-Systeme hinweg zu unterstützen. Implementieren Sie Versionskontrollprozesse für die Verankerung von Daten in Implementierungen der retrieval-augmentierten Generation (RAG), um Änderungen nachzuverfolgen und Konsistenz in allen Bereitstellungen aufrechtzuerhalten. Wenn beispielsweise ein neues Dataset unerwartetes Modellverhalten verursacht, können Sie ein Rollback auf eine frühere Version durchführen.

Nächster Schritt

Wechseln Sie zu Management PaaS AI