Was ist Microsoft Foundry Control Plane?

Microsoft Foundry Control Plane ist eine einheitliche Verwaltungsschnittstelle, die Sichtbarkeit, Governance und Kontrolle für KI-Agents, Modelle und Tools in Ihrem Foundry-Unternehmen bietet. Foundry Control Plane zentralisiert die Verwaltung Ihrer KI-Agent-Flotte von Build zu Produktion.

Da Sich Ihre Organisation von isolierten Copiloten zu autonomen Multi-Agent-Flotten entwickelt, benötigen Sie eine einheitliche Aufsicht. Foundry Control Plane bietet die zentrale Verwaltung, die Sie benötigen, um zuverlässig zu skalieren.

Dieser Artikel richtet sich an Unternehmensadministratoren und KI-Entwickler, die KI-Agents über mehrere Projekte hinweg verwalten. Sie erfahren, was Foundry Control Plane bietet, einschließlich Flottenmanagement, Observierbarkeit, Compliance-Durchsetzung und Sicherheitsfunktionen.

Voraussetzungen

Um die Foundry Control Plane zu erkunden, benötigen Sie Folgendes:

• Ein Azure-Konto mit einem aktiven Abonnement. Wenn Sie über keins verfügen, erstellen Sie ein kostenloses Azure-Konto, das ein kostenloses Testabonnement enthält.

• Ein Foundry-Projekt. Wenn Sie kein Projekt haben, erstellen Sie ein Projekt.

• Ein KI-Gateway, das für erweiterte Governancefeatures konfiguriert ist.
• Geeignete Azure rollenbasierte Zugriffssteuerungsberechtigungen (RBAC) für Ihr Abonnement.

Wann die Foundry Control Plane verwendet werden sollte

Erwägen Sie die Verwendung des Foundry Control Plane, wenn Ihre Organisation:

• Verwaltet mehrere KI-Agents in verschiedenen Projekten oder Teams.
• Erfordert eine zentrale Sichtbarkeit der Compliance und die Durchsetzung von Richtlinien in einer KI-Flotte.
• Integriert Microsoft Defender und Microsoft Purview für KI-Governance und Bedrohungsschutz.
• Betreibt Agents von mehreren Plattformen, einschließlich Foundry, Microsoft und nicht-Microsoft-Quellen.
• Muss Kosten, Tokennutzung und Ressourcenverbrauch in einer gesamten KI-Umgebung nachverfolgen.

Ohne Foundry Control Plane verwalten Sie Agents, Modelle und Compliance über einzelne Azure Portalblätter und separate Projektansichten. Foundry Control Plane fügt projektübergreifende Sichtbarkeit, einheitliche Compliance-Erzwingung und integrierte Sicherheitssignale in einer einzigen Schnittstelle hinzu.

Foundry Control Plane - Funktionen

Foundry Control Plane konsolidiert Inventar, Beobachtbarkeit, Compliance und Sicherheit in einer rollenbewussten Schnittstelle. Es ist in Microsoft Sicherheits- und Governancesysteme (Microsoft Defender, Microsoft Purview, Microsoft Entra) integriert, um Governance im großen Maßstab bereitzustellen.

Das folgende Diagramm zeigt, wie Foundry Control Plane eine einheitliche Sichtbarkeit der Flotten mit Agents, Modellen und Tools bietet, die über Projekte hinweg in einem Abonnement aufgelistet sind.

Foundry Control Plane unterstützt die folgenden Aufgaben.

Verwalten Ihrer Multiplattform-Agent-Flotte

• Verfolgen Sie wichtige Leistungsindikatoren wie aktive Agenten, Abschluss von Vorgängen, Compliance-Status, Kosteneffizienz und verbotene Verhaltensweisen auf unterstützten Agentplattformen.

• Verwenden Sie Deep-Links für Bewertungs- und Überwachungsfunktionen für schnelles Debuggen, Diagnostizieren und Beheben von Problemen.

• Stellen Sie die Flottengesundheit über Dashboards dar, die Trends und Anomalien anzeigen.

Die Leistung der Agenten überwachen und verbessern

• Korrelieren Sie Warnungen, Auswertungsergebnisse und Ablaufverfolgungsdaten, um Probleme schnell zu identifizieren.

• Bewerten Sie kontinuierlich das Leistungsvermögen der Agenten, sowie die Qualität und die Risikobereiche. Zu den möglichen Risikodimensionen zählen die Einhaltung der Aufgabenstellung, die Erfüllung der Absicht, erfolgreiche Toolaufrufe, die Faktentreue, die Offenlegung sensibler Daten und die Gefährdung durch Jailbreak- und domänenübergreifende Prompt-Injection-Angriffe (XPIAs).

• Verwenden Sie den AI Red Teaming Agent und die Clusteranalyse für automatische Schwachstellenanalyse und Fehlerursachenerkennung.

• Zeigen Sie Empfehlungen für Aufforderungsoptimierungen, Modellversionsupgrades und Konfigurationsänderungen an.

Erzwingen von Compliance-Leitplanken

• Definieren Sie unternehmensweite Schutzschienenrichtlinien für Sicherheit, Compliance und Qualität.

• Wenden Sie massenweise Korrekturen an, um nicht kompatible Konfigurationen in Ihrer Flotte zu korrigieren.

Sichere Agents

• Planen Sie automatisch Red-Teaming-Scans und Driftüberwachung für laufende Agent-Tests.

• Zeigen Sie Defender- und Microsoft Purview-Warnungen direkt auf dem Dashboard "Foundry Control Plane" an.

• Verfolgen Sie Tariflimits, Tokennutzung und Kostenanomalien, um Ineffizienz oder Missbrauch zu verhindern.

Wichtige Features

Important

Die in diesem Artikel markierten Elemente (Vorschau) sind aktuell als öffentliche Vorschau verfügbar. Diese Vorschauversion wird ohne Vereinbarung zum Servicelevel bereitgestellt und sollte nicht für Produktionsworkloads verwendet werden. Manche Features werden möglicherweise nicht unterstützt oder sind nur eingeschränkt verwendbar. Weitere Informationen finden Sie unter Zusätzliche Nutzungsbedingungen für Microsoft Azure-Vorschauversionen.

Sie greifen auf die zuvor beschriebenen Funktionen über Bereiche zu, indem Sie auf der oberen rechten Symbolleiste des Findry-Arbeitsbereichs "Arbeiten " auswählen. Mit "Operate" können Sie jeden Agent, jedes Modell und jede Bereitstellung in Ihrem Abonnement überwachen, steuern und optimieren. Project Einstellungen mit Bereich, z. B. "Kontingent" und "AI-Gateway", befinden sich stattdessen auf der Schaltfläche "Symbolleiste verwalten". Sie können derzeit nur über das Foundry-Portal auf diese Features zugreifen.

Jeder Bereich innerhalb von Operate ist für einen bestimmten Auftrag konzipiert. Diese Fenster helfen verschiedenen Rollen, von Entwicklern bis hin zu Administratoren, KI-Systeme in großem Maßstab zu verwalten.

Übersicht

Verwenden Sie den Bereich "Übersicht ", um die Integrität, Leistung und Compliance der Flotte auf einen Blick zu verstehen.

Dieser Bereich bietet eine Übersicht über Ihre KI-Ressourcen, indem wichtige betriebliche und Compliance-Metriken in einer Ansicht zusammengefasst werden. Sie können:

• Zeigen Sie wichtige Statistiken wie aktive Agenten, Kostentrends, Abschlussrate von Abläufen und verhindertes Fehlverhalten an.
• Vertiefen Sie sich in Anomalien oder Kostenspitzen durch Kontextdiagramme und direkte Links zu Bestands-, Sichtbarkeits- oder Richtlinieninformationen.
• Identifizieren Sie potenzielle Risiken frühzeitig, indem Sie trendbasierte Zustandsbewertungen und Warnungszusammenfassungen verwenden.

Vermögenswerte

Verwenden Sie den Bereich "Ressourcen ", um jeden Agent, jedes Modell und jedes Tool von einem Ort aus nachzuverfolgen, zu analysieren und zu verwalten.

Dieser Bereich bietet eine einheitliche, durchsuchbare Tabelle aller KI-Ressourcen für alle Projekte innerhalb eines Abonnements. Es vereint kritische Metadaten- und Gesundheitsindikatoren, sodass Sie Ihre KI-Ressourcen effizient bewerten und nutzen können. Sie können:

• Filtern und sortieren Sie nach Schlüsselattributen wie Version, Tags, Integritätsbewertung (Prozentsatz), Kosten, Warnungen und Tokenverwendung, um Ressourcen schnell zu finden.
• Zeigen Sie Detailinformationen von jedem Eintrag in der Tabelle des Agent-Bestands auf der Registerkarte Evaluation oder Überwachung an, um Einblicke vor und nach der Bereitstellung zu erhalten.
• Zeigen Sie Inline-Empfehlungen zum Verfeinern von Prompts, zum Upgraden von Modellen oder zum Optimieren von Konfigurationen basierend auf Leistungs- und Kostensignalen.
• Korrelieren Sie Laufzeitprotokolle mit Auswertungsergebnissen, um die Ursachen von Fehlern oder Leistungsbeeinträchtigungen aufzudecken.
• Visualisieren Sie Drift-, Latenz- und Fehlercluster über Ausgeführte oder Builds hinweg, um neue Probleme frühzeitig zu erkennen.
• Integrieren Sie den AI Red Teaming Agent, um das Prüfen von Sicherheitslücken, Regressionstests und die Reproduktion von Problemen zu automatisieren.
• Beobachten und ändern Sie Modell- und Agent-Schutzmaßnahmen.

Compliance

Verwenden Sie den Compliance Bereich, um Ihre KI-Systeme zu verwalten und die richtigen Richtlinien durchzusetzen.

Im Bereich "Compliance " können Sie Schutzläufe und Compliancerichtlinien für Ihre KI-Ressourcen definieren, anwenden und kontinuierlich überwachen. Es bietet eine einheitliche Schnittstelle zur Operationalisierung verantwortungsvoller KI-Prinzipien und trägt dazu bei, die Sicherheit und regulierungsrechtliche Ausrichtung auf Unternehmensniveau sicherzustellen. Sie können:

• Definieren und Erzwingen von Schutzmaßnahmen durch umfassende Integrationen mit Azure Policy, Defender und Microsoft Purview. Diese Integrationen sorgen dafür, dass Identitäts-, Daten- und Bedrohungsschutz gemeinsam funktionieren.
• Wenden Sie versionsierte Richtlinien an, und verfolgen Sie Aufgaben, um die vollständige Auditierbarkeit und Rückverfolgbarkeit zwischen Agents und Umgebungen zu gewährleisten.
• Überwachen Sie den Compliance-Status in Echtzeit, sodass Sie nicht konforme Assets identifizieren und Massenbehebungen direkt über die "Foundry Control Plane" aktivieren können.

Mit der Richtlinienverwaltung in Foundry können Administratoren und Entwickler gleichermaßen Qualitäts- und Sicherheitsanforderungen in den Entwicklungs- und Bereitstellungslebenszyklus einbetten. Diese Richtlinien tragen dazu bei, sicherzustellen, dass alle Modelle sicher funktionieren und den organisatorischen und behördlichen Standards entsprechen.

Kontingent

Verwenden Sie den Bereich " Kontingent " auf der Schaltfläche "Symbolleiste verwalten", um Kontingente anzuzeigen, anzupassen und anzufordern.

Im Bereich „Kontingent“ werden Ihre Modellbereitstellungen sowie die Höhe des von jeder Bereitstellung verbrauchten Kontingents angezeigt. Sie bietet Einblicke in Nutzungsmuster und hilft Ihnen, Ressourcen effektiv zu verwalten.

Standardmäßig werden in der Kontingentansicht nur Modelle mit aktiven Bereitstellungen angezeigt. Aktivieren Sie die Umschaltfläche " Alle anzeigen ", um die vollständige Liste der verfügbaren Modelle und Regionen anzuzeigen, einschließlich der Modelle, die Sie noch nicht bereitgestellt haben. Verwenden Sie "Alle anzeigen ", um das verfügbare Kontingent zu erkunden, bevor Sie eine Bereitstellung erstellen, oder um zu überprüfen, welche Regionen über kapazität für ein bestimmtes Modell verfügen.

Weitere Informationen finden Sie unter Verwalten und Erhöhen von Kontingenten für Ressourcen.

Projekt- und Ressourcenmanagement

Verwenden Sie die Schaltfläche "Symbolleiste verwalten", um das Projekt anzuzeigen und zu verwalten, in dem Sie arbeiten, und dessen übergeordnete Gießereiressource.

"Verwalten" ist auf Ihre aktuelle Auswahl festgelegt. Dies ist ein wichtiger Unterschied zu "Operate". Wenn Sie auf ein anderes Projekt reagieren möchten, wechseln Sie zuerst projekte, indem Sie die Dropdownliste "Projektname" oben links verwenden.

Von "Verwalten", "Administratoren" und "Power Users" können:

• Überprüfen Sie project Konfiguration im Detailbereich Project, einschließlich der Ressourcen-ID, des Endpunkts, des Abonnements und des Standorts.
• Überprüfen Sie die konfiguration der übergeordneten Ressourcen im Bereich "Ressourcendetails", und öffnen Sie die Ressource im Azure-Portal.
• Fügen Sie Benutzer auf der Registerkarte " Benutzer " hinzu, oder entfernen Sie sie, um präzise Zugriffsstufen zu definieren, die an Organisationsrollen ausgerichtet sind.
• Fügen Sie verbundene Ressourcen wie Speicherkonten und Gießereitools auf der Registerkarte "Verbundene Ressourcen " an, oder verwalten Sie sie, damit Projekte ordnungsgemäß bereitgestellt werden.
• Fügen Sie der übergeordneten Ressource Projekte hinzu, und überprüfen Sie jedes Projekt, das die Ressource enthält, auf der Registerkarte "Projekte " der Ressourcendetails.
• Konfigurieren Sie das Kontingent und das KI-Gateway für die Ressource.

Erste Schritte mit Foundry Control Plane

Foundry Control Plane ist im Foundry-Portal verfügbar. Um die Steuerungsebene von Foundry zu nutzen, erkunden Sie diese Ressourcen:

• Konfigurieren Sie ein KI-Gateway: Aktivieren Sie erweiterte Governance-Features in Ihren Foundry-Projekten.
• Konfigurieren Sie die Überwachung für Ihre Agent-Flotte: Aktivieren Sie Metriken und Diagnosedaten mit Observability-Funktionen.
• Entdecken Sie Agents in Ihrem Abonnement: Sehen Sie, welche Agents verfügbar sind, und verwalten Sie sie zentral.
• Registrieren Sie benutzerdefinierte Agenten: Bringen Sie externe Agenten in das Foundry-Control-Plane-Register.
• Wenden Sie eine Schutzschienenrichtlinie für Modelle an: Erstellen und Zuweisen von Schutzschienenrichtlinien, um Sicherheitsstandards für modellübergreifende Bereitstellungen zu erzwingen.

Verwandte Inhalte

• Verwalten Sie Agenten in großem Umfang: Überwachen und Verwalten von Agenten von unterstützten Plattformen in einer einheitlichen Ansicht.
• Manage Compliance und Sicherheit in Microsoft Foundry: Erzwingen Sie verantwortungsvolle KI-Richtlinien, integrieren Sie Defender und Microsoft Purview Signale und reagieren Sie auf Compliancewarnungen.
• Erzwingen von Tokengrenzwerten: Festlegen und Verwalten von tokenbasierten Ratenlimits für die Bereitstellung von Modellen.
• Verwalten der Agent-Infrastruktur als Microsoft Entra Administrator: Verwalten der Agentenidentität und des Zugriffs aus Sicht eines Entra-Administrators.