Co to jest płaszczyzna sterowania Microsoft Foundry?

Microsoft Foundry Control Plane to zunifikowany interfejs zarządzania, który zapewnia widoczność, nadzór i kontrolę agentów, modeli i narzędzi sztucznej inteligencji w korporacji Foundry. Płaszczyzna sterowania platformy Foundry centralizuje zarządzanie flotą agentów sztucznej inteligencji — od kompilacji do środowiska produkcyjnego.

W miarę jak organizacja rozwija się od odizolowanych podopiecznych do autonomicznych flot wieloagentowych, potrzebujesz zintegrowanego nadzoru. Płaszczyzna sterowania Foundry zapewnia scentralizowane zarządzanie, które potrzebujesz, aby niezawodnie się skalować.

Ten artykuł jest przeznaczony dla administratorów przedsiębiorstwa i deweloperów sztucznej inteligencji, którzy zarządzają agentami sztucznej inteligencji w wielu projektach. Dowiesz się, co oferuje płaszczyzna sterowania rozwiązania Foundry, w tym zarządzanie flotą, możliwość obserwowania, wymuszanie zgodności i możliwości zabezpieczeń.

Wymagania wstępne

Aby zapoznać się z płaszczyzną sterowania Foundry, potrzebujesz:

• Konto Azure z aktywną subskrypcją. Jeśli go nie masz, utwórz konto free Azure, które obejmuje subskrypcję bezpłatnej wersji próbnej.

• Projekt Foundry. Jeśli go nie masz, utwórz projekt.

• Brama sztucznej inteligencji skonfigurowana dla zaawansowanych funkcji zarządzania.
• Odpowiednie Azure uprawnienia kontroli dostępu opartej na rolach (RBAC) dla subskrypcji.

Kiedy używać Foundry Control Plane

Rozważ użycie płaszczyzny sterowania rozwiązania Foundry, gdy twoja organizacja:

• Zarządza wieloma agentami sztucznej inteligencji w różnych projektach lub zespołach.
• Wymaga scentralizowanej widoczności zgodności i egzekwowania zasad w całej flocie sztucznej inteligencji.
• Integruje Microsoft Defender i Microsoft Purview na potrzeby zapewniania ładu w zakresie sztucznej inteligencji i ochrony przed zagrożeniami.
• Obsługuje agentów z wielu platform, w tym z platform Foundry, Microsoft oraz innych niż Microsoft.
• Musi śledzić koszty, użycie tokenów i zużycie zasobów w całym środowisku sztucznej inteligencji.

Bez płaszczyzny sterowania rozwiązania Foundry można zarządzać agentami, modelami i zgodnością za pomocą poszczególnych bloków portalu Azure i oddzielnych widoków dla poszczególnych projektów. Płaszczyzna sterowania rozwiązania Foundry dodaje widoczność między projektami, ujednolicone wymuszanie zgodności i zintegrowane sygnały zabezpieczeń w jednym interfejsie.

Możliwości płaszczyzny sterowania programu Foundry

Płaszczyzna sterowania Foundry konsoliduje zarządzanie zasobami, monitorowanie, zgodność z regulacjami i bezpieczeństwo w jednym interfejsie obsługującym role. Integruje się z systemami zabezpieczeń i zarządzania Microsoft (Microsoft Defender, Microsoft Purview, Microsoft Entra) w celu zapewnienia zarządzania na dużą skalę.

Na poniższym diagramie przedstawiono sposób, w jaki płaszczyzna kontrolna rozwiązania Foundry zapewnia ujednoliconą widoczność floty z agentami, modelami i narzędziami wymienionymi w projektach w ramach subskrypcji.

Warstwa kontrolna Foundry obsługuje następujące zadania.

Zarządzanie flotą agentów wieloplatformowych

• Śledź kluczowe wskaźniki wydajności, takie jak aktywni agenci, zakończenie operacji, stan zgodności, efektywność kosztowa oraz zabronione zachowania na obsługiwanych platformach agentów.

• Użyj linków bezpośrednich do środowisk oceny i monitorowania na potrzeby szybkiego debugowania, diagnostyki i korygowania.

• Wizualizowanie kondycji floty za pomocą pulpitów nawigacyjnych, które uwidocznią trendy i anomalie.

Monitorowanie i poprawianie wydajności agenta

• Połącz alerty, wyniki oceny i dane śledzenia, aby szybko identyfikować problemy.

• Stale oceniaj wymiary wydajności, jakości i ryzyka agenta. Wymiary ryzyka mogą obejmować przestrzeganie zadań, rozpoznawanie intencji, powodzenie wywołania narzędzi, uziemienie, wyciek poufnych danych oraz narażenie na ataki polegających na wstrzyknięciu systemu jailbreak i wstrzyknięciu monitów między domenami (XPIA).

• Użyj narzędzia AI Red Teaming Agent i analizy klastra w celu automatycznego sondowania luk w zabezpieczeniach i odnajdywania głównych przyczyn błędów.

• Wyświetl zalecenia dotyczące ulepszeń promptów, aktualizacji wersji modelu i zmian konfiguracji.

Wymuszanie barier zabezpieczających dotyczących zgodności

• Zdefiniuj zasady zabezpieczenia dla całego przedsiębiorstwa pod kątem bezpieczeństwa, zgodności i jakości.

• Zastosuj korygowanie zbiorcze, aby poprawić niezgodne konfiguracje w całej flocie.

Zabezpieczanie agentów

• Zaplanuj automatyczne skanowanie zespołem red-teamingowym i monitorowanie odchyleń dla ciągłego testowania agenta.

• Wyświetlaj alerty Defender i Microsoft Purview bezpośrednio na pulpicie nawigacyjnym Foundry Control Plane.

• Śledzenie limitów szybkości, użycia tokenu i anomalii kosztów, aby zapobiec nieefektywności lub nadużyciom.

Kluczowe funkcje

Ważne

Elementy oznaczone (wersja zapoznawcza) w tym artykule są obecnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą nie być obsługiwane lub mogą mieć ograniczone możliwości. Aby uzyskać więcej informacji, zobacz Wygólne warunki użytkowania Microsoft Azure Previews.

Opisane wcześniej możliwości są zorganizowane w okienka, do których uzyskujesz dostęp, wybierając pozycję Operuj na prawym górnym pasku narzędzi obszaru roboczego Foundry. W obszarze Obsługa możesz monitorować, zarządzać i optymalizować każdego agenta, modelu i wdrożenia w ramach subskrypcji. Te funkcje są obecnie dostępne tylko za pośrednictwem portalu Foundry.

Każde okienko w obszarze Obsługa jest zaprojektowane wokół określonego zadania. Te okienka ułatwiają różne role, od konstruktorów po administratorów, zarządzanie systemami sztucznej inteligencji na dużą skalę.

Przegląd

Skorzystaj z okienka Przegląd , aby poznać kondycję floty, wydajność i zgodność.

To panel dostarcza ogólny przegląd zasobów sztucznej inteligencji poprzez agregowanie kluczowych metryk operacyjnych i zgodności w jednym widoku. Można:

• Wyświetl kluczowe statystyki, takie jak aktywni agenci, trendy kosztów, współczynnik ukończenia procesów i zapobieganie zachowaniom.
• Przejdź do szczegółów anomalii lub skoków kosztów za pośrednictwem wykresów kontekstowych i bezpośrednich linków do inwentarza, obserwowalności lub informacji o politykach.
• Zidentyfikuj potencjalne zagrożenia na wczesnym etapie, korzystając z wyników kondycji opartych na trendach i podsumowań alertów.

Aktywa

Okienko Zasoby służy do śledzenia, analizowania i zarządzania każdym agentem, modelem i narzędziem z jednego miejsca.

To okienko zawiera ujednoliconą, przeszukiwalną tabelę wszystkich zasobów sztucznej inteligencji w projektach w ramach subskrypcji. Łączy on krytyczne wskaźniki metadanych i kondycji, dzięki czemu można efektywnie oceniać zasoby sztucznej inteligencji i wykonywać na nie działania. Można:

• Filtruj i sortuj według kluczowych atrybutów, takich jak wersja, tagi, wynik kondycji (procent), koszt, alerty i użycie tokenu, aby szybko zlokalizować zasoby.
• Przejdź do szczegółów dowolnego wpisu w tabeli spisu agentów na karcie Ocena lub Monitorowanie w celu uzyskania szczegółowych informacji na temat wdrożenia, zarówno przed, jak i po jego realizacji.
• Wyświetlanie zaleceń inline w celu uściślenia zapytań, ulepszania modeli i optymalizacji konfiguracji na podstawie sygnałów wydajności i kosztów.
• Korelowanie dzienników środowiska uruchomieniowego z wynikami oceny w celu wykrycia głównych przyczyn błędów lub obniżenia wydajności.
• Wizualizowanie klastrów dryfu, opóźnień i błędów w ramach przebiegów lub kompilacji w celu wczesnego wykrywania pojawiających się problemów.
• Integracja z agentem AI Red Teaming Agent w celu zautomatyzowania sondowania luk w zabezpieczeniach, testowania regresji i odtwarzania problemów.
• Obserwuj i modyfikuj zabezpieczenia modelu i agenta.

Zgodność

Użyj okienka Zgodność , aby zarządzać systemami sztucznej inteligencji i wymuszać odpowiednie zabezpieczenia.

Okienko Zgodność umożliwia definiowanie, stosowanie i ciągłe monitorowanie barier i zasad zgodności w zasobach sztucznej inteligencji. Zapewnia ujednolicony interfejs umożliwiający operacjonalizacja zasad odpowiedzialnego używania sztucznej inteligencji przy jednoczesnym zapewnieniu zgodności z przepisami i bezpieczeństwa klasy korporacyjnej. Można:

• Definiowanie i wymuszanie ochrony za pomocą głębokich integracji z Azure Policy, Defender i Microsoft Purview. Te integracje pomagają zapewnić, że tożsamość, dane i zabezpieczenia zagrożeń działają zgodnie z oczekiwaniami.
• Zastosuj wersjonowane zasady i monitoruj przypisania, aby zachować pełną audytowalność i możliwość śledzenia pomiędzy agentami i środowiskami.
• Monitoruj stan zgodności w czasie rzeczywistym, aby umożliwić wyświetlanie niezgodnych zasobów i włączanie korygowania zbiorczego bezpośrednio z poziomu płaszczyzny sterowania rozwiązania Foundry.

Zarządzanie zasadami w narzędziu Foundry umożliwia administratorom i deweloperom osadzanie wymagań dotyczących jakości i bezpieczeństwa w cyklu projektowania i wdrażania. Te zasady pomagają zapewnić, że wszystkie modele działają bezpiecznie i są zgodne ze standardami organizacyjnymi i regulacyjnymi.

Limit

Użyj okienka Limity, aby wyświetlić, dostosować i zażądać limitów.

Okienko Kwota pokazuje wdrożenia modelu i ile przydziału zużywa każde wdrożenie. Zapewnia wgląd w wzorce użycia i ułatwia efektywne zarządzanie zasobami.

Domyślnie widok limitu przydziału wyświetla tylko modele z aktywnymi wdrożeniami. Włącz przełącznik Pokaż wszystkie , aby wyświetlić pełną listę dostępnych modeli i regionów, w tym modeli, które nie zostały jeszcze wdrożone. Użyj opcji Pokaż wszystko , aby zapoznać się z dostępnym limitem przydziału przed utworzeniem wdrożenia lub sprawdzić, które regiony mają pojemność dla określonego modelu.

Aby uzyskać więcej informacji, zobacz Zarządzanie i zwiększanie limitów przydziału zasobów.

Administrator

Okienko Administrator umożliwia wyświetlanie, organizowanie i administrowanie wszystkimi projektami, użytkownikami i połączonymi zasobami w środowisku usługi Foundry.

To okienko rozszerza widok operacyjny poza pojedynczy projekt. Większość pracy w narzędziu Foundry odbywa się w kontekście projektu. Okienko Admin zapewnia obiektyw na poziomie przedsiębiorstwa do nadzorowania i konfigurowania wielu projektów, uprawnień użytkownika i połączonych zasobów Azure z jednego miejsca.

W obszarze Administrator administratorzy i użytkownicy z uprawnieniami mogą wykonywać następujące czynności:

• Uzyskaj wgląd we wszystkie projekty w ramach subskrypcji lub dzierżawy, łącznie z aktywnymi, nieaktywnymi i zarchiwizowanymi przestrzeniami roboczymi.
• Wyświetl szczegółowe informacje o projekcie, takie jak właściciele, region, połączone usługi i stan zgodności.
• Dodaj lub usuń użytkowników bezpośrednio z projektu, aby zdefiniować szczegółowe poziomy dostępu dopasowane do ról organizacyjnych.
• Dołącz lub zarządzaj połączonymi zasobami, takimi jak konta magazynu, klastry obliczeniowe i narzędzia Foundry, aby projekty były prawidłowo zaopatrzone.
• Przypisz dostęp na poziomie nadrzędnym (subskrypcji lub grupie zasobów), aby zastosować spójne zarządzanie i dziedziczenie uprawnień dostępu w wielu projektach.

Rozpocznij pracę z Foundry Control Plane

Płaszczyzna sterowania Foundry jest dostępna w portalu Foundry. Aby rozpocząć korzystanie z Foundry Control Plane, zapoznaj się z następującymi zasobami:

• Konfigurowanie bramy sztucznej inteligencji: włącz zaawansowane funkcje zarządzania w projektach Foundry.
• Konfigurowanie monitorowania floty agentów: włącz metryki i informacje diagnostyczne z funkcjami obserwacji.
• Odnajdywanie agentów w ramach subskrypcji: zobacz, którzy agenci są dostępni i zarządzają nimi centralnie.
• Rejestrowanie agentów niestandardowych: Dodaj zewnętrznych agentów do rejestru płaszczyzny sterowania Foundry.
• Stosowanie zasad bariery ochronnej dla modeli: Utwórz i przypisz zasady bariery ochronnej, aby wymusić standardy bezpieczeństwa we wdrożeniach modeli.

Powiązana zawartość

• Zarządzanie agentami na dużą skalę: śledzenie agentów z obsługiwanych platform i zarządzanie nimi w jednym ujednoliconym widoku.
• Zarządzanie zgodnością i zabezpieczeniami w usłudze Microsoft Foundry: Wymuszanie zasad odpowiedzialnej sztucznej inteligencji, integrowanie sygnałów Defender i Microsoft Purview oraz reagowanie na alerty zgodności.
• Wymuszanie limitów tokenów: ustawianie limitów szybkości opartych na tokenach i zarządzanie nimi dla wdrożeń modelu.
• Zarządzaj infrastrukturą agenta jako administrator Microsoft Entra: Zarządzaj tożsamością i dostępem agenta z perspektywy administratora Entra.