Uwaga dotycząca transparentności agenta operacji

Co to jest notatka dotycząca przezroczystości?

System sztucznej inteligencji obejmuje nie tylko technologię, ale także osoby, które go używają, osoby, których to dotyczy, oraz środowisko, w którym jest wdrażane. Utworzenie systemu dopasowanego do zamierzonego celu wymaga zrozumienia, jak działa technologia, jakie są jego możliwości i ograniczenia oraz jak osiągnąć najlepszą wydajność. Uwagi dotyczące przejrzystości firmy Microsoft pomagają zrozumieć, w jaki sposób działa nasza technologia sztucznej inteligencji, wybory, które mogą wpływać na wydajność i zachowanie systemu oraz znaczenie myślenia o całym systemie, w tym technologii, ludzi i środowiska. Podczas opracowywania lub wdrażania własnego systemu należy używać notatek przejrzystości lub udostępniać je osobom, które korzystają z systemu lub mają na nie wpływ.

Uwagi dotyczące przejrzystości firmy Microsoft są częścią szerszego wysiłku firmy Microsoft w celu wprowadzenia naszych zasad sztucznej inteligencji do praktyki. Aby uzyskać więcej informacji, zobacz Zasady sztucznej inteligencji firmy Microsoft.

Podstawy agenta operacji analizy Real-Time

Wprowadzenie

Agent operacji analizy Real-Time to platforma do tworzenia agentów, którzy monitorują strumienie danych, wykrywają anomalie lub warunki i polecają akcje na podstawie rzeczywistych zdarzeń. Ci agenci automatyzują zadania, zapewniają szczegółowe informacje i obsługują terminowe podejmowanie decyzji. Konfigurując cele biznesowe, źródła wiedzy, akcje i instrukcje, agent tworzy plan śledzenia celów, monitorowania danych i stosowania reguł w celu wykrywania warunków. Agent powiadamia użytkowników o zalecanych akcjach, jeśli wystąpią odpowiednie warunki.

Kluczowe terminy

  • Źródło wiedzy: połączenie bazy danych, którego agent może używać do znajdowania i monitorowania danych.

  • Narzędzie: wbudowana funkcja, która umożliwia agentowi wykonywanie zadań, takich jak generowanie ustrukturyzowanych zapytań z języka naturalnego, wykrywanie anomalii i wysyłanie aplikacji Microsoft Teams lub wiadomości e-mail.

  • Wątek: sesja konwersacji między agentem a użytkownikiem. Wątki przechowują wiadomości i automatycznie zarządzają ich skracaniem, aby dopasować zawartość do kontekstu modelu.

  • Podręcznik: wewnętrzna reprezentacja podmiotu, danych, reguł i możliwych działań agenta, które tworzą jego podręcznik operacyjny.

  • Jednostka: obiekt w firmie, który monitoruje agent. Na przykład w firmie wypożyczającej rowery, rowery i stacje dokujące mogą być odpowiednimi jednostkami. W zarządzaniu lotniskiem stanowiska odprawy, punkty kontrolne bezpieczeństwa i pasażerowie są istotnymi jednostkami.

  • Wystąpienia: określone wystąpienia jednostki, takie jak Bike 0451 lub Flight MS1234.

  • Reguły: warunki lub wzorce w danych monitorowane przez agenta przed wprowadzeniem zaleceń.

  • Reguły autonomiczne: reguły, które mają skojarzone działania, które agent może wykonać bez uprzedniego potwierdzenia przez człowieka.

Capabilities

Zachowanie systemu

Podczas tworzenia agenta operacji konfigurujesz następujące ustawienia: cele biznesowe, źródła wiedzy, możliwe akcje i instrukcje. W przypadku tych danych wejściowych agent używa dużych modeli językowych (LLMs) do tworzenia podręcznika jednostek, mapowanych danych i reguł do monitorowania. Model można ulepszyć, dostosowując cele i instrukcje. Po aktywowaniu agenta agent monitoruje dane w tle. Gdy warunki są zgodne z regułami, analizuje dane, identyfikuje przyczynę i zaleca działania w celu osiągnięcia celów biznesowych.

Agent powiadamia Cię za pośrednictwem Teams przy użyciu języka naturalnego, informując Cię na bieżąco o początkowych zaleceniach. Możesz zatwierdzić, odrzucić lub ustawić regułę autonomiczną, umożliwiając agentowi działanie bez dalszego potwierdzenia.

Ponieważ agent używa modułów LLM do tworzenia podręcznika agenta i rekomendowania akcji, należy:

  • Przed uruchomieniem agenta dokładnie przejrzyj model zachowania.

  • Należy uważnie obserwować zalecenia agenta i potwierdzić uzasadnienie, jakiego używa do ich formułowania, zanim podejmie się działania.

  • Dokładnie przejrzyj wszystkie reguły autonomiczne, które tworzysz za pomocą agenta. Te reguły automatycznie napędzają akcję.

Przypadki użycia

Zamierzone zastosowania

Agentów operacyjnych można używać w różnych scenariuszach. Zamierzone zastosowania systemu obejmują:

  • Zarządzanie wypożyczania rowerów: agent operacyjny można skonfigurować tak, aby stale monitorował dostępność rowerów na różnych stacjach przy użyciu danych w czasie rzeczywistym. Ustal cel zagwarantowania dostępności rowerów, koncentrując się na znalezieniu odpowiednich zapytań do śledzenia tej wartości dla każdej stacji dokującej.

  • Optymalizacja turbin wiatrowych: agent monitoruje dane pochodzące z farm wiatrowych, śledząc metryki, takie jak moc wyjściowa, oraz kierunek i kąt ostrzy. Szuka anomalii lub spadków mocy wyjściowej i zaleca dostosowanie parametrów operacyjnych.

  • Równoważenie zapasów magazynu: agent monitoruje poziomy zapasów w wielu magazynach w czasie rzeczywistym. Ustaw cel, aby zachować optymalną dystrybucję zapasów i uniknąć przeładowania zapasów lub nadwyżki.

  • Monitorowanie wydatków: umożliwia agentowi dostęp do danych dotyczących żądań wydatków i raportów. Poproś go o oznaczenie wydatków, które nie są zgodne z typowymi regułami, oraz aby wykrywać anomalie w długoterminowych wzorcach zachowań każdego pracownika lub centrum kosztów.

  • Automatyzacja reagowania na zdarzenia: agent monitoruje dzienniki infrastruktury IT i dane telemetryczne pod kątem oznak pogorszenia lub anomalii w zakresie zabezpieczeń. Jego celem jest skrócenie średniego czasu wykrywania (MTTD) i średniego czasu rozwiązania (MTTR).

Zagadnienia dotyczące wyboru innych przypadków użycia

Zachęcamy do stosowania agentów operacyjnych w innowacyjnych rozwiązaniach lub aplikacjach. Należy jednak wziąć pod uwagę następujące czynniki, aby upewnić się, że agent jest odpowiedni dla konkretnego przypadku użycia:

  • Unikaj scenariuszy, w których użycie lub niewłaściwe użycie systemu może spowodować znaczne uszkodzenie fizyczne lub psychiczne osoby. Na przykład scenariusze, które diagnozują pacjentów lub przepisują leki, mogą spowodować znaczną szkodę.

  • Unikaj scenariuszy, w których użycie lub niewłaściwe użycie systemu może mieć wpływ na możliwości życia lub status prawny. Przykłady obejmują scenariusze, w których system sztucznej inteligencji lub agent może mieć wpływ na status prawny, prawa prawne lub ich dostęp do kredytów, edukacji, zatrudnienia, opieki zdrowotnej, mieszkalnictwa, ubezpieczenia, świadczeń socjalnych, usług, możliwości lub warunków, na które są one udostępniane.

  • Unikaj scenariuszy o wysokich stawkach, mogących prowadzić do szkody. Model stosowany przez agenta może odzwierciedlać pewne poglądy społeczne, uprzedzenia i inne niepożądane elementy obecne w danych treningowych lub w zapytaniach. W rezultacie ostrzegamy przed używaniem agentów w scenariuszach o wysokich stawkach, w których niesprawiedliwe, zawodne lub obraźliwe zachowanie może być kosztowne lub prowadzić do szkody.

  • Starannie rozważ przypadki użycia w obszarze lub branży o wysokim ryzyku, w której akcje agenta są nieodwracalne lub mają doniosłe konsekwencje. Takie branże obejmują, ale nie są ograniczone do opieki zdrowotnej, medycyny, finansów lub domen prawnych.

  • Zagadnienia prawne i regulacyjne. Organizacje muszą ocenić potencjalne konkretne zobowiązania prawne i prawne w przypadku korzystania z usług i rozwiązań sztucznej inteligencji, które mogą nie być odpowiednie do użycia w każdej branży lub scenariuszu. Ograniczenia mogą się różnić w zależności od regionalnych lub lokalnych wymagań prawnych. Ponadto usługi sztucznej inteligencji lub rozwiązania nie są przeznaczone do użytku i mogą nie być używane w sposób zabroniony w odpowiednich warunkach świadczenia usług i odpowiednich kodeksach postępowania.

Ograniczenia

Ograniczenia techniczne, czynniki operacyjne i zakresy

  • Pomimo intensywnego trenowania przez platformę OpenAI i implementacji mechanizmów kontroli odpowiedzialnej sztucznej inteligencji przez firmę Microsoft, usługi sztucznej inteligencji są fallible i probabilistyczne. To ograniczenie sprawia, że trudno jest kompleksowo zablokować całą nieodpowiednią zawartość, co prowadzi do potencjalnych uprzedzeń, stereotypów lub nieziemności w zawartości generowanej przez sztuczną inteligencję. Aby uzyskać więcej informacji na temat znanych ograniczeń zawartości generowanej przez sztuczną inteligencję, zobacz Notę o przejrzystości dla usługi Azure OpenAI, która zawiera odwołania do modeli językowych LLM stosowanych przez agentów operacyjnych.

  • Agentom operacyjnym można nadać szeroką gamę instrukcji i celów. Probabilistyczny charakter modeli zachowania LLM oznacza, że mogą nie umożliwiać dopasowania agentów do Twoich wymagań. Opis modelu zachowania agenta jest również generowany przy użyciu sztucznej inteligencji, więc może nie być w pełni dokładny.

  • Aby efektywnie korzystać z agentów operacyjnych, musisz przejść szkolenie, aby skutecznie wchodzić w interakcje z usługą i czerpać z niej korzyści.

  • Zaawansowane modele sztucznej inteligencji wymagają znaczących zasobów obliczeniowych, które mogą mieć wpływ na wydajność, zwłaszcza w środowiskach ograniczonych zasobami. Podczas szczytowego użycia mogą wystąpić problemy z opóźnieniami lub wydajnością.

  • Ponieważ agenci łączą moduły LLM z systemami zewnętrznymi, trudno zrozumieć, dlaczego wybrał określone narzędzia lub kombinacje narzędzi, aby odpowiedzieć na zapytanie. To wyzwanie komplikuje zaufanie i weryfikację danych wyjściowych lub akcji agenta.

  • Organizacje muszą rozważyć swoje szczególne zobowiązania prawne i związane z zgodnością w przypadku korzystania z agentów operacyjnych, zwłaszcza w branżach regulowanych. Firma Microsoft bada wymagania prawne, które mają zastosowanie do firmy Microsoft jako dostawcy technologii, i zajmuje się nimi w ramach produktu w procesie ciągłego doskonalenia.

  • Dzięki interfejsowi użytkownika agenta możesz szybko przerwać lub zamknąć agenta w dowolnym momencie. Ta akcja zatrzymuje monitorowanie wszelkich nowych danych i wszelkich nowych akcji, które agent może zalecić lub podjąć. Akcje wywoływane przez agenta w innych systemach (na przykład uruchomienie przepływu pracy usługi Power Automate) mogą nie zostać natychmiast zatrzymane. Agent uruchamia te akcje jako niezależne procesy, którymi trzeba zarządzać w ramach tych innych środowisk produktów.

  • Komunikaty między agentem a użytkownikiem są dostarczane za pośrednictwem usługi Teams. Podczas wysyłania komunikatów do agenta usługa Azure Bot Service przetwarza komunikaty. Korzystanie z usługi Azure AI Bot Service ma ograniczenie techniczne, które każdy bot może mieć tylko jeden globalny punkt końcowy. W przypadku botów pierwszej strony w Teams żądania są wysyłane do globalnego punktu końcowego, a następnie przekierowywane do regionalnego punktu końcowego w pobliżu użytkownika. Agenci operacyjni używają punktu końcowego znajdującego się w UE, co oznacza, że dane użytkownika można przenosić poza region geograficzny do przetwarzania.

Wydajność systemu

W systemach sztucznej inteligencji wydajność jest często powiązana z dokładnością (jak często system zapewnia poprawne dane wyjściowe). W przypadku agentów operacyjnych wydajność jest bardziej elastyczna, ponieważ użytkownicy mogą interpretować dane wyjściowe inaczej. Błędy zwykle występują, gdy agent błędnie rozumie cele, dane lub kluczowe jednostki w procesie biznesowym. Gdy agent tworzy zalecenia, użytkownicy powinni uważnie przejrzeć kontekst podany przed zatwierdzeniem akcji.

Najlepsze rozwiązania dotyczące poprawy wydajności systemu

Aby uzyskać najlepsze wyniki w pracy z agentami operacyjnymi, skoncentruj się na tworzeniu szczegółowych, dobrze ustrukturyzowanych zachęt. Podane cele i instrukcje pomagają agentowi zidentyfikować poprawne punkty danych i reguły monitorowania zmian w czasie. Zwiększ dokładność, jawnie definiując wartości danych i warunki, które powinien monitorować agent. Jasno określ, jak akcje wpływają na wyniki i jak monitorowane wartości mają ulec zmianie.

Dane wysokiej jakości są równie ważne. Upewnij się, że struktury danych są dobrze zorganizowane z zrozumiałymi nazwami kolumn zamiast kodowanych wartości. Spłaszczać zagnieżdżone dane zdarzeń, jeśli to możliwe. Ta struktura ułatwia agentowi efektywne znajdowanie i monitorowanie odpowiednich informacji.

Ocena agentów operacji

Metody oceny

Platforma agenta operacji używa rygorystycznego, wieloestowego procesu do oceny dokładności, bezpieczeństwa i ciągłego ulepszania. W jego rdzeniu jest trzyetapowy cykl:śledzenia>iteracja>oceny. Ten cykl rozpoczyna się od wdrożenia danych telemetrycznych w celu monitorowania procesów podejmowania decyzji przez agenta, w tym planowania, tworzenia ontologii, uziemienia danych, generowania reguł i wykonywania. Zestawy danych oceny pochodzą z rzeczywistych przypadków użycia i syntetycznych danych, które wprowadzają zmienność. Mierzysz metryki, takie jak dokładność, zbieżność, współczynniki awarii i bezpieczeństwo w całym cyklu życia agenta, od programowania do środowiska produkcyjnego.

Środowisko ewaluacyjne odzwierciedla warunki produkcyjne i podkreśla separację między potokami programowania i oceny, aby uniknąć stronniczość. Ręcznie opracowujesz początkowe zestawy danych i definiujesz oczekiwane ontologie oraz dane wyjściowe z góry. Później przeskalujesz te zestawy danych przy użyciu generowania syntetycznego. Zestawy danych koncentrują się na celach operacyjnych związanych z monitorowaniem biznesowym i podejmowaniem decyzji. Chociaż reprezentują one rzeczywiste scenariusze, nie obejmują jeszcze szerszych populacji użytkowników ani dynamicznych konfiguracji celów. Takie podejście utrzymuje ukierunkowane oceny, powtarzalne i dostosowane do zasad odpowiedzialnej sztucznej inteligencji.

Wyniki oceny

Nasze procesy ewaluacyjne korzystają z metodologii: śledzenia>, iteracji> i oceny. Osadzamy oceny na każdym etapie pętli podejmowania decyzji agenta. Te oceny potwierdziły, że agent stale generuje dokładne ontologie, tworzy prawidłowe i odpowiednie zapytania oraz wybiera odpowiednie działania dopasowane do celów użytkownika. Wyniki te wspierają dostosowanie systemu do celów odpowiedzialności, szczególnie w celu zapewnienia, że działa zgodnie z oczekiwaniami w rzeczywistych kontekstach operacyjnych.

Zestawy danych trenowania i testowania używane w ocenie zostały starannie wyselekcjonowane w celu odzwierciedlenia szerokiego zakresu scenariuszy operacyjnych. Ręcznie utworzono początkowe zestawy danych na podstawie rzeczywistych przypadków użycia z jasno określonymi oczekiwanymi wynikami, w tym ontologiami i rezultatami zapytań. Później te zestawy danych zostały rozwinięte przy użyciu generowania syntetycznego w celu zwiększenia zmienności i pokrycia. Zestawy danych zostały zaprojektowane tak, aby reprezentować typy celów i środowisk danych, które agent ma napotkać, w tym zmiany złożoności schematu, dostępności danych i intencji użytkownika. Takie podejście zapewnia, że ocena przechwyciła reprezentatywny zakres czynników operacyjnych i ustawień, wspierając odpowiedzialne programowanie i wdrażanie systemu.

Wyniki oceny miały wpływ na kilka kluczowych ograniczeń projektowych w systemie. Na przykład wprowadziliśmy limity maksymalnego rozmiaru zapytania i minimalną złożoność ontologii, aby zapewnić spójną wydajność i zmniejszyć współczynniki błędów. Chociaż wyniki mają szerokie zastosowanie do wielu scenariuszy monitorowania operacyjnego i obsługi podejmowania decyzji, wstępna ocena nie obejmowała niektórych obszarów, takich jak ponowna konfiguracja celu dynamicznego i współpraca między agentami. Te obszary stanowią możliwości przyszłych testów i programowania.

Ocenianie i integrowanie agentów operacyjnych do wykorzystania

Zachowanie agenta jest kształtowane przez podane instrukcje, cele, dane i akcje. Precyzyjne komendy i czyste, dobrze zorganizowane dane z intuicyjnymi nazwami kolumn poprawiają dokładność i zmniejszają liczbę błędów.

Po skonfigurowaniu agenta zweryfikuj modele behawioralne i reguły agenta, przeglądając zapytania KQL w celu zapewnienia zgodności z procesami biznesowymi. Chociaż warunki oparte na regułach wyzwalają agenta, rekomendacje wygenerowane przez llM mogą zawierać niedokładności, dlatego zawsze przeglądaj dane wyjściowe przed działaniem.

Agenci o wysokiej czułości mogą prowadzić do nadmiaru powiadomień lub działań automatycznych, co może spowodować niestabilność systemu. Aby ograniczyć ryzyko, dostosować reguły, przeprowadzać regularne inspekcje, symulować przypadki brzegowe i interfejsy projektowe, które promują przejrzystość. Na przykład pokaż wyniki ufności i jasne wyjaśnienia zaleceń.

Treści powiązane

  • Last updated on