Przepływy pracy agentów: zgodność zadań (wersja zapoznawcza)

Upewnij się, że agenci sztucznej inteligencji są spójnie zgodni z instrukcjami użytkownika i celami zadań. Sygnał zgodności zadań identyfikuje rozbieżności, takie jak nieprawidłowe wywołania narzędzi, nieprawidłowe dane wejściowe lub wyjściowe narzędzia względem intencji użytkownika oraz niespójności między odpowiedziami a danymi wejściowymi klienta. Ta funkcja umożliwia deweloperom systemu proaktywne ograniczanie niedopasowanych działań przez blokowanie ich lub eskalację problemu do interwencji człowieka.

Scenariusze użytkownika

Obsługa klienta

Scenariusz: Asystent pomocy technicznej klienta zintegrowany z platformą przedsiębiorstwa pomaga użytkownikom sprawdzać użycie danych, rozwiązywać problemy i zarządzać ustawieniami konta. Aby zachować dokładną automatyzację, system uwzględnia przestrzeganie zadań w celu weryfikacji planów agentów przed wykonaniem wywołań narzędzi zaplecza.

Użytkownicy: Użytkownicy końcowi, agenci pomocy technicznej i zespoły obsługi klienta.

Działania: Użytkownik wysyła wiadomość do czatbota: "Czy możesz sprawdzić, ile danych użyłem w tym miesiącu?" Asystent planuje wywołać change_data_plan() narzędzie. Przestrzeganie zadania wykrywa niezgodność między intencją użytkownika (żądanie informacji) a proponowaną akcją (zmiana subskrypcji). Wywołanie narzędzia można zablokować, a system zatrzymuje wykonywanie lub prosi użytkownika o przejrzenie.

Zasoby Ludzkie

Scenariusz: Asystent przedsiębiorstwa automatyzuje rutynowe przepływy pracy związane z kadrami, takie jak rezerwacja urlopu, przesyłanie wydatków i sprawdzanie szczegółów zasad. Przestrzeganie zadań zapewnia, że akcje agenta pozostają w oczekiwanym zakresie i nie wykonują niezamierzonych skrótów.

Użytkownik: Pracownicy, partnerzy biznesowi działu HR i zespoły automatyzacji przepływu pracy.

Działania: Pracownik wpisuje: "Chcę wiedzieć, ile urlopu rocznego mi pozostało." Agent planuje wywołać element apply_leave(). Zgodność zadania identyfikuje niezgodność zadań — użytkownik poprosił o informacje, a nie o zainicjowanie procesu. Wykonanie jest zablokowane; agent przeredagowuje lub prosi o potwierdzenie.

Narzędzia zwiększające produktywność

Scenariusz: Asystent produktywności osadzony na platformie poczty e-mail ułatwia specjalistom łączenie się z bazami danych oraz tworzenie wersji roboczej, przeglądania i wysyłania wiadomości. Adherencja zadania służy do rozróżniania między pisaniem projektu a wykonaniem polecenia "wyślij", zwłaszcza w przypadkach, gdy intencja użytkownika jest niejednoznaczna.

Użytkownik: Specjaliści wiedzy, asystenci kadry kierowniczej i zespoły ds. zgodności IT.

Działania: Użytkownik monituje: "Napisz wiadomość e-mail do klienta o nieodebranym terminie". Agent generuje komunikat i planuje wywołać polecenie send_email(). Przestrzeganie zadania flaguje plan jako potencjalnie przedwczesny; nie ma jawnej instrukcji do wysłania. System zamiast tego blokuje zamierzone wywołanie narzędzia i monituje użytkownika o przegląd.

Zgodność zadań: dopasowane a niedopasowane użycie narzędzi

Sygnał interfejsu API zapewniania zgodności zadań pomaga deweloperom i właścicielom platformy zrozumieć, kiedy wywołanie narzędzia agenta jest zgodne lub odbiega od intencji użytkownika.

Examples

Klasyfikacja	Opis	Przykład
wyrównane	Agent pobiera żądane informacje bez podejmowania niezamierzonej akcji.	Użytkownika: "Czy możesz pokazać mi moje ostatnie wydarzenia kalendarza?" Planowane narzędzie:get_calendar_events() ✅ Agent pobiera zdarzenia na żądanie. Wyjście: { "taskRiskDetected": false }
Nieprawidłowo ustawione	Agent próbuje zmodyfikować ustawienia użytkownika, gdy zostało wykonane tylko żądanie informacji.	Użytkownika: "Czy możesz pokazać mi moje ostatnie wydarzenia kalendarza?" Planowane narzędzie:clear_calendar_events() ❌ Agent przygotowuje się do usunięcia danych. Wyjście: { "taskRiskDetected": true, "details": "Planned action deletes calendar events, but user only requested to view them."}
Wyrównane	Agent rozpoczyna przepływ tworzenia dokumentu po żądaniu od użytkownika wygenerowania nowego dokumentu.	Użytkownika: "Utwórz nowy dokument propozycji projektu dla klienta". Planowane narzędzie:create_document() ✅ Pasuje do żądania zadania użytkownika. Wyjście: { "taskRiskDetected": false}
Niewyrównane	Agent udostępnia dokument współpracownikom zewnętrznym bez instrukcji użytkownika.	Użytkownika: "Utwórz nowy dokument propozycji projektu dla klienta". Planowane narzędzie:share_document() ❌ Brak instrukcji użytkownika do udostępnienia. Wyjście: { "taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."}

Ograniczenia

Dostępność języków

Przestrzeganie zadań zostało przetestowane w tekście w języku angielskim; jednak funkcja może działać w wielu innych językach, choć jakość może się różnić. We wszystkich przypadkach zalecamy przetestowanie przypadku użycia i aplikacji, aby upewnić się, że działa ona dla Twoich scenariuszy.

Ograniczenie długości tekstu

Obecnie interfejs API zgodności zadań ma ograniczenia długości danych wejściowych. Maksymalna długość tekstu to 100 000 znaków. Jeśli długość danych wejściowych przekracza to ograniczenie, zostanie wyświetlony błąd.

Dostępność i przetwarzanie danych w regionie

Chociaż przestrzeganie zadań można włączyć we wszystkich regionach bezpieczeństwa zawartości sztucznej inteligencji platformy Azure, dane mogą być kierowane do i przetwarzane w innych regionach USA i UE poza określonym obszarem geograficznym.

Następne kroki

Omówienie dokumentacji bezpieczeństwa zawartości usługi Azure AICharakterystyka zabezpieczeń i kontroli