Brug samtidig orkestrering

  • 5 minutter

Samtidig orkestrering gør det muligt for flere helpdesk-medarbejdere at arbejde på den samme opgave på samme tid. Hver agent håndterer opgaven uafhængigt, og derefter indsamles og kombineres deres output. Denne metode fungerer især godt, når du ønsker forskellige tilgange eller løsninger, såsom under brainstorming, gruppebeslutningstagning eller afstemning.

Diagram over samtidig orkestreringsflow.

Dette mønster er nyttigt, når du har brug for forskellige tilgange eller ideer til at løse det samme problem. I stedet for at få agenter til at arbejde efter hinanden, arbejder de alle på samme tid. Dette fremskynder processen og dækker problemet fra mange vinkler.

Normalt kombineres resultaterne fra hver agent for at skabe et endeligt svar, men det er ikke altid nødvendigt. Hver agent kan også producere sit eget separate resultat, f.eks. kalde værktøjer til at udføre opgaver eller opdatere forskellige datalagre uafhængigt.

Agenter arbejder på egen hånd og deler ikke resultater med hinanden. En agent kan dog kalde andre AI-agenter ved at køre sin egen orkestrering som en del af processen. Helpdesk-medarbejdere skal vide, hvilke andre helpdesk-medarbejdere der er tilgængelige til at arbejde på opgaver. Dette mønster giver dig mulighed for enten at ringe til alle registrerede agenter hver gang eller vælge, hvilke agenter der skal køres baseret på den specifikke opgave.

Hvornår skal man bruge samtidig orkestrering

Du kan overveje at bruge det samtidige orkestreringsmønster i disse situationer:

  • Når opgaver kan køre på samme tid, enten ved hjælp af en fast gruppe af helpdesk-medarbejdere eller ved at vælge AI-helpdesk-medarbejdere dynamisk baseret på, hvad opgaven har brug for.
  • Når opgaven drager fordel af forskellige specialiserede færdigheder eller tilgange (f.eks. tekniske, forretningsmæssige eller kreative), der alle fungerer uafhængigt, men bidrager til at løse det samme problem.

Denne form for teamwork er almindelig i beslutningstagningsmetoder med flere agenter såsom:

  • Brainstorming af ideer
  • Kombination af forskellige ræsonnementsmetoder (ensembleræsonnement)
  • Træffe beslutninger baseret på afstemning eller konsensus (beslutningsdygtighed)
  • Håndtering af opgaver, hvor hastighed betyder noget, og parallelkørsel af agenter reducerer ventetiden

Hvornår skal man undgå samtidig orkestrering

Det kan være en god ide at undgå at bruge det samtidige orkestreringsmønster i følgende scenarier:

  • Agenter skal bygge videre på hinandens arbejde eller være afhængige af fælles kontekst i en bestemt rækkefølge.
  • Opgaven kræver en streng rækkefølge af trin eller forudsigelige, gentagelige resultater.
  • Ressourcegrænser, f.eks. modelforbrugskvoter, gør det ineffektivt eller umuligt at køre agenter parallelt.
  • Helpdesk-medarbejdere kan ikke koordinere ændringer af delte data eller eksterne systemer på samme tid, mens de kører.
  • Der er ingen klar måde at løse konflikter eller modsætninger mellem resultater fra forskellige agenter på.
  • At kombinere resultater er for kompliceret eller ender med at sænke den samlede kvalitet.

Implementere samtidig orkestrering

Implementer det samtidige orkestreringsmønster med Microsoft Agent Framework:

  1. Opret din chatklient
    Konfigurer en chatklient (f.eks. AzureOpenAIChatClient) med relevante legitimationsoplysninger for at oprette forbindelse til din AI-tjenesteudbyder.

  2. Definer dine agenter
    Opret agentforekomster ved hjælp af chatklientens create_agent metode. Hver agent bør have specifikke instruktioner og et navn, der definerer dens rolle og ekspertiseområde.

  3. Byg den samtidige arbejdsgang
    Brug ConcurrentBuilder klassen til at oprette en arbejdsproces, der kan køre flere helpdesk-medarbejdere parallelt. Tilføj dine agentforekomster som deltagere ved hjælp af participants() metoden, og kald build() derefter for at oprette arbejdsprocessen.

  4. Kør arbejdsprocessen
    Kald arbejdsprocessens run metode med den opgave eller det input, du ønsker, at helpdesk-medarbejderne skal arbejde på. Arbejdsprocessen kører alle helpdesk-medarbejdere samtidigt og returnerer hændelser, der indeholder resultaterne.

  5. Bearbejd resultaterne
    Udtræk outputtene fra arbejdsgangshændelserne ved hjælp af get_outputs(). Resultaterne indeholder de kombinerede samtaler fra alle helpdesk-medarbejdere, hvor hver helpdesk-medarbejders svar er inkluderet i det endelige output.

  6. Håndter de aggregerede svar
    Behandl de aggregerede meddelelser fra alle helpdesk-medarbejdere. Hver meddelelse indeholder forfatterens navn og indhold, så du kan identificere, hvilken agent der har leveret hvert svar.

Samtidig orkestrering er et effektivt mønster til brug af flere AI-agenter samtidigt, hvilket muliggør hurtigere og mere forskelligartet problemløsning. Ved at køre helpdesk-medarbejdere parallelt kan du udforske forskellige tilgange på én gang, forbedre effektiviteten og få større indsigt. Det er dog vigtigt at vælge dette mønster, når opgaver virkelig kan køre uafhængigt, og at være opmærksom på ressourcebegrænsninger og koordineringsudfordringer. Når den implementeres omhyggeligt med Microsoft Agent Framework SDK, kan samtidig orkestrering i høj grad forbedre dine AI-arbejdsprocesser og beslutningsprocesser.