Optimalizace agentů za účelem minimalizace latence

Tento článek obsahuje několik klíčových postupů a pomáhá optimalizovat agenty, kteří závisejí na informacích z externích zdrojů, abyste zkrátili dobu čekání na zákazníky během konverzací.

Nastavte maximální prodlevu časového limitu pro globální proměnné nastavené externě. Pro agenty s globálními proměnnými nakonfigurovanými pro příjem kontextu z externích zdrojů nastavte volitelnou hodnotu časového limitu, aby agenti neviseli delší dobu.

Dejte uživateli vědět, že agent potřebuje chvilku. Agent nereaguje několik sekund nebo déle; může přimět uživatele přemýšlet, jestli systém funguje, nebo ne. Zvažte odeslání krátké zprávy na začátku příslušného tématu, které indikuje, že agent hledá informace. Uživatel tak ví, že operace může chvíli trvat a věci fungují.

Minimalizujte a optimalizujte dlouhotrvající operace mimo agenta. Volání externích systémů za účelem vyhledání informací pro personalizaci žádosti může poskytnout skvělý zážitek, ale může to také trvat nepříjemně dlouhou dobu. Pokud je toto přizpůsobení nezbytné, ujistěte se, že je volání optimalizované a že systém, který je volán, je škálovatelný.

Pro rychlé požadavky použijte uzly požadavků HTTP. Použití toku Power Automate umožňuje snadno dokončit sofistikované operace, ale může to zahrnovat značnou režii. Pokud potřebujete pouze jedno vzdálené volání vyhledávání, uzel požadavku HTTP může být pro takové jednoduché operace lehčí možností.

U volání Power Automate zkontrolujte dobu trvání požadavků pomocí řídicího panelu Power Automate. Copilot Studio neposkytuje přehled o tom, jak dlouho trvá operace mimo agenta, jako jsou volání Power Automate. Proto může být obtížné pochopit, kde se tráví čas. V Copilot Studio jsou tato dodávaná volání synchronní, což znamená, že v konverzaci nedochází k žádné další aktivitě, dokud není dokončen tok Power Automate. Zvažte použití řídicího panelu Power Automate pro váš tok. Tento řídicí panel vám může poskytnout přehled o úspěšnosti a míře selhání operací a o tom, jak dlouho trvá.