Poznámka k transparentnosti pro službu agenta Azure

Důležité

Překlady mimo angličtinu jsou k dispozici pouze pro usnadnění. Projděte si EN-US verzi tohoto dokumentu s konečnou verzí.

Co je poznámka průhlednosti?

Systém AI zahrnuje nejen technologii, ale také lidi, kteří ji budou používat, osoby, které ho budou ovlivněny, a prostředí, ve kterém je nasazené. Vytvoření systému, který je vhodný pro zamýšlený účel, vyžaduje pochopení toho, jak technologie funguje, jaké jsou jeho schopnosti a omezení a jak dosáhnout nejlepšího výkonu. Microsoft poznámky k transparentnosti jsou určeny k tomu, aby vám pomohly pochopit, jak naše technologie AI funguje, volby vlastníků systému mohou ovlivnit výkon a chování systému a význam myšlení celého systému, včetně technologií, lidí a prostředí. Poznámky transparentnosti můžete použít při vývoji nebo nasazení vlastního systému nebo jejich sdílení s lidmi, kteří budou váš systém používat nebo budou ovlivněni.

Transparentní poznámky Microsoftu jsou součástí širšího úsilí společnosti Microsoft zavést naše principy umělé inteligence do praxe. Další informace najdete v zásadách Microsoft AI.

Základy služby agenta AI Azure

Úvod

Azure služba agenta AI je plně spravovaná služba navržená tak, aby vývojářům mohla bezpečně vytvářet, nasazovat a škálovat vysoce kvalitní a rozšiřitelné agenty AI, aniž by museli spravovat základní výpočetní prostředky a prostředky úložiště. Azure služba agenta AI poskytuje integrovaný přístup k modelům, nástrojům a technologiím a umožňuje rozšířit funkce agentů pomocí znalostí z připojených zdrojů (jako je vyhledávání Bingu, SharePoint, Fabric, Azure Blob Storage a licencovaná data) a s akcemi pomocí nástrojů, jako jsou Azure Logic Apps, Azure Functions, zadané nástroje OpenAPI 3.0 a interpret kódu. Další informace

Obecné právní omezení týkající se agentů

Systémy AI agentů jsou navržené tak, aby používaly funkce agentů k dosažení cíle vysoké úrovně určeného uživatelem. Systémy by měly být navrženy tak, aby uživatelům umožňovaly začlenit lidský dohled podle potřeby, aby zajistily, že systém provádí akce a úkoly podle očekávání. Pokud agent vykazuje nezamýšlené nebo nežádoucí chování, uživatelé by měli mít možnost zasáhnout a přijmout vhodná opatření ke zmírnění potenciálních rizik.

Právní omezení týkající se agentů v citlivých doménách

Uživatelé by měli při navrhování a nasazování systémů AI agentů v citlivých doménách s nevratnými nebo vysoce následnými akcemi agentů postupovat opatrně. Tyto oblasti zahrnují, ale nejsou omezeny na finanční prostředky a pojištění, zdravotnictví, právní a bydlení. Při vytváření autonomní agentské umělé inteligence je třeba provést i další opatření, jak je popsáno dále v našem kodexu chování. Zodpovídáte za dodržování všech příslušných zákonů a bezpečnostních norem, které jsou relevantní pro agenty, které vytváříte, pomocí jakýchkoli nástrojů a řešení Foundry, včetně katalogu agentů, podkladových ukázek kódu a podobných zdrojů a informací (viz následující aspekty při výběru případu použití).

Klíčové termíny

Tady jsou klíčové komponenty sady SDK služby agenta Azure AI (a zkušenosti portálu Microsoft Foundry, který je poháněn službou).

Termín Definice
Developer Zákazník služby Azure AI Agent Service, budujícího agenta.
Uživatel Osoba, která používá nebo provozuje agenta, který je vytvořen vývojářem.
Agent Aplikace nebo systém, který používá generující modely AI s nástroji pro přístup ke zdrojům dat, rozhraním API a systémům z reálného světa a k dosažení uživatelsky určených cílů, jako jsou odpovědi na otázky, provádění akcí nebo úplné automatizace pracovních postupů, s lidským dohledem nebo bez nich.
Nástroj Integrovaná nebo vlastní definovaná funkce, která agentu umožňuje provádět jednoduché nebo složité úlohy nebo pracovat se zdroji informací, aplikacemi a/nebo službami prostřednictvím sady SDK služby agenta nebo portálu Foundry.
Nástroj znalostí Nástroj, který umožňuje agentům přistupovat k interním a externím zdrojům a zpracovávat je, včetně informací nad rámec data přímého trénování modelu, za účelem zlepšení přesnosti a relevance odpovědí na dotazy uživatelů.
Akční nástroj Nástroj, který agenta umožňuje provádět úlohy a provádět akce jménem uživatelů integrací s externími systémy, rozhraními API a službami.
Vlákno Sezení konverzace mezi agentem a uživatelem Vlákna ukládají zprávy a automaticky zpracovávají jejich zkrácení tak, aby se vešla do kontextu modelu.
Zpráva Zpráva vytvořená agentem nebo uživatelem Zprávy můžou obsahovat text, obrázky a další soubory. Zprávy jsou uloženy jako seznam ve vlákně.
Spustit Aktivace agenta, která začne běžet na základě obsahu vlákna. Agent používá svoji konfiguraci a zprávy vlákna k provádění úloh voláním modelů a nástrojů. V rámci spuštění Agent přidává zprávy do vlákna.
Postup spuštění Podrobný seznam kroků, které agent provedl jako součást spuštění Agent může během spuštění volat nástroje nebo vytvářet zprávy. Zkoumání jednotlivých kroků spuštění vám umožní pochopit, jak se agent dostává ke konečným výsledkům.
Workflow Deklarativní posloupnost akcí, které orchestrují agenty pro automatizaci složitých procesů. Pracovní postupy v Foundry lze navrhovat, spouštět a publikovat pomocí grafického uživatelského rozhraní.
Ukázka Šablona, manifest, ukázka kódu, ukázka pracovního postupu nebo jiný příklad, který ukazuje, jak můžete vytvářet agenty, aplikace nebo řešení a využívat výhody služby Microsoft Foundry Agent Service.

Relevantní koncepty schopností

Termín Definice
Agentický systém AI Zastřešující termín, který zahrnuje následující běžné funkce, které můžou vývojáři povolit ve svých agentech, když používají službu agentů Azure AI.
Autonomie Schopnost nezávisle provádět akce a vykonávat kontrolu nad chováním systému s různou mírou lidského dohledu.
Uvažování Schopnost zpracovávat informace a přitom porozumět kontextu a výsledkům různých potenciálních kurzů akcí, úkolů nebo zapojení s uživateli třetích stran.
Plánování Schopnost rozdělit složité cíle a akce zadané uživatelem do úkolů a dílčích úkolů pro provádění. Plánované úlohy jsou vytvořeny jedním nebo více agenty.
Paměť Možnost ukládat nebo uchovávat informace nebo kontext z předchozích pozorování, interakcí nebo chování systému.
Přizpůsobivost Možnost změnit nebo upravit chování a zlepšit výkon na základě informací shromážděných z prostředí nebo předchozích zkušeností.
Rozšiřitelnost Schopnost volat prostředky (například externí zdroje znalostí) a spouštět funkce (například odesílání e-mailu) z připojených systémů, softwaru nebo platforem, včetně použití nástrojů.

Schopnosti

Chování systému

Azure služba agenta AI poskytuje integraci s bezpečně spravovanými daty, předefinovanými nástroji a automatickým voláním nástrojů, které vývojářům umožňují vytvářet agenty, kteří mohou mít možnost zdůvodnění, plánování a spouštění úloh z cíle vysoké úrovně určeného uživatelem. Azure služba agenta AI umožňuje rychlý vývoj agentů s integrovanou správou paměti a sofistikovaným rozhraním pro bezproblémovou integraci s oblíbenými výpočetními platformami, přemostěním funkcí LLM s obecnými účelovými a programovými akcemi.

Diagram komponent a funkcí služby agentů Azure AI.

Mezi klíčové funkce služby agenta Azure AI patří:

  1. Rychlý vývoj a automatizace procesů: Agenti se musí bezproblémově integrovat se správnými nástroji, systémy a rozhraními API, aby mohli provádět deterministické nebo ne deterministické akce.
  2. Integrace s rozsáhlými paměťovými a znalostními konektory: Agenti potřebují spravovat stav konverzace a připojovat se k interním a externím zdrojům znalostí, aby měli správný kontext k dokončení procesu.
  3. Flexibilní volba modelu: Agenti sestavení s vhodným modelem pro své úlohy můžou umožnit lepší integraci informací z více datových typů, získat lepší výsledky pro scénáře specifické pro úlohy a zlepšit efektivitu nákladů ve škálovaných nasazeních.
  4. Integrovaná připravenost podniku: Agenti musí být schopni podporovat jedinečné požadavky organizace na ochranu osobních údajů a dodržování předpisů, škálovat podle potřeb organizace a spolehlivě provádět úkoly s vysokou kvalitou.

Možnosti rozšiřitelnosti

Možnosti rozšiřitelnosti služby agentů Azure AI umožňují agentům interakci se zdroji znalostí, systémy a platformami, aby podpořily a zlepšily funkčnost agentů. Konkrétně:

Zajištění spolehlivého základu výstupů agentů s bohatým ekosystémem zdrojů znalostí

Vývojáři můžou nakonfigurovat bohatý ekosystém zdrojů znalostí, aby agent mohl přistupovat k datům z více zdrojů a zpracovávat je z více zdrojů, což zlepšuje přesnost odpovědí a výstupů. Konektory k těmto zdrojům dat fungují v rámci určených parametrů sítě. Mezi znalostní nástroje integrované ve službě agenta AI Azure patří:

  • Souborové vyhledávání (integrovaný nástroj pro načítání rozšířené generace (RAG) pro zpracování a vyhledávání privátních dat v Azure AI Vyhledávač, Azure Blob Storage a místních souborech)
  • Základy vyhledávání Bingem (nástroj pro vyhledávání na webu, který k extrakci informací z webu používá Vyhledávání Bingem)
  • SharePoint (integrované nástroje, které propojují interní dokumenty organizace v SharePoint pro podkladové odpovědi)
  • Fabric Data Agent (integrovaný nástroj pro chatování se strukturovanými daty na Microsoft Fabric pomocí generativní umělé inteligence)
  • Přineste si licencovaná data (nástroj, který umožňuje uzemnění používání proprietárních dat přístupných pomocí licencovaného klíče rozhraní API získaného vývojářem od poskytovatele dat, například TripAdvisoru).

Agenti zjednodušují zabezpečený přístup k datům v SharePoint a Fabric AI Skills prostřednictvím ověřování jménem uživatele (OBO), což agentovi umožňuje přístup pouze k souborům SharePoint a Fabric, ke kterým má uživatel oprávnění.

Povolení autonomních akcí s pomocí akčních nástrojů nebo bez zásahu člověka

Vývojáři můžou prostřednictvím nástrojů akcí připojit agenta k externím systémům, rozhraním API a službám, aby agent mohl provádět úlohy a provádět akce jménem uživatelů. Mezi nástroje akcí integrované do služby agenta AI Azure patří:

  • InterpretCode (nástroj, který může psát a spouštět kód Python v zabezpečeném prostředí, zpracovávat různé formáty dat a generovat soubory s daty a vizuály)
  • Azure Logic Apps (cloudový nástroj PaaS, který umožňuje automatizované pracovní postupy s využitím 1 400 a více integrovaných konektorů)
  • Azure Functions (nástroj, který agentu umožňuje spouštět bezserverový kód pro synchronní, asynchronní, dlouhotrvající a akce řízené událostmi)
  • Zadané nástroje OpenAPI 3.0 (vlastní funkce definovaná pomocí specifikace OpenAPI 3.0 pro bezpečné připojení agenta k externím rozhraním API založeným na OpenAPI)
  • Nástroje protokolu kontextu modelu (vlastní služba připojená přes protokol kontextu modelu prostřednictvím existujícího vzdáleného serveru MCP k agentu).
  • Hloubkový výzkumný nástroj: (nástroj, který umožňuje vícekrokový webový výzkum pomocí o3-hloubkového-výzkumného modelu a zakotvení pomocí vyhledávání pomocí Bingu).
  • Použití počítače: (nástroj k provádění úloh pomocí interakce s počítačovými systémy a aplikacemi prostřednictvím jejich uživatelských rozhraní)
  • Nástroj Pro automatizaci prohlížeče (nástroj, který dokáže provádět úlohy prohlížeče z reálného světa prostřednictvím výzev přirozeného jazyka, což umožňuje automatizované procházení aktivit bez zásahu člověka uprostřed)
  • Generování obrázků (nástroj pro generování a úpravu obrázků)
  • Agent2Agent (vlastní služba připojená pomocí protokolu agent-to-agent prostřednictvím existujícího koncového bodu agenta k agentu Foundry).

Orchestrace systémů s více agenty

Systémy s více agenty používající Azure službu agenta AI je možné navrhnout tak, aby v konkrétních scénářích dosahovaly výkonných autonomních pracovních postupů. V systémech s více agenty interagují nebo spolupracují různé autonomní agenty pracující s kontextem, ať už lidé nebo systémy umělé inteligence, nebo spolupracují na dosažení individuálních nebo kolektivních cílů určených uživatelem. Služba Azure AI Agent funguje okamžitě s rozhraními pro orchestraci více agentů, která jsou drátově kompatibilní1 s rozhraním API pro odpovědi, jako je Microsoft Agent Framework, otevřená sada nástrojů SDK a runtime modul, navržená tak, aby vývojářům umožnila snadno vytvářet, nasazovat a spravovat sofistikované systémy s více agenty.

Při vytváření nového řešení s více agenty začněte vytvářet jednoúčelové agenty se službou Azure AI Agent Service, abyste získali nejspolehlivější, škálovatelné a zabezpečené agenty. Tyto agenty pak můžete orchestrovat společně pomocí podporovaných architektur orchestrace. Microsoft Agent Framework se neustále vyvíjí, aby našli nejlepší vzory spolupráce pro agenty (a lidi), aby mohli spolupracovat. Funkce, které zobrazují produkční hodnotu pomocí Microsoft Agent Frameworku, je pak možné přesunout do služby Microsoft Foundry Agent Service, pokud hledáte produkční podporu a změny, které nejsou zásadní.

Další informace o dalších aspektech a rizicích při vytváření orchestrací s více agenty pomocí Microsoft Agent Framework najdete v nejčastějších dotazech k transparentnosti <>.

Pracovní postupy Foundry rozšiřují orchestraci s více agenty tím, že poskytují vizuální návrhář a konfiguraci založenou na YAML pro sestavování, testování a nasazování agentických procesů. Každý pracovní postup může koordinovat více agentů, což umožňuje modulární automatizaci a sledovatelnost. Návrhář pracovního postupu podporuje správu verzí, protokoly změn a vizuální monitorování, což usnadňuje správu složité logiky a zajištění transparentnosti.

1Kompatibilita s páteřní sítí znamená, že rozhraní API může komunikovat a vyměňovat data způsobem, který je plně kompatibilní s existujícím protokolem, existujícími formáty dat a komunikačními standardy, v tomto případě protokolem Responses API. To znamená, že dva systémy mohou bezproblémově spolupracovat, aniž by bylo nutné měnit jejich základní implementaci.

Případy použití

Zamýšlené použití

Azure služba agenta AI je flexibilní a nezávislá na konkrétním použití. To představuje několik možností automatizace rutinních úloh a odemykání nových možností pro znalostní práci – ať už jde o osobní agenty produktivity, kteří odesílají e-maily a plánují schůzky, výzkumné agenty, kteří nepřetržitě monitorují trendy trhu a automatizují vytváření sestav, obchodní agenty, kteří mohou potenciální zákazníky zkoumat a automaticky je kvalifikovat, agenti zákaznických služeb, kteří aktivně sledují přizpůsobené zprávy prostřednictvím interakce, nebo vývojářské agenty, kteří mohou upgradovat kódovou základnu nebo interaktivně vyvíjet úložiště kódu. Tady jsou příklady zamýšlených použití agentů vyvinutých pomocí služby agenta AI Azure:

  • Zdravotnictví: Zjednodušená orientace zaměstnanců a základní administrativní podpora: Administrativní asistent nemocnice nasadí agenta pro kolaci standardních provozních postupů, personálních adresářů a zásad směn do stručné orientace nových zdravotních sester; konečné materiály jsou zkontrolovány a schváleny personálním oddělením, což snižuje opakující se práci bez ohrožení kvality obsahu.
  • Maloobchod: Personalizované nákupní pokyny: Místní majitel butiku může nasadit agenta, který doporučí možnosti dárků na základě zadaných potřeb zákazníka a minulých nákupů, zodpovědného vedení nakupujících prostřednictvím složitých katalogů produktů bez nutnosti tlačit zkreslené nebo zavádějící informace.
  • Vláda: Žádost občanů o určení priorit a koordinace akcí společenství: Úředník města používá agenta ke kategorizaci příchozích žádostí o služby (například oprav výpletů), jejich přiřazení správným oddělením a kompilaci jednoduchých aktualizací stavu; úředníci kontrolují a finalizují komunikaci, aby zachovala transparentnost a přesnost.
  • Vzdělávání: Pomoc s výzkumem a shromažďováním referencí: Učitel spoléhá na agenta, aby shromáždil věkové odpovídající články a materiály z důvěryhodných zdrojů pro lekci planetární vědy. Učitel ověřuje jejich faktickou správnost a upravuje je tak, aby vyhovovaly osnovám a studenti dostávali spolehlivý obsah.
  • Výroba: Dohled zásob a plánování úkolů: Správce továrny nasadí agenta pro monitorování úrovní zásob, plánování skladových zásob při nízkém výkonu zásob a optimalizaci seznamu směn; vedení potvrzuje návrhy agenta a zachovává konečnou rozhodovací autoritu.
  • Deep Research Tool: Přečtěte si další informace o zamýšlených použitích, možnostech, omezeních, rizicích a důležitých aspektech při výběru modelu případu použití s technologií hloubkového výzkumu v Azure poznámce k transparentnosti OpenAI.
  • Použití počítače: Nástroj Použití počítače přináší další významná rizika zabezpečení a ochrany osobních údajů, včetně útoků vkládáním výzvy. Přečtěte si další informace o zamýšlených použitích, možnostech, omezeních, rizicích a důležitých aspektech při výběru případu použití v Azure poznámce k transparentnosti OpenAI.
  • Nástroj pro generování obrázků: Nástroj pro generování obrázků je vybaven modelem gpt-image-1. Přečtěte si další informace o zamýšlených použitích, možnostech, omezeních, rizicích a aspektech při výběru modelu případu použití v Azure poznámce k transparentnosti OpenAI.

Ukázky agentů mají specifické zamýšlené použití, které můžou vývojáři konfigurovat, aby pečlivě vytvořili, implementovali a nasadili agenty. Podívejte se na manifesty agenta.

Důležité informace o výběru případu použití

Zákazníkům doporučujeme používat Azure službu agenta AI ve svých inovativních řešeních nebo aplikacích. Tady je ale několik věcí, které je potřeba vzít v úvahu při výběru případu použití:

  • Vyhněte se scénářům, kdy použití nebo zneužití systému může vést k významné fyzické nebo psychologické újmě jednotlivce. Například scénáře, které diagnostikují pacienty nebo předepisují léky, mají potenciál způsobit významné škody.
  • Vyhněte se scénářům, kdy použití nebo zneužití systému může mít závažný dopad na životní příležitosti nebo právní stav. Mezi příklady patří scénáře, kdy systém AI nebo agent může ovlivnit právní stav jednotlivce, právní práva nebo jejich přístup k úvěru, vzdělání, zaměstnání, zdravotní péči, bydlení, pojištění, sociální dávky, služby, příležitosti nebo podmínky, na které jsou poskytovány.
  • Vyhněte se scénářům s vysokými sázkami, které by mohly vést k poškození. Model použitý v agentu může odrážet určitá společenské názory, předsudky a další nežádoucí obsah, které jsou přítomné v trénovacích datech nebo příklady uvedené v výzvě. V důsledku toho varujeme před používáním agentů ve vysoce sázkových scénářích, kdy může být nespravedlivé, nespolehlivé nebo urážlivé chování extrémně nákladné nebo vést k poškození.
  • Pečlivě zvažte případy použití v doménách s vysokými sázkami nebo odvětví, kde jsou akce agenta nevratné nebo vysoce závažné. Taková odvětví zahrnují, ale nejsou omezeny na zdravotnictví, lékařství, finance nebo právní domény. Například: schopnost provádět finanční transakce nebo poskytovat finanční poradenství, schopnost přímo komunikovat s vnějšími službami, schopnost spravovat léky nebo poskytovat poradenství související se zdravím, možnost veřejně sdílet citlivé informace nebo možnost udělit přístup k kritickým systémům.
  • Právní a regulační aspekty. Microsoft bere bezpečnost a dodržování právních a regulačních povinností vážně. Vždy se snažíme dodržovat platné zákony, předpisy a standardy při vývoji a nasazování technologií AI, včetně Microsoft zodpovědného standardu AI. Je zodpovědností vaší organizace vyhodnotit bezpečnostní důsledky a potenciální konkrétní právní a regulační povinnosti při používání jakýchkoli nástrojů a řešení Foundry, včetně agentů a podkladových ukázek agentů. Odpovědi na AI mohou být nepřesné a akce umělé inteligence by měly být odpovídajícím způsobem sledovány s lidským dohledem. Některá použití a nabídky můžou podléhat právním a zákonným požadavkům, můžou vyžadovat licence nebo nemusí být vhodné pro všechna odvětví, scénáře nebo případy použití. Kromě toho se vzorky agentů a podkladových agentů nesmí používat způsobem zakázaným platnými zákony, předpisy, podmínkami služby nebo příslušnými pravidly chování.
  • Microsoft nevytvořil, testoval ani neověřoval žádné systémy, rozhraní API, servery, agenty a služby třetích stran, ke kterému se můžete rozhodnout připojit. Když se připojíte k systému, rozhraní API, serveru, agentu nebo službě třetí strany (jiného typu než Microsoft), některá data se budou s danou službou sdílet a vaše aplikace nebo agent může přijímat vrácená data. Doporučujeme prověřit, jaká data budou sdílena, a být si vědomi postupů třetích stran týkajících se uchovávání a umístění dat. Pečlivě zvažte a spravujte, jestli budou vaše data přetékat mimo dodržování předpisů a geografické hranice vaší organizace a případné související důsledky. Microsoft nemá žádnou odpovědnost za vás nebo jiné uživatele ve vztahu k používání jakýchkoli vzdálených systémů, rozhraní API, serverů, nástrojů, agentů nebo služeb. Vaše používání těchto služeb se řídí vaší smlouvou s poskytovatelem. Zodpovídáte za veškeré využití a související náklady.
  • Nástroj Pro automatizaci prohlížeče nese podstatná bezpečnostní rizika a odpovědnost uživatelů. Nástroj pro automatizaci prohlížeče přináší významná bezpečnostní rizika. Obě chyby v rozsudku umělé inteligence a přítomnost škodlivých nebo matoucích pokynů na webových stránkách, na kterých se umělá inteligence setká, můžou způsobit, že spustí příkazy, které vy nebo jiní uživatelé nemají v úmyslu, což by mohlo ohrozit zabezpečení prohlížečů, počítačů a účtů, ke kterým má prohlížeč nebo umělá inteligence přístup, včetně osobních, finančních nebo podnikových systémů. Používáním nástroje Pro automatizaci prohlížeče potvrzujete, že nesete odpovědnost a odpovědnost za jakékoli jeho použití a všech výsledných agentů, které s ním vytvoříte, a to i s ohledem na všechny ostatní uživatele, kterým zpřístupníte funkce Nástroje pro automatizaci prohlížeče, včetně prostřednictvím výsledných agentů. 

Omezení

Technická omezení, provozní faktory a rozsahy

  • Omezení modelu AI pro generování: Protože služba agenta AI Azure funguje s různými modely, celkový systém dědí omezení specifická pro tyto modely. Před výběrem modelu, který se má začlenit do agenta, pečlivě vyhodnoťte model , abyste porozuměli jeho omezením. Zvažte prozkoumání Azure Poznámky k transparentnosti OpenAI pro dodatečné informace o omezeních týkajících se generativní umělé inteligence, která budou pro systém pravděpodobně relevantní, a prostudujte další osvědčené postupy pro začlenění generativní umělé inteligence do aplikace agenta.
  • Nástrojové složitosti orchestrace: Agenti umělé inteligence závisí na několika integrovaných nástrojích a datových konektorech (jako je vyhledávání Bingu, SharePoint a Azure Logic Apps). Pokud jsou některé z těchto nástrojů chybně nakonfigurované, nedostupné nebo vracejí nekonzistentní výsledky, nebo je u jednoho agenta nakonfigurovaný velký počet nástrojů, mohou se pokyny agenta stát fragmentovanými, zastaralými nebo zavádějícími.
  • Nerovné vyjádření a podpora: Při obsluhování různorodých skupin uživatelů můžou agenti AI vykazovat nerovnoměrný výkon, pokud nejsou dostatečně zastoupeny jazykové odrůdy, regionální data nebo specializované znalostní domény. Maloobchodní agent může například zákazníkům, kteří mluví nedostatečně reprezentovanými jazyky, nabídnout méně spolehlivé doporučení k produktům.
  • Neprůhledné rozhodovací procesy: Vzhledem k tomu, že agenti kombinují velké jazykové modely s externími systémy, může být sledování „proč“ za svými rozhodnutími náročné. Uživatel, který používá takového agenta, může mít obtíže pochopit, proč byly určité nástroje nebo kombinace nástrojů zvoleny k zodpovězení dotazu, což komplikuje důvěru a ověřování výstupů nebo akcí agenta.
  • Vývoj osvědčených postupů a standardů: Agenti jsou nově vznikající technologie a pokyny k bezpečné integraci, transparentnímu využití nástrojů a zodpovědnému nasazení se stále vyvíjejí. Udržování nejnovějších osvědčených postupů a postupů auditování je zásadní, protože i dobře záměrné použití se může stát rizikovým bez průběžného přezkumu a upřesnění.

Výkon systému

Osvědčené postupy pro zlepšení výkonu systému

  • Vyhodnocení výkonu agenta: Vyhodnoťte agenty, jak dobře identifikují požadavky uživatelů, vyberou vhodné nástroje a procesy a budou dodržovat přiřazené úlohy. Použijte následující vyhodnocovače Microsoft Azure AI Evaluation SDK:
    • Řešení záměru: Měří, jak dobře agent identifikuje požadavek uživatele, včetně rozsahu záměru uživatele, ptá se na objasnění otázek a připomíná koncovým uživatelům jeho rozsah funkcí.
    • Přesnost volání nástroje: Vyhodnotí schopnost agenta vybrat příslušné nástroje a zpracovat správné parametry z předchozích kroků.
    • Dodržování úkolů: Měří, jak dobře konečná odpověď agenta dodržuje přiřazené úkoly podle systémové zprávy a předchozích kroků.
  • Zadejte důvěryhodná data: Načtení nebo nahrání nedůvěryhodných dat do systémů by mohlo ohrozit zabezpečení vašich systémů nebo aplikací. Pokud chcete tato rizika ve vašich aplikacích zmírnit pomocí služby agenta Azure AI, doporučujeme protokolování a monitorování interakcí LLM (vstupy a výstupy), abyste zjistili a analyzovali potenciální injektáže výzvy, jasně vymezili vstup uživatele, abyste minimalizovali riziko injektáže výzvy, omezili přístup LLM k citlivým prostředkům, omezili jeho schopnosti na minimum požadované a izolovali ho od důležitých systémů a prostředků. Seznamte se s dalšími přístupy ke zmírnění rizik v pokynech k zabezpečení pro velké jazykové modely.
  • Zvolte a integrujte nástroje promyšleně: Vyberte nástroje, které jsou stabilní, dobře zdokumentované a vhodné pro zamýšlené použití a cíle agenta. K provádění konkrétních akcí můžete například použít spolehlivý databázový konektor pro faktické vyhledávání nebo dobře otestované rozhraní API. Omezte počet nástrojů na nástroje, které skutečně vylepšují funkčnost, a určete, jak a kdy by je měl agent používat.
  • Poskytněte uživatelům proaktivní ovládací prvky pro hranice systému: Zvažte vytvoření uživatelských ovládacích prvků, které umožní uživatelům, kteří ovládají AI agenta, proaktivně nastavit hranice toho, jaké akce nebo nástroje jsou povoleny a v jakých oblastech může agent fungovat.
  • Zajistěte dohled v reálném čase a procesy zahrnující lidský dohled: Zvažte poskytnutí odpovídajících ovládacích prvků v reálném čase pro autorizaci, ověření, kontrolu a schválení chování systému agentů, včetně akcí, plánovaných úloh, operačních prostředí nebo hranic domény a přístupu k nástrojům pro přístup k informacím nebo činnostem. Zejména u kritických nebo vysoce důležitých úkolů zvažte zahrnutí povinných kroků pro kontrolu a schvalování člověka uživatelem. Zajistěte, aby uživatel nebo lidský operátor mohl snadno zasahovat, opravit nebo přepsat rozhodnutí agenta, zejména pokud tato rozhodnutí mají bezpečnostní nebo právní důsledky. Další informace najdete v tématu Přílišné spoléhání na AI.
  • Zajištění srozumitelnosti a sledovatelnosti pro rozhodování člověka: Poskytněte uživatelům informace před provedením a po provedení akcí, které jim pomůžou pochopit odůvodnění rozhodnutí, určit, kde se má problém zasahovat, a řešit problémy. Začleňte do systému instrumentaci nebo protokolování, například trasování OpenTelemetry z Azure AI Agent Service, pro sledování výstupů, včetně vstupů, kroků modelu a volání nástrojů. To umožňuje rekonstrukci procesu odůvodnění agenta, izolaci problémů, ladění výzev, upřesnění integrace nástrojů a ověření dodržování pokynů. Další informace najdete v tématu Trasování pomocí Application Insights.
  • Pokyny a pokyny pro agenta vrstvy: Rozdělte složité úlohy do kroků nebo dílčích pokynů v příkazovém řádku systému. To může agentu pomoct efektivněji řešit vícestupňové odůvodnění, snížit chyby a zlepšit přehlednost konečného výstupu.
  • Rozpoznání prahových hodnot složitosti pro škálování: Když se systémová zpráva jednoho agenta konzistentně snaží zvládnout složitost, šířku nebo hloubku úlohy , například často vytváří neúplné výsledky, dochází k kritickým bodům nebo vyžaduje rozsáhlé znalosti specifické pro doménu, může systém těžit z přechodu na architekturu s více agenty. Osvědčeným postupem je monitorovat ukazatele výkonu, jako je přesnost odezvy, latence a frekvence chyb. Pokud upřesnění výzvy jednoho agenta už nezlepší výsledky, zvažte rozdělení úlohy do specializovaných dílčích úloh, přičemž každá z nich se řídí vlastním agentem. Segmentací složitých úloh (například rozdělením výzkumu zásad a interpretace zásad do samostatných agentů) můžete udržovat modularitu, efektivněji používat specializované znalosti domény a snížit kognitivní přetížení u každého jednoho agenta.

Vyhodnocení a integrace Azure služby agenta AI pro vaše použití

  • Mapujte rizika a dopady Map Agenta. Před vývojem nebo nasazením agentské aplikace pečlivě zvažte dopad zamýšlených akcí a důsledky akcí nebo nástrojů, které nefungují tak, jak mají – například generování nebo provádění akcí s nepřesnými informacemi nebo příčinou předsudků nebo nespravedlivých výsledků – v různých fázích.
  • Zajistěte odpovídající lidský dohled a kontrolu. Zvažte zahrnutí ovládacích prvků, které uživatelům pomáhají ověřovat, kontrolovat nebo schvalovat akce včas, což může zahrnovat kontrolu plánovaných úkolů nebo volání externích zdrojů dat, například podle potřeby pro váš systém. Zvažte zahrnutí kontrolních mechanismů pro odpovídající nápravu selhání systému uživateli, zejména ve vysoce rizikových scénářích a případech použití. Nástroj MCP například umožňuje předávat vlastní hlavičky, jako jsou ověřovací klíče nebo schéma, které může vzdálený server MCP potřebovat. V takových případech doporučujeme zkontrolovat všechna data sdílená se vzdálenými servery a volitelně je protokolovat pro účely auditování. Buďte obeznámeni s postupy třetích stran pro uchovávání a umístění dat.
  • Jasně definovat akce a související požadavky. Jasně definovat, které akce jsou povolené (hranice akcí), zakázané nebo potřebují explicitní autorizaci, mohou pomoci vašemu agentickému systému fungovat podle očekávání a s odpovídající úrovní lidského dohledu.
  • Jasně definujte zamýšlená provozní prostředí. Jasně definujte zamýšlená provozní prostředí (hranice domény), kde je váš agent navržený tak, aby efektivně fungoval.
  • Zajistěte odpovídající srozumitelnost při rozhodování. Poskytnutí informací uživatelům před provedením a po provedení akcí nebo nástrojů může pomoct pochopit odůvodnění akce nebo proč se určité akce provedly nebo proč se aplikace chová určitým způsobem, kde zasahují a jak řešit problémy.

Další informace o zodpovědné umělé inteligenci

Další informace o službě agenta AI Azure

  • Last updated on