Použití agentů na Azure Databricks

Tato stránka obsahuje přehled nástrojů pro vytváření, nasazování a používání agentů AI na Azure Databricks. Další informace o agentech najdete v tématu Vzory návrhu systému agentů.

funkce Description
Začínáme: GenAI bez kódu Vyzkoušejte AI Playground pro testování a vytváření prototypů založených na uživatelském rozhraní.
Začínáme: MLflow 3 pro GenAI Vyzkoušejte MLflow pro trasování, hodnocení a lidskou zpětnou vazbu.

Nasazení a dotazování velkých jazykových modelů (LLM) generativní AI

Poskytování kurátorované sady generativních AI modelů od poskytovatelů LLM, jako jsou OpenAI a Anthropic, a jejich zpřístupnění prostřednictvím zabezpečených a škálovatelných rozhraní API.

funkce Description
Základní modely Obsluha modelů Gen AI, včetně opensourcových modelů a modelů třetích stran, jako jsou Meta Llama, Anthropic Claude, OpenAI GPT a další.

Sestavování a nasazování agentů umělé inteligence na podnikové úrovni

Sestavte a nasaďte vlastní agenty, včetně agentů pro volání nástrojů, aplikací pro generování rozšířené načítáním a systémů s více agenty. Pro výchozí bod bez kódu vyberte LLM, přidejte nástroje a chatujte s agentem a otestujte své odpovědi před exportem do kódu pomocí AI Playground.

AI Playground nabízí možnost nízkého kódu pro vytváření prototypů agentů.

funkce Description
AI Playground (bez kódu) Prototyp a testování agentů AI v prostředí bez kódu Před generováním kódu pro nasazení můžete rychle experimentovat s chováním agentů a integrací nástrojů.
Pomocník pro znalosti Vytvářejte a optimalizujte chatovací roboty AI specifické pro doménu pomocí intuitivního rozhraní.
Vytváření vlastních agentů Vytváření, nasazování a vyhodnocování agentů pomocí Pythonu Podporuje agenty napsané s libovolnou knihovnou pro vytváření, včetně LangGraph, LangChain, OpenAI a LlamaIndex. Integrováno s trasováním MLflow. Iterujte rychle pomocí Aplikace Databricks. Pokud chcete rychle začít, přečtěte si téma Začínáme s agenty AI.
Připojení agentů k nástrojům Vytvořte nástroje agenta pro dotazování strukturovaných a nestrukturovaných dat, spuštění kódu nebo připojení k rozhraním API externích služeb.
MCP (Model Context Protocol) Standardizujte způsob, jakým se agenti připojují k datům a nástrojům pomocí zabezpečeného a konzistentního rozhraní.

Použití externích agentů

Pokud váš agent běží mimo Databricks, zaregistrujte ho jako službu agenta v katalogu Unity, abyste ho mohli zjistit pro váš tým a řídit, kdo ho může používat.

funkce Description
Služby agenta (Beta) Registrace externích agentů v katalogu Unity Procházejte a objevujte agenty napříč týmy v jednom zobrazení a řiďte přístup pomocí stejných oprávnění, která chrání vaše tabulky, modely a funkce.

Vyhodnocení, ladění a optimalizace agentů

Sledujte výkon agentů, shromážděte zpětnou vazbu a podporujte zlepšení kvality pomocí nástrojů pro hodnocení a sledování.

funkce Description
Trasování MLflow Pro komplexní pozorovatelnost použijte trasování MLflow. Protokolujte každý krok, který váš agent provede při ladění, monitorování a auditování chování agenta ve vývoji a produkčním prostředí.
vyhodnocení agenta Pomocí hodnocení agentů a MLflow můžete měřit kvalitu, náklady a latenci. Shromážděte zpětnou vazbu od zúčastněných stran a odborníků na danou problematiku prostřednictvím integrovaných revizí aplikací a využijte porotce LLM k identifikaci a řešení problémů s kvalitou.
Monitorujte agenty Použijte stejnou konfiguraci pro hodnocení (hodnotitelé LLM a vlastní metriky) jak při offline vyhodnocení, tak při online monitorování.