Agentní odvozovací tabulky: Záznamy žádostí a posouzení (zastaralé)

Important

Pro nové případy použití doporučuje Databricks nasazovat agenty v Databricks Apps, aby bylo možné plně řídit kód agenta, konfiguraci serveru a pracovní postup nasazení. Viz Vytvoření agenta AI a jeho nasazení v Databricks Apps. Pokud chcete migrovat existujícího agenta, přečtěte si téma Migrace agenta z modelové obsluhy do Databricks Apps.

Important

Oznámení o vyřazení: Od 4. prosince 2025 už Databricks automaticky nenaplní payload_request_logs tabulky a payload_assessment_logs tabulky. Tyto tabulky jsou zastaralé.

  • Nově nasazené agenty prostřednictvím agentů.deploy() už nebudou generovat request_logs ani assessment_logs tabulky.
  • Původní tabulky request_logs a assessment_logs se již neplní. Pomocí materializovaných zobrazení můžete vytvořit vlastní náhradní tabulku. Viz alternativní řešení pro MLflow 2.
  • Starší experimentální rozhraní API pro zpětnou vazbu k protokolování už nebude podporováno pro agenty nasazené s nejnovější verzí agentů Databricks-agents. Místo toho použijte rozhraní API pro posouzení MLflow 3.

Vyžaduje se akce:

  • Doporučeno: Upgradujte na MLflow 3 a použijte trasování v reálném čase, které poskytuje jednotné protokolování s lepším výkonem.
  • Alternativní: Pokud potřebujete dál používat MLflow 2, přečtěte si alternativní řešení pro zachování přístupu k vašim datům.

Když nasadíte agenta AI, Databricks vytvoří tři tabulky odvozování, které automaticky zaznamenávají požadavky a odpovědi na vašeho agenta a z vašeho agenta. Tyto tabulky pomáhají monitorovat výkon, odstraňovat problémy a analyzovat zpětnou vazbu uživatelů.

Odvozovací tabulka Příklad názvu tabulky Azure Databricks Obsah tabulky
Užitečné zatížení {catalog_name}.{schema_name}.{model_name}_payload Nezpracovaná datová zátěž požadavků a odpovědí JSON
Protokoly žádostí o užitečné zatížení {catalog_name}.{schema_name}.{model_name}_payload_request_logs Formátovaný požadavek a odpovědi Sledování MLflow
Odvozeno z tabulky nezpracované datové části.
Protokoly posouzení užitečného zatížení {catalog_name}.{schema_name}.{model_name}_payload_assessment_logs Naformátovaná zpětná vazba, jak je uvedeno v recenzní aplikaci, pro každý požadavek
Odvozeno z tabulky nezpracované datové části.
  • Nezpracovaná data JSON se ukládají do tabulky s datovou částí během jedné hodiny poté, co váš agent přímě požadavek.
  • Protokoly požadavků a protokoly posouzení zpracovávají a formátují data z tabulky datové části. To trvá delší dobu.
  • V případě potřeby můžete data z tabulky datové části extrahovat a zpracovávat ručně.
  • Změny tabulky datové části (odstranění nebo aktualizace) se automaticky nesynchronizují s odvozenými tabulkami.

Co se mění?

Databricks už automaticky nenaplní payload_request_logs tabulky a payload_assessment_logs tabulky.

Co stále funguje: Nezpracovaná payload tabulka nadále přijímá data z nových požadavků.

Migrace na MLflow 3 a využití trasování v reálném čase ke sjednocení logů agenta

Databricks důrazně doporučuje migraci koncových bodů agenta pro použití MLflow 3. Trasování MLflow 3 v reálném čase eliminuje potřebu samostatných request_logs a assessment_logs tabulek sjednocením všech protokolů agentů v jednom místě trasování.

Starší verze pozorovatelnosti MLflow 3 Pozorovatelnost
Latence shromažďování dat 1 a více hodin <10s
Organizace dat Stopy a zpětná vazba uživatelů (hodnocení) se extrahují do samostatných tabulek katalogu Unity (request_logs a assessment_logs). Ke všem datům souvisejícím s pozorovatelnostmi, jako jsou trasování, zpětná vazba a hodnocení, můžete snadno přistupovat ve stejném experimentu.
Kolekce zpětné vazby Není dobře podporováno. Používá experimentální rozhraní API pro zpětnou vazbu, které vkládá data do tabulky pro odvozování payload. MLflow 3 poskytuje zjednodušená rozhraní API pro spouštění vyhodnocování, označování lidí a správu datových sad vyhodnocení.
Monitoring Není dobře podporováno. Podpora je omezená na zastaralé monitorování, které bylo omezeno na zastaralé vestavěné hodnotitele a hodnotitele pokynů a nemá podporu pro vlastní metriky.
Zastaralé monitorování běží nad záznamy požadavků na zátěž, což znamená, že vyhodnocení odpovědí agenta bude trvat 1+ hodinu.		 Monitorování je nativně integrované s MLflow 3, které podporuje jakýkoli Scorer:
  • Předdefinované scorery
  • Vlastní hodnotitel kódu
  • Vlastní porotci

Zahrnuje možnosti doplnění metrik pro retroaktivní použití nových metrik na historické záznamy.
Záznamy se čtou z MLflow pro vyhodnocení, čímž se snižuje latence monitorování na 15–30 minut.

MLflow 3 připojí posouzení ke stopám a pak zaprotokoluje stopy na trasovací server MLflow spolu se všemi datovými náklady, odpověďmi a protokoly mezikroků. Viz Popisek během vývoje a Koncepty & Datový model.

Kroky migrace

  1. Upgrade na MLflow 3: Ujistěte se, že váš agent používá MLflow 3.1.3 nebo vyšší. Trasování se automaticky povolí, když nasadíte agenty pomocí MLflow 3.
# Install prerequisites
%pip install mlflow>=3.1.3

# Restart Python to make sure the new packages are picked up
dbutils.library.restartPython()
  1. Zalogujte svého agenta: zalogujte agenta, jak byste to normálně udělali, a ujistěte se, že vyžaduje MLflow 3.1.3 nebo vyšší. Pak model zaregistrujte do UC.
# Log your agent
with mlflow.start_run():
    logged_agent_info = mlflow.pyfunc.log_model(
        name="my_agent",
        pip_requirements=[
            "mlflow>=3.1.3",
        ],
        ...
    )

# Register your model to UC
uc_registered_model_info = mlflow.register_model(
    model_uri=logged_agent_info.model_uri, name=UC_MODEL_NAME
)
  1. Nasazení agenta: Nasaďte agenta stejně jako obvykle. Volitelně můžete před nasazením nastavit experiment MLflow, aby sledoval, kam se protokolují stopy. Pokud to neuděláte, stopy se zapíší do aktuálně aktivního experimentu MLflow.
import mlflow
from databricks import agents

# Set experiment for trace logging
mlflow.set_experiment("/path/to/your/experiment")

# Deploy with automatic tracing
deployment = agents.deploy(uc_model_name, uc_model_info.version)

# Retrieve the query endpoint URL for making API requests
deployment.query_endpoint

Note

MLflow 3 aktuálně podporuje až 100 000 stop na servisní koncový bod. Pokud předpokládáte, že potřebujete vyšší limity, obraťte se na tým účtu Databricks.

Další informace viz nasazení trasovacích agentů na Databricks.

Alternativní možnosti pro pokračování v používání MLflow 2

Important

Alternativní metody MLflow 2 nepodporují koncové body s povoleným monitorováním agenta. Pokud používáte monitorování, musíte migrovat na MLflow 3 a znovu vytvořit monitory jako hodnotitele v MLflow 3.

Pokud nemůžete upgradovat na MLflow 3, Databricks bude i nadále naplňovat nezpracovanou payload tabulku. Databricks už ale tato data nezpracovává do tabulek payload_requests_logs a payload_assessment_logs.

Místo toho Databricks generuje zobrazení tabulek datové části, které poskytují stejná formátovaná data. Pro přístup k datům máte dvě možnosti. Použijte poskytnutá zobrazení nebo vytvořte materializovaná zobrazení.

Možnost 1: Použití zadaných zobrazení

Nejjednodušší metodou je použít vygenerovaná zobrazení payload_request_logs_view a payload_assessment_logs_view místo zastaralých tabulek.

Tato zobrazení se dotazují na tabulku s datovým obsahem, aby poskytovala stejná formátovaná data. Fungují okamžitě, bez nutnosti dalšího nastavení.

Pokud chcete minimalizovat změny kódu, přejmenujte zobrazení tak, aby odpovídala původním názvům tabulek.

Možnost 2: Vytvoření materializovaných zobrazení

Poskytnutá zobrazení (payload_request_logs_view a payload_assessment_logs_view) vypočítávají data v reálném čase dotazováním tabulky s datovým tokem. V případě scénářů, které vyžadují fyzické tabulky Delta, jako je monitorování v reálném čase, místo toho vytvořte materializovaná zobrazení.

Spusťte následující notebook pro převod vašich zobrazení na materializovaná zobrazení:

Vytvoření materializovaných zobrazení pro záznamy o inferenci agentů

Pořiďte si notebook

Nejčastější dotazy

Co se stane s daty v existujících protokolech žádostí a protokolech posouzení?

Stávající data v tabulkách odvozování budou i nadále přístupná. Po 4. prosinci 2025 už nebudou do tabulek request_logs a assessment_logs přidávána žádná nová data.

Je nasazení mého agenta přerušené?

Ne, vaše staré instalace agentů budou dál fungovat a tabulky pro odvozování datové zátěže se budou dál plnit. Po datu vyřazení již nebudete přijímat data v tabulkách request_logs a assessment_logs. Pomocí poskytnutých zobrazení nebo migrací na MLflow 3 zachovejte ekvivalentní funkcionalitu.

Pokud potřebujete pomoc s migrací, obraťte se na tým podpory Databricks.

Další zdroje informací

  • Last updated on