Koncepty: AI na Azure Databricks

Aplikace AI je aplikace, která používá modely AI (například velké jazykové modely, modely generování obrázků a modely převodu textu na řeč) k vytváření nových výstupů, automatizaci složitých úloh nebo zapojení do inteligentních interakcí na základě uživatelského vstupu.

Aplikace využívající AI může fungovat na základě jednoduchých volání LLM modelů nebo jiných modelů umělé inteligence, případně komplexních agentů. Přečtěte si další informace o úrovních složitosti.

Agenti, nástroje, vyhodnocení, modely a další aspekty aplikací AI je možné přizpůsobit pomocí vlastních dat. Toto přizpůsobení řízené daty vede k datové inteligenci, což vám umožní překonat obecnou inteligenci nabízenou předpřipravenými modely AI.

Aplikace umělé inteligence

Aplikace AI, která je přístupná uživatelem, může mít mnoho forem, například:

• Chatovací aplikace, například aplikace nasazená pomocí Databricks Apps
• Koncový bod rozhraní API, například agent nasazený do služby Model Serving
• Funkce SQL pro analytiky, jako je funkce AI

Úspěch s aplikacemi AI často vyžaduje dvě sady dovedností: vývoj aplikací a hodnocení AI. Vývoj aplikací AI se podobá vývoji aplikací bez AI, což vyžaduje softwarové dovednosti, které závisí na typu aplikace. Vyhodnocení aplikací AI však vyžaduje specializované nástroje a techniky pro zvládnutí složitosti a otevřených odpovědí z AI.

Další informace o vytváření aplikací umělé inteligence pro konkrétní odvětví na Azure Databricks najdete tady:

• Řešení Databricks pro odvětví pro případy použití, zákazníky a další prostředky
• Akcelerátory řešení Databricks pro implementace případů použití, které můžete spustit a upravit

Vyhodnocení AI

Modely, agenti a aplikace umělé inteligence mají často složité a otevřené chování. Uživatelé můžou zadat libovolný dotaz. Agent může během provádění shromažďovat text, obrázky a další. Výstupem může být libovolný text, obrázky nebo jiné médium a může existovat mnoho "dobrých" odpovědí.

Díky těmto komplikacím je obtížné vyhodnotit AI. Správné vyhodnocení vyžaduje:

• Automatizace s využitím AI k vyhodnocení AI
• Lidská zpětná vazba od odborníků a uživatelů za účelem sběru skutečných dat a kalibrování automatického hodnocení
• Hluboká analýza složitých agentů pro pochopení a ladění jejich chování

Azure Databricks spravované MLflow a související nástroje poskytují základy hodnocení AI:

• Vyhodnocení a monitorování agentů – Přečtěte si informace o vyhodnocování, monitorování produkce a zpětné vazbě lidí.
• Začínáme: MLflow 3 pro GenAI – Zkuste trasovat, vyhodnocovat a shromažďovat lidské názory.
• Trasování MLflow – Pozorovatelnost GenAI – Seznámení se s trasováním MLflow za účelem zaznamenání a analýzy chování agenta.

Agenti

Agent nebo systém agenta je systém řízený AI, který může nezávisle vnímat, rozhodovat a jednat v prostředí za účelem dosažení cílů. Na rozdíl od samostatného modelu AI, který generuje výstup pouze na základě zadání, má agentní systém určitou míru samostatnosti. Moderní agenti používají model AI jako "mozek" systému, který:

1. Přijímá žádosti uživatelů nebo zprávy od jiného agenta.
2. Důvody, jak pokračovat: jaká data se mají načíst, jakou logiku použít, které nástroje se mají volat, nebo jestli se má požadovat další vstup od uživatele.
3. Spustí plán a případně použije různé nástroje nebo deleguje na podagenty.
4. Vrátí odpověď nebo vyzve uživatele k dalšímu objasnění.

Přemostěním obecných inteligentních funkcí (předem natrénovaných funkcí modelu AI) a datových inteligentních funkcí (specializovaných znalostí a rozhraní API specifických pro vaši firmu) umožňují systémy agentů vysoce ovlivněné podnikové případy použití, jako jsou pokročilé toky zákaznických služeb, roboti pro analýzu s bohatými daty a orchestrace multi-agentů pro složité provozní úlohy.

Existuje kontinuum od jednoduchých modelů AI až po komplexní agenty. Další informace najdete v tématu Vzory návrhu systému agenta.

Azure Databricks nabízí celou řadu možností pro sestavování agentů, od plně vedeného po zcela přizpůsobeného.

• Funkce Pomocníka pro znalosti a AI poskytují tvůrce agentů s asistencí.

• AI Playground poskytuje uživatelské rozhraní pro vytváření prototypů agentů pro volání nástrojů, ze kterých můžete exportovat vygenerovaný kód agenta.
• Vlastní agenti umožňují vytvářet a nasazovat agenty pomocí vlastního kódu nebo knihoven pro vytváření agentů třetích stran.

Nástroje

Agenti můžou volat nástroje ke shromažďování informací nebo provádění akcí. Nástroje jsou funkce s jednou interakcí, které LLM může vyvolat za účelem dosažení dobře definované úlohy. Model AI obvykle generuje parametry pro každé volání nástroje a nástroj poskytuje přímou interakci se vstupem a výstupem.

Mezi běžné kategorie nástrojů patří:

• nástroje , které načítají nebo analyzují data
  • Sémantické načítání: Dotazování vektorového indexu pro vyhledání relevantního textu nebo jiných nestrukturovaných dat
  • Strukturované načítání: Spouštění dotazů SQL nebo použití rozhraní API k načtení strukturovaných informací
  • Nástroj pro vyhledávání na webu: Vyhledejte internet nebo interní webový korpus.
  • Klasické modely ML: Volání modelů strojového učení za účelem provádění klasifikace, regrese nebo jiných předpovědí
  • Modely AI: Generují specializované výstupy, jako je kód nebo obrázky.
• nástroje , které upravují stav externího systému
  • Volání rozhraní API: Volání koncových bodů CRM, interních služeb nebo jiných integrací třetích stran
  • Integrace e-mailové aplikace nebo aplikace pro zasílání zpráv: Odešlete zprávu nebo odešlete oznámení.
• Nástroje, které spouštějí logiku nebo provádějí konkrétní úlohu
  • Provádění kódu: Spusťte kód vygenerovaný uživatelem nebo LLM v sandboxu.

Nástroje je možné integrovat do agentské logiky nebo přistupovat pomocí standardizovaných rozhraní, jako je MCP.

Nástroje vs. agenti:

• Nástroje provádějí jednu dobře definovanou operaci. Agenti můžou provádět více otevřených úloh.
• Nástroje jsou obecně bezstavové a neudržují trvalý kontext nad rámec každého vyvolání. Agenti udržují stav při iterativním řešení úloh.

Zpracování chyb a bezpečnost nástrojů:

Vzhledem k tomu, že každé volání nástroje je externí operace, jako je volání rozhraní API, měl by systém řádně zpracovávat selhání. Vypršení časového limitu, poškozené odpovědi nebo neplatné vstupy by neměly způsobit úplné selhání agenta. V produkčním prostředí omezte počet povolených volání nástroje, mějte záložní odpověď, pokud volání nástroje selže, a použijte ochranná opatření, aby se systém agenta opakovaně nepokusil o stejnou neúspěšnou akci.

Další informace o nástrojích AI v Databricks:

• MCP a agentní nástroje – Průvodce přístupy k nástrojům
• MCP a nástroje agentů – spravované, vlastní a externí MCP servery

Modely AI a LLM

Velké jazykové modely (LLM) jsou modely AI natrénované na masivních textových datových sadách, které dokážou porozumět, generovat a zdůvodnění lidského jazyka. Aplikace jako chatboti, asistenti pro psaní kódu a nástroje pro generování obsahu využívají LLM k predikci a produkci kontextově relevantního textu na základě vstupních podnětů.

Obecněji se modely AI nebo základní modely trénují na masivním textu, obrázku, videu, zvuku nebo jiných datech, aby se dozvěděli o režimech nad rámec textu. Multimodální modely se naučí propojit lidský jazyk s obrázky, zvukem a dalšími multimédii. LLM jsou typem AI nebo základního modelu, i když se tyto termíny často používají volně a zaměnitelně.

Modely AI poskytují inteligentní funkce pro agenty a aplikace. Jednoduché aplikace se často vytvářejí pomocí jediného modelu přizpůsobeného pomocí úpravy vstupních příkazů.

Seznamte se s používáním modelů AI na Azure Databricks:

• Začínáme: Dotazování LLM a prototypů agentů bez kódu
• Základní modely hostované v Databricks dostupné v rozhraních API pro základní modely
• Informace o službě AI Gateway pro řízení modelů AI

Navrhování promptů

Modely AI obvykle posílají výzvy nebo pokyny, které modelu říkají, jak zpracovat uživatelský vstup. Výzvy se dají výrazně přizpůsobit podrobnými kroky, odbornými znalostmi, daty a dalšími informacemi.

Azure Databricks nabízí flexibilní způsoby, jak provádět prompt engineering. Příklad:

• Pomocník pro znalostní bázi automatizuje přípravu výzvy na základě vašich dat a zpětné vazby.

• AI Playground poskytuje uživatelské rozhraní pro ruční interaktivní přípravu výzev.
• MLflow a DSPy poskytují rutiny pro optimalizaci výzev řízené daty.

Doladění modelů

Modely AI je také možné přizpůsobit prostřednictvím jemného ladění, které přizpůsobí model pro konkrétní doménu nebo aplikaci pomocí vlastních dat.

Azure Databricks nabízí flexibilní způsoby vyladění modelů. Příklad:

• Nástroj Knowledge Assistant automatizuje přizpůsobení na základě dat s možností dolaďování v zákulisí.
• AI Runtime poskytuje výpočetní infrastrukturu pro plně přizpůsobitelné vyladění. Podívejte se na příklady.

Co je platforma AI?

AI vyžaduje kombinovanou datovou a AI platformu. Pro vývojáře i správce musí být klíčové komponenty umělé inteligence připojené a řízené v jednoduché sjednocené platformě.

Mezi klíčové komponenty patří:

• Prostředky AI, jako jsou modely, agenti a aplikace
• Datové prostředky, jako jsou soubory, tabulky, zpracovatelské kanály, vektorové indexy a úložiště prvků
• Nasazení AI, jako jsou koncové body pro modely a agenty
• Nástroje pro sestavování a nasazování AI a datových prostředků

Mezi klíčové možnosti zásad správného řízení patří:

• Jednotné řízení AI a datových prostředků Další informace najdete na Co je Unity Catalog?.
• Jednotné řízení koncových bodů modelu AI Další informace najdete v zásadách správného řízení AI pomocí unity AI Gateway.
• Jednotný přístup k zabezpečení. Další informace najdete v Databricks AI Security.
• Sjednocená správa AI a datových nástrojů Další informace naleznete na stránce Správa.

Viz také Azure Databricks možnosti AI a architektura Databricks.

Obecná inteligence vs. datová inteligence

• Obecná inteligence se týká toho, co LLM přirozeně ví z rozsáhlého předškolení na různorodých textech. To je užitečné pro plynulost jazyka a obecné uvažování.
• Analýza dat odkazuje na data a rozhraní API specifická pro doménu vaší organizace. Může to zahrnovat záznamy zákazníků, informace o produktech, znalostní báze nebo dokumenty, které odrážejí vaše jedinečné obchodní prostředí.

Systémy agentů prolínají tyto dva zdroje znalostí: začínají širokým, obecnými znalostmi LLM a pak přinášejí data specifická pro danou doménu v reálném čase, aby odpovídaly na podrobné otázky nebo prováděly specializované akce. S Azure Databricks můžete do aplikací umělé inteligence vkládat informace o datech na všech úrovních:

• Zdroje dat, jako jsou vektorové indexy a agenti Genie

• Agenti, včetně vlastních návrhů agentů a automatizovaných návrhů z funkcí pomocníka Knowledge Assistant a umělé inteligence.

• Vyhodnocení dat a metrik
• Optimalizace promptu na základě dat vyhodnocení

• Vyladění modelu, včetně vlastního doladění i automatizovaného ladění pomocí Pomocníka pro znalostní bázi a funkcí umělé inteligence

AI vs. ML vs. hluboké učení

Hranice mezi AI, strojovém učením (ML) a hloubkovým učením (DL) můžou být přibližné. Tato příručka se zaměřuje na AI, ale následující funkce platformy Databricks podporují ml, hluboké učení a AI:

• Obsluha modelů podporuje modely STROJOVÉho učení, hlubokého učení a AI. Můžete jej použít pro dávkovou inferenci AI a k nasazení agentů nebo doladěných modelů pomocí vlastního poskytování modelů.

• Databricks Runtime s podporou AI a modulu GPU pro Machine Learning je možné použít k trénování a vyladění modelů ML, hlubokého učení a AI.

• Sledování experimentů v MLflow lze použít ke sledování klasických experimentů a běhů ML i AI.
• Úložiště funkcí Databricks se dá použít ke správě a obsluhování strukturovaných dat pro klasické strojové učení i AI.

Další zdroje informací

• Klíčové výzvy při vytváření aplikací AI – hlavní výzvy v AI a jejich řešení pomocí Databricks
• Vzory návrhu systému agentů – jednoduché až složité agenty a praktické rady
• AI v Databricks – Případy použití, zákazníci a další prostředky pro AI v Databricks