Úvod do generování aplikací AI v Azure Databricks

Společnost Mosaic AI podporuje jednoduché i složité aplikace GenAI, od chatovacích robotů RAG (Retrieval Augmented Generation) až po agenty schopné volat nástroje. Tato uživatelská příručka vysvětluje klíčové koncepty aplikací a agentů GenAI v Databricks a poskytuje pokyny k vytváření, vyhodnocování a škálování aplikací GenAI.

Stránka	Description
Začínáme: GenAI bez kódu	Vyzkoušejte AI Playground pro testování a vytváření prototypů založených na uživatelském rozhraní.
Začínáme: MLflow 3 pro GenAI	Vyzkoušejte MLflow pro trasování, hodnocení a lidskou zpětnou vazbu.
Koncepce: GenAI v Databricks	Seznamte se s modely GenAI, agenty, nástroji a aplikacemi.
Platforma: Klíčové funkce GenAI	Podrobnosti o klíčových funkcích GenAI v Azure Databricks

Začínáme se sestavováním aplikací GenAI

Vyzkoušejte GenAI založené na uživatelském rozhraní a kódu v Azure Databricks.

Tutorial	Description
Začínáme: Dotazování LLMs a prototypování AI agentů bez kódování	Seznamte se s AI Playground pro testování a vytváření prototypů založených na uživatelském rozhraní.
Začínáme: MLflow 3 pro GenAI	Vyzkoušejte MLflow pro GenAI trasování, hodnocení a lidskou zpětnou vazbu.
Začínáme s dotazováním LLM v Databricks	Použijte rozhraní API Foundation Model k dotazování modelů GenAI pomocí kódu.

Seznámení s koncepty GenAI

Seznamte se se základními koncepty GenAI, jako jsou modely, agenti, nástroje a aplikace.

Guide	Description
Koncepty: Generování umělé inteligence v Azure Databricks	Seznamte se s modely GenAI, agenty, nástroji a aplikacemi.
Klíčové výzvy při vytváření aplikací GenAI	Seznamte se s klíčovými výzvami GenAI a s tím, jak je Databricks řeší.
vzory návrhu systému agentů	Seznamte se s možnostmi a kompromisy pro návrhy agentních architektur, od jednoduchých struktur po složité multi-agentní systémy.

Vytváření aplikací GenAI pomocí funkcí Azure Databricks

Pro přístupy bez kódu nebo s nízkým kódem začněte tím, že se seznámíte s těmito způsoby:

Vlastnost	Description
Cihly agentů	Sestavte a optimalizujte systémy agentů umělé inteligence specifické pro doménu pro běžné případy použití.
Dětské hřiště AI	Provádění dotazů na modely a agenty GenAI, provádění promptního inženýrství a prototypování agentů pro vyvolávání nástrojů v uživatelském rozhraní.
Funkce AI	Volání integrovaných funkcí SQL pro úlohy AI

V případě přístupů založených na kódu začněte tím, že se seznámíte s těmito způsoby:

Vlastnost	Description
MLflow pro GenAI	MLflow slouží k trasování a pozorovatelnosti, vyhodnocování a monitorování.
Základní modely v poskytování modelových služeb	Používejte koncové body modelů GenAI, včetně rozhraní API pro základní modely hostované službou Databricks a externí modely.
Vektorové vyhledávání	Vytváření a dotazování vektorových indexů pro RAG a další systémy agentů.
Architektura agenta systému Mosaic AI	Sestavte a nasaďte agenty AI pomocí kódu.
AI Gateway	Řízení a monitorování přístupu k modelům a koncovým bodům GenAI

Podrobnější seznam najdete v tématu Funkce AI systému Mosaic pro GenAI.

Obecná inteligence vs. datová inteligence

• Obecná inteligence se týká toho, co LLM přirozeně ví z rozsáhlého předškolení na různorodých textech. To je užitečné pro plynulost jazyka a obecné uvažování.
• Analýza dat odkazuje na data a rozhraní API specifická pro doménu vaší organizace. Může to zahrnovat záznamy zákazníků, informace o produktech, znalostní báze nebo dokumenty, které odrážejí vaše jedinečné obchodní prostředí.

Systémy agentů prolínají tyto dva zdroje znalostí: začínají širokým, obecnými znalostmi LLM a pak přinášejí data specifická pro danou doménu v reálném čase, aby odpovídaly na podrobné otázky nebo prováděly specializované akce. Pomocí Azure Databricks můžete do aplikací GenAI vkládat inteligentní data na všech úrovních:

• Zdroje dat, jako jsou vektorové indexy a Genie

• Agenti, včetně vlastních návrhů agentů a automatizovaných návrhů z Agent Bricks

• Vyhodnocení dat a metrik
• Optimalizace promptu na základě dat vyhodnocení

• Vyladění modelů, včetně vlastního jemného ladění i automatizovaného ladění pomocí agentů Bricks

GenAI vs. ML vs. hluboké učení

Hranice mezi generováním umělé inteligence (GenAI), strojového učení (ML) a hlubokého učení (DL) můžou být přibližné. Tato příručka se zaměřuje na GenAI, ale následující funkce platformy Databricks podporují ML, hluboké učení a GenAI:

• Poskytování modelů podporuje modely ML, hluboké učení a GenAI. Můžete ho použít k dávkové inferenční analýze GenAI a k nasazení agentů nebo jemně vyladěných modelů pomocí vlastního nasazení modelu.

• Bezserverové výpočetní prostředí GPU a modul Databricks Runtime s podporou GPU pro Machine Learning je možné použít k trénování a vyladění modelů ML, hlubokého učení a GenAI.

• Sledování experimentů MLflow může sloužit k sledování klasických experimentů ML i GenAI a jejich běhů.
• Úložiště funkcí Databricks se dá použít ke správě a obsluhování strukturovaných dat pro klasické strojové učení i GenAI.