Inleiding tot generatieve AI-apps in Azure Databricks

Mosaic AI ondersteunt zowel eenvoudige als complexe GenAI-toepassingen, van RAG-chatbots (Retrieval Augmented Generation) tot agents die hulpprogramma's aanroepen. In deze gebruikershandleiding worden de belangrijkste concepten van GenAI-apps en agentsystemen op Databricks uitgelegd en worden richtlijnen geboden voor het bouwen, evalueren en schalen van GenAI-apps.

Page	Description
Aan de slag: genAI zonder code	Probeer AI Playground voor testen en prototypen op basis van gebruikersinterfaces.
Aan de slag: MLflow 3 voor GenAI	Probeer MLflow voor GenAI-tracering, evaluatie en menselijke feedback.
Concepten: GenAI op Databricks	Meer informatie over GenAI-modellen, agents, hulpprogramma's en apps.
Platform: Belangrijkste GenAI-functies	Meer informatie over de belangrijkste functies voor GenAI in Azure Databricks.

Aan de slag met het bouwen van GenAI-apps

Probeer genAI op basis van gebruikersinterface en code uit op Azure Databricks.

Tutorial	Description
Aan de slag: zonder code vragen stellen aan LLM's en prototypen van AI-agenten	Vertrouwd raken met AI Playground voor testen en prototypen op basis van gebruikersinterfaces.
Aan de slag: MLflow 3 voor GenAI	Probeer MLflow voor GenAI-tracering , evaluatie en menselijke feedback.
Aan de slag met het uitvoeren van query's op LLMs in Databricks	Gebruik Foundation Model-API's om query's uit te voeren op GenAI-modellen met behulp van code.

Concepten van Learn GenAI

Maak kennis met basisconcepten van GenAI, zoals modellen, agents, hulpprogramma's en apps.

Guide	Description
Concepten: Generatieve AI in Azure Databricks	Meer informatie over GenAI-modellen, agents, hulpprogramma's en apps.
Belangrijke uitdagingen bij het bouwen van GenAI-apps	Meer informatie over belangrijke uitdagingen van GenAI en hoe Databricks deze aanpakt.
ontwerppatronen voor agentsysteem	Meer informatie over opties en compromissen voor agentontwerpen, van eenvoudige ketens tot complexe systemen met meerdere agents.

Azure Databricks-functies gebruiken om GenAI-apps te bouwen

Voor benaderingen zonder code of weinig code moet u eerst vertrouwd raken met:

Eigenschap	Description
Agent Bricks	Bouw en optimaliseer domeinspecifieke AI-agentsystemen van hoge kwaliteit voor veelvoorkomende gebruiksvoorbeelden.
AI-speeltuin	Queries uitvoeren op GenAI-modellen en agents, prompt engineering uitvoeren, en prototype hulpprogramma-aanroepende agents binnen een gebruikersinterface.
AI-functies	Ingebouwde SQL-functies aanroepen voor AI-taken.

Voor code-first methoden begint u met vertrouwd raken met:

Eigenschap	Description
MLflow voor GenAI	Gebruik MLflow voor tracering en waarneembaarheid, evaluatie en bewaking.
Basismodellen in Model Serving	Gebruik GenAI-modeleindpunten, waaronder Databricks-gehoste Foundation Models-API's en externe modellen.
Vector Zoeken	Vectorindexen maken en query's uitvoeren voor RAG- en andere agentsystemen.
Mozaiëk AI-agentraamwerk	AI-agents bouwen en implementeren met behulp van code.
AI-gateway	Toegang tot GenAI-modellen en -eindpunten beheren en bewaken.

Zie een meer gedetailleerde lijst in Mosaic AI-mogelijkheden voor GenAI.

Algemene intelligentie versus gegevensintelligentie

• Algemene intelligentie verwijst naar wat de LLM inherent kent van brede voortraining over diverse tekst. Dit is handig voor taalvaardigheid en algemene redenering.
• Gegevensinformatie verwijst naar de domeinspecifieke gegevens en API's van uw organisatie. Dit kan bestaan uit klantrecords, productgegevens, knowledge bases of documenten die overeenkomen met uw unieke bedrijfsomgeving.

Agentsystemen combineren deze twee kennisbronnen: ze beginnen met de brede, algemene kennis van een LLM en brengen vervolgens realtime of domeinspecifieke gegevens in om gedetailleerde vragen te beantwoorden of gespecialiseerde acties uit te voeren. Met Azure Databricks kunt u gegevensinformatie insluiten in uw GenAI-apps op elk niveau:

• Gegevensbronnen zoals vectorindexen en Genie

• Agents, waaronder zowel aangepaste agentontwerpen als geautomatiseerde ontwerpen van Agent Bricks

• Evaluatiegegevens en metrische gegevens
• Promptoptimalisatie op basis van evaluatiegegevens

• Model fine-tuning, inclusief zowel aangepaste als geautomatiseerde afstemming door Agent Bricks

GenAI tegen ML tegen deep learning

De grenzen tussen generatieve kunstmatige intelligentie (GenAI), machine learning (ML) en Deep Learning (DL) kunnen fuzzy zijn. Deze handleiding is gericht op GenAI, maar de volgende Databricks-platformfuncties ondersteunen ML, deep learning en GenAI:

• Model Serving ondersteunt ML-, Deep Learning- en GenAI-modellen. U kunt deze gebruiken voor GenAI-batchinferentie en om agents of nauwkeurig afgestemde modellen te implementeren met behulp van aangepaste modelbediening.

• Serverloze GPU-rekenkracht en Databricks Runtime met GPU voor Machine Learning kunnen worden gebruikt om ML-, Deep Learning- en GenAI-modellen te trainen en af te stemmen.

• Het bijhouden van MLflow-experimenten kan worden gebruikt om zowel klassieke ML- als GenAI-experimenten en uitvoeringen bij te houden.
• Databricks Feature Store kan worden gebruikt voor het beheren en bedienen van gestructureerde gegevens voor zowel klassieke ML als GenAI.