AI-mogelijkheden van Azure Databricks

Azure Databricks biedt een platform voor het bouwen, evalueren, implementeren en bewaken van AI-toepassingen (AI-apps). Het bevat een reeks hulpprogramma's die de uitdagingen van het ontwikkelen van AI-apps op ondernemingsniveau aanpakken. Azure Databricks kan worden geïntegreerd met populaire opensource-frameworks, waarbij governance op bedrijfsniveau, waarneembaarheid en operationele hulpprogramma's worden toegevoegd, gezamenlijk bekend als LLMOps.

Op deze pagina vindt u belangrijke functies voor AI, geordend op AI-werkstroomfasen.

AI raadplegen

Azure Databricks maakt state-of-the-art AI-modellen van topmodelproviders direct beschikbaar via Databricks-gehoste Foundation-modellen. U kunt ook query's uitvoeren op modellen van externe providers en uw aangepaste modellen. Al deze modellen kunnen worden opgevraagd via ui-, API/SDK- en SQL-interfaces. Met deze optionele functie kunt u AI gebruiken voor alle use cases---generale chat, complexe agents, geautomatiseerde gegevenspijplijnen, interactieve gegevensanalyses en meer.

Methode Features
UI (Gebruikersinterface)
  • Voor ontwikkeling biedt AI Playground een gebruikersinterface voor het opvragen van beschikbare AI-modellen en -agents.
  • Voor het testen kunnen uw agents en apps worden opgevraagd en geëvalueerd door domeinexperts met behulp van de beoordelings-app.
  • Voor productie kunnen uw apps worden gehost met een gebruikersinterface met behulp van Databricks-apps voor gebruik binnen uw organisatie. Voor externe apps kunt u gebruikersgerichte apps aandrijven met behulp van Databricks-API's.
API en SDK
  • Model serving biedt REST API-eindpunten voor het uitvoeren van query's op modellen en agents.
  • Bekijk meer queryopties , waaronder de OpenAI-client en de Databricks Python SDK.
SQL
  • AI-functies bieden taakspecifieke en algemene SQL-functies voor het uitvoeren van query's op modellen en agents.

AI bouwen

Azure Databricks biedt een flexibele set hulpprogramma's voor het bouwen van AI-apps, agents, hulpprogramma's en modellen. Dit zijn onder andere ui- en frameworks op basis van code, die allemaal AI-systemen kunnen optimaliseren op basis van uw gegevens. U kunt elk opensource AI-framework gebruiken en aangepaste hulpprogramma's en MCP-servers integreren.

Categorie Features
Apps
  • Databricks-apps bieden flexibele app-ontwikkeling en -implementatie voor geverifieerde gebruikers.
  • Aangepaste apps kunnen worden aangedreven door Databricks-API's.
Agenten
Tools
Modellen en prompts

Gegevens voorbereiden en verwerken

Azure Databricks vereenvoudigt gegevens voor AI door governance van traditionele gegevens en AI-workloads te combineren. Met alle gegevens die worden beheerd onder Unity Catalog met verfijnde toegangsbeheer, is het eenvoudig om data engineering- en AI-grenzen aan te passen aan uw organisatie. Gegevens kunnen worden voorbereid voor AI met behulp van hulpprogramma's voor data engineering , zoals Lakeflow-pijplijnen. Een tabel in Unity Catalog kan worden geleverd voor AI, met behulp van een vectorindex voor ongestructureerde gegevens of een functietabel voor gestructureerde gegevens.

Type gegevens Features
Ongestructureerd (tekst, afbeeldingen, enzovoort)
  • AI Search indexeert uw knowledge base automatisch op schaal voor semantische of hybride zoekopdrachten.
Gestructureerd (tabellen)
  • Met serverloze SQL kunt u tabellen en SQL-query's integreren in uw AI-app voor analyse of transformaties.
  • Genie-agents kunnen worden gebruikt in systemen met meerdere agents om query's in natuurlijke taal over uw gestructureerde gegevens te beantwoorden.
  • Online feature stores bieden realtime toegang tot features voor uw AI-app.

AI implementeren en bedienen

Azure Databricks biedt productieklare servicesystemen voor AI-apps, agents en modellen die worden ondersteund door Databricks-apps. Deze schaalbare implementaties kunnen worden gebruikt voor zowel realtime serveren als batch inferentie. Alle implementaties kunnen worden geïntegreerd met waarneembaarheid en evaluatie- en bewakingsprogramma's .

Ontwikkelframework Implementatie en bediening
Databricks-apps Apps en agents kunnen worden geïmplementeerd met behulp van Databricks Apps, die UI- en API-gebaseerde implementatie biedt.
Kennisassistent Knowledge Assistant automatiseert de implementatie van uw agent naar Model Serving-eindpunten .

AI traceren, evalueren en bewaken

Azure Databricks biedt beheerde MLflow voor waarneembaarheid, evaluatie en bewaking van AI. Opensource-API's maken integratie en draagbaarheid eenvoudig, terwijl de beheerde service productieklare eindpunten biedt. Door Databricks beheerde MLflow kan worden gebruikt voor AI-apps en -agents die worden gehost op Databricks en elders worden gehost.

Categorie Features
Tracering en waarneembaarheid
  • Met MLflow Tracing kunt u uw AI-agents en -apps instrumenteren om telemetrie- en waarneembaarheidsgegevens te verzamelen voor evaluatie, productiebewaking en controle.
Evaluation
Monitoring
  • Met productiebewaking kunt u de kwaliteit van productietraceringen meten met behulp van dezelfde juryleden en scorers uit de evaluatie van ontwikkelingstijd.
Menselijke feedback

LLMOps

Azure Databricks biedt een volledige reeks hulpprogramma's voor AI-bewerkingen of 'LLMOps'. Unified governance van gegevens en AI-assets onder Unity Catalog vereenvoudigt en beveiligt de implementatie van AI in een organisatie. AI Gateway vereenvoudigt het beheren van modellen van veel AI-modelproviders. MLflow- en declaratieve Automation-bundels bieden versiebeheer en infrastructuur als code voor het implementeren van robuuste LLMOps-processen.

Categorie Features
Gegevens en AI-assetgovernance Unity Catalog biedt geïntegreerde governance voor gegevens en AI-assets. Gegevensassets omvatten bestanden, tabellen, vectorindexen en functiearchieven. AI-assets omvatten modellen, hulpprogramma's en verbindingen voor MCP-servers en andere API's.
Modeleindpuntbeheer AI Gateway biedt centrale governance en bewaking voor AI-modeleindpunten.
Promptversiebeheer MLflow biedt een promptregister en het bijhouden van experimenten.
Infrastructuur als code MLOps Stacks, die is gebouwd op basis van Databricks Assets Bundles, biedt op code gebaseerd beheer en implementatie van infrastructuur en werkstromen.

Opensource-ondersteuning

Azure Databricks biedt volledige ondersteuning voor het snel groeiende opensource-ecosysteem voor AI.

Voor ontwikkeling kunt u elk opensource-framework gebruiken en implementeren met databricks-apps. Databricks-services kunnen worden gebruikt door AI-hulpprogramma's en apps van derden met behulp van MCP-servers of de REST API of SDK's.

Voor waarneembaarheid, evaluatie en bewaking biedt MLflow Tracing systeemeigen automatische logboeken voor meer dan 20 opensource AI-frameworks en kunt u aangepaste tracering toevoegen aan andere frameworks of code. De traceringen kunnen vervolgens worden gebruikt met MLflow-evaluatie en productiebewaking. De traceringen volgen openTelemetry trace specificaties en kunnen worden geëxporteerd naar hulpprogramma's van derden.

Aanvullende informatiebronnen

  • Last updated on