Delen via


AI-poort

Belangrijk

Op deze pagina wordt de nieuwe AI-gateway beschreven (zichtbaar in het linkernavigatievenster van de gebruikersinterface), dat momenteel in bètaversie is. Accountbeheerders kunnen toegang tot deze functie inschakelen op de pagina Previews van de accountconsole. Zie Azure Databricks previews beheren.

Zie AI Gateway voor het bedienen van eindpunten voor meer informatie over de vorige versie van AI Gateway.

AI Gateway is de centrale AI-governancelaag van Databricks voor LLM-eindpunten, MCP-servers en coderingsagents. Gebruik AI Gateway om gebruik te analyseren, machtigingen te configureren, kaders af te dwingen en capaciteit tussen providers te beheren.

LLMs

AI Gateway biedt enterprise-governance voor LLM-eindpunten en coderingsagenten, waaronder een geïntegreerde gebruikersinterface, verbeterde waarneembaarheid en uitgebreide API-dekking.

Onderwerp Description
AI Gateway voor LLM-eindpunten Meer informatie over AI Gateway (bèta) voor LLM-eindpunten en hoe u aan de slag kunt gaan.
AI Gateway-eindpunten configureren AI Gateway-eindpunten maken en configureren voor uw LLM's en coderingsagents.
Queries uitvoeren op AI Gateway-eindpunten Query's uitvoeren op AI Gateway-eindpunten met behulp van de OpenAI-client en andere ondersteunde API's.
Gebruik bewaken voor AI Gateway-eindpunten Bewaak het gebruik en de kosten voor AI Gateway-eindpunten met behulp van systeemtabellen.
Modellen bewaken met behulp van deductietabellen Aanvragen en antwoorden in Unity Catalog Delta-tabellen bewaken en controleren.
Frequentielimieten configureren voor AI Gateway-eindpunten Dwing verbruikslimieten af voor AI Gateway-eindpunten om capaciteit en kosten te beheren.
Integreren met coderingsagents Integreer coderingsagents zoals Cursor, Gemini CLI, Codex CLI en Claude Code met AI Gateway.

Opmerking

Voor AI Gateway-functies worden geen kosten in rekening gebracht tijdens de bètaversie.

MCPs

AI Gateway biedt governance voor MCP-servers, zodat u inzicht krijgt, toegangsbeheer en auditlogboekregistratie voor alle MCP-interacties.

Onderwerp Description
Model Context Protocol (MCP) in Databricks Meer informatie over MCP-servertypen in Databricks en hoe u aan de slag kunt gaan.
Beheerde MCP-servers van Databricks gebruiken Krijg onmiddellijk toegang tot Databricks-functies met vooraf geconfigureerde MCP-servers.
Externe MCP-servers gebruiken Maak veilig verbinding met MCP-servers die buiten Databricks worden gehost met behulp van beheerde verbindingen.
Aangepaste MCP-servers hosten met Databricks-apps Een aangepaste MCP-server hosten als een Databricks-app.
Niet-Databricks-clients verbinden met Databricks MCP-servers Verbind MCP-clients met uw Databricks MCP-servers.

Model voor eindpunten (vorige)

De vorige versie van AI Gateway biedt governancefuncties voor het leveren van eindpunten voor modellen, waaronder eindpunten voor externe modellen, Foundation Model API-eindpunten en aangepaste modeleindpunten.

Onderwerp Description
AI Gateway voor het serveren van endpoints Meer informatie over AI Gateway-functies voor het leveren van eindpunten, waaronder ondersteunde functies en beperkingen.
AI Gateway configureren voor eindpunten voor modelservice Configureer AI Gateway-functies zoals het bijhouden van gebruik, logboekregistratie van nettoladingen, frequentielimieten en kaders voor een model dat het eindpunt bedient.
Bewaken van geserveerde modellen via inferentietabellen met AI Gateway Bewaak gediende modellen met behulp van inferentietabellen met AI Gateway.