Query's uitvoeren op een geleverd model met ai_query()

Belangrijk

Deze functie is beschikbaar als openbare preview.

In dit artikel wordt beschreven hoe u een query uitvoert op een model dat een eindpunt uit SQL gebruikt.ai_query()

Wat is ai_query()?

De ai_query() functie is een ingebouwde Azure Databricks SQL-functie, onderdeel van AI-functies. Hiermee kunnen deze typen modellen toegankelijk zijn vanuit SQL-query's:

• Aangepaste modellen die worden gehost door een model dat het eindpunt bedient.
• Modellen die worden gehost door Databricks Foundation Model-API's.
• Externe modellen (externe modellen die buiten Databricks worden gehost).

Zie ai_query functie voor syntaxis- en ontwerppatronen.

Wanneer deze functie wordt gebruikt om een query uit te voeren op een eindpunt voor het leveren van een model, is deze alleen beschikbaar in werkruimten en regio's waar Model serving beschikbaar en ingeschakeld is.

Vereisten

• Deze functie is niet beschikbaar in Azure Databricks SQL Classic.
• Als u een query wilt uitvoeren op eindpunten die aangepaste modellen of externe modellen leveren, moet u zich inschrijven in de openbare preview. Vul het inschrijvingsformulier voor openbare preview-versie van AI Functions in en verzend het.
• Een bestaand model dat het eindpunt bedient terwijl uw model is geladen. Zie Aangepast model maken voor eindpunten.
• U moet Azure Private Link inschakelen om deze functie te kunnen gebruiken in pro SQL Warehouses.

Een query uitvoeren op het eindpunt met ai_query()

U kunt een query uitvoeren op het model achter het eindpunt met behulp van ai_query() serverloze of pro SQL-warehouses. Zie Query Foundation-modellen voor scoreaanvragen en antwoordindelingen.

Notitie

• Voor Databricks Runtime 14.2 en hoger wordt deze functie ondersteund in notebookomgevingen, waaronder Databricks-notebooks en werkstromen.
• Voor Databricks Runtime 14.1 en lager wordt deze functie niet ondersteund in notebookomgevingen, waaronder Databricks-notebooks.

Voorbeeld: Een query uitvoeren op een model in een grote taal

In het volgende voorbeeld wordt het model achter het sentiment-analysis eindpunt opgevraagd met de text gegevensset en wordt het retourtype van de aanvraag opgegeven.

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews

Voorbeeld: Een query uitvoeren op een voorspellend model

In het volgende voorbeeld wordt een classificatiemodel achter het spam-classification eindpunt opgevraagd om te voorspellen of het spam in inbox_messages de text tabel is. Het model heeft drie invoerfuncties: tijdstempel, afzender, tekst. Het model retourneert een Booleaanse matrix.

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages