Aracılığıyla paylaş

ai_query işlevi

  • Makale

Şunlar için geçerlidir:check marked yes Databricks SQL

Önemli

Bu özellik Genel Önizlemededir.

Mevcut bir Azure Databricks Model Sunum uç noktasını çağırır ve yanıtını ayrıştırıp döndürür.

Gereksinimler

  • Bu işlev Azure Databricks SQL Classic'te kullanılamaz.
  • Temel Model API'lerini sorgulama varsayılan olarak etkindir. Özel modellere veya dış modellere hizmet veren uç noktaları sorgulamak için genel önizlemeye kaydolmanız gerekir. Lütfen AI İşlevleri Genel Önizleme kayıt formunu doldurun ve gönderin.

Sözdizimi

Dış modele veya temel modele hizmet veren bir uç noktayı sorgulamak için:

ai_query(endpointName, request)

Uç nokta sunan özel bir modeli sorgulamak için:

ai_query(endpointName, request, returnType)

Bağımsız değişkenler

  • endpointName: Çağırmalar için aynı çalışma alanında mevcut Databricks Model Sunum uç noktasının adı olan STRING değişmez değeri. Tanımlayıcının uç noktada CAN QUERY izni olmalıdır.
  • request: Bir ifade, uç noktayı çağırmak için kullanılan istek.
    • Uç nokta uç noktaya veya Databricks Foundation Model API'lerine hizmet veren bir dış modelse, istek bir STRING olmalıdır.
    • Uç nokta, uç noktaya hizmet veren özel bir modelse, istek tek bir sütun veya yapı ifadesi olabilir. Yapı alanı adları, uç nokta tarafından beklenen giriş özelliği adlarla eşleşmelidir.
  • returnType: Uç noktadan beklenen returnType ifadesi. Bu, from_json işlevindeki şema parametresine benzer ve hem STRING ifadesini hem de schema_of_json işlevini çağırmayı kabul eder. Özel model sunma uç noktasını sorgulamak için gereklidir.

Döndürülenler

Uç noktadan ayrıştırılan yanıt.

Örnekler

Dış Model Sunma Uç Noktasını veya Databricks Foundation Modelini sorgulamak için:

> SELECT ai_query(
    'my-external-model-openai-chat',
    'Describe Databricks SQL in 30 words.'
  ) AS summary

  "Databricks SQL is a cloud-based platform for data analytics and machine learning, providing a unified workspace for collaborative data exploration, analysis, and visualization using SQL queries."

> CREATE FUNCTION correct_grammar(text STRING)
  RETURNS STRING
  RETURN ai_query(
    'databricks-llama-2-70b-chat',
    CONCAT('Correct this to standard English:\n', text));
> GRANT EXECUTE ON correct_grammar TO ds;
- DS fixes grammar issues in a batch.
> SELECT
    * EXCEPT text,
    correct_grammar(text) AS text
  FROM articles;

Özel model sunma uç noktasını sorgulamak için:


> SELECT text, ai_query(
    endpoint => 'spam-classification-endpoint',
    request => named_struct(
      'timestamp', timestamp,
      'sender', from_number,
      'text', text),
    returnType => 'BOOLEAN') AS is_spam
  FROM messages

> SELECT ai_query(
    'weekly-forecast',
    request => struct(*),
    returnType => 'FLOAT') AS predicted_revenue
  FROM retail_revenue

> SELECT ai_query(
    'custom-llama-2-7b-chat',
    request => named_struct("messages",
        ARRAY(named_struct("role", "user", "content", "What is ML?"))),
    returnType => 'STRUCT<candidates:ARRAY<STRING>>')

  {"candidates":["ML stands for Machine Learning. It's a subfield of Artificial Intelligence that involves the use of algorithms and statistical models to enable machines to learn from data, make decisions, and improve their performance on a specific task over time."]}