Запрос обслуживаемой модели с помощью ai_query()

Внимание

Эта функция предоставляется в режиме общедоступной предварительной версии.

В этой статье описывается, как запрашивать конечную точку обслуживания модели из SQL.ai_query()

Что такое ai_query()?

Эта ai_query() функция — это встроенная функция SQL Azure Databricks, часть функций ИИ. Он позволяет использовать эти типы моделей из запросов SQL:

• Пользовательские модели, размещенные конечной точкой обслуживания модели.
• Модели, размещенные API модели Databricks Foundation.
• Внешние модели (сторонние модели, размещенные за пределами Databricks).

Сведения о синтаксисе и шаблонах конструктора см. в разделе ai_query функции.

Если эта функция используется для запроса конечной точки обслуживания модели, она доступна только в рабочих областях и регионах, где доступна и включена служба моделей.

Требования

• Эта функция недоступна в Классической версии SQL Azure Databricks.
• Чтобы запросить конечные точки, обслуживающие пользовательские модели или внешние модели, необходимо зарегистрировать в общедоступной предварительной версии. Заполните и отправьте форму регистрации общедоступной предварительной версии функций ИИ.
• Существующую конечную точку обслуживания модели с загруженной моделью. См. статью "Создание пользовательских конечных точек обслуживания моделей".
• Необходимо включить Приватный канал Azure использовать эту функцию в хранилищах pro SQL.

Запрос конечной точки с помощью ai_query()

Вы можете запросить модель за конечной точкой, используя ai_query() бессерверные или профессиональные хранилища SQL. Сведения о форматах запросов и ответов см. в базовых моделях запросов.

Примечание.

• Для Databricks Runtime 14.2 и более поздних версий эта функция поддерживается в средах записных книжек, включая записные книжки и рабочие процессы Databricks.
• Для Databricks Runtime 14.1 и ниже эта функция не поддерживается в средах записных книжек, включая записные книжки Databricks.

Пример. Запрос большой языковой модели

В следующем примере модель за конечной sentiment-analysis точкой запрашивается с набором text данных и указывает тип возвращаемого запроса.

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews

Пример. Запрос прогнозной модели

В следующем примере выполняется запрос модели классификации за конечной spam-classification точкой для пакетного прогнозирования text наличия нежелательной почты в inbox_messages таблице. Модель принимает 3 входных компонента: метку времени, отправитель, текст. Модель возвращает логический массив.

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages