영어로 읽기

다음을 통해 공유

다음을 사용하여 제공된 모델 쿼리 ai_query()

  • 아티클

중요

이 기능은 공개 미리 보기 상태입니다.

이 문서에서는 SQL에서 엔드포인트를 제공하는 모델을 쿼리하는 방법을 설명합니다ai_query().

ai_query()이란 무엇인가요?

이 ai_query() 함수는 AI 함수의 일부인 기본 제공 Azure Databricks SQL 함수입니다. SQL 쿼리에서 이러한 유형의 모델에 액세스할 수 있습니다.

  • 엔드포인트를 제공하는 모델에서 호스트하는 사용자 지정 모델입니다.
  • Databricks Foundation 모델 API에서 호스트되는 모델입니다.
  • 외부 모델(Databricks 외부에서 호스트되는 타사 모델)

구문 및 디자인 패턴은 ai_query 함수를 참조하세요.

이 함수를 사용하여 엔드포인트를 제공하는 모델을 쿼리하는 경우 모델 서비스를 사용할 수 있고 사용하도록 설정된 작업 영역 및 지역에서만 사용할 수 있습니다.

요구 사항

다음을 사용하여 엔드포인트 쿼리 ai_query()

서버리스 또는 프로 SQL 웨어하우스를 사용하여 ai_query() 엔드포인트 뒤에 있는 모델을 쿼리할 수 있습니다. 채점 요청 및 응답 형식은 쿼리 생성 AI 모델을 참조 하세요.

참고

  • Databricks Runtime 14.2 이상의 경우 이 함수는 Databricks Notebook 및 작업을 비롯한 Notebook 환경에서 지원됩니다.
  • Databricks Runtime 14.1 이하의 경우 이 함수는 Databricks Notebook을 비롯한 Notebook 환경에서 지원되지 않습니다.

예: 큰 언어 모델 쿼리

다음 예제에서는 text 데이터 세트를 사용하여 sentiment-analysis 엔드포인트 뒤에 있는 모델을 쿼리하고 요청의 반환 형식을 지정합니다.

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews

예: 예측 모델 쿼리

다음 예제에서는 엔드포인트 뒤에 있는 분류 모델을 쿼리하여 테이블의 spam-classification text 스팸 inbox_messages 인지 여부를 일괄 처리로 예측합니다. 모델은 타임스탬프, 보낸 사람, 텍스트 등 3가지 입력 기능을 사용합니다. 모델은 부울 배열을 반환합니다.

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages