Mengkueri model yang dilayani dengan ai_query()

Penting

Fitur ini ada di Pratinjau Publik.

Artikel ini menjelaskan cara mengkueri model yang melayani titik akhir dari SQL dengan ai_query().

Apa itu ai_query()?

Fungsi ini ai_query() adalah fungsi Azure Databricks SQL bawaan, bagian dari fungsi AI. Ini memungkinkan jenis model ini dapat diakses dari kueri SQL:

• Model kustom yang dihosting oleh model yang melayani titik akhir.
• Model yang dihosting oleh API Model Databricks Foundation.
• Model eksternal (model pihak ketiga yang dihosting di luar Databricks).

Untuk pola sintaksis dan desain, lihat fungsi ai_query.

Ketika fungsi ini digunakan untuk mengkueri model yang melayani titik akhir, fungsi ini hanya tersedia di ruang kerja dan wilayah tempat Model Melayani tersedia dan diaktifkan.

Persyaratan

• Fungsi ini tidak tersedia di Azure Databricks SQL Classic.
• Untuk mengkueri titik akhir yang melayani model kustom atau model eksternal, Anda harus mendaftar di pratinjau publik. Silakan isi dan kirim formulir pendaftaran Pratinjau Publik Fungsi AI.
• Model yang ada yang melayani titik akhir dengan model Anda dimuat. Lihat Membuat model kustom yang melayani titik akhir.
• Anda harus mengaktifkan Azure Private Link untuk menggunakan fitur ini di gudang pro SQL.

Mengkueri titik akhir dengan ai_query()

Anda dapat mengkueri model di belakang titik akhir menggunakan ai_query() pada gudang SQL tanpa server atau pro. Untuk format permintaan penilaian dan respons, lihat Model fondasi kueri.

Catatan

• Untuk Databricks Runtime 14.2 ke atas, fungsi ini didukung di lingkungan buku catatan termasuk buku catatan dan alur kerja Databricks.
• Untuk Databricks Runtime 14.1 ke bawah, fungsi ini tidak didukung di lingkungan notebook, termasuk notebook Databricks.

Contoh: Mengkueri model bahasa besar

Contoh berikut mengkueri model di belakang sentiment-analysis titik akhir dengan himpunan text data dan menentukan jenis pengembalian permintaan.

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews

Contoh: Mengkueri model prediktif

Contoh berikut mengkueri model klasifikasi di belakang spam-classification titik akhir untuk memprediksi apakah text spam dalam inbox_messages tabel. Model ini mengambil 3 fitur input: tanda waktu, pengirim, teks. Model mengembalikan array boolean.

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages