Menyebarkan model untuk inferensi batch dan prediksi

Artikel ini menjelaskan apa yang direkomendasikan Databricks untuk inferensi batch.

Untuk penyajian model secara real-time di Azure Databricks, lihat Menyebarkan model menggunakan Mosaic AI Model Serving.

Fungsi AI untuk inferensi batch

Penting

Fitur ini ada di Pratinjau Publik.

Fungsi AI adalah fungsi bawaan yang dapat Anda gunakan untuk menerapkan AI pada data Anda yang disimpan di Databricks. Anda dapat menjalankan inferensi batch menggunakan fungsi AI khusus tugas atau fungsi tujuan umum, ai_query.

Berikut ini adalah contoh inferensi batch menggunakan fungsi AI khusus tugas, ai_translate. Jika Anda ingin melakukan inferensi batch pada seluruh tabel, Anda bisa menghapus limit 500 dari kueri Anda.

SELECT
writer_summary,
  ai_translate(writer_summary, "cn") as cn_translation
from user.batch.news_summaries
limit 500
;

Atau, Anda dapat menggunakan fungsi tujuan umum, ai_query untuk melakukan inferensi batch.

• Lihat jenis model mana dan model terkait yang ai_query mendukung.
• Lihat Mengimplementasikan rangkaian inferensi batch.