Mengakses model AI dan LLM generatif dari Unity Catalog

Penting

Fitur ini ada di Pratinjau Publik.

Azure Databricks mencakup pilihan model dasar AI dan LLM generatif berkualitas tinggi di Unity Catalog. Artikel ini menjelaskan cara menggunakan model tersebut dan memasukkannya ke dalam alur kerja inferensi Anda. Model-model ini memungkinkan Anda mengakses kemampuan AI canggih, menghemat waktu dan biaya membangun model kustom Anda sendiri.

Untuk informasi tentang menggunakan model kustom Anda sendiri dengan Unity Catalog, lihat Mengelola siklus hidup model di Unity Catalog.

Temukan model fondasi di Unity Catalog

Di wilayah yang diaktifkan untuk Mosaic AI Model Serving, Azure Databricks telah menginstal sebelumnya pilihan model fondasi canggih. Model ini memiliki lisensi permisif dan telah dioptimalkan untuk digunakan bersama API Model Foundation dengan throughput yang telah disediakan. Lihat Ketentuan model yang berlaku.

Databricks merekomendasikan penggunaan versi dasar model ini untuk menyempurnakan tugas dan menggunakan versi instruksi untuk penyebaran dan penyajian model.

Model ini tersedia langsung dari Catalog Explorer, di bawah katalog system dalam skema ai (system.ai).

Anda dapat melayani model ini dengan satu klik lalu menggabungkan model yang melayani titik akhir langsung ke dalam alur kerja inferensi batch Anda. Untuk menyajikan model, klik nama model di Katalog untuk membuka halaman model dan klik Layani model ini. Untuk informasi selengkapnya tentang Model Serving, lihat Menyebarkan model menggunakan Mosaic AI Model Serving. Untuk daftar wilayah yang didukung untuk Model Serving, lihat Ketersediaan wilayah.

Model di system.ai tersedia untuk semua pengguna akun secara default. Admin metastore Unity Catalog dapat membatasi akses ke model ini. Lihat Referensi hak istimewa Katalog Unity.