Buat dan kelola API model (layanan model)

Buat, bagikan, dan kelola API model Anda sendiri (layanan model) di Unity Catalog.

Tip

API model yang disediakan sistem dalam system.ai skema siap untuk diquery tanpa pengaturan. Buat API model Anda sendiri hanya ketika Anda ingin mengatur model tambahan atau mengekspos endpoint kustom.

Requirements

  • Ruang kerja Azure Databricks di wilayah yang didukung gateway AI Unity.
  • Katalog Unity diaktifkan untuk ruang kerja Anda. Lihat Mengaktifkan ruang kerja untuk Unity Catalog.
  • Untuk membuat layanan model, Anda harus memiliki:
    • USE CATALOG, USE SCHEMA, dan CREATE SERVICE pada katalog dan skema tempat Anda membuat layanan model.
    • EXECUTE pada setiap model yang dirujuk layanan model sebagai tujuan.
    • EXECUTE, USE CATALOG, dan USE SCHEMA pada setiap layanan penyedia model yang dirujuk oleh layanan model sebagai tujuan.
    • USE CATALOG, USE SCHEMA, dan CREATE TABLE pada katalog dan skema tempat tabel inferensi dibuat, jika Anda mengaktifkan pengelogan inferensi.

Membuat layanan model

Anda dapat membuat layanan model di antarmuka pengguna Unity AI Gateway atau di Catalog Explorer.

Layanan model dan layanan penyedia model berbagi namespace layanan satu nama dalam skema Unity Catalog. Anda tidak dapat menggunakan nama untuk layanan model jika layanan penyedia model dalam skema sudah menggunakannya, dan sebaliknya.

Gunakan antarmuka pengguna

  1. Lakukan salah satu hal berikut ini:
    • Di bar samping ruang kerja, klik Gateway AI, lalu klik Buat.
    • Di Catalog Explorer, buka skema tempat Anda ingin membuat layanan model, lalu klik Buat>Layanan>Layanan model.
  2. Masukkan nama untuk layanan model, dan pilih katalog dan skema untuk membuatnya. Jika Anda memulai dari Catalog Explorer, Catalog Explorer akan mengisi katalog dan skema.
  3. Pilih tujuan utama yang akan dilayan. Tujuan ini dapat berupa model yang dihosting oleh Databricks yang Anda miliki EXECUTE dan yang dapat disajikan oleh Unity AI Gateway, atau layanan penyedia model yang Anda miliki EXECUTE, USE CATALOG, dan USE SCHEMA pada.
  4. Klik Buat.

Setelah Anda membuat layanan model, Azure Databricks membuka halaman gambaran umumnya, tempat Anda dapat memulai atau mengonfigurasi fitur tambahan seperti pengelogan inferensi.

Memberikan akses ke layanan model

Untuk memungkinkan orang lain mengkueri layanan model, berikan EXECUTE pada layanan model dan USE CATALOG dan USE SCHEMA pada katalog dan skemanya. Jika layanan model mencatat ke tabel inferensi, berikan SELECT pada tabel untuk memungkinkan mereka membaca permintaan dan respons yang dicatat.

Untuk memberikan akses di Catalog Explorer:

  1. Di Catalog Explorer, buka layanan model.
  2. Pada tab Izin , klik Berikan.
  3. Pilih pengguna atau grup yang akan diberikan aksesnya, pilih EXECUTE hak istimewa, dan klik Berikan.

Pastikan prinsipal yang sama juga memiliki USE CATALOG dan USE SCHEMA pada katalog dan skema layanan model. Untuk membiarkan mereka membaca permintaan dan respons yang dicatat, berikan SELECT pada tabel inferensi dari tab Izinnya .

Untuk informasi selengkapnya tentang memberikan dan menemukan akses, lihat mengatur layanan model.

Mengonfigurasi fitur pada layanan model

Anda dapat mengonfigurasi fitur seperti batas laju, pencatatan inferensi, dan guardrail pada layanan model melalui antarmuka pengguna Unity AI Gateway, dengan cara yang sama seperti saat Anda mengonfigurasinya pada endpoint Unity AI Gateway. See:

Pengelogan inferensi

Saat Anda mengaktifkan pengelogan inferensi, Azure Databricks membuat tabel Unity Catalog baru yang kosong dengan skema yang telah ditentukan sebelumnya di lokasi yang Anda tentukan. Perhatikan hal berikut:

  • Anda harus memiliki USE CATALOG, USE SCHEMA, dan CREATE TABLE pada katalog dan skema target.
  • Pembuat layanan model adalah pemilik tabel inferensi. Tidak ada pengguna lain yang memiliki akses kecuali Anda memberikannya.
  • Jika tabel sudah ada di lokasi yang ditentukan, pembuatan layanan model gagal.
  • Tabel inferensi memiliki siklus hidup independen dari layanan model. Jika Anda menghapus tabel, layanan model tetap berfungsi tetapi berhenti mencatat log.

Untuk informasi lebih lanjut tentang tabel inferensi, lihat Log request and responses to infere tables.

Menghapus layanan model

Untuk menghapus layanan model, Anda harus memiliki setidaknya hak akses MANAGE untuk layanan model tersebut. Pemilik memiliki sebuah superset dari MANAGE.

Untuk menghapus layanan model, buka di Catalog Explorer dan pilih Hapus dari menu kebab.

Layanan model yang disediakan sistem di system.ai tidak dapat dihapus.

Langkah berikutnya

  • Last updated on