Katalog dan Koleksi Model

  • Artikel

Katalog Model di studio Azure Pembelajaran Mesin adalah hub untuk berbagai sumber terbuka pihak ketiga serta model fondasi yang dikembangkan Microsoft yang telah dilatih sebelumnya untuk berbagai kasus penggunaan bahasa, ucapan, dan visi. Anda dapat mengevaluasi, menyesuaikan, dan menyebarkan model ini dengan kemampuan asli untuk membangun dan mengoprasikan Model fondasi sumber terbuka dalam skala besar untuk dengan mudah mengintegrasikan model yang telah dilatih ini ke dalam aplikasi Anda dengan keamanan tingkat perusahaan dan tata kelola data.

  • Temukan: Tinjau deskripsi model, coba inferensi sampel dan telusuri sampel kode untuk mengevaluasi, menyempurnakan, atau menyebarkan model.
  • Evaluasi: Evaluasi apakah model cocok untuk beban kerja spesifik Anda dengan memberikan data pengujian Anda sendiri. Metrik evaluasi memudahkan untuk memvisualisasikan seberapa baik performa model yang dipilih dalam skenario Anda.
  • Menyempurnakan: Sesuaikan model ini menggunakan data pelatihan Anda sendiri. Pengoptimalan bawaan yang mempercepat penyempurnaan dan mengurangi memori dan komputasi yang diperlukan untuk penyetelan halus. Terapkan kemampuan eksperimen dan pelacakan Azure Machine Learning untuk mengatur pekerjaan pelatihan Anda dan menemukan model yang paling sesuai dengan kebutuhan Anda.
  • Sebarkan: Sebarkan Model Foundation yang telah dilatih sebelumnya atau model yang disempurnakan dengan mulus ke titik akhir online untuk inferensi real time atau titik akhir batch untuk memproses himpunan data inferensi besar dalam mode pekerjaan. Terapkan kemampuan operasionalisasi pembelajaran mesin terkemuka di industri di Azure Pembelajaran Mesin.
  • Impor: Model sumber terbuka sering dirilis. Anda selalu dapat menggunakan model terbaru di Azure Pembelajaran Mesin dengan mengimpor model yang mirip dengan model di katalog. Misalnya, Anda dapat mengimpor model untuk tugas yang didukung yang menggunakan pustaka yang sama.

Anda mulai dengan menjelajahi koleksi model atau dengan memfilter berdasarkan tugas dan lisensi, untuk menemukan model untuk kasus penggunaan Anda. Task memanggil tugas inferensi yang dapat digunakan model fondasi. Finetuning-tasks mencantumkan tugas yang dapat disetel dengan baik oleh model ini. License memanggil info lisensi.

Koleksi

Ada tiga jenis koleksi dalam Katalog Model:

Model sumber terbuka yang dikumpulkan oleh Azure AI: Model pihak ketiga sumber terbuka paling populer yang dikumpulkan oleh Azure Pembelajaran Mesin. Model-model ini di kemas untuk penggunaan di luar kotak dan dioptimalkan untuk digunakan di Azure Pembelajaran Mesin, menawarkan status performa seni dan throughput pada perangkat keras Azure. Mereka menawarkan dukungan asli untuk pelatihan terdistribusi dan dapat dengan mudah di-port di seluruh perangkat keras Azure.

'Dikumpulkan oleh Azure AI' dan koleksi dari mitra seperti Meta, NVIDIA, Mistral AI adalah semua koleksi yang dikumpulkan di Katalog.

Model Azure OpenAI, tersedia secara eksklusif di Azure: Menyebarkan model Azure OpenAI melalui koleksi 'Azure Open AI' di Katalog Model.

Model transformer dari hub HuggingFace: Ribuan model dari hub HuggingFace dapat diakses melalui koleksi 'Hugging Face' untuk inferensi real time dengan titik akhir online.

Penting

Model dalam katalog model dicakup oleh lisensi pihak ketiga. Pahami lisensi model yang Anda rencanakan untuk digunakan dan verifikasi bahwa lisensi memungkinkan kasus penggunaan Anda. Beberapa model dalam katalog model saat ini dalam pratinjau. Model dalam pratinjau jika satu atau beberapa pernyataan berikut berlaku untuknya:
Model ini tidak dapat digunakan (dapat disebarkan, disempurnakan, dan dievaluasi) dalam jaringan yang terisolasi.
Skema pengemasan dan inferensi model dapat berubah untuk versi model yang lebih baru. Untuk informasi selengkapnya tentang pratinjau, lihat Ketentuan Penggunaan Tambahan untuk Pratinjau Microsoft Azure.

Membandingkan kemampuan model berdasarkan koleksi

Fitur Model sumber terbuka yang dikumpulkan oleh Azure Machine Learning Model transformator dari hub HuggingFace
Inferensi Inferensi online dan batch Inferensi online
Evaluasi dan penyelarasan Mengevaluasi dan menyempurnakan dengan UI, SDK, atau CLI tidak tersedia
Model impor Dukungan terbatas untuk mengimpor model menggunakan SDK atau CLI tidak tersedia

Membandingkan atribut koleksi

Atribut Model sumber terbuka yang dikumpulkan oleh Azure Machine Learning Model transformator dari hub HuggingFace
Format model Dikumpulkan dalam format model MLFlow atau Triton untuk penyebaran tanpa kode yang mulus dengan titik akhir online dan batch Transformer
Hosting model Bobot model yang dihosting di Azure Bobot model diambil sesuai permintaan selama penyebaran dari hub HuggingFace.
Gunakan di ruang kerja terisolasi jaringan Kemampuan outbound outbound out-of-the-box untuk menggunakan model. Beberapa model akan memerlukan keluar ke domain publik untuk menginstal paket saat runtime. Izinkan keluar ke hub HuggingFace, hub Docker, dan CDN mereka
Dukungan Didukung oleh Microsoft dan dicakup oleh SLA Azure Machine Learning HuggingFace membuat dan memelihara model yang tercantum dalam HuggingFace registri komunitas. Gunakan Forum HuggingFace or Dukungan HuggingFace untuk mendapatkan bantuan.

Pelajari lebih lanjut