Bagikan melalui

Mengatur ulang model menggunakan komputasi terkelola (pratinjau) (klasik)

Hanya berlaku untuk:Portal Foundry (klasik). Artikel ini tidak tersedia untuk portal Foundry baru. Pelajari selengkapnya tentang portal baru.

Nota

Tautan dalam artikel ini mungkin membuka konten dalam dokumentasi Microsoft Foundry baru alih-alih dokumentasi Foundry (klasik) yang Anda lihat sekarang.

Penting

Item-item yang ditandai (pratinjau) dalam artikel ini saat ini sedang berada dalam pratinjau publik. Pratinjau ini disediakan tanpa kesepakatan tingkat layanan, dan kami tidak merekomendasikannya untuk penggunaan dalam lingkungan produksi. Fitur tertentu mungkin tidak didukung atau mungkin memiliki kemampuan terbatas. Untuk informasi selengkapnya, lihat Ketentuan Penggunaan Tambahan untuk Pratinjau Microsoft Azure.

Pelajari cara menyempurnakan dan menyebarkan model menggunakan komputasi terkelola di Microsoft Foundry. Sesuaikan parameter pelatihan (tingkat pembelajaran, ukuran batch, epoch) untuk mengoptimalkan performa.

Menyempurnakan model yang telah dilatih sebelumnya untuk tugas terkait lebih efisien daripada melatih model baru dari awal.

Gunakan pengaturan penyempurnaan di portal untuk mengonfigurasi data, komputasi, dan hyperparameter. Setelah pelatihan selesai, Anda dapat mengevaluasi dan menyebarkan model yang dihasilkan.

Dalam artikel ini, Anda akan mempelajari cara:

  • Pilih model fondasi.
  • Mengonfigurasi pemisahan komputasi dan data.
  • Setel hiperparameter dengan aman.
  • Kirim dan pantau pekerjaan yang menyempurnakan.
  • Evaluasi dan sebarkan model yang disempurnakan.

Prasyarat

Penting

Artikel ini menyediakan dukungan warisan untuk proyek berbasis hub. Ini tidak akan berfungsi untuk proyek Foundry. Lihat Bagaimana saya tahu jenis proyek apa yang saya miliki?

catatan kompatibilitas SDK: Contoh kode memerlukan versi SDK Foundry Microsoft tertentu. Jika Anda mengalami masalah kompatibilitas, pertimbangkan migrasi dari berbasis hub ke Foundry project.

  • Azure kontrol akses berbasis peran (Azure RBAC) digunakan untuk memberikan akses ke operasi di portal Foundry. Untuk melakukan langkah-langkah dalam artikel ini, akun pengguna Anda harus diberi peran owner atau kontributor untuk langganan Azure. Untuk informasi selengkapnya tentang izin, lihat Kontrol akses berbasis peran di portal Foundry.

Menyempurnakan model fondasi menggunakan komputasi terkelola

Petunjuk / Saran

Karena Anda dapat kustomisasi panel kiri di portal Microsoft Foundry, Anda mungkin melihat item yang berbeda dari yang diperlihatkan dalam langkah-langkah ini. Jika Anda tidak melihat apa yang Anda cari, pilih ... Lainnya di bagian bawah panel kiri.

  1. Masuk ke Microsoft Foundry. Pastikan tombol New Foundry nonaktif. Langkah-langkah ini mengacu pada Foundry (klasik).

  2. Jika Anda belum berada di project Anda, pilih ini.

  3. Pilih Fine-tuning dari panel sebelah kiri.

    1. Pilih Sesuaikan model dan tambahkan model yang ingin Anda sesuaikan. Artikel ini menggunakan Phi-3-mini-4k-instruct untuk ilustrasi.
    2. Pilih Berikutnya untuk melihat opsi penyempurnaan yang tersedia. Beberapa model fondasi hanya mendukung opsi Komputasi terkelola.

  4. Atau, Anda dapat memilih Katalog Model dari bilah sisi kiri proyek Anda dan menemukan kartu model dari model dasar yang ingin Anda optimalkan.

    1. Pilih Sesuaikan pada kartu model untuk melihat opsi penyempurnaan yang tersedia. Beberapa model fondasi hanya mendukung opsi Komputasi terkelola.

    Cuplikan layar memperlihatkan opsi penyempurnaan untuk model fondasi di Foundry.

  5. Pilih Layanan Komputasi Terelola. Ini membuka pengaturan Dasar.

Mengonfigurasi pengaturan penyesuaian halus

Di bagian ini, Anda akan melalui langkah-langkah untuk mengonfigurasi penyempurnaan untuk model Anda, menggunakan komputasi terkelola.

  1. Berikan nama model (misalnya, phi3mini-faq-v1). Pilih Berikutnya untuk Komputasi.

  2. Pilih ukuran VM GPU. Pastikan kuota untuk SKU yang dipilih.

    Cuplikan layar memperlihatkan pengaturan untuk komputasi yang akan digunakan untuk penyempurnaan.

  3. Pilih Berikutnya untuk Data pelatihan. Jenis tugas mungkin diatur sebelumnya (misalnya, Penyelesaian obrolan).

  4. Berikan data pelatihan (unggah JSONL/CSV/TSV atau pilih himpunan data terdaftar). Contoh keseimbangan untuk mengurangi bias.

  5. Pilih Berikutnya untuk Data validasi. Pertahankan Pemisahan otomatis atau berikan himpunan data terpisah.

  6. Pilih Berikutnya untuk Parameter tugas. Sesuaikan epoch, tingkat pembelajaran, ukuran batch. Mulai konservatif; iterasi berdasarkan metrik validasi.

  7. Pilih Berikutnya untuk Tinjauan. Konfirmasi hitungan dan parameter.

  8. Pilih Kirim untuk memulai pekerjaan.

Memantau dan mengevaluasi

  • Pantau status pekerjaan di daftar pekerjaan penyesuaian.
  • Tinjau log untuk masalah pra-pemrosesan atau alokasi.
  • Setelah selesai, lihat metrik evaluasi yang dihasilkan (jika diaktifkan) atau jalankan evaluasi terpisah yang membandingkan model dasar vs yang disempurnakan.

Mengimplementasikan model yang telah dioptimalkan

Gunakan dari ringkasan pekerjaan. Gunakan nama penerapan seperti faq-v1. Catat versi model dan hash kumpulan data untuk memastikan dapat direproduksi. Tambahkan pelacakan untuk memantau permintaan nyata.

Troubleshooting

Masalah Penyebab Tindakan
Terjebak dalam Antrean Kapasitas GPU tidak mencukup Coba SKU atau wilayah alternatif
Overfitting dengan cepat Terlalu banyak periode / himpunan data yang kecil Kurangi jumlah epoch atau tingkatkan data
Tidak ada peningkatan metrik Kebisingan himpunan data/ tujuan yang tidak sejalan Menyempurnakan pemilihan pelabelan atau metrik
Latensi yang lebih tinggi pasca penyebaran Model dasar /overhead adaptor yang lebih besar Pertimbangkan model dasar yang lebih kecil atau sesuaikan ukuran batch

Konten terkait

  • Last updated on