Penyempurnaan di Microsoft Foundry

Fine-tuning menyesuaikan model yang telah dilatih sebelumnya untuk tugas Anda melalui pelatihan tambahan pada data khusus tugas. Ini menyesuaikan bobot model daripada menambahkan contoh ke setiap prompt. Anda mengembangkan kapabilitas model yang sudah ada tanpa melatih model dari awal.

Penyempurnaan dapat membantu saat Anda memiliki data pelatihan khusus tugas berkualitas tinggi dan ingin:

  • Meningkatkan akurasi dan relevansi. Pelatihan dengan lebih banyak contoh daripada yang muat dalam prompt dapat mengajarkan pola khusus tugas.
  • Kurangi overhead prompt. Contoh perintah yang lebih sedikit dapat menurunkan biaya dan latensi token.
  • Selaraskan gaya dan struktur. Respons dapat mengikuti gaya bahasa, format, atau skema yang konsisten.
  • Tingkatkan penggunaan alat. Contoh data latih dapat meningkatkan pemilihan alat bantu dan akurasi argumen.
  • Gunakan konteks yang diambil secara efektif. Model dapat belajar memprioritaskan konteks yang relevan dan mengabaikan informasi yang tidak relevan.
  • Spesialisasikan model yang lebih kecil. Contoh yang dihasilkan guru dapat membantu model yang lebih kecil memenuhi persyaratan tugas dengan biaya dan latensi yang lebih rendah.

Manfaat tidak dijamin; evaluasi hold-out membantu Anda membandingkan model yang disempurnakan dengan baseline Anda. Penyempurnaan menambahkan biaya pelatihan dan hosting dan tidak menggantikan mekanisme pengambilan informasi untuk informasi saat ini atau kontrol keamanan tingkat aplikasi.

Pilih pendekatan pelatihan Anda

Microsoft Foundry menyediakan dua pendekatan pelatihan. Penyempurnaan terkelola menjalankan pekerjaan pelatihan dari data dan pengaturan Anda. Pelatihan interaktif (pratinjau) memungkinkan Anda mengontrol langkah-langkah pelatihan dalam Python.

Keduanya menggunakan infrastruktur pelatihan yang dikelola Foundry; Anda tidak menyediakan GPU pelatihan.

Note

Pelatihan interaktif sedang dalam pratinjau dan memerlukan persetujuan akses eksplisit. Minta akses melalui formulir pendaftaran pratinjau dan tunggu persetujuan sebelum membuat sesi pelatihan.

Fine-tuning terkelola Pelatihan interaktif (pratinjau)
Cara kerjanya Kirim data dan pengaturan; Foundry menjalankan pekerjaan pelatihan. Tulis perulangan Python; Foundry menjalankan operasi pelatihan dan pengambilan sampel.
Terbaik untuk Pemula dan insinyur AI yang lebih memilih alur kerja yang telah ditentukan sebelumnya daripada operasi pelatihan tingkat bawah. Praktisi ML berpengalaman membangun alur kerja pelatihan kustom.
Kontrol Anda Data, hyperparameter yang didukung, dan grader RFT. loss, hadiah, rollout, akumulasi gradien, pembaruan, dan titik pemeriksaan.
Metode pelatihan SFT, DPO, dan RFT khusus model; penyulingan melalui data SFT yang dihasilkan model teacher. Resep untuk SFT, pembelajaran penguatan, pembelajaran preferensi, distilasi, dan fungsi loss kustom.
Contoh kasus penggunaan Menyaring model yang lebih besar, belajar dari percakapan dukungan, atau meningkatkan respons dengan penilai. Kumpulkan rollout penggunaan tool, terapkan reward kustom, atau ubah pembaruan dan perilaku evaluasi perulangan pelatihan.

Tip

Mulailah dengan fine-tuning terkelola jika Anda baru menggunakan kustomisasi model. Ini menyediakan alur kerja yang telah ditentukan sebelumnya tanpa mengharuskan Anda untuk menerapkan operasi pelatihan individual.

Persyaratan model dapat membatasi pilihan ini. Model yang didukung untuk satu pendekatan, metode, atau modalitas tidak didukung secara otomatis untuk pendekatan lain. Dukungan resep cookbook juga tidak menjamin ketersediaan layanan. Periksa tabel model yang didukung di bawah ini untuk kombinasi yang tersedia.

Metode kustomisasi

Metode kustomisasi menentukan bagaimana model belajar dari data pelatihan atau umpan balik, seperti respons, preferensi, atau hadiah yang diinginkan.

Metode Sinyal pelatihan Ketika cocok
Fine-tuning terawasi (SFT) Permintaan dan respons yang diinginkan. Anda dapat menunjukkan perilaku yang harus dipelajari model.
Penyempurnaan preferensi, menggunakan pengoptimalan preferensi langsung (DPO) Respons yang disukai dan ditolak terhadap input yang sama. Kualitas tergantung pada preferensi seperti nada atau kelengkapan, bukan pada adanya satu jawaban yang benar.
Fine-tuning reinforcement (RFT) Prompt dan grader yang menilai respons yang dihasilkan. Beberapa solusi dimungkinkan, dan Anda dapat menilai kualitasnya dengan andal.

Metode yang telah ditentukan sebelumnya dalam tabel ini hanya berlaku untuk penyempurnaan terkelola. Pelatihan interaktif menyediakan primitif pelatihan untuk membangun alur kerja pelatihan kustom.

Jenis pelatihan

Jenis pelatihan menentukan tempat pelatihan berjalan dan bagaimana kapasitas, harga, dan jaminan layanan berlaku. Mereka terpisah dari jenis deployment, yang menentukan bagaimana Anda menyajikan model terlatih.

Jenis pelatihan Description
Standard Pelatihan terjadi di wilayah sumber daya Foundry saat ini dan memberikan jaminan untuk residensi data. Ideal untuk beban kerja di mana data harus tetap berada di wilayah tertentu.
Zona data Pelatihan terjadi dalam zona data yang didukung, bukan di satu wilayah. Ideal untuk beban kerja di mana data harus tetap berada dalam zona tersebut. Hanya zona data AS yang saat ini didukung.
Global Memberikan harga yang lebih terjangkau dibandingkan dengan Standar dengan menggunakan kapasitas di luar wilayah Anda saat ini. Data dan bobot disalin ke wilayah tempat pelatihan terjadi. Ideal jika residensi data bukan batasan dan Anda menginginkan waktu antrean yang lebih cepat.
Pengembang Memberikan penghematan biaya yang signifikan dengan menggunakan kapasitas menganggur untuk pelatihan. Tidak ada jaminan latensi atau SLA, sehingga pekerjaan di tingkat ini mungkin secara otomatis didahului dan dilanjutkan nanti. Tidak ada jaminan terkait lokasi penyimpanan data juga. Ideal untuk eksperimen dan beban kerja yang sensitif terhadap harga.

Opsi penempatan

Foundry menawarkan tiga opsi penyebaran dengan model infrastruktur serving dan penagihan yang berbeda.

  • Tanpa server: Foundry menghosting model yang disempurnakan dan mengelola infrastruktur penyajian.
  • Komputasi terkelola (pratinjau): Kapasitas GPU khusus menjalankan model dasar yang cocok dengan satu atau beberapa adaptor LoRA yang kompatibel.
  • Fireworks on Foundry (pratinjau): Runtime Fireworks menyediakan satu adaptor yang digabungkan ke dalam salinan berat penuh model dasar.

Serverless dan Fireworks menawarkan berbagai jenis penyebaran, yang menentukan geografi pemrosesan, kapasitas, dan model penagihan. Ketersediaan tergantung pada model, opsi penyebaran, dan artefak.

Jenis penyebaran Description
Standard Menjalankan inferensi di wilayah penyebaran dengan penagihan per token dan biaya hosting model yang disempurnakan yang berlaku.
Standar Wilayah Data Menjalankan inferensi dalam zona data yang didukung dengan penagihan per token. Hanya zona data AS yang didukung.
Standar Global Menggunakan kapasitas global dengan penagihan per token. Bobot model kustom mungkin disimpan sementara di luar geografi sumber daya.
Pengembang Menjalankan inferensi secara global dengan penagihan per token dan tidak ada biaya hosting per jam atau jaminan residensi data. Hanya untuk evaluasi; berlangsung selama 24 jam dan tidak memiliki ketersediaan SLA.
Throughput yang Dialokasikan Menyediakan kapasitas regional yang ditagih dalam unit throughput yang disediakan (PTUs) untuk throughput yang dapat diprediksi.
Tersedia Secara Global Menggunakan kapasitas global dengan penagihan berbasis PTU untuk model kustom yang diimpor.

Model yang didukung

Persyaratan Anda mungkin memanggil model atau pendekatan pelatihan tertentu. Gunakan tabel untuk memeriksa kombinasi mana yang mendukung metode kustomisasi, jenis pelatihan, dan opsi penyebaran Anda.

Untuk deployment serverless yang didukung, Standar Global, Standar Zona Data, dan Pengembang tersedia kecuali keterangan menyatakan sebaliknya. Periksa Wilayah penyebaran standar dan wilayah penyebaran Throughput yang Disediakan untuk jenis penyebaran tersebut.

Identifikasi Model Approach Jenis pelatihan Opsi penempatan
Muse-Glimmer-30B
(pratinjau)		 Terkelola: ✅ (SFT, RFT)
Interaktif: ✅		 Standar: ❌
Zona data: ❌
Global: ✅
Pengembang: ✅		 Tanpa server: ❌
Komputasi terkelola: ✅
Kembang Api: ✅1
Llama-3.3-70B-Instruct Terkelola: ✅ (SFT)
Interaktif: ❌		 Standar: ❌
Zona data: ✅
Global: ✅
Pengembang: ❌		 Tanpa server: ✅2
Komputasi terkelola: ❌
Kembang api: ❌
Qwen3-32B Terkelola: ✅ (SFT)
Interaktif: ❌		 Standar: ❌
Zona data: ✅
Global: ✅
Pengembang: ❌		 Tanpa server: ✅2
Komputasi terkelola: ❌
Kembang api: ❌
Qwen3.6-35B-A3B
(pratinjau)		 Terkelola: ✅ (SFT, RFT)
Interaktif: ✅		 Standar: ❌
Zona data: ❌
Global: ✅
Pengembang: ✅		 Tanpa server: ❌
Komputasi terkelola: ✅
Kembang Api: ✅1
Qwen3.8-27B
(pratinjau)		 Terkelola: ✅ (SFT, RFT)
Interaktif: ✅		 Standar: ❌
Zona data: ❌
Global: ✅
Pengembang: ✅		 Tanpa server: ❌
Komputasi terkelola: ✅
Kembang Api: ✅1
gpt-oss-20b Terkelola: ✅ (SFT)
Interaktif: ✅		 Standar: ❌
Zona data: ✅
Global: ✅
Pengembang: ❌		 Tanpa server: ✅2
Komputasi terkelola: ❌
Kembang api: ❌
gpt-oss-120b
(pratinjau)		 Terkelola: ✅ (SFT, RFT)
Interaktif: ✅		 Standar: ❌
Zona data: ❌
Global: ✅
Pengembang: ✅		 Tanpa server: ❌
Komputasi terkelola: ✅
Kembang Api: ✅1
Ministral-3B
(2411)		 Terkelola: ✅ (SFT)
Interaktif: ❌		 Standar: ❌
Zona data: ✅
Global: ✅
Pengembang: ❌		 Tanpa server: ✅2
Komputasi terkelola: ❌
Kembang api: ❌
gpt-4o-mini
(2024-07-18)		 Terkelola: ✅ (SFT)
Interaktif: ❌		 Standar: ✅
Zona data: ✅
Global: ✅
Pengembang: ✅		 Tanpa server: ✅5
Komputasi terkelola: ❌
Kembang api: ❌
gpt-4o
(2024-08-06)		 Terkelola: ✅ (SFT, DPO)
Interaktif: ❌		 Standar: ✅
Zona data: ✅
Global: ✅
Pengembang: ✅		 Tanpa server: ✅5
Komputasi terkelola: ❌
Kembang api: ❌
gpt-4.1
(2025-04-14)		 Terkelola: ✅ (SFT, DPO)
Interaktif: ❌		 Standar: ✅
Zona data: ✅
Global: ✅
Pengembang: ✅		 Tanpa server: ✅
Komputasi terkelola: ❌
Kembang api: ❌
gpt-4.1-mini
(2025-04-14)		 Terkelola: ✅ (SFT, DPO)
Interaktif: ❌		 Standar: ✅
Zona data: ✅
Global: ✅
Pengembang: ✅		 Tanpa server: ✅
Komputasi terkelola: ❌
Kembang api: ❌
gpt-4.1-nano
(2025-04-14)		 Terkelola: ✅ (SFT, DPO)
Interaktif: ❌		 Standar: ✅
Zona data: ✅
Global: ✅
Pengembang: ✅		 Tanpa server: ✅
Komputasi terkelola: ❌
Kembang api: ❌
o4-mini
(2025-04-16)		 Terkelola: ✅ (RFT)
Interaktif: ❌		 Standar: ✅
Zona data: ✅
Global: ✅
Pengembang: ✅		 Tanpa server: ✅
Komputasi terkelola: ❌
Kembang api: ❌
gpt-5
(2025-08-07)3		 Terkelola: ✅ (RFT)
Interaktif: ❌		 Standar: ✅
Zona data: ✅
Global: ✅
Pengembang: ❌		 Serverless: ✅4
Komputasi terkelola: ❌
Kembang api: ❌
MedImageInsight-Premium
(pratinjau)		 Terkelola: ✅ (SFT)
Interaktif: ❌		 Global Tanpa server: ✅2
Komputasi terkelola: ❌
Kembang api: ❌
CXRReportgen-Premium
(pratinjau)		 Terkelola: ✅ (SFT)
Interaktif: ❌		 Global Tanpa server: ✅2
Komputasi terkelola: ❌
Kembang api: ❌

Legenda

  • 1 Hanya jenis penyebaran Throughput yang Disediakan yang didukung.
  • 2 Hanya tipe deployment Standar Global yang didukung.
  • 3 fine-tuning penguatan GPT-5 memerlukan undangan. Hubungi tim akun Microsoft Anda untuk pendaftaran.
  • 4 Hanya jenis penyebaran Standar yang didukung. Lihat Wilayah deployment standar.
  • 5 Jenis deployment developer tidak didukung.

Wilayah pelatihan global yang didukung

Note

Pelatihan global menyediakan pelatihan yang lebih terjangkau per token, tetapi tidak menawarkan residensi data.

Tabel mencantumkan wilayah proyek Foundry yang mendukung penggunaan penyempurnaan terkelola Global dan pelatihan interaktif (pratinjau). Pilih wilayah yang didukung untuk model dan pendekatan pelatihan Anda, termasuk pembatasan di bawah ini. Pelatihan untuk zona Standar dan zona Data masing-masing memiliki dukungan regional yang terpisah.

Wilayah proyek Foundry Fine-tuning terkelola Pelatihan interaktif (pratinjau)
Australia Timur ✅ ✅
Brasil Selatan ✅ 1 ❌
Kanada Tengah ✅ 1 ❌
Kanada Timur ✅ 1 ✅
US Timur ✅ ✅
US Timur 2 ✅ ✅
Prancis Tengah ✅ 1 ❌
Jerman Barat Tengah ✅ 1 ❌
Italia Utara ✅ 1 ❌
Jepang Timur ✅ 1,2 ❌
Korea Tengah ✅ ✅
US Tengah Utara ✅ ✅
Norwegia Timur ✅ 1 ❌
Polandia Tengah ✅ 1,3 ❌
Afrika Selatan Utara ✅ 1 ❌
US Tengah Selatan ✅ 1 ❌
India Selatan ✅ 1 ❌
Asia Tenggara ✅ 1 ❌
Spanyol Tengah ✅ 1 ❌
Swedia Tengah ✅ ✅
Swiss Utara ✅ ✅
Swiss Barat ✅ 1 ❌
UAE Utara ✅ 4 ✅
UK Selatan ✅ ✅
Eropa Barat ✅ 1 ❌
US Barat ✅ 1 ❌
Barat AS 3 ✅ ✅
  • 1 Fine-tuning terkelola untuk Qwen3.6-35B-A3B, Qwen3.8-27B, Muse-Glimmer-30B, dan gpt-oss-120b tidak didukung di wilayah ini.
  • 2 Fine-tuning Vision tidak didukung di Jepang Timur.
  • 3 Penyempurnaan terkelola untuk gpt-4.1-nano tidak didukung di Poland Central.
  • 4 UAE North mendukung penyempurnaan terkelola global hanya untuk Qwen3.6-35B-A3B, Qwen3.8-27B, Muse-Glimmer-30B, dan gpt-oss-120b.

Wilayah penerapan Standar yang didukung

Hanya model berikut yang mendukung deployment Standard tanpa server. Periksa ketersediaan regional dalam tabel.

Identifikasi Model US Timur 2 US Tengah Utara Swedia Tengah
gpt-4o-mini ❌ ✅ ✅
gpt-4o ✅ ❌ ✅
gpt-4.1 ❌ ✅ ✅
gpt-4.1-mini ❌ ✅ ✅
gpt-4.1-nano ❌ ✅ ✅
o4-mini ✅ ❌ ✅
gpt-5 ❌ ✅ ✅

Wilayah deployment Provisioned Throughput yang didukung

Hanya model berikut yang mendukung penerapan throughput yang diprovisikan tanpa server di wilayah yang tercantum.

Identifikasi Model US Tengah Utara Swedia Tengah
gpt-4o-mini ✅ ✅
gpt-4o ✅ ✅
gpt-4.1 ❌ ✅

Tantangan dan batasan

Penyempurnaan adalah proses rekayasa berulang, bukan peningkatan yang dijamin.

Tantangan Cara mengatasinya
Kualitas dan cakupan data Gunakan contoh yang akurat, konsisten, dan representatif. Periksa skenario yang hilang, duplikat, bias, dan informasi sensitif sebelum mengunggah data.
Overfitting dan kebocoran evaluasi Pisahkan data pelatihan, validasi, dan pengujian akhir. Bandingkan checkpoint pada tugas validasi yang disisihkan, bukan hanya loss pelatihan.
Sinyal hadiah yang menyesatkan Uji grader RFT terhadap respons yang benar, salah, dan adversarial. Peningkatan hadiah tidak menghasilkan performa tugas yang lebih baik jika model mengeksploitasi grader.
Eksperimentasi dan biaya Anggaran untuk eksekusi berulang, penilaian, evaluasi, hosting, dan inferensi. Hentikan eksperimen yang tidak meningkatkan metrik target.
Model dan kompatibilitas serving Pastikan metode, tingkatan, versi, dan kelayakan penerapan sebelum pelatihan. Adaptor tidak dapat dipertukarkan antara model dasar dengan nama yang mirip.
Maintenance Menilai kembali kualitas saat data tugas berubah atau model dasar mendekati masa pensiun. Pelatihan ulang dan penempatan ulang dapat diperlukan.
Keamanan dan tata kelola Tinjau penanganan data dan evaluasi keselamatan yang dikelola. Jaga kontrol keamanan tingkat aplikasi dan evaluasi runtime penyajian akhir.
Tanggung jawab runtime interaktif Pertahankan driver, lingkungan, tokenisasi, titik pemeriksaan, dan logika pemulihan Anda. Pengambilan sampel dalam sesi bukanlah bukti perilaku serving pada produksi.

Langkah berikutnya

Mulailah dengan panduan untuk pendekatan pelatihan Anda, lalu terapkan dan evaluasi model yang di-fine-tune.

  • Terakhir diperbarui pada