Model bahasa besar (LLM)

Penting

Fitur ini ada di Pratinjau Umum.

Contoh-contoh ini menyempurnakan (fine-tune) dan melatih lanjutan (post-train) model bahasa besar (LLM) pada AI Runtime. Mereka mencakup metode yang efisien dalam penggunaan parameter seperti Low-Rank Adaptation (LoRA) dan fine-tuning terawasi penuh di berbagai pustaka, termasuk TRL, Unsloth, Axolotl, dan LLM Foundry. Untuk contoh inferensi batch, lihat Inferensi batch.

Example	Interface	Deskripsi
Pembelajaran Penguatan pada Gemma4-2B	Notebook	Latih lanjutan Gemma4-2B dengan Group Relative Policy Optimization (GRPO) dan Low-Rank Adaptation (LoRA) pada satu GPU H100 menggunakan Unsloth.
Penalaan Terawasi (Penuh) pada Qwen3-4B	Notebook	Lakukan fine-tuning bobot penuh pada Qwen3-4B di satu GPU H100 dengan TRL, menggunakan presisi campuran BF16 dan checkpointing gradien.
Penyetelan Halus Terawasi (LoRA) pada Llama-3.2-3B	Notebook	LoRA menyetel Llama-3.2-3B secara halus pada satu GPU dengan pustaka Unsloth.
Penyempurnaan Terawasi (LoRA) pada GPT-OSS 20B	Notebook	LoRA melakukan fine-tune GPT-OSS 20B pada 8 GPU H100 dengan TRL dan paralelisme data terdistribusi.
Penyetelan Halus Terawasi (Penuh) Llama-3.2-1B	Notebook	Melakukan penalaan halus bobot penuh pada Llama-3.2-1B di 8 GPU H100 dengan TRL dan DeepSpeed ZeRO Stage 3.
Penyetelan Halus Terawasi (LoRA) pada Olmo3 7B	Notebook	LoRA menyempurnakan Olmo3 7B di berbagai GPU dengan pustaka Axolotl.
Penalaan terawasi (Penuh) dan penerapan Qwen3.5-0.8B	Notebook	Setel halus Qwen3.5-0.8B dengan satu GPU H100 menggunakan TRL, lalu sajikan di balik endpoint vLLM Model Serving.
Fine-tuning Terawasi Llama-3.2-3B pada Multi-GPU	Notebook	LoRA menyetel Llama-3.2-3B secara halus di berbagai GPU dengan pustaka Unsloth.
Penyetelan Halus Terawasi (LoRA) pada GPT-OSS 120B	Notebook	LoRA menyetel GPT-OSS 120B pada 8 GPU H100 dengan TRL, menggunakan DDP dan FSDP.
Pelatihan transformator pada multi-GPU	Notebook	Melatih model Transformer menggunakan PyTorch Fully Sharded Data Parallel (FSDP) untuk membagi parameter model ke beberapa GPU.
Penyetelan FSDP multi-node untuk Llama 3.1 8B	CLI	Supervised fine-tune Llama 3.1 8B dengan PyTorch FSDP di dua node H100 8x, catat loss pelatihan ke MLflow, dan simpan checkpoint terkonsolidasi.
Penyetelan FSDP2 multi-node untuk Qwen3.8-27B	CLI	Supervised fine-tune Qwen3.8-27B dengan PyTorch FSDP2 di empat node H100 8x.
Penyetelan halus bobot penuh Qwen3-8B untuk ekstraksi faktur	CLI	Tuning Qwen3-8B untuk ekstraksi entitas dari faktur dan struk dengan TRL dan DeepSpeed ZeRO-3 pada satu node H100 8x.
Fine-tuning terawasi Qwen2.5-3B dengan Ray Train	CLI	Gunakan Ray Train untuk menyetel Qwen2.5-3B dengan satu pekerja data paralel terdistribusi per GPU pada node H100 8x.
Pencarian hiperparameter LoRA untuk Qwen2.5-0.5B	CLI	Gunakan Ray Tune dan algoritma asinkron successive halving (ASHA) untuk mencari konfigurasi LoRA di empat GPU A10 dan mencatat konfigurasi terbaik ke MLflow.

Demo video

Video ini membahas secara rinci contoh notebook Supervised Fine-tuning (LoRA) dari Llama-3.2-3B (12 menit).