Büyük dil modelleri (LLM'ler)

Önemli

Bu özellik Genel Önizleme aşamasındadır.

Bu not defterleri, yapay zeka Çalışma Zamanı'nda büyük dil modellerine (LLM) ince ayar yapar. TRL, Unsloth, Axolotl ve LLM Foundry gibi kitaplıklarda, Qwen2 ve Llama'dan GPT-OSS 120B'ye kadar uzanan modeller için Low-Rank Adaptation (LoRA) ve tam denetimli ince ayar gibi parametre açısından verimli yöntemleri kapsarlar.

Kılavuz	Açıklama
Qwen3-4B modeline ince ayar yapma	Bellek açısından verimli eğitim için BF16 karışık duyarlık ve gradyan kontrol noktası kullanımıyla, Transformer Reinforcement Learning (TRL) kullanarak Qwen3-4B modelinin tüm ağırlıklarını tek bir H100 GPU üzerinde ince ayarlayın.
Unsloth ile Llama-3.2-3B'i hassas ayar yapın	Unsloth kitaplığını kullanarak Llama-3.2-3B'de ince ayar yapın.
GPT-OSS 20B için ince ayar yapın	Parametre açısından verimli ince ayarlama için dağıtılmış veri paralelliği ve LoRA kullanarak 8 H100 GPU üzerinde OpenAI'nin gpt-oss-20b modeline ince ayar yapın.
DeepSpeed ve TRL kullanarak denetimli ince ayarlama	DeepSpeed ZeRO Stage 3 iyileştirmesi ile Transformer Reinforcement Learning (TRL) kitaplığını kullanarak denetimli ince ayarlama (SFT) çalıştırmak için Sunucusuz GPU Python API'sini kullanın.
Axolotl ile LoRA ince ayarı	Axolotl kitaplığını kullanarak bir Olmo3 7B modeline LoRA ile ince ayar uygulamak için Sunucusuz GPU Python API'sini kullanın.
Dağıtılmış ince ayar Qwen2-0,5B	Parametre azaltma ile bellek açısından verimli dağıtılmış eğitim için LoRA ve Liger Çekirdeklerini kullanarak Qwen2-0.5B modeline ince ayar yapın.
Unsloth ile Lama-3.2-3B dağıtılmış ince ayar	Parametre açısından verimli eğitim için en iyi duruma getirilmiş Unsloth kitaplığıyla birden çok GPU'ya dağıtılmış eğitim kullanarak Llama-3.2-3B'ye ince ayar yapın.
LLM Foundry ile Llama 3.1 8B'yi ince ayarlamak	Dağıtılmış eğitim stratejileri ve model değerlendirmesi ile Mozaik LLM Dökümhanesi'ni kullanarak Lama 3.1 8B modeline ince ayar yapın.
DDP ve FSDP ile 120B GPT-OSS'u ince ayarlamak	DDP ve FSDP dağıtılmış eğitim stratejileriyle H100 GPU'larında denetimli ince ayarlamalar kullanarak OpenAI'nin GPT-OSS 120B modeline ince ayar yapın.
PyTorch FSDP ile dağıtılmış eğitim	PyTorch Tam Parçalı Veri Paralel (FSDP) kullanarak Transformer modellerini birden çok GPU'da parça modeli parametrelerine eğitin.

Video tanıtımı

Bu video, Unsloth ile Llama-3.2-3B ince ayar örnek not defterini ayrıntılı olarak (12 dakika) ele alıyor.