Velké jazykové modely (LLM)

Důležité

Tato funkce je ve verzi Public Preview.

Tyto příklady dolaďují a post-trénují velké jazykové modely (LLM) v AI Runtime. Zahrnují parametrově efektivní metody jako Low-Rank Adaptation (LoRA) a plné dohledované jemné ladění napříč knihovnami jako TRL, Unsloth, Axolotl a LLM Foundry. Pro příklady dávkové inference viz Dávková inference.

Example	Interface	Description
Posilované učení Gemma4-2B	Notebook	Dotrénujte Gemma4-2B pomocí metod Group Relative Policy Optimization (GRPO) a Low-Rank Adaptation (LoRA) na jediné GPU H100 pomocí Unsloth.
Plné dohlížené doladění Qwen3-4B	Notebook	Plnohodnotné jemné vyladění Qwen3-4B na jedné GPU H100 s TRL, využívající kombinovanou přesnost BF16 a gradientní checkpointing.
Řízené dolaďování (LoRA) modelu Llama-3.2-3B	Notebook	LoRA doladí Llama-3.2-3B na jedné GPU s knihovnou Unsloth.
Řízené doladění (LoRA) GPT-OSS 20B	Notebook	LoRA doladila GPT-OSS 20B na 8 H100 GPU s TRL a distribuovaným datovým paralelismem.
Plně doladění pod dozorem Llama-3.2-1B	Notebook	Plné doladění všech vah modelu Llama-3.2-1B na 8 GPU H100 s TRL a DeepSpeed ZeRO Stage 3.
Dozorované jemné ladění (LoRA) Olmo3 7B	Notebook	LoRA doladila Olmo3 7B napříč více GPU pomocí knihovny Axolotl.
Dozorované jemné ladění (plné) a podávání Qwen3,5-0,8B	Notebook	Jemně dolaďte Qwen3.5-0.8B na jediném GPU H100 pomocí TRL a poté jej nasaďte prostřednictvím koncového bodu pro obsluhu modelu vLLM.
Dozorované jemné ladění Llama-3.2-3B na multi-GPU	Notebook	LoRA doladí Llama-3.2-3B napříč více GPU pomocí knihovny Unsloth.
Dozorované jemné ladění (LoRA) GPT-OSS 120B	Notebook	Dolaďte GPT-OSS 120B pomocí LoRA na 8 GPU H100 s využitím TRL, DDP a FSDP.
Trénování transformerů na více GPU	Notebook	Trénování modelů Transformer pomocí PyTorch plně uspořádaného dělení dat paralelně (FSDP) k úplnému rozdělení parametrů modelu napříč několika GPU.
Jemné ladění Llama 3.1 8B pomocí víceuzlového FSDP	CLI	Dozorovaně dolaďte Llama 3.1 8B pomocí PyTorch FSDP přes dva uzly 8x H100, zaznamenávejte ztrátu trénování do MLflow a uložte konsolidovaný kontrolní bod.
Víceuzlové doladění Qwen3.8-27B pomocí FSDP2	CLI	Dozorované doladění Qwen3.8-27B pomocí PyTorch FSDP2 na čtyřech 8x H100 uzlech.
Plné doladění Qwen3-8B pro extrakci faktur	CLI	Dolaďte Qwen3-8B pro extrakci entit faktur a účtenek pomocí TRL a DeepSpeed ZeRO-3 na jednom uzlu 8x H100.
Dozorované jemné ladění Qwen2.5-3B s Ray Train	CLI	Použijte Ray Train k jemnému doladění Qwen2.5-3B s jedním pracovníkem distribuovaného datového paralelismu na každé GPU na uzlu 8× H100.
LoRA hyperparametrické vyhledávání Qwen2.5-0.5B	CLI	Použijte Ray Tune a asynchronní algoritmus successive halving (ASHA) k vyhledávání konfigurací LoRA na čtyřech GPU A10 a zaznamenávejte nejlepší konfiguraci do MLflow.

Ukázka videa

V tomto videu se podrobně probírá ukázkový notebook Supervised Fine-tuning (LoRA) of Llama-3.2-3B (12 minut).