Stora språkmodeller (LLM: er)

Viktigt!

Den här funktionen finns som allmänt tillgänglig förhandsversion.

Dessa exempel finjusterar och eftertränar stora språkmodeller (LLM) på AI Runtime. De täcker parametereffektiva metoder som Low-Rank Adaptation (LoRA) och full övervakad finjustering över bibliotek som TRL, Unsloth, Axolotl och LLM Foundry. För exempel på batchinferens, se Batchinferens.

Example	Interface	Beskrivning
Förstärkningsinlärning av Gemma4-2B	Notebook	Postträna Gemma4-2B med Group Relative Policy Optimization (GRPO) och Low-Rank Adaptation (LoRA) på en enda H100-GPU med Unsloth.
Övervakad finjustering (fullständig) av Qwen3-4B	Notebook	Finjustera Qwen3-4B fullt ut på en enda H100 GPU med TRL, med mixad precision i BF16 och gradient-checkpointing.
Övervakad finjustering (LoRA) av Llama-3.2-3B	Notebook	LoRA finjusterar Llama-3.2-3B på ett enda GPU med Unsloth-biblioteket.
Övervakad finjustering (LoRA) av GPT-OSS 20B	Notebook	LoRA finjusterade GPT-OSS 20B på 8 H100-GPU:er med TRL och distribuerad dataparallellism.
Övervakad finjustering (fullständig) av Llama-3.2-1B	Notebook	Fullvikts finjusterad Llama-3.2-1B på 8 H100-GPU:er med TRL och DeepSpeed ZeRO Stage 3.
Övervakad finjustering (LoRA) av Olmo3 7B	Notebook	LoRA finjusterar Olmo3 7B över flera GPU:er med Axolotl-biblioteket.
Övervakad finjustering (full) och servering av Qwen3,5-0,8B	Notebook	Finjustera Qwen3.5-0.8B på ett enda H100-grafikkort med TRL, och leverera det sedan bakom en vLLM Model Serving endpoint.
Övervakad finjustering av Llama-3.2-3B på multi-GPU:er	Notebook	LoRA finjusterar Llama-3.2-3B över flera GPU:er med Unsloth-biblioteket.
Övervakad finjustering (LoRA) av GPT-OSS 120B	Notebook	LoRA finjusterar GPT-OSS 120B på 8 H100-GPU:er med TRL, med DDP och FSDP.
Träning av transformer-modeller på flera GPU:er	Notebook	Träna transformeringsmodeller med PyTorch Fullständigt fragmenterad dataparallell (FSDP) för att fragmentera modellparametrar över flera GPU:er.
Flernod-FSDP-finjustering av Llama 3.1 8B	CLI	Finjustera Llama 3.1 8B med övervakad finjustering med PyTorch FSDP över två 8x H100-noder, logga träningsförlust till MLflow och spara en konsoliderad kontrollpunkt.
Multinod FSDP2-finjustering av Qwen3.8-27B	CLI	Övervakad finjustering av Qwen3.8-27B med PyTorch FSDP2 över fyra 8x H100-noder.
Fullständig finjustering av Qwen3-8B för fakturaextraktion	CLI	Finjustera Qwen3-8B för faktura- och kvittoentitetsextraktion med TRL och DeepSpeed ZeRO-3 på en 8x H100-nod.
Övervakad finjustering av Qwen2.5-3B med Ray Train	CLI	Använd Ray Train för att finjustera Qwen2.5-3B med en distribuerad dataparallellarbetare per GPU på en 8x H100-nod.
LoRA-sökning efter hyperparametrar för Qwen2.5-0.5B	CLI	Använd Ray Tune och den asynkrona successiva halveringsalgoritmen (ASHA) för att söka i LoRA-konfigurationer över fyra A10-GPU:er och logga den bästa konfigurationen i MLflow.

Videodemo

Den här videon går igenom Supervised Fine-tuning (LoRA) för Llama-3.2-3B exempelanteckningsboken i detalj (12 minuter).