Grote taalmodellen (LLM's)

Belangrijk

Deze functie bevindt zich in openbare preview-versie.

Deze voorbeelden verfijnen en trainen grote taalmodellen (LLM's) verder op AI Runtime. Ze behandelen parameter-efficiënte methoden zoals Low-Rank Adaptation (LoRA) en volledig gecontroleerde fine-tuning in bibliotheken zoals TRL, Unsloth, Axolotl en LLM Foundry. Voor voorbeelden van batchinferentie, zie Batchinferentie.

Example	Interface	Beschrijving
Bekrachtigingsleren van Gemma4-2B	Notebook	Train Gemma4-2B verder met Group Relative Policy Optimization (GRPO) en Low-Rank Adaptation (LoRA) op één H100 GPU met Unsloth.
Begeleide fijnafstemming (volledig) van Qwen3-4B	Notebook	Volledige finetuning van Qwen3-4B op één H100-GPU met TRL, met gemengde BF16-precisie en gradient checkpointing.
Fijnafstelling onder toezicht (LoRA) van Llama-3.2-3B	Notebook	LoRA stelt Llama-3.2-3B fijn af op één GPU met de Unsloth-bibliotheek.
Gecontroleerde fijnafstemming (LoRA) van GPT-OSS 20B	Notebook	LoRA fijn afstellen GPT-OSS 20B op 8 H100 GPU's met TRL en gedistribueerde dataparallelisme.
Begeleide fijnafstemming (volledig) van Llama-3.2-1B	Notebook	Volledige fine-tuning van Llama-3.2-1B op 8 H100 GPU’s met TRL en DeepSpeed ZeRO Stage 3.
Gecontroleerde fijnafstelling (LoRA) van Olmo3 7B	Notebook	LoRA verfijnt Olmo3 7B over meerdere GPU's met de Axolotl-bibliotheek.
Fine-tuning onder toezicht (volledig) en inzet van Qwen3.5-0.8B	Notebook	Fine-tune Qwen3.5-0.8B op één H100-GPU met TRL en stel het vervolgens beschikbaar via een vLLM Model Serving-endpoint.
Gecontroleerde fijnafstelling van Llama-3.2-3B op multi-GPU's	Notebook	LoRA verfijnt Llama-3.2-3B over meerdere GPU's met de Unsloth-bibliotheek.
Supervised Fine-tuning (LoRA) voor GPT-OSS 120B	Notebook	LoRA verfijnt GPT-OSS 120B op 8 H100 GPU's met TRL, met DDP en FSDP.
Transformers trainen met meerdere GPU's	Notebook	Train Transformer-modellen met PyTorch Fully Sharded Data Parallel (FSDP) om modelparameters over meerdere GPU's te sharden.
Multi-node FSDP fine-tuning van Llama 3.1 8B	CLI	Voer supervised fine-tuning uit van Llama 3.1 8B met PyTorch FSDP over twee 8x H100-knooppunten, log trainingsverlies naar MLflow en sla een geconsolideerd checkpoint op.
Multi-node FSDP2 fine-tuning van Qwen3.8-27B	CLI	Voer supervised fine-tuning uit van Qwen3.8-27B met PyTorch FSDP2 over vier 8x H100-knooppunten.
Volledige fine-tuning van Qwen3-8B voor factuurextractie	CLI	Fijn afstellen van Qwen3-8B voor factuur- en extractie van entiteiten uit bonnetjes met TRL en DeepSpeed ZeRO-3 op één 8x H100-knooppunt.
Begeleide fijnafstelling van Qwen2.5-3B met Ray Train	CLI	Gebruik Ray Train om Qwen2.5-3B fijn af te stemmen met één distributed data parallel worker per GPU op een 8x H100-node.
LoRA-hyperparameterzoektocht voor Qwen2.5-0.5B	CLI	Gebruik Ray Tune en het asynchrone successive halving algoritme (ASHA) om LoRA-configuraties te doorzoeken over vier A10 GPU's en log de beste configuratie in MLflow.

Videodemo

Deze video neemt het voorbeeldnotebook Supervised Fine-tuning (LoRA) van Llama-3.2-3B stap voor stap door (12 minuten).