Duże modele językowe (LLMs)

Te przykłady dostrajają i dotrenowują duże modele językowe (LLM) w AI Runtime. Obejmuje one metody efektywne pod względem parametrów, takie jak Low-Rank Adaptation (LoRA) oraz pełne nadzorowane dostrajanie w bibliotekach, takich jak TRL, Unsloth, Axolotl i LLM Foundry. Przykłady wnioskowania wsadowego można znaleźć w artykule Wnioskowanie wsadowe.

Example	Interface	Opis
Uczenie przez wzmacnianie modelu Gemma4-2B	Notebook	Post-train Gemma4-2B z Group Relative Policy Optimization (GRPO) i Low-Rank Adaptation (LoRA) na jednym GPU H100 z użyciem Unsloth.
Pełne dostrajanie nadzorowane modelu Qwen3-4B	Notebook	Dostrajanie wszystkich wag modelu Qwen3-4B na pojedynczym GPU H100 z użyciem TRL, mieszanej precyzji BF16 i checkpointingu gradientów.
Nadzorowane precyzyjne dostrajanie (LoRA) Llama-3.2-3B	Notebook	LoRA dostrojił Llama-3.2-3B na jednej kartie graficznej z biblioteką Unsroth.
Dostrajanie nadzorowane (LoRA) GPT-OSS 20B	Notebook	LoRA dostrojił GPT-OSS 20B na 8 kartach graficznych H100 z TRL i rozproszonym równoległym paralelizmem danych.
Nadzorowane dostrajanie (pełne) modelu Llama-3.2-1B	Notebook	Pełne dostrajanie wag modelu Llama-3.2-1B na 8 procesorach graficznych H100 z użyciem TRL i DeepSpeed ZeRO Stage 3.
Nadzorowane dostrajanie (LoRA) modelu Olmo3 7B	Notebook	LoRA dostrojiła Olmo3 7B na wielu GPU za pomocą biblioteki Axolotl.
Dostrajanie nadzorowane (pełne) i udostępnianie Qwen3.5-0.8B	Notebook	Dostrój model Qwen3.5-0.8B na pojedynczym procesorze GPU H100 z użyciem TRL, a następnie udostępnij go za pośrednictwem punktu końcowego obsługi modeli vLLM.
Dostrajanie nadzorowane modelu Llama-3.2-3B z użyciem wielu procesorów GPU	Notebook	LoRA dostrojiła Llama-3.2-3B na wielu GPU za pomocą biblioteki Unsloth.
Nadzorowane dostrajanie (LoRA) GPT-OSS 120B	Notebook	LoRA dostrojiła GPT-OSS 120B na 8 kartach graficznych H100 z TRL, wykorzystując DDP i FSDP.
Transformatory treningowe na wieloprocesorowych GPU	Notebook	Trenuj modele Transformer przy użyciu PyTorch Fully Sharded Data Parallel (FSDP) do rozdzielania parametrów modelu na wiele GPU.
Wielowęzłowe dostrajanie modelu Llama 3.1 8B z użyciem FSDP	CLI	Dostrój nadzorowanie model Llama 3.1 8B za pomocą PyTorch FSDP na dwóch węzłach 8x H100, rejestruj stratę treningową w MLflow i zapisz skonsolidowany punkt kontrolny.
Wielowęzłowe dostrajanie FSDP2 Qwen3.8-27B	CLI	Nadzorowane precyzyjne dostrojenie Qwen3.8-27B za pomocą PyTorch FSDP2 w czterech węzłach, po 8 układów GPU H100 każdy.
Pełne dostrojenie Qwen3-8B do ekstrakcji faktur	CLI	Dopracuj Qwen3-8B do ekstrakcji encji z faktur i paragonów za pomocą TRL i DeepSpeed ZeRO-3 na jednym węźle 8x H100.
Nadzorowane dostrajanie Qwen2.5-3B z użyciem Ray Train	CLI	Użyj Ray Train, aby precyzyjnie dostroić Qwen2.5-3B z jednym procesem distributed data parallel na każdą kartę GPU na 8x węźle H100.
Wyszukiwanie hiperparametrów LoRA dla Qwen2.5-0.5B	CLI	Użyj Ray Tune oraz asynchronicznego algorytmu kolejnego redukowania o połowę (ASHA), aby przeszukać konfiguracje LoRA na czterech kartach A10 i zapisać najlepszą konfigurację w MLflow.

Pokaz wideo

Ten film szczegółowo omawia przykładowy notatnik Supervised Fine-tuning (LoRA) modelu Llama-3.2-3B (12 minut).