Modelos de lenguaje grande (LLM)

Importante

Esta característica está en versión preliminar pública.

Estos ejemplos ajustan con ajuste fino y posentrenan modelos de lenguaje grandes (LLMs) en AI Runtime. Abarcan métodos de ajuste eficientes en parámetros, como la adaptación de bajo rango (LoRA), y el ajuste supervisado completo en bibliotecas como TRL, Unsloth, Axolotl y LLM Foundry. Para ejemplos de inferencia por lotes, véase Inferencia por lotes.

Example	Interface	Descripción
Aprendizaje por refuerzo de Gemma4-2B	Notebook	Entrenamiento posterior de Gemma4-2B con optimización de directivas relativa por grupos (GRPO) y adaptación de rango bajo (LoRA) en una única GPU H100 utilizando Unsloth.
Ajuste fino supervisado (completo) de Qwen3-4B	Notebook	Qwen3-4B a peso completo en una sola GPU H100 con TRL, usando precisión mixta BF16 y puntos de control de gradiente.
Ajuste fino supervisado (LoRA) de Llama-3.2-3B	Notebook	LoRA ajusta finamente Llama-3.2-3B en una sola GPU con la biblioteca Unsloth.
Ajuste fino supervisado (LoRA) de GPT-OSS 20B	Notebook	Ajuste fino de GPT-OSS 20B con LoRA en 8 GPUs H100 con TRL y paralelismo de datos distribuido.
Ajuste fino supervisado (completo) de Llama-3.2-1B	Notebook	Ajuste fino de peso completo de Llama-3.2-1B en 8 GPU H100 con TRL y DeepSpeed ZeRO Stage 3.
Ajuste fino supervisado (LoRA) de Olmo3 7B	Notebook	LoRA ajusta finamente Olmo3 7B en varias GPUs con la biblioteca Axolotl.
Ajuste fino supervisado (completo) y despliegue de Qwen3.5-0.8B	Notebook	Ajuste fino de Qwen3.5-0.8B en una única GPU H100 con TRL y, a continuación, puesta en servicio a través de un punto de conexión de vLLM Modelo de servicio.
Ajuste fino supervisado de Llama-3.2-3B en varias GPU	Notebook	Ajustar con LoRA el modelo Llama-3.2-3B en varias GPU con la biblioteca Unsloth.
Ajuste fino supervisado (LoRA) de GPT-OSS 120B	Notebook	LoRA ajusta GPT-OSS 120B en 8 GPUs H100 con TRL, usando DDP y FSDP.
Entrenamiento de transformadores con varias GPU	Notebook	Entrenar modelos de Transformer utilizando el método Fully Sharded Data Parallel (FSDP) de PyTorch para distribuir los parámetros del modelo entre varias GPU.
Ajuste fino FSDP multinodo de Llama 3.1 8B	CLI	Supervisa el ajuste fino de Llama 3.1 8B con PyTorch FSDP en dos nodos 8x H100, registra la pérdida de entrenamiento en MLflow y guarda un punto de control consolidado.
Ajuste fino FSDP2 multinodo de Qwen3.8-27B	CLI	Supervisa el ajuste fino supervisado de Qwen3.8-27B con PyTorch FSDP2 en cuatro nodos con 8 H100 cada uno.
Ajuste fino a peso completo de Qwen3-8B para extracción de facturas	CLI	Ajusta finamente Qwen3-8B para la extracción de entidades de facturas y recibos con TRL y DeepSpeed ZeRO-3 en un nodo 8x H100.
Ajuste fino supervisado de Qwen2.5-3B con tren de rayos	CLI	Usa Ray Train para afinar Qwen2.5-3B con un worker de paralelismo de datos distribuido por GPU en un nodo H100 8x.
Búsqueda de hiperparámetros LoRA para Qwen2.5-0.5B	CLI	Utiliza Ray Tune y el algoritmo asincrónico de reducción a la mitad sucesiva (ASHA) para buscar configuraciones LoRA en cuatro GPUs A10 y registrar la mejor configuración en MLflow.

Demostración de vídeo

Este vídeo recorre en detalle el Ajuste Fino Supervisado (LoRA) del cuaderno de ejemplo Llama-3.2-3B (12 minutos).