Modelos de lenguaje grande (LLM)

Importante

Esta característica está en versión preliminar pública.

Estos cuadernos ejecutan inferencia y ajuste fino de grandes modelos de lenguaje (LLM) en tiempo de ejecución de IA. Abarcan la inferencia por lotes con Ray Data y vLLM, métodos de eficiencia de parámetros como Low-Rank Adaptation (LoRA) y el ajuste fino supervisado completo en bibliotecas como TRL, Unsloth, Axolotl y LLM Foundry.

Tutorial	Descripción
Inferencia por lotes Qwen2.5-32B con Ray Data y vLLM	Ejecuta inferencia por lotes multilingüe con ocho réplicas vLLM persistentes de Qwen2.5-32B-Instruct en 8 GPUs H100 y guarda los resultados en el Catálogo de Unity.
Ajustar el modelo Qwen3-4B	Realice un ajuste preciso completo del modelo Qwen3-4B en una única GPU H100 utilizando Transformer Reinforcement Learning (TRL), con precisión mixta BF16 y puntos de control de gradiente para un entrenamiento eficiente en memoria.
Ajustar Llama-3.2-3B con Unsloth	Ajuste Llama-3.2-3B mediante la biblioteca Unsloth.
Ajustar GPT-OSS 20B	Ajuste el modelo gpt-oss-20b de OpenAI en 8 GPU H100 mediante paralelismo de datos distribuido y LoRA para un ajuste fino eficiente en términos de parámetros.
Ajuste fino supervisado mediante DeepSpeed y TRL	Utilice la API de Python para GPU sin servidor para ejecutar un ajuste fino supervisado (SFT) mediante la biblioteca Transformer Reinforcement Learning (TRL) con la optimización DeepSpeed ZeRO Stage 3.
Ajuste fino de LoRA con Axolotl	Use la API de Python de GPU sin servidor para LoRA afinar un modelo Olmo3 7B mediante la biblioteca Axolotl.
Ajuste fino distribuido de Qwen2-0.5B	Ajuste el modelo Qwen2-0.5B utilizando los núcleos LoRA y Liger para lograr un entrenamiento distribuido que ahorre memoria mediante la reducción de parámetros.
Optimización distribuida de Llama-3.2-3B con Unsloth	Ajuste Llama-3.2-3B mediante el entrenamiento distribuido en varias GPU con la biblioteca Unsloth para un entrenamiento optimizado eficiente en términos de parámetros.
Realice un ajuste fino de Llama 3.1 8B con LLM Foundry	Ajuste el modelo Llama 3.1 8B utilizando Mosaic LLM Foundry con las estrategias de entrenamiento distribuidas y la evaluación del modelo.
Ajuste fino GPT-OSS 120B con DDP y FSDP	Realice un ajuste fino del modelo GPT-OSS 120B de OpenAI mediante un ajuste fino supervisado en GPU H100 con las estrategias de entrenamiento distribuido DDP y FSDP.
Entrenamiento distribuido con FSDP de PyTorch	Entrenar modelos de Transformer utilizando el método Fully Sharded Data Parallel (FSDP) de PyTorch para distribuir los parámetros del modelo entre varias GPU.

Demostración de vídeo

Este vídeo explora el cuaderno de ejemplo Fine-tune Llama-3.2-3B con Unsloth en detalle (12 minutos).