Entorno de ejecución de IA

AI Runtime es una oferta de computación GPU totalmente gestionada y serverless en Databricks para tus cargas de trabajo de entrenamiento, ajuste fino y aprendizaje profundo más amplio.

• GPU sin servidor: A10 y H100 bajo demanda, accesibles a través de la CLI de Databricks, cuadernos, trabajos y Ray.
• Entornos gestionados: entornos preconstruidos y cargadores de datos listos para entrenamiento y ajuste fino, o trae tu propio contenedor Docker.
• Observabilidad incorporada: seguimiento de experimentos mediante MLflow, registro y agentes de depuración.
• Orquestación: programa tus cargas de trabajo de la GPU y úsalas en pipelines CI/CD.

Get started

Aprende sobre AI Runtime y ejecuta tu primera carga de trabajo.

Get started	Descripción
🚀 Inicio rápido	Ejecuta tu primera carga de trabajo en AI Runtime desde tu terminal.
🧭 Resumen	Aprende las cosas clave sobre AI Runtime: qué GPUs están disponibles, cómo funciona y sus limitaciones.
💡 Ejemplos	Consulta tutoriales de notebooks y recetas ejecutables de la CLI de Databricks organizadas por tarea.

Conectarse a GPU

Accede a las GPUs a través de la CLI de Databricks, notebooks, Jobs o vía Ray.

Feature	Descripción
CLI de Databricks	Envía y gestiona trabajos de entrenamiento de GPU distribuidos desde tu portátil usando configuraciones de trabajos YAML.
Blocs de notas	Adjunta un notebook a AI Runtime y desarrolla de forma interactiva, sin configuración de clúster.
Trabajos	Programa una carga de trabajo de GPU en AI Runtime como un trabajo recurrente y orquéstala con tareas anteriores y posteriores.
Raya	Ejecuta Ray Core, Ray Data, Ray Train y Ray Tune en AI Runtime.

Desarrolle cargas de trabajo

Carga datos de forma eficiente, configura tu entorno y desarrolla cargas de trabajo con agentes de codificación.

Feature	Descripción
Cargar datos en GPUs	Transmite datos desde volúmenes de Unity Catalog con cargadores tolerantes a fallos diseñados para un alto uso de GPU.
Entornos preconstruidos	Empieza desde un entorno estándar mínimo o un entorno de IA Databricks preinstalado con frameworks de ML.
Imágenes personalizadas de Docker	Lleva tu propia imagen Docker cuando tu carga de trabajo requiera librerías o dependencias personalizadas del sistema.
Agentes de programación	Usa Genie Code y la databricks-ai-runtime habilidad del agente para crear, enviar y gestionar cargas de trabajo de GPU.

Monitorizar, depurar y desplegar

Haz seguimiento de experimentos, inspecciona registros, diagnostica fallos y programa las cargas de trabajo de producción.

Feature	Descripción
MLflow para depuración	Haz un seguimiento de experimentos, métricas y ejecuciones con MLflow.
Ver registros	Consulta la salida del entrenamiento, monitoriza el uso de recursos de la GPU mientras tu código se ejecuta y depura con Genie Code.
Programar cargas de trabajo	Despliega código de entrenamiento con Paquetes de Automatización Declarativa, programa ejecuciones y crea flujos de trabajo multitarea de GPU y CPU.
Servir modelos entrenados	Despliega modelos entrenados en AI Runtime a Model Serving.

Guides

Explora guías de migración, tutoriales y recursos técnicos para IA Runtime.

Resource	Descripción
¿Por qué usar IA Runtime?	Compara AI Runtime con compute clásico y Databricks Runtime ML para costes, experiencia de desarrollador y escala.
Migrar desde Slurm	Mapea tus scripts de lote de Slurm, lanzadores distribuidos y almacenamiento compartido en la CLI de Databricks.
Migrar cargas de trabajo clásicas de GPU	Traslada una carga de trabajo de aprendizaje profundo existente de un clúster clásico de Databricks a AI Runtime.
Optimiza el rendimiento de tu carga de trabajo	Mejorar el rendimiento de la formación y hacer que los trabajos de larga duración sean más resistentes ante fallos.