Entorno de ejecución de IA

Importante

Esta característica está en versión preliminar pública.

AI Runtime es un servicio de computación con GPU sin servidor en Databricks, destinado a cargas de trabajo de aprendizaje profundo. Puede usar AI Runtime para entrenar y ajustar modelos personalizados mediante sus marcos favoritos y obtener una eficiencia, un rendimiento y una calidad de última generación.

Get started

Ejecuta tu primera carga de trabajo en minutos usando nuestras guías de inicio rápido.

Get started	Descripción
🚀 Inicio rápido de CLI	¿Vienes de un clúster de Slurm o Kubernetes? Entrena en el tiempo de ejecución de IA desde tu terminal en minutos.
📓 Guía de inicio rápido de Notebook	Conecta tu portátil a una GPU en segundos y desarrolla de forma interactiva...
⚡ Ray	¿Vienes de un clúster de Ray? Ejecuta Ray en AI Runtime con soporte para paneles.
🧭 Resumen	Aprende las cosas clave sobre el tiempo de ejecución de IA en dos minutos: GPUs disponibles, cómo funciona y limitaciones.

Características

AI Runtime es una plataforma de GPU full-stack, con muchas formas de conectarse a GPUs, herramientas integradas de observabilidad y depuración, y entornos preconstruidos.

Conéctate a GPUs sin servidor: Accede a GPUs sin servidor desde donde trabajes.

Feature	Descripción
Blocs de notas	Adjunta un cuaderno a recursos de computación serverless con GPU y desarrolla de forma interactiva, sin necesidad de configurar clústeres.
IDE a través de SSH	Conéctate desde tu IDE o terminal a través de un túnel SSH para trabajar directamente en un nodo GPU.
CLI de entorno de ejecución de IA	Envía y gestiona trabajos de entrenamiento de GPU distribuidos desde tu portátil usando configuraciones de trabajos YAML.
Raya	Ejecuta Ray Core, Ray Data, Ray Train y Ray Tune en computación sin servidor GPU.

Gestión de dependencias: Controla las librerías de Python y del sistema con las que se ejecuta tu carga de trabajo.

Feature	Descripción
Entornos preconstruidos	Empieza desde un entorno estándar mínimo o un entorno de IA Databricks preinstalado con frameworks de ML.
Soporte para Docker	Trae tu propia imagen de contenedor para ejecutar cargas de trabajo con una pila de dependencias personalizada.

Carga de datos en GPUs: Alimenta tus GPUs de datos de entrenamiento de forma eficiente.

Feature	Descripción
Cargadores de datos eficientes	Transmite datos desde volúmenes de Unity Catalog con cargadores tolerantes a fallos diseñados para un alto uso de GPU.

Depuración y observabilidad: Realice un seguimiento de los experimentos, inspeccione los resultados y diagnostique los fallos.

Feature	Descripción
MLflow para aprendizaje profundo	Haz seguimiento de experimentos, métricas y ejecuciones con MLflow, y guarda los puntos de control del modelo en volúmenes del Catálogo de Unity.
Visor de registros	Consulta la salida de entrenamiento y monitoriza el uso de recursos de la GPU mientras tu código se ejecuta.
Depuración con agentes	Usa Genie Code para generar código de entrenamiento, resolver problemas de entorno y depurar fallos de la GPU.

Programación y servicio en tiempo real: Pasar del desarrollo interactivo a trabajos y endpoints programados.

Feature	Descripción
Producid tus trabajos	Despliega código de entrenamiento con Paquetes de Automatización Declarativa, programa ejecuciones y crea flujos de trabajo multitarea de GPU y CPU.
Sirve a tus modelos	Despliega tus modelos entrenados detrás de un endpoint escalable con Model Serving.

Examples

Clona ejemplos de extremo a extremo y ejecútalos en AI Runtime en minutos, desde la CLI o en notebooks.

Ejemplo	Descripción
Ejemplos de rayos	Toma tu proyecto actual de Ray y ejecutarlo en AI Runtime en minutos.
Entrenamiento de un modelo de recomendación tabular	Entrena modelos de recomendación de aprendizaje profundo, como arquitecturas de dos torres.
Visión por computadora	Cargas de trabajo de detección de objetos y clasificación de imágenes en GPUs.
Aprendizaje automático clásico	XGBoost acelerado por GPU, previsión de series temporales y otras tareas clásicas de ML.
Ajuste de un LLM OSS	Ajusta modelos de lenguaje de gran tamaño de código abierto con LoRA, QLoRA o ajuste fino completo.

Aprende más

Encuentra contenido útil: las últimas actualizaciones de productos y cómo funciona AI Runtime bajo el capó.

Resource	Descripción
Actualizaciones de productos	Consulta las últimas actualizaciones y anuncios de productos AI Runtime.
Cómo funciona AI Runtime por dentro	Lee cómo Databricks mantiene las GPUs fiables a lo largo del tiempo de ejecución de IA.