Guía de inicio rápido de AI Runtime Notebook

Importante

Esta característica está en versión preliminar pública.

Usa AI Runtime para pasar de un portátil vacío a PyTorch en una GPU en unos pocos clics. Conecta un notebook a Serverless GPU sin tener que configurar ningún clúster y obtén monitorización de la GPU, un terminal en el nodo de GPU y Genie Code integrado.

Un notebook de entorno de ejecución de IA conectado a una GPU sin servidor, con indicaciones para seleccionar el tipo de GPU, configurar el entorno, supervisar el uso, usar el agente para programar y abrir un terminal.

Requirements

Tu espacio de trabajo debe tener activado el tiempo de ejecución de IA y estar en una región soportada. Ver Requisitos.

Paso 1: Conectar un portátil a una GPU

  1. Cree o abra un cuaderno.
  2. Desde el desplegable de cómputo en la parte superior del portátil, selecciona GPU Serverless.
  3. En el campo Acelerador , selecciona 1xA10.
  4. Haz clic en Aplicar y luego en Confirmar.

Tip

Empieza con 1xA10 para desarrollo y cargas de trabajo pequeñas. Pásate a 1xH100 o 8xH100 cuando necesites más memoria GPU o entrenamiento distribuido multi-GPU. Consulta Opciones de hardware.

Paso 2: Ejecuta tu primer código de GPU

El entorno de IA por defecto de Databricks viene preinstalado con PyTorch, Transformers, vLLM, pandas y muchos otros paquetes. Para la lista completa, véase el entorno de IA de Databricks.

Ejecuta el siguiente portátil para confirmar que la GPU está conectada y realiza un paso de entrenamiento:

Cuaderno de inicio rápido de AI Runtime

Obtención del cuaderno

Ahora estás entrenando en computación con GPU serverless.

Descubre el notebook con GPU

El portátil viene con herramientas para ayudarte a trabajar en la GPU. Puedes cambiar de entorno base, monitorizar la utilización de la GPU, abrir un terminal en el nodo de la GPU y usar Genie Code para escribir y depurar tu código.

Cambiar entornos

Haz clic en Entorno en el panel derecho para elegir un entorno base o acelerador diferente. Consulte Configuración del entorno.

El panel lateral Entorno con el menú desplegable de entorno base abierto, mostrando las versiones de entorno estándar y de entorno de IA.

Observa la utilización de la GPU

Haz clic en recursos de la GPU en el panel derecho para ver el uso en tiempo real de la GPU y la memoria mientras tu código se ejecuta. Consulta Supervisar los recursos de GPU en tiempo real.

El panel de recursos de la GPU muestra gráficos de utilización de la GPU y de memoria a lo largo del tiempo.

Abre un terminal en el nodo GPU

Haz clic en Terminal, en la esquina inferior derecha, para obtener acceso a una shell en el nodo GPU. Ejecuta nvidia-smi, inspecciona archivos o depura procesos directamente. Consulte Ejecución de comandos de shell en el terminal web de Azure Databricks.

Un terminal web ejecutando Nvidia-SMI en un nodo GPU H100.

Deja que Genie Code escriba y depure por ti

Haz clic en Código Genie en el panel derecho y describe lo que quieres. El agente puede escribir código de entrenamiento, corregir conflictos de dependencias y depurar fallos de la GPU. Consulta Usar Genie Code con entorno de ejecución de IA.

El panel del Código Genio con un aviso pidiendo al agente que arregle un conflicto de biblioteca Torchao.

Pasos siguientes

  • Se actualizó por última vez el