Conectarse a AI Runtime desde un portátil

Importante

Esta característica está en versión preliminar pública.

Conectar un notebook a AI Runtime es la forma principal de ejecutar el entrenamiento y el ajuste de cargas de trabajo. Desarrollas de forma interactiva con una GPU y luego programas el mismo cuaderno como una tarea recurrente cuando está listo para entrar en producción.

Sugerencia

  • Conecta un portátil a una GPU serverless para desarrollarlo de forma interactiva en una GPU, sin configuración de clúster.
  • Programa el mismo cuaderno como una tarea recurrente desde la interfaz de usuario del cuaderno, la API de tareas o los bundles de automatización declarativa.
  • Para el entrenamiento multi-GPU desde un portátil, véase Entrenamiento distribuido en portátiles.

Sugerencia

Esta página trata sobre cuadernos. Para acceder a AI Runtime de otra manera, consulta conectar desde un IDE a través de un túnel SSH, enviar trabajos desde tu portátil con la CLI de AI Runtime, o ejecutar Ray. Para producir código de entrenamiento (no un cuaderno) con Paquetes de Automatización Declarativa, consulta Productionizar cargas de trabajo de entrenamiento.

Conectar a un notebook

Esta es la forma principal de usar ai Runtime. Para conectar el portátil y configurar el entorno:

  1. En un notebook, haga clic en el menú desplegable de cálculo en la parte superior y seleccione GPU sin servidor.

    El menú desplegable de cálculo del portátil con la GPU Serverless seleccionada como computación para un portátil de IA en tiempo de ejecución.

  2. Haga clic en el icono Entorno. para abrir el panel lateral Entorno.

  3. Seleccione un acelerador en el campo Acelerador . Para cargas de trabajo de entrenamiento distribuidas, seleccione 8xH100. Consulta Opciones de hardware para orientación sobre cómo elegir un acelerador.

  4. Selecciona Standard v6 para el entorno Estándar, o AI v6 para el entorno de IA, desde el campo del entorno Base .

  5. Haga clic en Aplicar y, a continuación, confirme que desea aplicar ai Runtime al entorno de cuaderno.

    El panel lateral de Entorno muestra los campos Acelerador y Entorno Base para un cuaderno de IA en tiempo de ejecución.

Nota:

La conexión con el entorno de cómputo se termina automáticamente después de 60 minutos de inactividad.

Sugerencia

En el caso de las operaciones que no requieren GPU (por ejemplo, clonación de un repositorio de Git, conversión de formatos de datos o análisis de datos exploratorios), adjunte el cuaderno a un clúster de CPU para conservar los recursos de GPU.

Programa un cuaderno

Puedes programar cuadernos que usan AI Runtime como trabajos recurrentes, ya sea desde la interfaz del portátil o programáticamente. Consulte Creación y administración de trabajos de cuaderno programados para obtener más información.

Importante

Ejecutar un trabajo programado de notebook que utilice un entorno base del espacio de trabajo, incluido el entorno de IA de Databricks, se encuentra en fase beta. Un administrador de espacio de trabajo debe activar el soporte para entornos base de espacio de trabajo sin servidor en la vista previa de Jobs. Consulte Administrar versiones preliminares de Azure Databricks.

Para programar desde el cuaderno que quieres ejecutar:

  1. Seleccione el botón Programar en la parte superior derecha.
  2. Seleccione Agregar programación.
  3. Rellene el formulario Nueva programación con el nombre del trabajo, la programación y el proceso.
  4. Selecciona Crear.

El nuevo formulario de horario que muestra el nombre del trabajo, el horario y los campos de cálculo para un trabajo de notebook programado.

También puede crear y programar trabajos desde la interfaz de usuario Trabajos y canalizaciones . Consulte Creación de un nuevo trabajo para obtener instrucciones paso a paso.

Nota:

No se admite la adición de dependencias mediante el panel Entornos para trabajos programados de AI Runtime. Las dependencias deben instalarse mediante programación en el cuaderno (por ejemplo, %pip install). No se admite la recuperación automática. Si se produce un error en el trabajo debido a paquetes incompatibles, debe corregir y volver a ejecutar manualmente.

En el caso de las cargas de trabajo que pueden superar el tiempo de ejecución máximo de 7 días, implemente la creación de puntos de comprobación manuales para permitir la reanudación. Recomendamos usar volúmenes de Unity Catalog a través de UCVolumeWriter y UCVolumeReader desde serverless_gpu.data. Consulte los puntos de control del modelo.

Programación con la API de empleos y los paquetes de automatización declarativa

Puedes crear y gestionar mediante programación trabajos de cuadernos de AI Runtime usando la API de trabajos de Databricks o bundles de automatización declarativa. Configura el tipo de proceso como GPU sin servidor en la definición de tu trabajo o paquete para automatizar los flujos de trabajo de implementación.

Para ejecutar tu propio comando de entrenamiento con un directorio de código en lugar de un notebook, y para crear trabajos multitarrea y pipelines programados, consulta Llevar las cargas de trabajo de entrenamiento a producción.

El siguiente ejemplo muestra una configuración de Declarative Automation Bundles para un trabajo programado de cuaderno de AI Runtime que utiliza el entorno Standard:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '6'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100

Para usar el entorno de IA de Databricks en lugar del entorno Estándar, se asigna base_environment al identificador de entorno de IA (por ejemplo, databricks_ai_v6 para AI v6) en el entorno spec y haz referencia a él desde la tarea environment_key:

Importante

La selección de un entorno de IA de Databricks como entorno base del espacio de trabajo en un trabajo está en Beta. Un administrador de espacio de trabajo debe activar el soporte para entornos base de espacio de trabajo sin servidor en la vista previa de Jobs. Consulte Administrar versiones preliminares de Azure Databricks.

resources:
  jobs:
    sample_job:
      name: sample_job_aiv6_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: aiv6
          spec:
            base_environment: databricks_ai_v6

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: aiv6
          compute:
            hardware_accelerator: GPU_8xH100
  • Last updated on