Compartilhar via

Conectar-se ao AI Runtime

Importante

O AI Runtime para tarefas de nó único está na Visualização Pública. A API de treinamento distribuído para cargas de trabalho de várias GPUs permanece em Beta.

Este artigo descreve como se conectar ao Tempo de Execução de IA de notebooks interativos, trabalhos agendados e à API de Jobs.

Interativo (Blocos de Anotações)

Essa é a principal maneira de usar o AI Runtime. Para conectar seu notebook e configurar o ambiente:

  1. Em um notebook, clique no menu suspenso Conectar na parte superior e selecione Serverless GPU.
  2. Clique no ícone Ambiente. Para abrir o painel lateral ambiente .
  3. Selecione A10 ou H100 no campo Acelerador .
  4. Selecione Nenhum para o ambiente padrão ou IA v4 para o ambiente de IA no campo Ambiente base .
  5. Clique em Aplicar e confirme se deseja aplicar o AI Runtime ao seu ambiente de notebook.

Observação

A conexão com sua computação termina automaticamente após 60 minutos de inatividade.

Dica

Para operações que não exigem GPUs (por exemplo, clonagem de um repositório Git, conversão de formatos de dados ou análise de dados exploratórios), anexe seu notebook a um cluster de CPU para preservar os recursos de GPU.

Trabalhos (Agendado)

Você pode agendar notebooks que utilizam GPU sem servidor para serem executados como trabalhos recorrentes. Consulte Criar e gerenciar trabalhos de notebook agendados para obter mais detalhes.

Depois de abrir o bloco de anotações que você deseja usar:

  1. Selecione o botão Agendar no canto superior direito.
  2. Selecione Adicionar agendamento.
  3. Preencha o formulário Novo cronograma com o nome do trabalho, o cronograma e o cálculo.
  4. Selecione Criar.

Você também pode criar e agendar tarefas na interface de usuário de trabalhos e pipelines. Consulte Criar um novo trabalho para obter diretrizes passo a passo.

Observação

Não é possível adicionar dependências usando o painel Ambientes para trabalhos agendados com GPU sem servidor. As dependências devem ser instaladas programaticamente em seu notebook (por exemplo, %pip install). Não há suporte para a recuperação automática – se o trabalho falhar devido a pacotes incompatíveis, você deverá corrigir e executar novamente manualmente. Para cargas de trabalho que possam exceder o tempo de execução máximo de 7 dias, implemente o checkpoint manual para permitir a retomada.

API de Jobs e Pacotes de Recursos do Databricks

Você pode criar e gerenciar trabalhos de AI Runtime programaticamente usando a API de Trabalhos do Databricks ou os Pacotes de Ativos do Databricks. Configure o tipo de computação como GPU sem servidor em seu trabalho ou definição de pacote para automatizar pipelines de implantação.

O exemplo a seguir mostra uma configuração do Pacote de Ativos do Databricks para um Runtime de IA no trabalho de GPU sem servidor:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '4'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100
  • Last updated on