Configurar e editar trabalhos do Databricks

Este artigo se concentra em instruções para criar, configurar e editar trabalhos usando a interface do usuário do espaço de trabalho Fluxos de trabalho. O Azure Databricks tem outros pontos de entrada e ferramentas para configuração, incluindo o seguinte:

• Para saber mais sobre como usar a CLI do Databricks para criar e executar trabalhos, consulte O que é a CLI do Databricks?.
• Para saber mais sobre como usar a API de Trabalhos para criar e executar trabalhos, consulte Trabalhos na referência da API REST.
• Para saber como executar e agendar trabalhos diretamente em um bloco de anotações Databricks, consulte Criar e gerenciar trabalhos agendados do bloco de anotações.

Gorjeta

Para exibir um trabalho como YAML, clique no menu kebab à esquerda de Executar agora para o trabalho e, em seguida, clique em Alternar para a versão de código (YAML).

Criar uma nova tarefa

Esta seção descreve a configuração mínima necessária para criar um novo trabalho para agendar uma tarefa de bloco de anotações com a interface do usuário do espaço de trabalho.

Os trabalhos contêm uma ou mais tarefas. Você cria um novo trabalho configurando a primeira tarefa para esse trabalho.

Nota

Cada tipo de tarefa tem opções de configuração dinâmica na interface do usuário do espaço de trabalho. Consulte Configurar e editar tarefas do Databricks.

1. Clique em Fluxos de trabalho na barra lateral e clique em .
2. Insira um nome de tarefa.
3. Selecione um bloco de anotações para o campo Caminho .
4. Clique em Criar tarefa.

Se o espaço de trabalho não estiver habilitado para computação sem servidor para trabalhos, selecione uma opção Computação . O Databricks recomenda sempre usar a computação de trabalhos ao configurar tarefas.

Um novo trabalho aparece na lista de trabalhos do espaço de trabalho com o nome New Job <date> <time>padrão .

Selecione um trabalho para editar no espaço de trabalho

Para editar um trabalho existente com a interface do usuário do espaço de trabalho, faça o seguinte:

1. Clique em Fluxos de trabalho na barra lateral.
2. Na coluna Nome, clique no nome do trabalho.

Use a interface do usuário de trabalhos para fazer o seguinte:

• Editar configurações de trabalho
• Renomear, clonar ou excluir um trabalho
• Adicionar novas tarefas a um trabalho existente
• Editar configurações de tarefas

Nota

Você também pode exibir as definições JSON para uso com a API REST obter, criar e redefinir pontos de extremidade.

Editar configurações de trabalho

O painel lateral contém os detalhes do trabalho. Você pode alterar o gatilho de trabalho, a configuração de computação, as notificações, o número máximo de execuções simultâneas, configurar limites de duração e adicionar ou alterar tags. Você também pode editar permissões de trabalho se o controle de acesso ao trabalho estiver habilitado.

Adicionar parâmetros para todas as tarefas de trabalho

Os parâmetros configurados no nível do trabalho são passados para as tarefas do trabalho que aceitam parâmetros chave-valor, incluindo arquivos de roda Python configurados para aceitar argumentos de palavra-chave. Consulte Parametrizar trabalhos.

Adicionar tags a um trabalho

Para adicionar rótulos ou atributos de chave-valor ao seu trabalho, você pode adicionar tags ao editá-lo. Você pode usar tags para filtrar trabalhos na lista Trabalhos. Por exemplo, você pode usar uma department tag para filtrar todos os trabalhos que pertencem a um departamento específico.

Nota

Como as tags de trabalho não são projetadas para armazenar informações confidenciais, como informações de identificação pessoal ou senhas, a Databricks recomenda o uso de tags apenas para valores não confidenciais.

As tags também se propagam para clusters de trabalho criados quando um trabalho é executado, permitindo que você use tags com o monitoramento de cluster existente.

Clique em + Marcar no painel lateral Detalhes do trabalho para adicionar ou editar tags. Você pode adicionar a tag como um par rótulo ou chave-valor. Para adicionar um rótulo, insira o rótulo no campo Chave e deixe o campo Valor vazio.

Renomear, clonar ou excluir um trabalho

Para renomear um trabalho, vá para a interface do usuário de trabalhos e clique no nome do trabalho.

Você pode criar rapidamente um novo trabalho clonando um trabalho existente. A clonagem de um trabalho cria uma cópia idêntica do trabalho, exceto para a ID do trabalho. Para clonar um trabalho, faça o seguinte:

1. Vá para a interface do usuário de trabalhos para o trabalho.
2. Clique ao lado do botão Executar agora .
3. Selecione Clonar trabalho no menu suspenso.
4. Insira um nome para o trabalho clonado.
5. Clique em Clonar.

Excluir um trabalho

Para excluir um trabalho, vá para a página do trabalho, clique ao lado do nome do trabalho e selecione Excluir trabalho no menu suspenso.

Usar o Git com trabalhos

Se o seu trabalho contiver tarefas que ofereçam suporte ao uso de um provedor Git remoto, a interface do usuário do trabalho conterá um campo Git e a opção de adicionar ou editar configurações do Git.

Você pode configurar os seguintes tipos de tarefa para usar um repositório Git remoto:

• Notebooks
• Scripts do Python
• Arquivos SQL
• DBT

Todas as tarefas em um trabalho devem fazer referência à mesma confirmação no repositório remoto. Você deve especificar apenas uma das seguintes opções para um trabalho que usa um repositório remoto:

• ramo: O nome do ramo, por exemplo, main.
• tag: o nome da tag, por exemplo, release-1.0.0.
• commit: o hash de uma confirmação específica, por exemplo, e0056d01.

Quando uma execução de trabalho começa, o Databricks tira uma confirmação de instantâneo do repositório remoto para garantir que toda a tarefa seja executada na mesma versão do código.

Quando você visualiza o histórico de execução de uma tarefa que executa código armazenado em um repositório Git remoto, o painel Detalhes da execução da tarefa inclui detalhes do Git, incluindo o SHA de confirmação associado à execução. Consulte Ver histórico de execução de tarefas.

Nota

As tarefas configuradas para usar um repositório Git remoto não podem gravar em arquivos de espaço de trabalho. Eles devem gravar dados temporários no armazenamento efêmero do driver e dados persistentes em um volume ou tabela.

O Databricks recomenda a criação de trabalhos fazendo referência a caminhos de espaço de trabalho em pastas Git apenas para iteração e teste rápidos durante o desenvolvimento. O Databricks recomenda a reconfiguração de trabalhos para fazer referência a um repositório Git remoto à medida que você avança para o preparo e a produção. Saiba mais sobre o código-fonte controlado por versão em um trabalho do Databricks.

Configurar um provedor Git

A interface do usuário de trabalhos tem uma caixa de diálogo para configurar um repositório Git remoto. Esta caixa de diálogo pode ser acessada a partir do painel Detalhes do trabalho sob o título Git ou em qualquer tarefa configurada para usar um provedor Git.

As opções exibidas para acessar a caixa de diálogo variam de acordo com o tipo de tarefa e se uma referência git já foi configurada para o trabalho. Os botões para iniciar a caixa de diálogo incluem Adicionar configurações do Git, Editar ou Adicionar uma referência do git.

Na caixa de diálogo Informações do Git (apenas rotulada como Git se for acessada pelo painel Detalhes do trabalho), insira os seguintes detalhes:

• A URL do repositório Git.
• Selecione seu provedor Git na lista suspensa.
• No campo Referência do Git, insira o identificador de uma ramificação, tag ou confirmação que corresponde à versão do código-fonte que você deseja executar.
• Selecione ramificação, marca ou confirmação na lista suspensa.

Nota

A caixa de diálogo pode solicitar o seguinte: As credenciais do Git para esta conta estão faltando. Adicione credenciais. Você deve configurar um repositório Git remoto antes de usá-lo como referência. Consulte Configurar pastas Git do Databricks (Repos).

Configurar um tempo de conclusão esperado ou um tempo limite para um trabalho

Você pode configurar limites de duração opcionais para um trabalho, incluindo um tempo de conclusão esperado e máximo. Para configurar limites de duração, clique em Definir limites de duração em Limites de duração no painel Detalhes do trabalho.

Insira uma duração no campo Aviso para configurar o tempo esperado de conclusão do trabalho. Se o trabalho exceder esse limite, um evento será acionado. Você pode usar esse evento para notificar quando um trabalho está sendo executado lentamente. Consulte Configurar notificações para trabalhos lentos ou atrasados.

Para configurar um tempo máximo de conclusão de um trabalho, insira a duração máxima no campo Tempo limite . Se o trabalho não for concluído nesse período, o Azure Databricks definirá seu status como "Tempo Limite".

Opcionalmente, você pode especificar limites de duração para tarefas. Consulte Configurar um tempo de conclusão esperado ou um tempo limite para uma tarefa.