O que é o agente de engenharia de dados Fabric (Project Osmos)? (pré-visualização)

O agente de engenharia de dados Fabric (Project Osmos) é uma capacidade autónoma de engenharia de dados para Microsoft Fabric. Executa tarefas persistentes que planeiam, executam e validam o trabalho de engenharia de dados contra recursos Fabric aos quais está autorizado a aceder.

Num cliente de linha de comandos suportado, introduz um resultado do projeto (uma descrição da tarefa completa de engenharia de dados de ponta a ponta) e seleciona o lakehouse do Fabric que aloja a tarefa. O Project Osmos pode inspecionar dados, criar e testar cadernos Spark, transformar dados, escrever tabelas Delta e validar resultados. As tarefas continuam a correr no Fabric depois de o cliente local se desconectar.

Importante

O agente de engenharia de dados (Project Osmos) está em pré-visualização. As funcionalidades de pré-visualização são lançadas com capacidades limitadas e estão sujeitas a termos suplementares de pré-visualização separados. Não são destinados a uso em produção, não estão sujeitos a acordos de nível de serviço e podem estar disponíveis apenas em regiões selecionadas. Para mais informações, consulte informação de pré-visualização do Microsoft Fabric.

Capacidades chave

O agente de engenharia de dados (Project Osmos) implementa e executa tarefas de engenharia de dados numa tarefa Fabric gerida. Utiliza SparkCore, estado persistente, controlos de acesso, acompanhamento de progresso e validação contra dados alvo. Múltiplos agentes coordenados criam e avaliam múltiplas opções de implementação para entregar resultados de qualidade de produção.

O Project Osmos adiciona capacidades específicas do Fabric:

  • Execução hospedada em Fabric: As operações de código e dados são executadas com o Fabric Spark e o OneLake, em vez de apenas num ambiente de desenvolvimento local.
  • Estado persistente da tarefa: A tarefa continua a correr depois de o cliente local se desligar e pode ser retomada sem começar de novo.
  • Contexto do Lakehouse: O Project Osmos resolve o espaço de trabalho Fabric e o lakehouse padrão da sessão Spark a partir do URL do lakehouse que fornece.
  • Limites operacionais: Antes da execução, revê definições para permissões, segurança de escrita, comportamento de repetição, evolução de esquemas, artefactos e esforço de raciocínio.
  • Validação integrada: A tarefa pode executar código gerado e verificar contagem de linhas, nulos, esquemas e outros critérios de sucesso no ambiente alvo.
  • Visibilidade partilhada: Qualquer pessoa que tenha acesso à casa do lago onde lançou a tarefa pode verificar o seu progresso e fornecer informações, se necessário.

Estas capacidades transformam um resultado do Project numa unidade gerida de trabalho de engenharia de dados, em vez de uma resposta passageira por chat.

Como funciona o agente de engenharia de dados (Project Osmos)

O Project Osmos utiliza um ciclo de vida gerido para cada tarefa de engenharia de dados:

  • Definir: O resultado do projeto identifica a tarefa completa de engenharia de dados de ponta a ponta, e o URL do lakehouse identifica o lakehouse do Fabric que a hospeda.
  • Plano: O Project Osmos analisa o contexto disponível e recomenda configurações operacionais para revisão.
  • Executar: A tarefa corre em Fabric e pode criar, testar e refinar artefactos de engenharia de dados.
  • Validar: A tarefa verifica os seus resultados em relação aos critérios de sucesso especificados e reporta os resultados.
  • Monitorização: A tarefa continua disponível no cliente de linha de comandos e na experiência de tarefas do lakehouse.

O lakehouse selecionado é o lakehouse predefinido para a sessão do Spark. Não é automaticamente a única origem ou destino. O resultado do seu Project, as permissões do Fabric e as definições operacionais revisadas determinam o âmbito da tarefa.

Para os passos para criar a sua primeira tarefa, consulte Começar com o Project Osmos.

Escolha um caso de uso apropriado

O Project Osmos foi concebido para trabalhos de engenharia de dados orientados a resultados que beneficiam de planeamento, execução e validação autónomas.

Caso de uso Exemplo de resultado
Preparação de dados Limpar ficheiros de vendas, padronizar tipos, remover linhas inválidas e escrever uma tabela Delta validada.
Integração de tabelas Junta encomendas, clientes e dados de produto, depois cria uma tabela selecionada para análises a jusante.
Modernização do Lakehouse Converter uma transformação existente em Spark, produzir um caderno testado e validar a nova saída.
Arquitetura do medalhão Constrói transformações de bronze, prata e ouro a partir de ficheiros fonte como uma tarefa completa.
Remediação da qualidade dos dados Faça um perfil de uma tabela, identifique problemas de qualidade, aplique correções aprovadas e reporte métricas de antes e depois.
Melhoria do desempenho Revise tabelas Delta, recomende alterações de particionamento ou layout, implemente alterações aprovadas e meça os resultados.
Assistência na migração Transforme extratos legados num modelo pronto para Fabric, preservando as regras de negócio e validando totais.

O Project Osmos foi concebido para resolver desafios de engenharia de dados. Não se destina a uma consulta rápida, uma alteração de relatório no Power BI ou outras tarefas que não sejam de engenharia de dados.

Trabalho entre a CLI e a Fabric

O Project Osmos utiliza duas experiências ligadas. Cria e dirige tarefas a partir da linha de comandos e visualiza o progresso da tarefa na aplicação Fabric:

  • Experiência na linha de comandos: Use o GitHub Copilot CLI, Codex ou Claude Code para criar uma tarefa, inserir um resultado do Project, rever as definições operacionais e enviar orientações de seguimento.
  • Experiência do Fabric no lakehouse: Percorra as tarefas do lakehouse, consulte o estado, abra uma tarefa, reveja a atividade e os erros e inspecione os resultados gerados.

Ambas as experiências referem-se à mesma tarefa e ID de tarefa alojados no Fabric.

Passos seguintes