Runtime de IA

AI Runtime é uma oferta de computação GPU totalmente gerenciada e serverless na Databricks para seu treinamento, ajustes finos e cargas de deep learning mais amplas.

• GPUs serverless: A10s e H100s sob demanda, acessíveis via linha de comando Databricks, notebooks, jobs e Ray.
• Ambientes gerenciados: ambientes pré-construídos e dataloaders prontos para treinamento e ajustes, ou traga seu próprio container Docker.
• Observabilidade incorporada: rastreamento de experimentos via MLflow, logs e agentes de depuração.
• Orquestração: agende suas cargas de trabalho da GPU e use-as em pipelines de CI/CD.

Introdução

Aprenda sobre AI Runtime e execute sua primeira carga de trabalho.

Introdução	Descrição
🚀 Início rápido	Execute sua primeira carga de trabalho no AI Runtime a partir do seu terminal.
🧭 Visão geral	Aprenda as principais coisas sobre AI Runtime: quais GPUs estão disponíveis, como ela funciona e suas limitações.
💡 Exemplos	Navegue por tutoriais de notebooks e receitas de CLI Databricks executáveis organizadas por tarefa.

Conecte-se às GPUs

Acesse GPUs pela CLI Databricks, notebooks, Jobs ou via Ray.

Característica	Descrição
Databricks CLI	Submeta e gerencie trabalhos de treinamento de GPU distribuída a partir do seu laptop usando configurações de trabalhos YAML.
Notebooks	Conecte um notebook ao AI Runtime e desenvolva de forma interativa, sem configuração de cluster.
Trabalhos	Agende uma carga de trabalho da GPU no AI Runtime como um trabalho recorrente e orquestre-o com tarefas anteriores e posteriores.
Ray	Execute Ray Core, Ray Data, Ray Train e Ray Tune no AI Runtime.

Criar cargas de trabalho

Carregue os dados de forma eficiente, configure seu ambiente e desenvolva cargas de trabalho com agentes de codificação.

Característica	Descrição
Carregar dados nas GPUs	Transmita dados de volumes do Unity Catalog com carregadores tolerantes a falhas construídos para alta utilização de GPU.
Ambientes pré-construídos	Comece de um ambiente padrão mínimo ou de um ambiente de IA Databricks pré-carregado com frameworks de ML.
Imagens Docker personalizadas	Traga sua própria imagem Docker quando sua carga de trabalho exigir bibliotecas ou dependências personalizadas do sistema.
Agentes de codificação	Use o Genie Code e a databricks-ai-runtime habilidade do agente para criar, enviar e gerenciar cargas de trabalho da GPU.

Monitorar, depurar e implantar

Acompanhe experimentos, inspecione logs, diagnostique falhas e programe cargas de trabalho de produção.

Característica	Descrição
MLflow para depuração	Acompanhe experimentos, métricas e execuções com MLflow.
Exibir logs	Visualize a saída do treinamento, monitore o uso dos recursos da GPU enquanto seu código roda e depure com o Genie Code.
Agendar cargas de trabalho	Implante código de treinamento com Pacotes de Automação Declarativa, agende execuções e construa fluxos de trabalho multitarefa de GPU e CPU.
Disponibilize modelos treinados	Implante modelos treinados no AI Runtime no Model Serving.

Guides

Explore guias de migração, tutoriais e recursos técnicos para IA Runtime.

Resource	Descrição
Por que usar AI Runtime	Compare o Runtime de IA com computação clássica e Databricks Runtime ML para custo, experiência do desenvolvedor e escala.
Migrar de Slurm	Mapeie seus scripts em lote do Slurm, launchers distribuídos e armazenamento compartilhado para a CLI do Databricks.
Migrar cargas de trabalho clássicas da GPU	Transferir uma carga de trabalho de deep learning existente de um cluster clássico do Databricks para o AI Runtime.
Otimize o desempenho da sua carga de trabalho	Melhorar o fluxo de treinamentos e tornar os trabalhos de longa duração mais resilientes contra falhas.