Ambiente de Execução de IA

AI Runtime é uma oferta de computação GPU totalmente gerida e serverless na Databricks para as suas cargas de trabalho de treino, ajuste fino e deep learning mais amplas.

• GPUs serverless: A10s e H100s sob demanda, acessíveis através da interface de comando Databricks, notebooks, jobs e Ray.
• Ambientes geridos: ambientes pré-construídos e carregadores de dados prontos para treino e afinamento, ou traga o seu próprio container Docker.
• Observabilidade incorporada: rastreamento de experiências via MLflow, registo e agentes de depuração.
• Orquestração: agende as cargas de trabalho da tua GPU e usa-as em pipelines CI/CD.

Introdução

Saiba mais sobre o AI Runtime e execute a sua primeira carga de trabalho.

Introdução	Description
🚀 Início rápido	Executa a tua primeira carga de trabalho no AI Runtime a partir do teu terminal.
🧭 Visão geral	Saiba os principais aspetos sobre o AI Runtime: que GPUs estão disponíveis, como funciona e limitações.
💡 Exemplos	Consulte tutoriais de notebooks e receitas de CLI Databricks executáveis organizadas por tarefa.

Ligar a GPUs

Aceda às GPUs através da interface de comando Databricks, notebooks, Jobs ou via Ray.

Feature	Description
Databricks CLI	Submeta e gere trabalhos de treino de GPU distribuídos a partir do teu portátil usando configurações de trabalhos YAML.
Notebooks	Liga um notebook ao AI Runtime e desenvolve de forma interativa, sem configuração de cluster.
Empregos	Agende uma carga de trabalho da GPU no AI Runtime como uma tarefa recorrente e orquestra-a com tarefas anteriores e posteriores.
Ray	Executa Ray Core, Ray Data, Ray Train e Ray Tune no AI Runtime.

Criar workloads

Carregue dados de forma eficiente, configure o seu ambiente e desenvolva cargas de trabalho com agentes de programação.

Feature	Description
Carregar dados nas GPUs	Transmita dados em fluxo a partir de volumes do Unity Catalog com mecanismos de carregamento tolerantes a falhas concebidos para uma elevada utilização da GPU.
Ambientes pré-construídos	Comece a partir de um ambiente Standard mínimo ou de um ambiente de IA Databricks pré-carregado com frameworks de ML.
Imagens Docker personalizadas	Traga a sua própria imagem Docker quando a sua carga de trabalho exigir bibliotecas ou dependências personalizadas do sistema.
Agentes de programação	Use o Genie Code e a databricks-ai-runtime skill do agente para criar, submeter e gerir cargas de trabalho da GPU.

Monitorizar, depurar e implementar

Acompanhar experiências, inspecionar registos, diagnosticar falhas e agendar cargas de trabalho de produção.

Feature	Description
MLflow para depuração	Acompanha experiências, métricas e execuções com MLflow.
Ver registos	Veja a saída do treino, monitorize o uso de recursos da GPU enquanto o seu código corre e depure com o Genie Code.
Programar cargas de trabalho	Implementar código de treino com Pacotes de Automação Declarativa, agendar execuções e construir fluxos de trabalho multitarefa para GPU e CPU.
Disponibilize modelos treinados	Implementar modelos treinados no AI Runtime para o Model Serving.

Guides

Explore guias de migração, tutoriais e recursos técnicos para AI Runtime.

Resource	Description
Por que usar o Runtime de IA	Compare o AI Runtime com o Classic Compute e o Databricks Runtime ML para o custo, experiência do programador e escala.
Migrar de Slurm	Adapte os seus scripts batch do Slurm, lançadores distribuídos e armazenamento partilhado à CLI do Databricks.
Migrar cargas de trabalho clássicas da GPU	Mover uma carga de trabalho de deep learning existente de um cluster clássico Databricks para o AI Runtime.
Otimize o desempenho da sua carga de trabalho	Melhorar o fluxo de formação e tornar os trabalhos de longa duração mais resilientes a falhas.