AI Runtime Notebook-snelstart

Important

Deze functie bevindt zich in openbare preview-versie.

Gebruik AI Runtime om met een paar klikken van een leeg notebook naar PyTorch op een GPU te gaan. Sluit een notebook aan op Serverless GPU zonder cluster om op te zetten, en krijg GPU-monitoring, een terminal op de GPU-node en Genie Code ingebouwd.

Een AI Runtime-notebook gekoppeld aan Serverless GPU, met callouts voor het selecteren van het GPU-type, het configureren van de omgeving, het monitoren van het gebruik, het gebruik van de agent om te coderen en het openen van een terminal.

Requirements

Je werkruimte moet AI Runtime ingeschakeld hebben en zich in een ondersteunde regio bevinden. Zie Vereisten.

Stap 1: Sluit een notebook aan op een GPU

  1. Een notitieblok maken of openen.
  2. Selecteer in het compute-dropdownmenu bovenaan het notebook Serverless GPU.
  3. Selecteer in het Accelerator-veld1xA10.
  4. Klik op Solliciteren en vervolgens Bevestigen.

Tip

Begin met 1xA10 voor ontwikkeling en kleine workloads. Ga over op 1xH100 of 8xH100 als je meer GPU-geheugen of multi-GPU gedistribueerde training nodig hebt. Zie Hardware-opties.

Stap 2: Voer je eerste GPU-code uit

De standaard Databricks AI-omgeving wordt geleverd met PyTorch, Transformers, vLLM, panda's en nog veel meer vooraf geïnstalleerde pakketten. Voor de volledige lijst, zie de Databricks AI-omgeving.

Voer het volgende notebook uit om te bevestigen dat de GPU is aangesloten en voer één trainingsstap uit:

AI Runtime-snelstartnotebook

Notebook krijgen

Je traint nu op serverless GPU-rekenkracht.

Ontdek het GPU-notebook

Het notebook wordt geleverd met tools om je te helpen met de GPU. Je kunt van basisomgeving wisselen, GPU-gebruik monitoren, een terminal openen op de GPU-node en Genie Code gebruiken om je code te schrijven en te debuggen.

Omgevingen omschakelen

Klik op Omgeving in het rechterpaneel om een andere basisomgeving of accelerator te kiezen. Zie Uw omgeving instellen.

Het Omgeving-zijpaneel met het Basis-omgevingsmenu open, waarop standaard- en AI-omgevingsversies worden getoond.

Bekijk het gebruik van de GPU

Klik op GPU-resources in het rechterpaneel om live GPU-gebruik en geheugen te zien terwijl je code draait. Zie Live GPU-resources monitoren.

Het GPU-resourcepaneel toont grafieken over GPU-gebruik en geheugengebruik over tijd.

Open een terminal op de GPU-node

Klik rechtsonder op Terminal om een shell op de GPU-node te krijgen. Voer nvidia-smi uit, inspecteer bestanden of debug processen rechtstreeks. Zie Voer shell-opdrachten uit in de Azure Databricks web terminal.

Een webterminal met Nvidia-SMI op een H100 GPU-node.

Laat Genie Code voor je schrijven en debuggen

Klik op Genie Code in het rechterpaneel en beschrijf wat je wilt. De agent kan trainingscode schrijven, afhankelijkheidsconflicten oplossen en GPU-fouten debuggen. Zie Use Genie Code with AI Runtime.

Het Genie Code-paneel met een prompt waarin de agent wordt gevraagd een conflict in de Torchao-bibliotheek op te lossen.

Volgende stappen 

  • Laatst bijgewerkt om