Gebruik Genie Code met AI Runtime

Belangrijk

Deze functie bevindt zich in openbare preview-versie.

Genie Code helpt je bij het ontwikkelen en troubleshooten van deep learning-workloads in notebooks die verbonden zijn met AI Runtime. Het kan gedistribueerde trainingscode genereren, omgevings- en afhankelijkheidsproblemen oplossen en uitvallen in GPU-werklasten onderzoeken.

Genie Code creëert en voert een gedistribueerde CNN-trainingswerklast uit over acht H100 GPU's in een AI Runtime-notebook.

Vereisten

Om Genie Code te gebruiken met AI Runtime:

Aan de slag

  1. Open een Azure Databricks-notebook.

  2. Verbind het notebook met AI Runtime. Zie Connect to AI Runtime.

  3. Open het Genie Code-venster.

  4. Beschrijf de werklast die je wilt ontwikkelen of het probleem dat je wilt oplossen.

  5. Bekijk het voorgestelde plan, de codewijzigingen en acties voordat je ze goedkeurt.

    Belangrijk

    Genie Code kan fouten maken. Bekijk gegenereerde code, omgevingswijzigingen en andere voorgestelde acties voordat je ze uitvoert. Sommige diagnoses vereisen aanvullende logbestanden of context van de workload.

Wat kan Genie Code helpen?

Ontwikkel gedistribueerde trainingsworkloads

Genie Code kan trainingscode genereren of bijwerken voor AI Runtime. Het kan je helpen een geschikte PyTorch-gedistribueerde strategie te kiezen, de @distributed API uit het serverless_gpu pakket te gebruiken en AI Runtime-patronen toe te passen voor dataladen, checkpointen en MLflow-tracking. Voor API-details en voorbeelden, zie Gedistribueerde training in notebooks.

Los omgevings- en afhankelijkheidsproblemen op

Genie Code kan de huidige omgeving inspecteren, fouten in pakketcompatibiliteit onderscheiden van code- of API-wijzigingen, en gerichte oplossingen aanbevelen. Het kan je ook helpen kiezen tussen de Databricks AI- en Standard-omgevingen op basis van de afhankelijkheden van je workload. Voor informatie over de beschikbare omgevingen, zie Stel je omgeving op.

Fouten opsporen in GPU- en gedistribueerde taken

Genie Code kan notebook-uitvoer en beschikbare logs gebruiken om gedistribueerde trainingsfouten, communicatiefouten, trainingshangs en GPU-geheugenproblemen te onderzoeken. Het kan helpen de oorspronkelijke fout te identificeren en te onderscheiden van downstream fouten op andere rangen. Voor informatie over het bekijken van gedistribueerde trainingslogboeken, zie Experiment tracking and observability.

Voorbeelden van aanwijzingen

Ontwikkel gedistribueerde trainingsworkloads

  • "Update deze notebook om gedistribueerde training uit te voeren op alle acht H100 GPU's in AI Runtime."
  • "Bekijk dit gedistribueerde trainingsnotitieboek en verbeter het gebruik van serverless_gpu en MLflow."
  • "Pas deze trainingslast aan voor AI Runtime en leg de belangrijke veranderingen uit."

Los omgevings- en afhankelijkheidsproblemen op

  • "Dit notitieboekje stopte met werken nadat ik een nieuw pakket had geïnstalleerd. Inspecteer de omgeving en bepaal of het probleem een afhankelijkheidsprobleem is of een wijziging in de code-API."
  • "Moet deze werklast gebruikmaken van de Databricks AI of de standaardomgeving? Bekijk de afhankelijkheden en raad een omgeving aan voordat je iets verandert."
  • "Diagnoseer deze pakketcompatibiliteitsfout en beveel de kleinste passende wijziging aan."

Debug GPU en gedistribueerde workloads

  • "Analyseer deze mislukte verspreide trainingsrun met de beschikbare output van elke rang en identificeer de oorzaak."
  • "Waarom hangt deze gedistribueerde werklast? Gebruik de output van het notitieboekje om de volgende debuggingstap aan te bevelen."
  • "Onderzoek deze GPU-geheugenfout en beveel een op bewijs gebaseerde volgende stap aan."

Aanvullende bronnen

  • Last updated on