Használd a Genie Code-ot AI Runtime-szal

Important

Ez a funkció nyilvános előzetes verzióban van.

A Genie Code segít mélytanulási munkaterhelések fejlesztésében és hibakeresésében az AI Runtime-hoz csatlakoztatott jegyzetfüzetekben. Képes elosztott betanítási kódot generálni, környezeti és függőségi problémákat oldani meg, valamint GPU munkaterhelési hibákat vizsgálni.

A Genie Code egy elosztott CNN betanítási munkaterhelést hoz létre és futtat nyolc H100 GPU-n egy AI Runtime notebookban.

Requirements

A Genie Code AI Runtime-mal való használatához:

Első lépések

  1. Nyisd meg egy Azure Databricks notebook-ot.

  2. Csatlakoztasd a jegyzetfüzetet az AI Runtime-hoz. Lásd : Kapcsolódj az AI Runtime-hoz.

  3. Nyissa meg a Genie Code panelt.

  4. Írd le a munkaterhelést, amit fejleszteni szeretnél, vagy milyen problémát szeretnél megoldani.

  5. Tekintse át a javasolt tervet, a kódváltozásokat és a lépéseket, mielőtt jóváhagyná azokat.

    Important

    A Genie Code hibázhat. Nézze át a generált kódot, környezeti változtatásokat és egyéb javasolt műveleteket, mielőtt futtatnád őket. Néhány diagnózis további naplókat vagy munkaterhelési kontextust igényel.

Miben segíthet a Genie Code?

Elosztott képzési munkaterhelések fejlesztése

A Genie Code képes generálni vagy frissíteni az AI Runtime-hoz szükséges képzési kódot. Segíthet kiválasztani a megfelelő PyTorch elosztott stratégiát, használni a csomagból származó @distributed API-t serverless_gpu , és AI Runtime mintákat alkalmazni adatbetöltéshez, ellenőrzőpontokhoz és MLflow követéshez. API részleteiért és példákért lásd: Distributed training in notebooks.

Környezeti és függőségi problémák megoldása

A Genie Code képes megvizsgálni a jelenlegi környezetet, megkülönböztetni a csomagkompatibilitási hibákat a kód vagy API változásoktól, és célzott javításokat javasol. Emellett segíthet választani a Databricks AI és a Standard környezetek között a munkaterhelés függőségei alapján. Az elérhető környezetekkel kapcsolatos információkért lásd: A környezet beállítása.

Hibakeresés GPU és elosztott munkaterhelések

A Genie Code képes a notebook kimenetét és elérhető naplókat felhasználva elosztott betanítási hibákat, kommunikációs hibákat, betanítási lefagyásokat és GPU memóriaproblémákat vizsgálni. Ez segíthet azonosítani az eredeti hibát, és megkülönböztetni azt más rangok későbbi hibáitól. Az elosztott képzési naplók megtekintéséről információért lásd: Kísérleti követés és megfigyelhetőség.

Példafelszólítások

Elosztott képzési munkaterhelések fejlesztése

  • "Frissítsd ezt a jegyzetfüzetet, hogy mind a nyolc H100 GPU-n elosztott képzést futtasson az AI Runtime-ban."
  • Nézd át ezt az elosztott betanítási jegyzetfüzetet, és javítsd ki a(z) serverless_gpu és az MLflow használatát.
  • "Adaptáld ezt a képzési terhelést az AI Runtime-hoz, és magyarázd el a fontos változásokat."

Környezeti és függőségi problémák megoldása

  • Ez a notebook nem működik, miután telepítettem egy új csomagot. Vizsgáld meg a környezetet, és állapítsd meg, hogy a probléma függőségi probléma-e vagy kód API változás."
  • "A munkaterhelésnek a Databricks MI-t vagy a Standard környezetet kellene használnia? Vizsgáld át a függőségeit, és javasolj egy környezetet, mielőtt bármit változtatnék."
  • "Diagnosztizáld ezt a csomagkompatibilitási hibát, és javasold a legkisebb megfelelő változtatást."

Hibakeresés GPU és elosztott munkaterhelések

  • "Elemezd ezt a sikertelen elosztott képzési futást minden rang rendelkezésre álló kimenetével, és azonosítsd az okot."
  • Miért fagy le ez az elosztott munkaterhelés? Használd a jegyzetfüzet kimenetét a következő hibakeresési lépés ajánlásához."
  • "Vizsgáld ki ezt a GPU memóriahibat, és ajánls egy bizonyítékokon alapuló következő lépést."

További erőforrások

  • Last updated on