Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
GPU-aktiverade pooler kan accelerera finansiella modeller som utför tillräckligt med parallellt numeriskt arbete för att kompensera för dataöverföring och initialisering. En modell gynnas inte av en GPU bara för att dess simuleringsförsök körs oberoende. Profilera beräkningen innan du ändrar poolen.
Identifiera en lämplig beräkning
Ett grafikkort är mer sannolikt att hjälpa när modellen:
- Tillämpar samma numeriska operationer över stora arrayer av scenarier eller vägar.
- Det finns tillräckligt med arbete per uppgift för att hålla GPU:n sysselsatt.
- Överför en liten mängd data jämfört med beräkningsmängden.
- Använder ett ramverk eller en implementation som redan stödjer den målinriktade GPU-runtimen.
En CPU-pool kan vara mer effektiv när uppgifter är korta, förgrenar sig kraftigt, överför stora datamängder eller tillbringar större delen av sin tid med att läsa lagring.
Jämföra konfigurationer
Använd samma modellversion, indata, partitionsantal och valideringskriterier för varje benchmark. Jämföra:
- Poolallokering och nodinitieringstid.
- Tid för modell- och drivrutinsinitialisering.
- Uppgiftens varaktighet och genomströmning.
- Misslyckanden och omförsöksfrekvens.
- Total kostnad för VM per färdigställd och validerad körning.
Börja med en liten pool och bekräfta numeriska resultat mot CPU-implementationen. Olika hårdvara eller numeriska bibliotek kan ge små flyttalsskillnader, så definiera acceptabla toleranser innan testning.
Förbered en GPU-pool
Använd en GPU-aktiverad VM-storlek som stöds med en avbildning som tillhandahåller de nödvändiga NVIDIA-drivrutinerna. Välj en förkonfigurerad Azure Marketplace-image eller installera drivrutinerna i en egen image. Ta inte med dig bildnamn, drivrutinsversioner eller CUDA-versioner från äldre exempel utan att validera nuvarande stöd.
För aktuella poolkrav och exempel, se Använd GPU-aktiverade VM-storlekar i en batchpool.
GPU-VM:ar kan ha begränsad regional kapacitet och separata kvotkrav. Gå igenom batchkapacitetsplaneringen innan du schemalägger en produktionskörning.