Azure Stack Hub'da GPU özellikli IoT modülü dağıtma

  • Makale

GPU özellikli Bir Azure Stack Hub ile, işlemci yoğunluklu modülleri IoT Edge çalışan Linux cihazlara dağıtabilirsiniz. GPU için iyileştirilmiş VM boyutları, tek veya birden çok NVIDIA GPU ile kullanılabilen özel VM'lerdir. Bu makalede işlem yoğunluklu, grafik yoğunluklu ve görselleştirme iş yüklerini çalıştırmak için GPU için iyileştirilmiş VM'leri kullanmayı öğrenin.

Başlamadan önce, genel Azure ve Azure Stack Hub erişimi olan bir Microsoft Entra aboneliğine, bir Azure Container Registry (ACR) ve bir IoT hub'ına ihtiyacınız olacaktır.

Bu makalede şunları yapacaksınız:

  • GPU özellikli bir Linux VM yükleyin ve doğru sürücüleri yükleyin.
  • Docker'ı yükleyin ve çalışma zamanında GPU'yu etkinleştirin.
  • IoT cihazınızı iOT Hub'ınıza bağlayın ve iOT marketinden şu modeli yükleyin: Getting started with GPUs.
  • Azure IoT gezginini kullanarak cihazınızı yerel bir makineden yükleyin ve izleyin.
  • İsteğe bağlı olarak, Visual Studio Code'de Azure IoT uzantısını kullanarak cihazınızı yükleyin ve izleyin.

Önkoşullar

Azure Stack Hub örneğinizde, genel Azure'da ve yerel geliştirme makinenizde aşağıdaki kaynaklara sahip olmanız gerekir.

Azure Stack Hub ve Azure

  • NVIDA GPU ile Azure Stack Hub Tümleşik Sisteminde Microsoft Entra Kimliği kullanan bir kullanıcı olarak abonelik. Aşağıdaki yongalar iOT Hub ile çalışır:

    • NCv3
    • NCas_v4

    Azure Stack Hub'da GPU'lar hakkında daha fazla bilgi için bkz. Azure Stack Hub'da grafik işleme birimi (GPU) VM.

  • Genel bir Azure aboneliği. Genel bir Azure aboneliğiniz yoksa başlamadan önce ücretsiz bir hesap oluşturun.

  • bir Azure Container Registry (ACR). ACR oturum açma sunucusunu, kullanıcı adını ve parolayı not edin.

  • Küresel Azure'da ücretsiz veya standart katmanlı bir IoT hub'ı .

Geliştirme makinesi

  • Geliştirme tercihlerinize bağlı olarak kendi bilgisayarınızı veya bir sanal makineyi kullanabilirsiniz. Geliştirme makinenizin iç içe sanallaştırmayı desteklemesi gerekir. Bu özellik, bu makalede kullanılan kapsayıcı altyapısı olan Docker'ı çalıştırmak için gereklidir.

  • Geliştirme makinenizin aşağıdaki kaynaklara ihtiyacı olacaktır:

IoT Edge cihazı kaydetme

IoT Edge cihazınızı barındırmak için ayrı bir cihaz kullanın. Ayrı bir cihaz kullanmak, geliştirme makinenizle IoT Edge cihaz arasında bir ayrım sağlar ve bir dağıtım senaryosunu daha doğru yansıtır.

Linux VM ile Azure'da IoT Edge cihazı oluşturma:

  1. Azure Stack Hub'da bir N serisi Linux sunucusu VM'si oluşturun. Sunucunuz için bileşenleri yüklerken, SSH aracılığıyla sunucuyla etkileşim kurarsınız. Daha fazla bilgi için bkz. Azure Stack Hub ile SSH anahtar çifti kullanma.

  2. IoT Edge Cihazı oluşturma ve kaydetme

GPU özellikli vm hazırlama

  1. Linux çalıştıran N serisi VM'lere NVIDIA GPU sürücülerini yükleme makalesindeki adımları izleyerek N serisi Linux sunucunuza NVIDA GPU Sürücülerini yükleyin.

    Not

    Yazılımınızı yüklemek için bash komut satırını kullanacaksınız. GPU özellikli VM'nizde Docker'da çalışan kapsayıcıya sürücüleri yüklemek için aynı komutları kullanacağınızdan komutları not edin

  2. Azure Stack Hub'daki N serisi Linux sunucunuza en son IoT Edge çalışma zamanını yükleyin. Yönergeler için bkz. Debian tabanlı Linux sistemlerine Azure IoT Edge çalışma zamanını yükleme

Docker'ı yükleme

GPU özellikli VM'nize Docker yükleyin. Modülü vm'deki bir kapsayıcıda IoT Edge marketten çalıştıracaksınız.

Docker 19.02 veya üzerini yüklemeniz gerekir. Docker çalışma zamanı artık NVIDIA GPU'larını destekliyor. Docker'da GPU'lar hakkında daha fazla bilgi edinmek için Docker belgeleri, Bellek, CPU'lar ve GPU'larla çalışma zamanı seçenekleri makalesine bakın.

Docker'ı yükleme

Docker kapsayıcıları müşteri veri merkezinde, dış hizmet sağlayıcısında veya bulutta, Azure'da şirket içinde her yerde çalışabilir. Docker görüntü kapsayıcıları Linux ve Windows üzerinde yerel olarak çalıştırılabilir. Ancak, Windows görüntüleri yalnızca Windows konaklarında çalışabilir ve Linux görüntüleri Linux konaklarında ve Windows konaklarında (şu ana kadar Hyper-V Linux VM kullanılarak) çalıştırılabilir ve burada konak bir sunucu veya VM anlamına gelir. Daha fazla bilgi için bkz. Docker nedir?.

  1. SSH istemcinizi kullanarak N serisi Linux sunucunuza bağlanın.

  2. apt dizinini ve listelerini güncelleştirin.

    sudo apt-get update

  3. Makinedeki mevcut paketlerin yeni sürümlerini getirin.

    sudo apt-get upgrade

  4. Docker'ın apt deposunu eklemek için gereken bağımlılıkları yükleyin.

    sudo apt-get install apt-transport-https ca-certificates curl software-properties-common

  5. Docker'ın GPG anahtarını ekleyin.

    curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

  6. Docker'ın apt deposını ekleyin.

    sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"

  7. apt dizinini ve listelerini güncelleştirin ve Docker Community Edition'ı yükleyin.

    sudo apt-get update 
sudo apt-get install docker-ce

  8. Docker sürümünü denetleyerek yüklemeyi doğrulayın.

    docker -v

  9. Docker'da kullanılabilir GPU kaynaklarını kullanıma sunma.

    docker run -it --rm --gpus all ubuntu nvidia-smi

Öğeyi marketten alma

Azure portal dönün ve iOT marketini kullanarak modeli uç cihazınıza ekleyin. Menüden Market Modülü'ne tıklayın. ve için Getting started with GPUsarama yapın ve modülü eklemek için yönergeleri izleyin.

Yönergeler için bkz . Cihaz seçme ve modül ekleme

İzlemeyi etkinleştirme

  1. Azure IoT gezginini indirin ve uygulamayı IoT Hub bağlayın.

  2. IoT Cihazınızı seçin ve gezinti menüsünden Telemetri'ye gidin.

  3. IoT Edge Cihazından çıkışı izlemeye başlamak için Başlat'ı seçin.

geçerli bir yükleme

Modülü izleme (İsteğe bağlı)

  1. VS Code komut paletinde Azure IoT Hub: Select IoT Hub komutunu çalıştırın.

  2. Yapılandırmak istediğiniz IoT Edge cihazını barındıran aboneliği ve IoT hub'ını seçin. Bu durumda Azure Stack Hub örneğinizdeki aboneliği seçin ve Azure Stack Hub'ınız için oluşturulan IoT Edge cihazı seçin. Bu, önceki adımlarda Azure portal aracılığıyla işlem yapılandırdığınızda oluşur.

  3. VS Code gezgininde Azure IoT Hub bölümünü genişletin. Cihazlar'ın altında Azure Stack Hub'ınıza karşılık gelen IoT Edge cihazı görmeniz gerekir.

    1. Bu cihazı seçin, sağ tıklayın ve Yerleşik Olay Uç Noktasını İzlemeyi Başlat'ı seçin.

    2. Cihazlar > Modülleri'ne gittiğinizde GPU modülünüzün çalıştığını görmeniz gerekir.

    3. VS Code terminali, Azure Stack Hub'ınızın izleme çıkışı olarak IoT Hub olaylarını da göstermelidir.

    geçerli bir yükleme

    GPU tarafından aynı işlem kümesini (5000 şekil dönüşümü yinelemesi) yürütmek için geçen sürenin CPU'dan çok daha az olduğunu görebilirsiniz.

Sonraki Adımlar