Ćwiczenie — instalowanie zależności i zestawu SDK nvidia DeepStream

  • 20 min

Zestaw SDK NVIDIA DeepStream wymaga określonego oprogramowania wstępnie wymaganego. Omówimy instalację tych zależności i wyjaśnimy ich role.

  1. Zainstaluj pakiety zależności, które udostępniają narzędzia do kompilowania aplikacji C i C++ ze źródła. Zwróć uwagę, że uwzględniono wiele gstreamerwtyczek opartych na systemie . Są one potrzebne, ponieważ technologia NVIDIA DeepStream używa biblioteki GStreamer do obsługi multimediów i kompozycji grafu w aplikacjach DeepStream. Użyj następujących poleceń, aby zainstalować te wymagania w terminalu hosta:

    sudo apt install \
libssl1.0.0 \
libgstreamer1.0-0 \
gstreamer1.0-tools \
gstreamer1.0-plugins-good \
gstreamer1.0-plugins-bad \
gstreamer1.0-plugins-ugly \
gstreamer1.0-libav \
libgstrtspserver-1.0-0 \
libjansson4 \
gcc \
make \
git \
python3

  2. Zainstaluj sterownik NVIDIA w wersji 470.63.01 ze strony sterowników NVIDIA Unix pod adresem: https://www.nvidia.com/Download/driverResults.aspx/179599/en-us

    1. Pakiet instalacyjny powinien zostać pobrany do folderu pobranego użytkownika lokalnego. Przejdź do lokalizacji pobierania i zainstaluj pakiet przy użyciu następujących poleceń:
    chmod 755 NVIDIA-Linux-x86_64-470.63.01.run
sudo ./NVIDIA-Linux-x86_64-470.63.01.run

  3. Zainstaluj zestaw NARZĘDZI CUDA Toolkit 11.4, dodając repozytorium CUDA firmy NVIDIA do źródeł APT. Zestaw narzędzi CUDA umożliwia środowisku deweloperskie korzystanie z przyspieszania procesora GPU na urządzeniach, na których jest obecny zgodny sprzęt. Zestaw narzędzi zawiera specjalne narzędzia kompilatora i biblioteki, które umożliwiają tworzenie i uruchamianie aplikacji przyspieszonych przez procesor GPU. Automatycznie instaluje również zgodne sterowniki, aby umożliwić uruchamianie aplikacji przyspieszonych przez procesor GPU w systemie hosta.

    Aby zainstalować zestaw NARZĘDZI CUDA Toolkit 11.4, uruchom następujące polecenia w terminalu hosta:

    wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.4.1/local_installers/cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu1804-11-4-local_11.4.1-470.57.02-1_amd64.deb
sudo apt-key add /var/cuda-repo-ubuntu1804-11-4-local/7fa2af80.pub
sudo apt-get update
sudo apt-get -y install cuda

  4. Zainstaluj tensorRT 8.0.1 GA z firmy NVIDIA. TensorRT to zestaw SDK, który zapewnia implementację algorytmów wnioskowania uczenia głębokiego o wysokiej wydajności za pośrednictwem przyspieszania sprzętowego. Obejmuje ona różne optymalizacje zapewniające małe opóźnienia i wysoką przepływność w aplikacjach korzystających z uczenia głębokiego. Aby go zainstalować, musisz mieć członkostwo w programie dla deweloperów NVIDIA. Jeśli go nie masz, zostanie wyświetlony monit o utworzenie go po wykonaniu poniższych kroków. To bezpłatne członkostwo umożliwia dostęp do niezbędnych plików instalacyjnych.

    Uwaga

    Aby ukończyć ten proces, musisz mieć przeglądarkę na maszynie hosta.

    Jeśli go nie masz, możesz łatwo zainstalować przeglądarkę Firefox na maszynie hosta przy użyciu następującego polecenia: sudo apt install firefox

    1. Dodaj repozytorium CUDA do źródeł apt, uruchamiając następujące polecenia:

      echo "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64 /" | sudo tee /etc/apt/sources.list.d/cuda-repo.list
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo apt-key add 7fa2af80.pub
sudo apt-get update

    2. Otwórz przeglądarkę na maszynie hosta i pobierz pakiet lokalnego repozytorium TensorRT 8.0.1 dla systemu Ubuntu 18.04 i CUDA 11.3 DEB lokalnego repozytorium.

    3. Pakiet instalacyjny powinien zostać pobrany do folderu pobranego użytkownika lokalnego. Przejdź do lokalizacji pobierania i zainstaluj pakiet przy użyciu następujących poleceń:

      cd ~/Downloads
sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626_1-1_amd64.deb 
sudo apt-key add /var/nv-tensorrt-repo-ubuntu1804-cuda11.3-trt8.0.1.6-ga-20210626/7fa2af80.pub 
sudo apt-get update 
sudo apt-get install \
libnvinfer8=8.0.1-1+cuda11.3 \
libnvinfer-plugin8=8.0.1-1+cuda11.3 \
libnvparsers8=8.0.1-1+cuda11.3 \
libnvonnxparsers8=8.0.1-1+cuda11.3 \
libnvinfer-bin=8.0.1-1+cuda11.3 \
libnvinfer-dev=8.0.1-1+cuda11.3 \
libnvinfer-plugin-dev=8.0.1-1+cuda11.3 \
libnvparsers-dev=8.0.1-1+cuda11.3 \
libnvonnxparsers-dev=8.0.1-1+cuda11.3 \
libnvinfer-samples=8.0.1-1+cuda11.3 \
libnvinfer-doc=8.0.1-1+cuda11.3

  5. Zainstaluj bibliotekę librdkafka, aby włączyć adapter protokołu platformy Kafka używany przez brokera komunikatów DeepStream. Otwórz terminal i uruchom następujące polecenia:

    cd ~
git clone https://github.com/edenhill/librdkafka.git
cd librdkafka
git reset --hard 7101c2310341ab3f4675fc565f64f0967e135a6a
./configure
make sudo make install
sudo mkdir -p /opt/nvidia/deepstream/deepstream-6.0/lib
sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream-6.0/lib

  6. Zainstaluj zestaw DeepStream SDK. Zestaw SDK zawiera wszystkie biblioteki, źródła programistyczne i przykłady, aby rozpocząć tworzenie niestandardowych potoków IVA.

    1. Otwórz przeglądarkę na maszynie hosta. Przejdź do strony NVIDIA DeepStream — wersja 6.0.0-1 Pobierz.

    2. Powinien on zostać pobrany do folderu pobranego użytkownika lokalnego. Przejdź do lokalizacji pobierania i zainstaluj pakiet przy użyciu następujących poleceń:

    cd ~/Downloads
sudo apt-get install ./deepstream-6.0_6.0.0-1_amd64.deb

Teraz możesz rozpocząć eksplorowanie sposobu tworzenia aplikacji usługi Intelligent Video Analytics przy użyciu zestawu SDK NVIDIA DeepStream. Zbadamy i uruchomimy przykładową aplikację.