가상 머신 GPU 충돌 문제 해결 요청

Question

안녕하세요 Microsoft 지원팀,

저는 DDA를 통해 물리 GPU가 할당된 가상 머신을 사용하고 있습니다. 하지만 무거운 연산 작업 중에 블루 스크린(VIDEO_TDR_FAILURE)이 발생합니다. VM 게스트 메모리 할당, 페이징 파일 제한, 그리고 MMIO 공간 설정(WriteCombined 비활성화)을 어떻게 조정해야 하나요 ?

Answer 1

안녕하세요,

DDA(Discrete Device Assignment)로 물리 GPU를 VM에 직접 할당한 경우, VIDEO_TDR_FAILURE 블루스크린은 주로 GPU 메모리 매핑이나 MMIO 공간 설정이 불완전할 때 발생합니다. VM 게스트 메모리, 페이징 파일, MMIO 설정은 모두 GPU 드라이버와 Hyper‑V의 DDA 매핑 방식에 직접 영향을 줍니다.

먼저 VM 메모리 할당은 GPU가 요구하는 MMIO 공간과 호스트의 IOMMU 매핑을 고려해야 합니다. VM에 할당된 메모리는 GPU의 BAR(Base Address Register) 크기를 수용할 수 있어야 하며, 일반적으로 최소 4 GB 이상을 고정 메모리로 할당하는 것이 안정적입니다. 동적 메모리(Dynamic Memory)는 DDA 환경에서 권장되지 않습니다.

페이징 파일은 게스트 OS에서 GPU 드라이버가 대용량 연산 시 페이지 폴트 처리에 의존할 수 있기 때문에, 시스템 드라이브에 충분한 크기(메모리 크기와 동일하거나 그 이상)를 설정하는 것이 좋습니다. 제한을 두면 GPU 메모리 매핑 실패 시 TDR 오류가 더 쉽게 발생합니다.

MMIO 공간은 Hyper‑V VM 설정에서 Add-VMAssignableDevice 시 자동으로 예약되지만, GPU 벤더 문서에 따라 WriteCombined 옵션을 비활성화해야 하는 경우가 있습니다. 특히 NVIDIA와 AMD 일부 드라이버는 WriteCombined가 활성화되면 대규모 연산 시 TDR 오류를 유발할 수 있습니다. 이 경우 VM 구성 XML이나 레지스트리에서 HKLM\SOFTWARE\Microsoft\Windows NT\CurrentVersion\Virtualization\GuestMMIO 관련 키를 확인하고, GPU BAR 크기에 맞게 충분한 MMIO 공간을 예약해야 합니다.

정리하면, VM에는 고정 메모리를 충분히 할당하고, 페이징 파일을 메모리 크기 이상으로 설정하며, MMIO 공간은 GPU BAR 요구사항에 맞게 예약해야 합니다. WriteCombined는 GPU 벤더 권장 설정에 따라 비활성화하는 것이 안전합니다. 이 조정 후에도 VIDEO_TDR_FAILURE가 반복된다면, GPU 펌웨어와 드라이버 버전을 최신으로 업데이트하고, Hyper‑V 호스트의 IOMMU 설정을 검증하는 것이 필요합니다.

도믹 내레이션.