Windows Server용 분산 AI 추론 문서

Windows Server에서 분산 AI 추론을 탐색해 보세요. 런타임을 비교하고, 클라이언트를 엔드포인트에 연결하며, SQL Server로 빌드하고, GPU 인프라를 계획하세요.

AI 추론 접근법 이해하기

개요

• Windows Server에서 분산 AI 추론을 계획하세요

개념

• Windows ML이란?

Windows Server에서 GPU 가속 계획

개념

• Windows Server에서 GPU 가속 계획

추론 실행 시간 탐색

시작하기

• 기기 내 추론을 위해 Foundry Local을 시작하세요

앱과 도구를 모델링 엔드포인트에 연결합니다

방법 가이드

• GitHub Copilot CLI를 Windows Server 추론 엔드포인트에 연결하세요
• Visual Studio Code를 로컬 및 원격 모델 엔드포인트에 연결하기
• 인텔리전트 터미널 미리보기 → Windows Server 모델 엔드포인트에 연결하기

SQL Server로 AI 솔루션을 구축하세요

개요

• SQL Server 지능형 애플리케이션 및 AI

클러스터 VM용 GPU 구성

방법 가이드

• 클러스터형 VM에서 불연속 디바이스 할당과 함께 GPU 사용