Windows ML은 ONNX 런타임 및 하드웨어별 실행 공급자를 제공하는 배포 메커니즘일 뿐이므로 WINDOWS ML은 ONNX 형식 모델에서 작동합니다. 즉, 다양한 원본에서 미리 학습된 수백만 개의 기존 모델을 사용하거나 고유한 모델을 학습시킬 수 있습니다. 이 가이드에서는 ONNX 모델을 찾고, 변환하거나, 학습할 위치를 설명합니다.
| Options | 세부 정보 |
|---|---|
| 1. AI 도구 키트의 모델 사용 | AI 도구 키트의 변환 도구를 사용하여 Windows ML에서 사용할 수 있도록 최적화할 준비가 된 20개 이상의 OSS 모델(LLM 및 기타 모델 유형 포함) 중에서 선택합니다. |
| 2. 다른 기존 ONNX 모델 사용 | Hugging Face 또는 기타 출처에서 30,000개 이상의 미리 학습된 ONNX 모델 찾아보기 |
| 3. 기존 모델을 ONNX 형식으로 변환 | 2,400,000개 이상의 미리 학습된 PyTorch/TensorFlow/etc 모델을 Hugging Face 또는 기타 원본에서 찾아서 ONNX로 변환합니다. |
| 4. 기존 모델 미세 조정 | 2,400,000개 이상의 미리 학습된 PyTorch/TensorFlow/etc 모델을 Hugging Face 또는 기타 원본에서 미세 조정하여 시나리오에 더 잘 작동하도록(및 ONNX 형식으로 변환) |
| 5. 모델을 학습시키기 | PyTorch, TensorFlow 또는 기타 프레임워크에서 사용자 고유의 모델을 학습하고 ONNX로 변환합니다. |
Windows ML을 통해 실행되는 Windows의 Microsoft Foundry에서 바로 사용할 수 있는 수십 개의 AI 모델 및 API 중에서 선택할 수도 있습니다. 자세한 내용은 Windows에서 Microsoft Foundry와 함께 로컬 AI 사용을 참조하세요.
옵션 1: AI 도구 키트의 모델 사용
AI 도구 키트의 변환 도구를 사용하면 Windows ML에서 사용할 수 있도록 최적화할 준비가 된 수십 개의 LLM 및 기타 유형의 모델이 있습니다. AI 도구 키트를 통해 모델을 가져오면 Windows ML이 실행되는 다양한 하드웨어에 최적화된 변환된 ONNX 모델을 얻게 됩니다.
사용 가능한 모델을 찾아보려면 AI 도구 키트의 모델 목록을 참조하세요.
옵션 2: 다른 기존 ONNX 모델 사용
Hugging Face는 Windows ML에서 사용할 수 있는 수천 개의 ONNX 모델을 호스팅합니다. 다음을 통해 ONNX 모델을 찾을 수 있습니다.
사용 중인 Windows ML 버전에 포함된 ONNX 런타임 버전과 호환되는 모델을 찾아야 합니다. Windows ML에서 제공되는 ONNX 런타임 버전을 참조하여 Windows ML에서 사용 중인 ONNX 런타임 버전을 확인하세요.
옵션 3: 기존 모델을 ONNX 형식으로 변환
PyTorch, TensorFlow 또는 기타 프레임워크의 모델을 ONNX 형식으로 변환하고 Windows ML과 함께 사용할 수 있습니다.
Hugging Face 는 Windows ML에서 변환하고 사용할 수 있는 수백만 개의 모델을 호스트합니다.
사용 중인 Windows ML 버전에 포함된 ONNX 런타임 버전으로 실행되도록 모델을 변환해야 합니다. Windows ML에서 제공되는 ONNX 런타임 버전을 참조하여 Windows ML에서 사용 중인 ONNX 런타임 버전을 확인하세요.
모델을 ONNX 형식으로 변환하려면 프레임워크 관련 설명서를 참조하세요. 예를 들면 다음과 같습니다.
옵션 4: 기존 모델 미세 조정
포옹 얼굴 또는 다른 소스에 많은 모델은 미세 조정할 수 있습니다 (포옹 얼굴의 모델 카드에 대한 지침에 따라). 그런 다음 위의 옵션 3의 지침에 따라 미세 조정된 모델을 ONNX로 변환할 수 있습니다.
모델을 미세 조정하는 인기 있는 방법은 olive finetune 명령을 사용하는 것입니다. 올리브 사용에 대한 자세한 내용은 올리브 설명서를 참조하세요.
옵션 5: 모델 학습
특정 작업에 대한 모델이 필요하고 기존 모델을 찾을 수 없는 경우 PyTorch, TensorFlow 또는 기타 프레임워크에서 직접 학습할 수 있습니다.
모델을 학습한 후에는 위의 옵션 3의 지침에 따라 모델을 ONNX 형식으로 변환합니다.
다음 단계
ONNX 모델이 있으면 대상 디바이스에서 Windows ML로 실행할 수 있습니다.
- 실행 공급자 초기화 - Windows ML에서 실행 공급자 다운로드 및 등록
- ONNX 모델 실행 - Windows ML을 사용하여 유추를 실행하는 방법 알아보기
기타 솔루션
Windows의 Microsoft Foundry의 일부로 Windows ML을 통해 실행되는 수십 개의 즉시 사용할 수 있는 AI 모델 및 API 중에서 선택할 수도 있습니다. 자세한 내용은 Windows에서 Microsoft Foundry와 함께 로컬 AI 사용을 참조하세요.