Microsoft Foundry에서 미세 조정

미세 조정은 작업별 데이터에 대한 추가 학습을 통해 미리 학습된 모델을 작업에 맞게 조정합니다. 각 프롬프트에 예제를 추가하는 대신 모델의 가중치를 조정합니다. 모델을 처음부터 학습시키지 않고 모델의 기존 기능을 활용할 수 있습니다.

미세 조정은 고품질의 작업별 학습 데이터가 있고 다음을 수행하려는 경우에 도움이 될 수 있습니다.

정확도 및 관련성을 향상시킵니다. 프롬프트에 담을 수 있는 양보다 더 많은 예제를 학습하면 작업별 패턴을 학습할 수 있습니다.
프롬프트 오버헤드를 줄이세요. 프롬프트 예제가 적을수록 토큰 비용과 대기 시간을 줄일 수 있습니다.
스타일과 구조를 일치시키세요. 응답은 일관된 톤, 형식 또는 스키마를 따를 수 있습니다.
도구 사용 능력을 향상시키세요. 학습 예제는 도구 선택 및 인수 정확도를 향상시킬 수 있습니다.
검색된 컨텍스트를 효과적으로 사용합니다. 모델은 관련 컨텍스트의 우선 순위를 지정하고 관련 없는 정보를 무시하는 방법을 배울 수 있습니다.
더 작은 모델에 특화하세요. 교사 생성 예제는 더 작은 모델이 더 낮은 비용 및 대기 시간으로 작업 요구 사항을 충족하는 데 도움이 될 수 있습니다.

혜택은 보장되지 않습니다. 홀드아웃 평가는 미세 조정된 모델을 기준선과 비교하는 데 도움이 됩니다. 파인 튜닝에는 학습 및 호스팅 비용이 추가로 들며, 최신 정보 검색이나 애플리케이션 수준의 안전 제어를 대체하지 않습니다.

학습 방식 선택

Microsoft Foundry는 두 가지 학습 방법을 제공합니다. 관리형 파인 튜닝은 사용자의 데이터와 설정을 기반으로 학습 작업을 실행합니다. 대화형 학습(미리 보기)을 사용하면 Python 학습 단계를 제어할 수 있습니다.

두 방식 모두 Foundry에서 관리하는 학습 인프라를 사용하므로 학습용 GPU를 따로 프로비저닝할 필요가 없습니다.

Note

대화형 교육은 미리 보기 상태이며 명시적 액세스 승인이 필요합니다. 교육 세션을 생성하기 전에 미리 보기 신청 양식을 통해 접근 권한을 요청하고 승인을 기다리세요.

	관리형 파인튜닝	대화형 학습(미리 보기)
작동 방식	데이터 및 설정 제출; Foundry는 학습 작업을 실행합니다.	Foundry가 학습 및 샘플링 작업을 실행하는 Python 루프를 작성하세요.
최적입니다	하위 수준 학습 작업보다 미리 정의된 워크플로를 선호하는 초보자 및 AI 엔지니어.	숙련된 머신 러닝 전문가들이 맞춤형 학습 워크플로를 구축합니다.
내 제어 권한	데이터, 지원되는 하이퍼매개변수 및 RFT 채점자	손실, 보상, 롤아웃, 그래디언트 누적, 업데이트 및 체크포인트.
학습 방법	모델별 SFT, DPO 및 RFT; 교사가 생성한 SFT 데이터를 통해 증류합니다.	SFT, 강화 학습, 선호 학습, 증류 및 사용자 지정 손실 함수에 대한 레시피.
예제 사용 사례	더 큰 모델을 증류하거나, 지원 대화에서 배우거나, 채점자를 사용하여 응답을 개선합니다.	도구 사용 롤아웃을 수집하거나, 사용자 지정 보상을 적용하거나, 학습 루프 업데이트 및 평가 동작을 변경합니다.

Tip

모델 사용자 지정이 처음이라면 관리형 파인 튜닝부터 시작하세요. 개별 학습 작업을 구현할 필요 없이 미리 정의된 워크플로를 제공합니다.

모델 요구 사항은 이 선택을 제한할 수 있습니다. 하나의 접근 방식, 방법 또는 양식에 대해 지원되는 모델이 다른 접근 방식, 방법 또는 양식에 대해 자동으로 지원되는 것은 아닙니다. Cookbook 레시피 지원도 서비스 가용성을 보장하지 않습니다. 사용 가능한 조합은 다음 지원 모델 표를 참조하세요.

사용자 지정 방법

사용자 지정 방법은 모델이 학습 데이터 또는 피드백(예: 원하는 응답, 기본 설정 또는 보상)에서 학습하는 방법을 결정합니다.

Method	학습 신호	적합한 경우
강화 파인 튜닝(SFT)	프롬프트 및 원하는 응답입니다.	모델이 학습해야 하는 동작을 보여 줄 수 있습니다.
직접 선호 최적화(DPO)를 사용한 선호 미세 조정	동일한 입력에 대한 선호되는 응답 및 거부 응답입니다.	품질은 하나의 정답이 아니라 톤이나 완성도와 같은 선호도에 따라 달라집니다.
강화 미세 조정(RFT)	프롬프트와 생성된 응답을 채점하는 그레이더.	다양한 해결책이 가능하며, 그 품질을 확실하게 평가할 수 있습니다.

이 테이블의 미리 정의된 메서드는 관리되는 미세 조정에만 적용됩니다. 대화형 학습은 사용자 지정 학습 워크플로를 구축하기 위한 학습 기본 요소를 제공합니다.

교육 유형

학습 유형은 학습이 실행되는 위치와 용량, 가격 책정 및 서비스 보장이 적용되는 방식을 정의합니다. 학습된 모델을 제공하는 방법을 결정하는 배포 유형과는 별개입니다.

학습 유형	Description
Standard	학습은 현재 Foundry 리소스의 지역에서 발생하며 데이터 레지던시를 보장합니다. 데이터가 특정 지역에 남아 있어야 하는 워크로드에 적합합니다.
데이터 영역	학습은 단일 지역이 아닌 지원되는 데이터 영역 내에서 발생합니다. 데이터가 해당 영역 내에 남아 있어야 하는 워크로드에 적합합니다. 현재 미국 데이터 영역만 지원됩니다.
전역	현재 지역 이외의 용량을 사용하여 표준에 비해 더 저렴한 가격을 제공합니다. 데이터 및 가중치는 학습이 발생하는 지역에 복사됩니다. 데이터 상주가 제한되지 않고 더 빠른 큐 시간을 원하는 경우에 이상적입니다.
Developer	학습에 유휴 용량을 사용하여 상당한 비용 절감을 제공합니다. 대기 시간 또는 SLA 보장은 없으므로 이 계층의 작업이 자동으로 선점되고 나중에 다시 시작될 수 있습니다. 데이터 보존도 보장되지 않습니다. 실험 및 가격에 민감한 워크로드에 적합합니다.

배포 옵션

Foundry는 다양한 서비스 인프라 및 청구 모델을 포함하는 세 가지 배포 옵션을 제공합니다.

서버리스: Foundry는 미세 조정된 모델을 호스팅하고 서빙 인프라를 관리합니다.
관리형 컴퓨팅(미리 보기): 전용 GPU 용량은 하나 이상의 호환 가능한 LoRA 어댑터를 갖춘 동일한 기본 모델에서 실행됩니다.
Foundry의 Fireworks(미리 보기): Fireworks 런타임은 기본 모델의 전체 용량 복사본에 통합된 하나의 어댑터를 제공합니다.

서버리스 및 Fireworks는 처리 지역, 용량 및 청구 모델을 결정하는 서로 다른 배포 유형을 제공합니다. 가용성은 모델, 배포 옵션 및 아티팩트에 따라 달라집니다.

배포 유형	Description
Standard	배포 지역에서 토큰별 요금 및 해당 파인 튜닝 모델 호스팅 요금을 적용하여 추론을 실행합니다.
데이터 영역 표준	지원되는 데이터 영역 내에서 추론을 실행하며 토큰 단위로 요금이 부과됩니다. 미국 데이터 영역만 지원됩니다.
글로벌 표준	토큰당 청구와 함께 전역 용량을 사용합니다. 사용자 지정 모델 가중치는 리소스의 지리 외부에 일시적으로 저장될 수 있습니다.
Developer	토큰당 청구되며 시간당 호스팅 요금이나 데이터 상주 보장 없이 전 세계적으로 추론을 실행합니다. 평가 전용입니다. 24시간 동안 지속되며 가용성 SLA가 없습니다.
프로비전된 처리량	예측 가능한 처리량을 위해 프로비저닝된 처리량 단위(PTU)로 요금이 청구되는 지역 용량을 제공합니다.
전 세계적으로 준비됨	가져온 사용자 지정 모델에 대해 PTU 기반 청구와 함께 전역 용량을 사용합니다.

지원되는 모델

요구 사항에 따라 특정 모델 또는 학습 접근 방식이 요구될 수 있습니다. 표를 사용하여 사용자 지정 방법, 학습 유형 및 배포 옵션을 지원하는 조합을 확인하세요.

지원되는 서버리스 배포의 경우, 별도의 설명이 없는 한 글로벌 표준, 데이터 영역 표준 및 개발자 버전을 사용할 수 있습니다. 해당 배포 유형에 대해 표준 배포 지역 및 프로비저닝된 처리량 배포 지역을 확인하세요.

모델 아이디	Approach	교육 유형	배포 옵션
`MAI-Code-1.1-Flash` (프리뷰)	관리: ✅ (RFT) 대화형: ❌	표준: ❌ 데이터 영역: ❌ 글로벌: ✅ 개발자: ✅	서버리스: ✅² 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`Muse-Glimmer-30B` (프리뷰)	관리: ✅ (SFT, RFT) 대화형: ✅	표준: ❌ 데이터 영역: ❌ 글로벌: ✅ 개발자: ✅	서버리스: ❌ 관리되는 컴퓨팅: ✅ Fireworks: ✅¹
`Llama-3.3-70B-Instruct`	관리됨: ✅ (SFT) 대화형: ❌	표준: ❌ 데이터 영역: ✅ 글로벌: ✅ 개발자: ❌	서버리스: ✅² 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`Qwen3-32B`	관리됨: ✅ (SFT) 대화형: ❌	표준: ❌ 데이터 영역: ✅ 글로벌: ✅ 개발자: ❌	서버리스: ✅² 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`Qwen3.6-35B-A3B` (프리뷰)	관리: ✅ (SFT, RFT) 대화형: ✅	표준: ❌ 데이터 영역: ❌ 글로벌: ✅ 개발자: ✅	서버리스: ❌ 관리되는 컴퓨팅: ✅ Fireworks: ✅¹
`Qwen3.8-27B` (프리뷰)	관리: ✅ (SFT, RFT) 대화형: ✅	표준: ❌ 데이터 영역: ❌ 글로벌: ✅ 개발자: ✅	서버리스: ❌ 관리되는 컴퓨팅: ✅ Fireworks: ✅¹
`gpt-oss-20b`	관리됨: ✅ (SFT) 대화형: ✅	표준: ❌ 데이터 영역: ✅ 글로벌: ✅ 개발자: ❌	서버리스: ✅² 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`gpt-oss-120b` (프리뷰)	관리: ✅ (SFT, RFT) 대화형: ✅	표준: ❌ 데이터 영역: ❌ 글로벌: ✅ 개발자: ✅	서버리스: ❌ 관리되는 컴퓨팅: ✅ Fireworks: ✅¹
`Ministral-3B` (2411)	관리됨: ✅ (SFT) 대화형: ❌	표준: ❌ 데이터 영역: ✅ 글로벌: ✅ 개발자: ❌	서버리스: ✅² 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`gpt-4o-mini` (2024-07-18)	관리됨: ✅ (SFT) 대화형: ❌	표준: ✅ 데이터 영역: ✅ 글로벌: ✅ 개발자: ✅	서버리스: ✅⁵ 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`gpt-4o` (2024-08-06)	관리: ✅ (SFT, DPO) 대화형: ❌	표준: ✅ 데이터 영역: ✅ 글로벌: ✅ 개발자: ✅	서버리스: ✅⁵ 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`gpt-4.1` (2025-04-14)	관리: ✅ (SFT, DPO) 대화형: ❌	표준: ✅ 데이터 영역: ✅ 글로벌: ✅ 개발자: ✅	서버리스: ✅ 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`gpt-4.1-mini` (2025-04-14)	관리: ✅ (SFT, DPO) 대화형: ❌	표준: ✅ 데이터 영역: ✅ 글로벌: ✅ 개발자: ✅	서버리스: ✅ 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`gpt-4.1-nano` (2025-04-14)	관리: ✅ (SFT, DPO) 대화형: ❌	표준: ✅ 데이터 영역: ✅ 글로벌: ✅ 개발자: ✅	서버리스: ✅ 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`o4-mini` (2025-04-16)	관리: ✅ (RFT) 대화형: ❌	표준: ✅ 데이터 영역: ✅ 글로벌: ✅ 개발자: ✅	서버리스: ✅ 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`gpt-5` (2025-08-07)³	관리: ✅ (RFT) 대화형: ❌	표준: ✅ 데이터 영역: ✅ 글로벌: ✅ 개발자: ❌	서버리스: ✅⁴ 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`MedImageInsight-Premium` (프리뷰)	관리됨: ✅ (SFT) 대화형: ❌	전역	서버리스: ✅² 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌
`CXRReportgen-Premium` (프리뷰)	관리됨: ✅ (SFT) 대화형: ❌	전역	서버리스: ✅² 관리되는 컴퓨팅: ❌ 불꽃놀이: ❌

범례

¹ 프로비전된 처리량 배포 유형만 지원됩니다.
² 전역 표준 배포 유형만 지원됩니다.
³ GPT-5 강화 미세 조정에는 초대가 필요합니다. 등록을 위해 Microsoft 계정 팀에 문의하세요.
⁴ 표준 배포 유형만 지원됩니다. 표준 배포 지역을 참조하세요.
⁵ 개발자 배포 유형은 지원되지 않습니다.

지원되는 글로벌 교육 지역

Note

글로벌 교육은 토큰당 더 저렴한 교육을 제공하지만 데이터 상주를 제공하지는 않습니다.

이 표에는 전역 관리형 미세 조정 및 대화형 학습(미리 보기)을 사용하는 데 필요한 Foundry 프로젝트 영역이 나열되어 있습니다. 다음 제한 사항을 포함하여 사용하는 모델과 학습 방식에 지원되는 지역을 선택하세요. 표준 학습과 데이터 영역 학습은 지역별 지원이 별도로 제공됩니다.

Foundry 프로젝트 지역	관리형 파인튜닝	대화형 학습(미리 보기)
Australia East	✅	✅
Brazil South	✅ ¹	❌
Canada Central	✅ ¹	❌
Canada East	✅ ¹	✅
East US	✅	✅
미국 동부 2	✅	✅
France Central	✅ ¹	❌
독일 중서부	✅ ¹	❌
Italy North	✅ ¹	❌
Japan East	✅ ^1,2	❌
Korea Central	✅	✅
미국 중북부	✅	✅
Norway East	✅ ¹	❌
Poland Central	✅ ^1,3	❌
남아프리카 북부	✅ ¹	❌
미국 중남부	✅ ¹	❌
South India	✅ ¹	❌
Southeast Asia	✅ ¹	❌
Spain Central	✅ ¹	❌
Sweden Central	✅	✅
Switzerland North	✅	✅
Switzerland West	✅ ¹	❌
UAE North	✅ ⁴	✅
UK South	✅	✅
West Europe	✅ ¹	❌
West US	✅ ¹	❌
미국 서부 3	✅	✅

¹ 이 지역에서는 Qwen3.6-35B-A3B, Qwen3.8-27B, Muse-Glimmer-30B, gpt-oss-120b에 대한 관리형 파인 튜닝이 지원되지 않습니다.
² 비전 미세 조정은 일본 동부에서 지원되지 않습니다.
³ 폴란드 중부에서는 관리되는 미세 조정 gpt-4.1-nano 이 지원되지 않습니다.
⁴ 아랍에미리트 북부는 Qwen3.6-35B-A3B, Qwen3.8-27B, Muse-Glimmer-30B, gpt-oss-120b에 대해서만 글로벌 관리형 파인 튜닝을 지원합니다.

지원되는 표준 배포 지역

다음 모델만 서버리스 표준 배포를 지원합니다. 테이블에서 지역별 가용성을 확인합니다.

모델 아이디	미국 동부 2	미국 중북부	Sweden Central
`gpt-4o-mini`	❌	✅	✅
`gpt-4o`	✅	❌	✅
`gpt-4.1`	❌	✅	✅
`gpt-4.1-mini`	❌	✅	✅
`gpt-4.1-nano`	❌	✅	✅
`o4-mini`	✅	❌	✅
`gpt-5`	❌	✅	✅

지원되는 프로비저닝 처리량 배포 지역

다음 나열된 지역에서만 서버리스 프로비저닝 처리량 배포를 지원합니다.

모델 아이디	미국 중북부	Sweden Central
`gpt-4o-mini`	✅	✅
`gpt-4o`	✅	✅
`gpt-4.1`	❌	✅

과제 및 제한 사항

미세 조정은 보장된 개선이 아니라 반복적인 엔지니어링 프로세스입니다.

과제	해결 방법
데이터 품질 및 범위	정확하고 일관적인 대표적인 예제를 사용합니다. 데이터를 업로드하기 전에 누락된 시나리오, 중복 데이터, 편향된 정보 및 민감한 정보를 검사하세요.
과적합 및 평가 누출	학습, 유효성 검사 및 최종 테스트 데이터를 구분합니다. 학습 손실뿐만 아니라, 제외된 작업의 체크포인트도 비교해야 합니다.
오해의 소지가 있는 보상 신호	정답, 오답 및 반대 의견에 대해 RFT 그레이더를 테스트하세요. 모델이 그레이더를 악용하는 경우 보상 수준이 높아진다고 해서 작업 성능이 향상되는 것은 아닙니다.
실험 및 비용	반복 실행, 그레이딩, 평가, 호스팅 및 추론에 필요한 예산을 책정하세요. 대상 메트릭을 개선하지 않는 실험을 중지합니다.
모델 및 서비스 호환성	학습 전에 방법, 계층, 버전 및 배포 자격을 확인합니다. 어댑터는 비슷한 이름의 기본 모델 간에 교환할 수 없습니다.
Maintenance	작업 데이터가 변경되거나 기본 모델이 사용 중지에 가까워지면 품질을 재평가합니다. 재학습 및 재배포가 필요할 수 있습니다.
안전 및 거버넌스	데이터 처리 및 관리형 안전성 평가를 검토하세요. 애플리케이션 수준 안전 제어를 유지하고 최종 서비스 런타임을 평가합니다.
대화형 런타임 책임	드라이버, 환경, 토큰화, 체크포인트 및 복구 로직을 유지 관리하세요. 세션 내 샘플링은 프로덕션 서비스 동작을 증명하지 않습니다.

다음 단계

학습 방법에 대한 가이드부터 시작한 다음, 미세 조정된 모델을 배포하고 평가합니다.

피드백

이 페이지가 도움이 되었나요?

2026-10-16 에 마지막으로 업데이트됨