Microsoft Foundry 모델은 강력한 AI 모델을 검색, 평가 및 배포하기 위한 원스톱 대상입니다. 사용자 지정 코파일럿이나 에이전트를 구축하든, 기존 애플리케이션을 향상하든, 새로운 AI 기능을 탐색하든, Foundry Models가 지원합니다.
Foundry 모델을 사용하여 다음을 수행할 수 있습니다.
- Microsoft, Azure OpenAI, Anthropic, DeepSeek, Meta, Mistral, Cohere, Hugging Face 등 다양한 최첨단 모델 카탈로그를 살펴보세요.
- 실제 작업 및 사용자 고유의 데이터를 사용하여 모델을 나란히 비교하고 평가합니다.
- 미세 조정, 관찰 가능성 및 책임 있는 AI를 위한 기본 제공 도구 덕분에 확신을 가지고 배포합니다.
- 경로를 선택합니다. 사용자 고유의 모델을 가져오거나, 호스트된 모델을 사용하거나, Azure 서비스와 원활하게 통합합니다.
개발자, 데이터 과학자 또는 엔터프라이즈 설계자이든 Foundry Models는 안전하고 책임감 있고 빠르게 확장되는 AI 솔루션을 빌드할 수 있는 유연성과 제어 기능을 제공합니다.
Foundry는 포괄적인 AI 모델 카탈로그를 제공합니다. 카탈로그에는 매달 약 50개의 새 모델이 게시되는 10,000개 이상의 모델이 포함되어 있습니다. 이러한 모델은 기본 모델, 추론 모델, 작은 언어 모델, 멀티모달 모델, 도메인별 모델 및 업계 모델에 이르기까지 다양합니다.
모델 카탈로그는 다음 두 가지 주요 범주로 구성됩니다.
이러한 범주 간의 차이점을 이해하면 특정 요구 사항 및 전략적 목표에 적합한 모델을 선택하는 데 도움이 됩니다.
참고
모든 모델의 경우 다음을 담당합니다.
- 모든 모델 또는 시스템 사용에 관한 법률 준수
- 모델 카탈로그의 모델 설명 검토, 모델 공급자가 사용할 수 있는 모델 카드 및 기타 관련 설명서
- 사용 사례에 적합한 모델 선택
- Foundry 도구의 사용이 Microsoft 제품 약관 및 Microsoft 엔터프라이즈 AI 서비스 행동 강령의 허용 가능한 사용 정책을 준수하도록 적절한 조치(Azure AI 콘텐츠 보안 사용 포함)를 구현합니다.
Azure 판매한 모델
Microsoft는 Microsoft 제품 약관에 따라 이러한 모델을 호스트하고 판매합니다. Microsoft 이러한 모델을 평가하고 Azure AI 에코시스템에 심층적으로 통합합니다. 모델은 다양한 공급자에서 제공되며 엔터프라이즈급 SLA(서비스 수준 계약)를 포함하여 향상된 통합, 최적화된 성능 및 직접 Microsoft 지원을 제공합니다. 이러한 모델 및 해당 기능에 대한 자세한 목록은 Azure 판매된 Foundry 모델을 참조하세요.
Azure 판매한 모델의 특징:
- Microsoft 지원을 제공합니다.
- Azure 서비스 및 인프라와의 높은 수준의 통합.
- Microsoft 책임 있는 AI 표준에 따라 내부 분석 및 검토 대상: Azure 통해 직접 판매되는 모델은 Microsoft 내부 책임 있는 AI 검토 프로세스를 거치며, 이러한 검토의 상위 수준 결과는 사용 가능한 https://ai.azure.com/explore/models모델 카탈로그의 각 모델과 관련된 설명서에 반영됩니다.
- 고객은 애플리케이션에 통합하기 전에 설명서의 평가 세부 정보를 참조하여 각 모델의 제한 사항을 이해해야 합니다.
- 고객은 이러한 검토가 잠재적 위험 완화를 보장하지 않는다는 점에 유의해야 합니다. 다른 모델은 서로 다른 안전 특성을 가지며 고객은 배포 전에 위험을 이해하거나 완화할 수 있도록 애플리케이션 컨텍스트에서 설명서를 신중하게 검토하고 자체 평가를 수행해야 합니다.
- 모델 설명서 및 투명성 보고서는 모델 위험, 완화 및 제한 사항에 대한 고객의 가시성을 제공합니다.
- 엔터프라이즈급 확장성, 안정성 및 보안
이러한 모델 중 일부는 대체 가능한 할당된 처리량을 제공하므로 이러한 모델에서 할당량과 예약을 유연하게 사용할 수 있습니다. Azure를 통해 판매되는 Foundry 모델에 제공한 데이터를 Foundry에서 처리하는 방법을 알아보려면 Microsoft Foundry의 Azure를 통해 판매되는 모델에 대한 데이터, 개인정보 보호 및 보안을(를) 참조하세요.
파트너 및 커뮤니티의 모델
이러한 모델은 대부분의 Foundry 모델을 구성합니다. 이러한 모델은 신뢰할 수 있는 타사 조직, 파트너, 연구 랩 및 커뮤니티 기여자가 제공합니다. 다양한 시나리오, 산업 및 혁신을 다루는 전문적이고 다양한 AI 기능을 제공합니다. 파트너와 커뮤니티에서 제공하는 모델의 예로는 Anthropic에서 개발한 대규모 언어 모델 제품군과 Hugging Face 허브의 오픈 모델이 있습니다.
Anthropic에는 텍스트 및 이미지 입력, 텍스트 출력, 다국어 기능 및 비전을 지원하는 최신 대형 언어 모델의 Claude 제품군이 포함되어 있습니다. 인류 모델에 대한 도움말을 보려면 Microsoft 지원 사용합니다. 개인 정보 보호에 대한 자세한 내용은
Hugging Face Hub에는 관리형 컴퓨팅을 사용한 실시간 유추를 위한 수백 개의 모델이 포함되어 있습니다. Hugging Face는 이 컬렉션에 나열된 모델을 생성하고 관리합니다. 포옹 얼굴 모델에 대한 도움을 받으려면 포옹 얼굴 포럼 또는 포옹 얼굴 지원을 사용하세요. 관리형 컴퓨팅 배포(클래식)를 사용하여 배포하고 유추하는 방법에서 Hugging Face 모델을 배포하는 방법을 알아봅니다.
중요
Hugging Face 모델과 같은 관리형 컴퓨팅에 배포할 수 있는 모델을 사용하려면 Foundry 포털(클래식)에서 허브 기반 프로젝트를 사용합니다. 사용 가능한 Foundry 포털에 대한 자세한 내용은 Microsoft Foundry란?
파트너 및 커뮤니티의 모델 특징:
- 외부 파트너 및 커뮤니티 기여자가 개발하고 지원합니다.
- 틈새 또는 광범위한 사용 사례에 맞는 다양한 특수 모델
- Azure 제공된 통합 지침과 함께 공급자 자체에서 일반적으로 유효성을 검사합니다.
- 커뮤니티 기반의 혁신 및 최첨단 모델의 신속한 가용성
- 표준 Azure AI 통합, 각 공급자가 관리하는 지원 및 유지 관리
관리형 컴퓨팅 또는 서버리스 배포 옵션을 사용하여 파트너 및 커뮤니티의 모델을 배포합니다. 모델 공급자는 모델을 배포할 수 있는 방법을 선택합니다. 이러한 배포 옵션 간의 차이점에 대해 알아보려면 모델 배포 옵션( 관리형 컴퓨팅 및 서버리스 배포)을 참조하세요.
모델 카탈로그에 포함할 모델 요청
Foundry 포털의 모델 카탈로그 페이지에서 바로 모델 카탈로그에 모델을 추가할 Microsoft 요청합니다.
- 모델 카탈로그 페이지로 이동합니다.
- 검색 창에서 mymodel과 같이 카탈로그에 없는 모델을 검색합니다.
- 요청하려는 모델에 대한 세부 정보를 공유하려면 모델 요청을 선택합니다.
Azure 판매한 모델과 파트너와 커뮤니티의 모델 중에서 선택
사용할 Foundry 모델을 선택할 때 다음 요소를 고려합니다.
- 사용 사례 및 요구 사항: Azure 판매된 모델은 심층 Azure 통합, 보장된 지원 및 엔터프라이즈 SLA가 필요한 시나리오에 이상적입니다. 파트너와 커뮤니티의 모델은 특수한 사용 사례 및 혁신 주도 시나리오에서 탁월합니다.
- 지원 기대: Azure 판매되는 모델에는 강력한 Microsoft 제공 지원 및 유지 관리가 제공됩니다. 파트너 및 커뮤니티 모델은 다양한 수준의 SLA 및 지원 구조를 통해 공급자가 지원합니다.
- 혁신 및 전문화: 파트너와 커뮤니티의 모델은 전문화된 혁신과 틈새 기능에 빠르게 액세스할 수 있으며, 종종 선도적인 연구 랩 및 신흥 AI 공급자가 개발합니다.
모델 카탈로그 기능 개요
Foundry 포털의 모델 카탈로그는 다양한 모델을 검색하고 사용하여 생성 AI 애플리케이션을 빌드하기 위한 허브입니다. 모델 카탈로그에는 Microsoft가 학습시킨 모델을 포함하여 Azure OpenAI, Anthropic, Mistral, Meta, Cohere, NVIDIA, Hugging Face와 같은 제공업체의 수천 개 모델이 제공됩니다. Microsoft 이외의 공급자의 모델은 Microsoft 제품 약관에 정의된 비 Microsoft 제품이며 모델에 제공된 약관의 적용을 받습니다.
키워드 검색 및 필터를 통해 요구 사항에 맞는 모델을 검색하고 검색합니다. 또한 모델 카탈로그는 선택한 모델에 대한 모델 성능 순위표 및 벤치마크 메트릭을 제공합니다. 순위표 보기 및 모델 비교를 선택하여 액세스합니다. 벤치마크 데이터는 모델 카드의 벤치마크 탭에서도 사용할 수 있습니다 .
모델 카탈로그에는 몇 가지 필터가 포함되어 있으며, 그 중 일부는 다음을 기반으로 필터링을 포함합니다.
- 컬렉션: 모델 공급자 컬렉션
- 지역: 특정 Azure 지역의 배포에 대한 모델 가용성
- 배포 옵션: 지원되는 배포 옵션(관리형 컴퓨팅 또는 서버리스 API)
- 배포 SKU: 서버리스 API 배포 옵션에 사용 가능한 배포 유형
- 수명 주기: 모델 수명 주기 (미리 보기, 정식 출시 또는 지원 중단 예정)
- 산업: 모델 학습에 사용되는 산업별 데이터 세트(예: 상태, 소매 또는 제조)
- 지원되는 기능: 추론 및 도구 호출과 같은 고유한 모델 기능
- 유추 작업: 유추 작업 유형(예: 채팅 완료, 오디오 생성 또는 포함)
모델 카드에서 사용할 수 있는 세부 정보 중 일부는 다음과 같습니다.
- 빠른 정보: 모델에 대한 주요 정보 한눈에 보기
- 세부 정보 탭: 설명, 버전 정보 및 지원되는 데이터 형식과 같은 모델에 대한 자세한 정보
- 배포 탭: 모델에 대한 기존 배포 목록
- 벤치마크 탭: 선택한 모델에 대한 성능 벤치마크 메트릭
- 라이선스 탭: 모델 라이선스와 관련된 법적 정보
모델 배포 옵션: 관리형 컴퓨팅 및 서버리스 배포
팁
항상 배포를 만들 필요는 없습니다. 즉시 액세스(미리 보기)를 사용하면 지원되는 모델을 이름으로 호출하고 배포가 필요하지 않은 즉시 유추 실행을 시작합니다.
모델 카탈로그는 사용할 모델을 배포하는 두 가지 고유한 옵션인 관리형 컴퓨팅 및 서버리스 배포를 제공합니다. 배포 옵션에 대한 자세한 내용은 Microsoft Foundry 모델의 배포 개요를 참조하세요. Azure를 통해 판매되는 Foundry 모델에 제공한 데이터를 Foundry에서 처리하는 방법을 알아보려면 Microsoft Foundry의 Azure를 통해 판매되는 모델에 대한 데이터, 개인정보 보호 및 보안을(를) 참조하세요.
모델 배포 옵션의 기능
다음 표에 설명된 대로 각 모델에 사용할 수 있는 배포 옵션 및 기능은 다양합니다.
| 기능 | 관리되는 컴퓨팅 | 서버리스 배포 |
|---|---|---|
| 배포 경험 및 청구 | 모델 가중치는 관리형 컴퓨팅을 사용하여 전용 가상 머신에 배포됩니다. 하나 이상의 배포를 포함할 수 있는 관리형 컴퓨팅은 유추를 위해 REST API를 사용할 수 있도록 합니다. 배포에서 사용하는 가상 머신 코어 시간에 대한 요금이 청구됩니다. | API를 프로비전하는 배포를 통해 모델에 액세스합니다. API는 유추를 위해 호스트하고 관리하는 Microsoft 모델에 대한 액세스를 제공합니다. 일반적으로 토큰에서 API에 대한 입력 및 출력에 대한 요금이 청구됩니다. 가격 책정 정보는 배포하기 전에 제공됩니다. |
| API 인증 | 키 및 Microsoft Entra 인증. | 키 및 Microsoft Entra 인증. |
| 콘텐츠 안전성 | Azure AI 콘텐츠 보안 서비스 API를 사용합니다. | Azure AI 콘텐츠 보안 필터는 유추 API와 통합되어 사용할 수 있습니다. Azure AI 콘텐츠 보안 필터는 별도로 청구됩니다. |
| 네트워크 격리 | Microsoft Foundry Hubs(클래식) 관리 네트워크를 구성합니다. | 관리되는 네트워크는 Foundry 리소스에 대한 PNA(공용 네트워크 액세스) 플래그 설정을 따릅니다. 자세한 내용은 이 문서의 뒷부분에 있는 서버리스 배포를 통해 배포된 모델의 네트워크 격리 섹션을 참조하세요. |
관리되는 컴퓨팅
관리형 컴퓨팅으로 모델을 배포하는 기능은 Azure Machine Learning 플랫폼 기능을 기반으로 하여 LLM(대규모 언어 모델) 작업의 전체 수명 주기에 걸쳐 모델 카탈로그의 광범위한 모델 컬렉션을 원활하게 통합할 수 있도록 합니다.
중요
관리형 컴퓨팅에서 배포할 수 있는 모델을 사용하려면 Foundry 포털(클래식)에서 허브 기반 프로젝트를 사용합니다. 사용 가능한 Foundry 포털에 대한 자세한 내용은 Microsoft Foundry란?
관리형 컴퓨팅으로 배포할 모델의 가용성
Azure Machine Learning 레지스트리를 통해 이러한 모델에 액세스할 수 있습니다. 이러한 레지스트리를 사용하면 Azure Machine Learning 자산
레지스트리는 다음과 같은 확장성이 뛰어나고 엔터프라이즈급 인프라를 기반으로 합니다.
기본 제공 지역 복제를 사용하여 모든 Azure 지역의 모델 아티팩트에게 짧은 대기 시간 액세스를 제공합니다.
관리형 가상 네트워크를 사용하여 Azure Policy 사용하여 모델에 대한 액세스 제한 및 보안 배포와 같은 엔터프라이즈 보안 요구 사항을 지원합니다.
관리형 컴퓨팅을 사용하여 유추할 모델 배포
관리형 컴퓨팅에 배포할 수 있는 모델을 Azure Machine Learning 관리형 컴퓨팅에 배포하여 실시간 추론에 사용합니다. 관리형 컴퓨팅에 배포하려면 모델을 최적으로 실행하려면 특정 제품에 대한 Azure 구독의 가상 머신 할당량이 필요합니다. 일부 모델을 사용하면 모델 테스트를 위해 일시적으로 공유된 할당량에 배포할 수 있습니다.
모델 배포에 대해 자세히 알아보세요.
- 열린 모델을 관리형 컴퓨팅에 배포하려면 관리형 컴퓨팅 배포(클래식)를 사용하여 배포 및 유추하는 방법을 참조하세요.
- 종량제 청구를 사용하여 관리형 컴퓨팅에 보호된 Foundry 모델을 배포하려면 클래식 종량제 청구를 통한 Microsoft Foundry 모델의 관리형 컴퓨팅 배포를 참조하세요.
관리형 컴퓨팅을 사용하여 생성 AI 앱을 구축하다
Azure Machine Learning 프롬프트 흐름 기능은 프로토타입을 위한 훌륭한 환경을 제공합니다. Open Model LLM 도구를 사용하여 프롬프트 흐름에서 관리형 컴퓨팅과 함께 배포된 모델을 사용합니다. LangChain과 같은 인기 있는 LLM 도구에서 관리형 컴퓨팅에서 노출하는 REST API를 Azure Machine Learning 확장 사용할 수도 있습니다.
관리형 컴퓨팅으로 배포된 모델의 콘텐츠 안전성
Azure AI 콘텐츠 보안 서비스는 관리 컴퓨팅과 함께 사용하여 성적 콘텐츠, 폭력, 증오 및 자해와 같은 다양한 범주의 유해한 콘텐츠를 선별하는 데 사용할 수 있습니다. 서비스를 사용하여 탈옥 위험 검색 및 보호된 자료 텍스트 검색과 같은 고급 위협을 차단할 수도 있습니다.
Llama 2와 Azure AI 콘텐츠 보안의 참조 통합에 대해서는 이 노트북을 참조하세요. 또는 프롬프트 흐름에서 컨트 세이프티(텍스트) 도구를 사용하여 모델에서 검사를 위해 Azure AI 콘텐츠 보안 응답을 전달합니다. Azure AI 콘텐츠 보안 가격 책정에 설명된 대로, 이러한 사용에 대해 별도로 요금이 청구됩니다.
서버리스 배포
서버리스 배포는 구독에서 호스트하지 않고 Foundry 모델을 API로 사용하는 방법을 제공합니다. Microsoft 모델 공급자의 모델에 대한 API 기반 액세스를 가능하게 하는 관리형 인프라에서 모델을 호스트합니다. API 기반 액세스는 모델에 액세스하는 비용을 크게 줄이고 설정 환경을 간소화할 수 있습니다.
모델 공급자는 서버리스 배포를 위한 모델을 제공하지만 Microsoft 관리되는 Azure 인프라에서 호스트하고 API를 통해 액세스를 제공합니다. 모델 공급자는 사용 조건을 정의하고 모델 사용에 대한 가격을 설정합니다. Azure Machine Learning 서비스:
- 호스팅 인프라를 관리합니다.
- 유추 API를 사용할 수 있도록 합니다.
- 전송된 프롬프트 및 서버리스 배포의 콘텐츠 출력에 대한 데이터 프로세서 역할을 합니다.
서버리스 배포 유형
Foundry 모델의 서버리스 배포 옵션은 표준(토큰당 지불) 및 프로비전된(예약된 용량)의 두 가지 주요 배포 범주를 제공합니다. 각 범주 내에서 규정 준수 요구 사항에 따라 전역, 데이터 영역 또는 지역 처리를 선택할 수 있습니다.
사용 가능한 서버리스 배포 유형은 전역 표준, 전역 프로비전됨, 전역 일괄 처리, 데이터 영역 표준, 프로비전된 데이터 영역, 데이터 영역 일괄 처리, 표준, 지역 프로비전 및 개발자입니다. 이러한 배포 유형 및 사용하기에 적합한 배포 유형을 선택하는 방법에 대한 자세한 내용은 Microsoft Foundry 모델의 배포 유형 참조하세요.
서버리스 배포에 대한 청구
서버리스 배포로 배포된 모델의 검색, 구독 및 사용 환경은 Foundry 포털 및 Azure Machine Learning 스튜디오. 사용자는 모델 사용에 대한 사용 조건을 수락합니다. 사용량에 대한 가격 정보는 배포 중에 사용할 수 있습니다.
파트너 및 커뮤니티의 파운드리 모델은 Microsoft 상업용 Marketplace 사용 약관 따라 Azure Marketplace 통해 청구됩니다.
Azure에서 판매하는 Foundry 모델은 퍼스트 파티 소비 서비스로서 Azure 미터를 통해 청구됩니다. 프로덕트 약관 설명한 대로 Azure 미터를 사용하여 자사 소비 서비스를 구매하지만 Azure 서비스 약관의 적용을 받지 않습니다. 이러한 모델의 사용은 제공된 사용 조건에 따라 다릅니다.
모델을 서버리스 방식으로 배포하여 사용하는 RAG
Foundry 포털에서 서버리스 배포를 통해 배포된 모델과 함께 벡터 인덱스 및 RAG(검색 보강 생성)를 사용하여 사용자 지정 데이터를 기반으로 embeddings 및 추론을 생성합니다. 이러한 포함 및 추론을 사용하여 사용 사례와 관련된 답변을 생성합니다. 자세한 내용은
서버리스 배포를 통해 배포된 모델의 콘텐츠 안전성
서버리스 API를 통해 배포된 언어 모델의 경우 Azure AI는 증오, 자해, 성적 및 폭력적인 콘텐츠와 같은 유해한 콘텐츠를 감지하는 Azure AI 콘텐츠 보안 텍스트 조정 필터의 기본 구성을 구현합니다. 콘텐츠 필터링에 대해 자세히 알아보려면 Azure에서 판매하는 모델용 가드레일 및 제어를 참조하세요.
팁
서버리스 API를 통해 배포되는 특정 모델 형식에는 콘텐츠 필터링을 사용할 수 없습니다. 이러한 모델 유형에는 모델 포함 및 시계열 모델이 포함됩니다.
콘텐츠 필터링은 서비스가 콘텐츠를 생성하라는 메시지를 처리할 때 동기적으로 발생합니다. 이와 같은 용도에는 Azure AI 콘텐츠 보안의 가격 책정 에 따라 별도 요금이 부과될 수 있습니다. 개별 서버리스 엔드포인트에 대해 콘텐츠 필터링을 사용하지 않도록 설정할 수 있습니다.
- 언어 모델을 처음 배포할 때
- 나중에 배포 세부 정보 페이지에서 콘텐츠 필터링 토글을 선택하여
Azure OpenAI v1 API와 함께 Azure OpenAI SDK 이외의 API를 사용하여 서버리스 API를 통해 배포된 모델을 사용한다고 가정합니다. 이러한 상황에서는 Azure AI 콘텐츠 보안 사용하여 별도로 구현하지 않는 한 콘텐츠 필터링이 활성화되지 않습니다.
Azure AI 콘텐츠 보안 시작하려면 Quickstart: 텍스트 콘텐츠 분석 참조하세요. 서버리스 API를 통해 배포된 모델을 사용할 때 콘텐츠 필터링을 사용하지 않는 경우 사용자에게 유해한 콘텐츠가 노출될 위험이 더 높습니다.
Foundry 모델의 지역별 가용성
토큰당 과금은 Azure 구독이 모델 공급자가 해당 서비스를 제공하는 국가 또는 지역의 청구 계정에 속한 사용자만 사용할 수 있습니다. 관련 지역에서 제품을 사용할 수 있는 경우 해당되는 경우 배포 또는 미세 조정에 모델을 사용할 수 있는 Azure 지역에 프로젝트 리소스가 있어야 합니다. Foundry 모델의 지역 가용성은 다음을 참조하세요.
서버리스 배포를 통해 배포된 모델에 대한 네트워크 격리
서버리스 배포로 배포된 모델의 엔드포인트는 배포가 있는 프로젝트가 있는 Foundry 허브의 공용 네트워크 액세스 플래그 설정을 따릅니다. 서버리스 배포를 보호하려면 Foundry 허브에서 공용 네트워크 액세스 플래그를 사용하지 않도록 설정합니다. 허브에 대한 프라이빗 엔드포인트를 사용하여 클라이언트에서 엔드포인트로의 인바운드 통신을 보호할 수 있습니다.
Foundry 허브에 대한 공용 네트워크 액세스 플래그를 설정하려면 다음을 수행합니다.
- Azure 포털 이동합니다.
- 허브가 속한 리소스 그룹을 검색하고 이 리소스 그룹에 대해 나열된 리소스에서 Foundry 허브를 선택합니다.
- 허브 개요 페이지의 왼쪽 창에서 설정>네트워킹으로 이동합니다.
- 공용 액세스 탭에서 공용 네트워크 액세스 플래그에 대한 설정을 구성합니다.
- 변경 내용을 저장합니다. 변경 내용을 전파하는 데 최대 5분이 걸릴 수 있습니다.
제한
2024년 7월 11일 이전에 만들어진 프라이빗 엔드포인트가 있는 Foundry 허브가 있는 경우 이 허브의 프로젝트에 추가된 서버리스 배포는 허브의 네트워킹 구성을 따르지 않습니다. 대신 새 배포가 허브의 네트워킹 구성을 따를 수 있도록 허브에 대한 새 프라이빗 엔드포인트와 프로젝트에 새 서버리스 배포를 만듭니다.
2024년 7월 11일 이전에 만든 서버리스 배포가 있는 Foundry 허브가 있고 이 허브에서 프라이빗 엔드포인트를 사용하도록 설정하는 경우 기존 서버리스 배포는 허브의 네트워킹 구성을 따르지 않습니다. 허브의 서버리스 배포가 허브의 네트워킹 구성을 따르려면 배포를 다시 만듭니다.
현재 Azure OpenAI On Your Data 지원은 프라이빗 허브의 서버리스 배포에 사용할 수 없습니다. 프라이빗 허브에는 공용 네트워크 액세스 플래그가 비활성화되어 있기 때문입니다.
모든 네트워크 구성 변경(예: 공용 네트워크 액세스 플래그를 사용하거나 사용하지 않도록 설정)은 전파하는 데 최대 5분이 걸릴 수 있습니다.
모델 미세 조정
특정 모델은 미세 조정도 지원합니다. 이러한 모델의 경우 관리형 컴퓨팅 또는 서버리스 배포를 미세 조정하여 제공하는 데이터를 사용하여 모델을 조정할 수 있습니다. 자세한 내용은 Microsoft Foundry(클래식)를 사용하여 모델을 세부 조정하기 위한 자료를 참조하세요.
모델 수명 주기: 사용 중단 및 폐기
AI 모델은 빠르게 진화합니다. 동일한 모델 패밀리에서 업데이트된 기능이 있는 새 버전 또는 새 모델을 사용할 수 있게 되면 Foundry 모델 카탈로그에서 이전 모델이 사용 중지될 수 있습니다. 최신 모델 버전으로 원활하게 전환할 수 있도록 일부 모델에서는 사용자가 자동 업데이트를 사용하도록 설정할 수 있습니다. 다양한 모델의 모델 수명 주기, 예정된 모델 사용 중지 날짜 및 제안된 대체 모델 및 버전에 대해 알아보려면 다음을 참조하세요.