AI 스튜디오 또는 Azure Machine Learning 중에서 어떤 환경을 선택해야 하나요?
이 문서는 Azure AI 스튜디오와 Azure Machine Learning을 사용해야 할 시기를 이해하는 데 도움이 됩니다. 각 환경의 기능이 겹치는 경우도 있지만, 이 문서에서는 각 기능의 개요와 각 플랫폼에 가장 적합한 개발 시나리오를 제공합니다.
Azure AI Studio
Azure AI 스튜디오는 생성형 AI 앱과 Azure AI API를 책임감 있게 개발하고 배포하기 위한 통합 플랫폼입니다. 여기에는 지능형 솔루션을 빌드, 테스트, 배포 및 관리할 수 있는 원스톱 상점을 제공하는 다양한 AI 기능, 간소화된 사용자 인터페이스 및 코드 우선 환경이 포함되어 있습니다.
AI 스튜디오가 나에게 적합한가요?
Azure AI 스튜디오는 개발자와 데이터 과학자가 Azure의 광범위한 AI 제품을 활용하여 생성형 AI 애플리케이션을 효율적으로 빌드하고 배포할 수 있도록 설계되었습니다.
Azure AI 스튜디오의 주요 기능
- 하나의 팀으로 함께 빌드합니다. AI 스튜디오 허브는 엔터프라이즈급 보안과 미리 학습된 모델, 데이터 및 컴퓨팅에 대한 공유 리소스 및 연결을 갖춘 공동 작업 환경을 제공합니다.
- 원하는 대로 구성합니다. AI 스튜디오 프로젝트를 사용하면 상태를 저장하여 첫 번째 아이디어에서 첫 번째 프로토타입, 첫 번째 프로덕션 배포까지 반복할 수 있습니다. 또한 이 여정을 따라 공동 작업할 수 있게 하도록 다른 사용자를 쉽게 초대할 수 있습니다.
- GitHub, Visual Studio Code, LangChain, 의미 체계 커널, AutoGen 등 선호하는 개발 플랫폼과 프레임워크를 사용합니다.
- 1,600개 이상의 모델을 살펴보고 벤치마킹합니다.
- 서버리스 API 및 호스트된 미세 조정을 통해 MaaS(Model-as-a-Service)를 프로비전합니다.
- 여러 모델, 데이터 원본 및 형식을 통합합니다.
- 미세 조정할 필요 없이 보호된 엔터프라이즈 데이터를 사용하여 RAG(검색 증강 세대)를 빌드합니다.
- 프롬프트 엔지니어링 및 LLM(대규모 언어 모델) 흐름을 오케스트레이션하고 관리합니다.
- 구성 가능한 필터와 제어 기능으로 앱과 API를 설계하고 보호합니다.
- 기본 제공 및 사용자 지정 평가 흐름을 사용하여 모델 응답을 평가합니다.
- 환경 전반에 걸쳐 지속적인 모니터링과 거버넌스를 통해 Azure의 관리 인프라에 AI 혁신을 배포합니다.
- 프로덕션 과정에서 배포된 앱의 안전, 품질, 토큰 사용량을 지속적으로 모니터링합니다.
Azure Machine Learning Studio
Azure Machine Learning 스튜디오는 Azure Machine Learning 모델을 대규모로 책임감 있게 빌드, 미세 조정, 배포 및 운영하기 위한 관리형 엔드투엔드 기계 학습 플랫폼입니다.
Azure Machine Learning 스튜디오가 적합한 선택일까요?
Azure Machine Learning은 기계 학습 엔지니어 및 데이터 과학자를 위해 설계되었습니다.
Azure Machine Learning 스튜디오의 주요 기능
- 클라우드 규모의 대규모 AI 워크로드를 위한 Spark 및 GPU 등 모든 유형의 컴퓨팅으로 Azure Machine Learning 모델을 빌드하고 학습시킵니다.
- 로우코드 Azure Machine Learning에 대해 자동 Azure Machine Learning(AutoML) 및 끌어서 놓기 UI를 실행합니다.
- 엔드투엔드 Azure Machine LearningOps 및 반복 가능한 Azure Machine Learning 파이프라인을 구현합니다.
- 바이어스 검색 및 오류 분석에 책임 있는 AI 대시보드를 사용합니다.
- 프롬프트 엔지니어링 및 LLM 흐름을 오케스트레이션하고 관리합니다.
- REST API 엔드포인트, 실시간 및 일괄 처리 유추를 사용하여 모델을 배포합니다.
자세한 기능 비교
다음 표에서는 Azure AI 스튜디오와 Azure Machine Learning 스튜디오의 주요 기능을 비교합니다.
| 범주 | 기능 | Azure AI Studio | Azure Machine Learning Studio |
|---|---|---|---|
| 데이터 스토리지 | 스토리지 솔루션 | 아니요 | 예, 클라우드 파일 시스템 통합, 패브릭의 OneLake 통합 및 Azure Storage 계정을 사용합니다. |
| 데이터 준비 | 스토리지에 데이터 통합 | 예, Blob Storage, Onelake, ADLS(Azure Data Lake Storage)가 인덱스에서 지원됩니다. | 예, Azure Storage 계정으로 복사 및 탑재를 통해 가능합니다. |
| 데이터 랭글링 | 아니요 | 예, 코드로 가능합니다. | |
| 데이터 레이블 지정 | 아니요 | 예, 개체 식별, 인스턴스 구분, 의미 체계 구분, 텍스트 NER(명명된 엔터티 인식), 3P 레이블 지정 도구 및 서비스와의 통합을 통해 가능합니다. | |
| 기능 저장소 | 예 | 예 | |
| 데이터 계보 및 레이블 | 예 | 예 | |
| Spark 워크로드 | 예 | 예 | |
| 데이터 오케스트레이션 워크로드 | 아니요 | 아니요, 하지만 연결된 Spark 및 Azure Machine Learning 파이프라인을 사용할 수 있습니다. | |
| 모델 개발 및 학습 | 데이터 과학자를 위한 코드 우선 도구입니다. | 예, VS Code를 사용합니다. | 예, 통합 Notebook, Jupyter, VS Code, R Studio를 사용합니다. |
| 언어 | Python만 해당. | Python(전체 환경), R, Scala, Java(제한된 환경). | |
| 실험 추적, 모니터링 및 평가 | 예, 하지만 프롬프트 흐름 실행에만 해당됩니다. | 예, 모든 실행 형식에 대해 해당됩니다. | |
| ML 파이프라인 작성 도구 | 아니요 | 예, 디자이너, 시각적 제작 도구 및 SDK/CLI/API를 사용합니다. | |
| AutoML | 아니요 | 예, 회귀, 분류, 시계열 예측, Computer Vision 또는 NLP(자연어 처리)가 포함됩니다. | |
| 학습용 컴퓨팅 대상 | MaaS 컴퓨팅 인스턴스 및 프롬프트 흐름에 대한 서버리스 런타임에 대해서만 서버리스입니다. | Spark 클러스터, Azure Machine Learning 클러스터(MPI) 및 Azure Arc 서버리스. | |
| LLM(대규모 언어 모델) 및 기본 모델 학습 및 미세 조정 | 모델 카탈로그로 제한됩니다. | 예, MPI 기반 분산 학습 및 모델 카탈로그를 사용합니다. | |
| 공정성 및 설명성을 위해 Azure Machine Learning 모델을 평가하고 디버그합니다. | 아니요 | 예, 기본으로 제공되는 책임 있는 AI 대시보드가 있습니다. | |
| 생성형 AI/LLM | LLM 카탈로그 | 예, 모델 카탈로그를 통해 Azure OpenAI, Hugging Face 및 Meta의 LLM을 사용합니다. | 예, 모델 카탈로그를 통해 Azure OpenAI, Hugging Face 및 Meta의 LLM을 사용합니다. |
| RAG(엔터프라이즈 챗봇) | 예 | 예, 프롬프트 흐름을 통해 이루어집니다. | |
| LLM 콘텐츠 필터링 | 예, AI 콘텐츠 안전을 통해 가능합니다. | 예, AI 콘텐츠 안전을 통해 가능합니다. | |
| 프롬프트 흐름 | 예 | 예 | |
| 순위표/벤치마크 | 예 | 아니요 | |
| 프롬프트 샘플 | 예 | 아니요 | |
| LLM 워크플로/LLMOps/MLOps | 플레이그라운드 | 예 | 아니요 |
| 실험 및 테스트 프롬프트 | 예, 플레이그라운드, 모델 카드 및 프롬프트 흐름을 통해 가능합니다. | 예, 모델 카드 및 프롬프트 흐름을 통해 가능합니다. | |
| 개발 워크플로 | 예, 프롬프트 흐름, LangChain과의 통합 및 의미 체계 커널을 통해 가능합니다. | 예, 프롬프트 흐름, LangChain과의 통합 및 의미 체계 커널을 통해 가능합니다. | |
| 워크플로를 엔드포인트로 배포 | 예, 프롬프트 흐름을 통해 이루어집니다. | 예, 프롬프트 흐름을 통해 이루어집니다. | |
| 흐름 버전 제어 | 예, 프롬프트 흐름을 통해 이루어집니다. | 예, 프롬프트 흐름을 통해 이루어집니다. | |
| 기본 제공 평가 | 예, 프롬프트 흐름을 통해 이루어집니다. | 예, 프롬프트 흐름을 통해 이루어집니다. | |
| Git 통합 | 예 | 예 | |
| CI/CD | 예, 프롬프트 흐름의 코드 우선 환경 및 Azure DevOps 및 GitHub와 통합을 통해 가능합니다. | 예, 프롬프트 흐름의 코드 우선 환경 및 Azure DevOps 및 GitHub와 통합을 통해 가능합니다. | |
| 모델 레지스트리 | 아니요 | 예, MIFlow 및 레지스트리를 통해 가능합니다. | |
| 조직 모델 레지스트리 | 아니요 | 예, 레지스트리를 통해 가능합니다. | |
| 모델 배포 | 실시간 서비스를 위한 배포 옵션 | MaaP 카탈로그에 대한 MaaS(Models as a Service) 온라인 엔드포인트 | 아니요 |
| 일괄 처리 서비스를 위한 배포 옵션 | 아니요 | 일괄 처리 엔드포인트, 관리형 및 비관리형 Azure Arc 지원. | |
| 엔터프라이즈 보안 | AI 허브 | 예, AI 자산을 관리하고 통제합니다. | 예, 클래식 Azure Machine Learning 및 LLM 모두에 대해 사용됩니다. |
| 개인 네트워크 | 예 | 예 | |
| 데이터 손실 방지 | 예 | 예 | |
| 데이터 분류 | 아니요 | 예, Purview를 통해 가능합니다. |