Azure AI 스튜디오란?

아티클
05/21/2024

Azure AI 스튜디오는 개발자가 안전하고 책임 있는 방식으로 AI를 통해 혁신을 주도하고 향후를 만들 수 있도록 지원하는 신뢰할 수 있는 플랫폼입니다. 포괄적인 플랫폼은 엔터프라이즈 채팅, 콘텐츠 생성, 데이터 분석 등을 지원하기 위해 프로덕션 준비가 된 Copilot의 개발을 가속화합니다. 개발자는 사용 사례에 맞는 최첨단 API와 모델을 탐색할 수 있습니다. 협동적이고 책임 있는 AI 도구, 보호 장치, 모범 사례를 통해 솔루션을 빌드하고 테스트합니다. 웹 사이트, 애플리케이션 및 기타 프로덕션 환경에서 사용할 수 있도록 AI 혁신을 배포합니다. 프로덕션 환경에서 지속적인 모니터링과 거버넌스를 통해 솔루션을 관리합니다.

AI 스튜디오는 개발자가 다음을 수행할 수 있도록 설계되었습니다.

엔터프라이즈급 플랫폼에서 생성 AI 애플리케이션을 빌드합니다.
스튜디오에서 직접 Visual Studio Code(웹)를 통해 코드 우선 프로젝트와 상호 작용할 수 있습니다.
AI 스튜디오는 능력과 선호하는 영역이 다양한 개발자가 AI로 혁신하고 미래를 구현하도록 하는 신뢰할 수 있는 포괄적인 플랫폼입니다.
책임 있는 AI 사례를 기준으로 하는 최첨단 AI 도구 및 ML 모델을 사용하여 원활하게 탐색, 빌드, 테스트 및 배포를 진행합니다.
하나의 팀으로 함께 빌드합니다. AI 스튜디오 허브는 엔터프라이즈급 보안과 미리 학습된 모델, 데이터 및 컴퓨팅에 대한 공유 파일 및 연결을 갖춘 공동 작업 환경을 제공합니다.
원하는 방식대로 구성합니다. AI 스튜디오 프로젝트를 사용하면 상태를 저장하여 첫 번째 아이디어에서 첫 번째 프로토타입, 첫 번째 프로덕션 배포까지 반복할 수 있습니다. 또한 이 여정을 따라 공동 작업할 수 있게 하도록 다른 사용자를 쉽게 초대할 수 있습니다.

AI 스튜디오를 사용하면 모델 응답을 평가하고 더 나은 성능을 위해 프롬프트 흐름으로 프롬프트 애플리케이션 구성 요소를 오케스트레이션할 수 있습니다. 이 플랫폼은 용이하게 확장하여 개념 증명을 완전한 프로덕션으로 쉽게 변환할 수 있도록 합니다. 지속적인 모니터링 및 구체화는 장기적인 성공을 지원합니다.

API 및 모델 선택

사용자의 사용 사례에 가장 적합한 AI 서비스와 모델을 식별합니다.

Azure AI 서비스
Azure OpenAI Service
모델 카탈로그: 관리 컴퓨팅 및 서버리스 API
모델 벤치마크: 성능 및 주요 매개 변수별로 모델을 비교합니다.

업계 최고의 API로 지능형 앱을 빌드합니다. 즉시 사용 가능하고 사용자 지정 가능한 API와 모델을 사용하여 다중 모드, 다중 언어 AI를 개발합니다.

사용자의 사용 사례에 맞는 모델을 찾습니다. 최신 최첨단 기반과 개방형 모델 중에서 선택합니다. 성능 및 주요 매개 변수별로 모델을 벤치마킹하고 사용 사례에 적합한 것을 배포합니다.

서버리스 모델을 배포합니다. GPU를 프로비전할 필요 없이 즉시 사용 가능한 API로 빠르게 시작합니다.

완전한 AI 툴체인

개발 수명 주기를 지원하고 앱을 차별화하는 포괄적인 공동 작업 도구에 액세스합니다.

Azure AI 검색
미세 조정
프롬프트 흐름
개방형 프레임워크
추적 및 디버깅
평가

보안 데이터를 바탕으로 모델을 구축합니다. 보호된 데이터를 사용하여 고급 미세 조정 및 상황에 맞는 검색 증강 생성을 통해 모델을 사용자 지정합니다.

AI 워크플로를 조율하고 디버깅합니다. 대화형이며 시각적인 코드 우선 워크플로를 통해 사용하기 쉬운 프롬프트 오케스트레이션, 추적 및 디버깅으로 앱 개발을 간소화합니다.

모델 및 앱 평가를 간소화합니다. 수동 및 자동 평가를 통해 앱 성능을 체계적으로 측정하고 개선합니다.

책임 있는 AI 도구 및 사례

애플리케이션을 설계하고 보호합니다.

책임 있는 AI 원칙
Azure AI 콘텐츠 안전

책임 있게 앱을 설계합니다. 위험 관리, 정확도 개선, 개인 정보 보호, 투명성 강화, 규정 준수 간소화에 도움이 되는 기술, 템플릿, 모범 사례를 사용하여 자신 있게 앱을 빌드합니다.

구성 가능한 필터와 제어 기능으로 앱을 보호합니다. 콘텐츠를 검색 및 필터링하고, PII(개인 식별 정보)를 보호하며, 즉각적인 공격으로부터 애플리케이션을 보호합니다.

대규모로 엔터프라이즈급 프로덕션

환경 전반에 걸쳐 지속적인 모니터링과 거버넌스를 통해 Azure의 관리 인프라에 AI 혁신을 배포합니다.

공동 작업 허브
LLMOps
모니터링 및 가시성
IT 거버넌스
보안 및 개인 정보
RBAC
Microsoft Copilot 저작권 약속

프로덕션에 배포합니다. 웹 사이트, 애플리케이션, 기타 프로덕션 환경에서 사용할 수 있도록 AI의 크기를 조정합니다.

워크플로를 운영하고 모니터링합니다. 프로덕션 과정에서 AI 안전, 품질, 토큰 사용량을 지속적으로 모니터링합니다. 시기적절한 문제 해결을 위해 워크플로 및 경고를 자동화합니다.

대규모로 개발자 민첩성과 엔터프라이즈 거버넌스를 지원합니다. 보안, 개인 정보 보호 및 준수를 위해 조직 및 엔터프라이즈 제어 전반에 걸쳐 쉽게 프로젝트를 만들고 리소스를 관리할 수 있도록 합니다.

홈 페이지

홈 페이지로 이동하여 허브와 프로젝트를 만들거나 액세스하고, 모델 카탈로그를 탐색하고, AI 서비스 체험판에 액세스하고, 설명서를 자세히 살펴보는 등의 작업을 수행합니다.

모델 카탈로그

모델 카탈로그는 프로젝트에서 사용할 수 있는 모델 컬렉션입니다. 컬렉션, 유추 작업(예: 요약 및 채팅 완료), 라이선스 등을 기준으로 모델을 필터링할 수 있습니다.

모델 벤치마크

정확도, 일관성, 유창성 및 유사성에 대한 평가 메트릭을 사용하여 모델 성능을 평가합니다. 업계에서 사용 가능한 모델 및 데이터 세트 전반의 벤치마크를 비교하여 사용자의 비즈니스 시나리오에 맞는 것이 무엇인지 평가합니다.

모델 벤치마크 도구를 사용하면 특정 작업에 대한 다양한 모델의 성능을 비교할 수 있습니다. 질문 답변이나 텍스트 생성과 같은 작업을 선택하고 해당 작업에서 다양한 모델이 어떻게 수행되는지 확인할 수 있습니다. 특정 모델이나 모델 컬렉션을 기준으로 필터링하여 서로 비교할 수도 있습니다.

프롬프트 카탈로그

프롬프트 엔지니어링은 출력에 대한 사용자의 제어, 사용자 지정, 영향을 개선할 수 있으므로 생성 AI 모델 작업에서 중요한 측면입니다. 사용자는 프롬프트를 능숙하게 디자인하면 생성 AI 모델의 기능을 활용하여 원하는 콘텐츠를 생성하고, 특정 요구 사항을 해결하고, 다양한 애플리케이션 도메인을 충족할 수 있습니다.

프롬프트 카탈로그는 텍스트 또는 이미지 생성과 같은 일반적인 사용 사례에 대한 프롬프트 컬렉션입니다. 형식(예: 채팅, 완료, 이미지, 동영상), 업계(예: 소매 및 교육), 작업(예: 요약 및 채팅 완료)별로 프롬프트를 필터링할 수 있습니다.

샘플 프롬프트를 선택하여 작동 방식을 확인하거나 프로젝트의 시작점으로 지정합니다. 그런 다음 시나리오에 맞게 사용자 지정하고 앱에 통합하기 전에 성능을 평가합니다.

AI 서비스

AI 서비스 페이지에서 다양한 Azure AI 서비스 및 모델을 사용해 볼 수 있습니다. 예를 들어, 음성, 언어, 비전, 문서 인텔리전스, 콘텐츠 보안 등을 시험해 볼 수 있습니다. Azure AI 서비스에 대한 자세한 내용은 Azure AI 서비스란? 및 AI 서비스 사용해 보기를 참조하세요.

참고 항목

Azure OpenAI Service는 AI 서비스 페이지에 나열되어 있지 않지만 Azure AI 서비스이기도 합니다. AI 스튜디오의 모델 카탈로그, 플레이그라운드, 배포 및 기타 위치에서 Azure OpenAI 모델에 액세스할 수 있습니다.

관리

홈 페이지의 왼쪽 탐색 창에서 관리: 아래의 다음 페이지에 액세스할 수 있습니다.

모든 허브: AI 스튜디오에서 새 허브를 만들 수 있는 위치 중 하나입니다. Azure AI 스튜디오에서 액세스할 수 있는 모든 허브 목록을 볼 수 있습니다. 이름, 지역 또는 리소스 그룹별로 허브를 필터링할 수도 있습니다. 허브에 대한 자세한 내용은 프로젝트용 AI 스튜디오 허브를 참조하세요.

리소스 및 키: Azure AI 스튜디오에서 액세스할 수 있는 Azure AI 서비스(Azure OpenAI 포함) 리소스 및 키에 대한 정보를 제공합니다. 각 Azure 리소스의 이름, 리소스의 구독 및 지역, 가격 책정 계층, 엔드포인트 URL 및 리소스에 액세스하는 데 필요한 키를 확인할 수 있습니다.

할당량: 할당량 섹션은 컴퓨팅 및 Azure OpenAI 모델 배포를 위한 가상 머신의 할당량 사용 및 한도에 대한 정보를 제공합니다. 할당량에 대한 자세한 내용은 Azure AI 스튜디오 할당량 및 한도를 참조하세요.

허브 보기

사용자(또는 관리자)는 엔터프라이즈 구성, 통합 데이터 스토리 및 기본 제공 거버넌스를 위한 허브를 사용합니다. 개발자의 복잡성을 줄이기 위한 중앙 집중식 백 엔드 인프라가 있습니다. 허브 및 종속성에 대한 자세한 내용은 AI 스튜디오 아키텍처를 참조하세요.

허브를 만든 후에는(내부의 프로젝트 유무에 관계없이) 허브의 세부 정보를 보고, 설정을 관리하고, 리소스에 액세스할 수 있습니다. 홈 페이지의 왼쪽 탐색 창에서 모든 허브를 선택한 다음 허브를 선택하여 세부 정보를 확인합니다.

허브 개요 페이지의 왼쪽 탐색 창에서 동일한 모델 카탈로그, 모델 벤치마크, 프롬프트 카탈로그 및 AI 서비스 페이지(홈 페이지에서 액세스할 수 있음)에 액세스할 수 있습니다. 다음 페이지에도 액세스할 수 있습니다.

모든 프로젝트: AI 스튜디오에서 새 프로젝트를 만들 수 있는 위치 중 하나입니다. 허브에서 액세스할 수 있는 모든 프로젝트 목록을 볼 수 있습니다. 프로젝트 이름, 허브 이름 또는 지역별로 프로젝트를 필터링할 수도 있습니다. 프로젝트 만들기에 대한 자세한 내용은 프로젝트 만들기를 참조하세요.
플레이그라운드: 데이터를 실험하고 생성형 AI 모델에 대한 메시지를 표시할 수 있는 곳입니다. 사용 가능한 플레이그라운드에는 채팅과 도우미가 포함됩니다.
공유 리소스: 허브의 공유 리소스를 보고 관리할 수 있는 곳입니다. 공유 리소스에는 배포, 연결, 컴퓨팅 인스턴스, 사용자, 정책 및 콘텐츠 필터가 포함됩니다.

프로젝트 보기

프로젝트를 사용하여 작업을 정리하고, 리소스를 관리하고, 다른 사용자와 공동 작업합니다. 프로젝트는 데이터, 모델, 코드 및 기타 리소스를 위한 컨테이너입니다. 프로젝트 만들기에 대한 자세한 내용은 AI 스튜디오 프로젝트 만들기를 참조하세요.

다음과 같은 방법으로 프로젝트에 액세스할 수 있습니다.

홈 페이지로 이동하여 최근 프로젝트 목록에서 프로젝트를 선택합니다.
홈 페이지의 왼쪽 탐색 창에서 모든 허브를 선택한 다음 허브를 선택합니다. 그런 다음 허브의 프로젝트 목록에서 프로젝트를 선택할 수 있습니다.

프로젝트의 왼쪽 탐색 창에서는 홈 페이지에서 액세스할 수 있는 것과 동일한 모델 카탈로그, 모델 벤치마크 및 프롬프트 카탈로그 페이지에 액세스할 수 있습니다.

다음 페이지에도 액세스할 수 있습니다.

프로젝트 플레이그라운드: 데이터를 실험하고 생성형 AI 모델에 대한 메시지를 표시할 수 있는 곳입니다. 사용 가능한 플레이그라운드에는 채팅, 완료, 도우미, 이미지가 포함됩니다.
도구: 여기에서 프롬프트 흐름, 추적, 평가 및 미세 조정을 위한 도구에 액세스할 수 있습니다. 이 페이지에서 Visual Studio Code(웹) 환경에 액세스할 수도 있습니다.
구성 요소: 프로젝트의 구성 요소를 보고 관리할 수 있는 곳입니다. 구성 요소에는 데이터, 인덱스, 배포 및 콘텐츠 필터가 포함됩니다.

가격 책정 및 대금 청구

Azure AI 스튜디오는 API 및 모델, 완전한 AI 도구 체인, 책임 있는 AI 및 엔터프라이즈급 제품을 포함하여 플랫폼에서 고객이 액세스하고 사용하는 개별 제품을 통해 수익을 창출합니다. 각 제품에는 고유한 청구 모델과 가격이 있습니다.

플랫폼을 무료로 사용하고 탐색할 수 있습니다. 가격 책정은 배포 수준에서 발생합니다. AI 스튜디오 가격 책정에 대한 자세한 내용은 AI 스튜디오 가격 책정을 참조하세요.

또한 AI 스튜디오를 사용하면 기본 서비스와 관련된 비용이 발생하므로 Azure AI 서비스의 비용 계획 및 관리에서 자세한 내용을 알아봅니다.

사용 가능 지역

Azure AI 스튜디오는 Azure AI 서비스를 사용할 수 있는 대부분의 지역에서 사용할 수 있습니다. 자세한 내용은 AI 스튜디오에 대한 지역 지원을 참조하세요.

액세스 권한을 얻는 방법

로그인하지 않고도 AI 스튜디오(모델 카탈로그 포함)를 탐색할 수 있습니다.

그러나 완전한 기능을 위해서는 몇 가지 요구 사항이 있습니다.

Azure 계정이 필요합니다.

다음을 통해 공유