소개
LLM(대규모 언어 모델)은 로컬에서 또는 Azure와 같은 클라우드 공급자를 통해 실행할 수 있습니다. 클라우드 호스팅 버전을 선택하면 공급자가 모델의 기능의 유효성을 검사한다는 확신을 가질 수 있습니다. 기술 스타트업을 준비하거나 기존 제품에 LLM을 통합하는 경우 보장된 성과를 통해 고객 신뢰를 빌드할 수 있습니다. 또한 클라우드 공급자를 통해 LLM을 실행하는 경우 데이터가 보호되므로 데이터 유출에 대해 걱정할 필요가 없습니다.
시나리오: 기술 MVP를 위한 LLM 시도
관광 기술 스타트업을 운영하고 다양한 업무에 LLM을 활용하여 사업을 보다 효율적으로 운영하고 고객 환경을 개선하고자 한다고 가정해 보겠습니다. LLM을 커밋하기 전에, 해당 과목이 유용한 응답을 생성하는지 확인하기 위해 테스트를 실행하려고 합니다. 또한 LLM에서 제공되는 모든 프롬프트가 사용자와 클라우드 공급자 사이에서 안전한지 확인해야 합니다. 이런 문제를 탐구하기 위해 일종의 테스트 플레이그라운드가 있어야 한다고 생각합니다.
무엇을 학습할 것인가요?
이 모듈에서 학습할 내용은 다음과 같습니다.
- Azure OpenAI 클라우드 리소스를 프로비전합니다.
- 특정 LLM 모델에 대한 배포를 만듭니다.
- 다양한 프롬프트를 사용하여 LLM이 여러 상황에서 제공할 수 있는 결과 유형을 확인합니다.
주요 목표는 무엇인가요?
Azure OpenAI Studio에서 LLM 배포를 프로비전하고 사용합니다.