GenAIOps 수명 주기 살펴보기
Tip
자세한 내용은 텍스트 및 이미지 탭을 참조하세요.
Adventure Works 팀이 에이전트를 지정하고 설계했으므로 작업 프로토타입에서 신뢰할 수 있는 프로덕션 서비스로 가져가는 방법이 필요합니다. 프로토타입에서 프로덕션으로의 전환은 GenAIOps(생성 AI 작업) 수명 주기가 구성하는 것입니다.
소프트웨어에 DevOps를 적용했거나 기계 학습에 MLOps 를 적용한 경우 GenAIOps는 동일한 아이디어를 기반으로 합니다. 언어 모델을 통합하는 애플리케이션에 대한 MLOps 내의 특수 도메인입니다. 차이점은 무엇을 관리하느냐입니다. 모델을 처음부터 빌드하는 대신 미리 학습된 모델, 프롬프트, 에이전트 및 데이터 커넥터를 사용하여 작업하고 정확도만으로는 아니라 요청당 일관성, 접지성 및 비용과 같은 새로운 품질 및 안전 측정값으로 평가합니다.
이러한 연결을 염두에 두고 수명 주기 자체에 집중해 보겠습니다.
GenAIOps 수명 주기 살펴보기
GenAIOps 수명 주기는 복잡하며, 전혀 선형적이지 않습니다. 실제 애플리케이션의 다각적인 특성을 반영하는 반복적인 프로세스입니다. 여기에는 세 개의 기본 루프가 포함되며, 모두 네 번째 가장 중요한 루프로 통합됩니다.
- 탐색: 비즈니스 요구 사항 또는 사용 사례를 정의하고, 필요한 프롬프트와 모델을 포함한 아키텍처를 설계하는 단계입니다.
- 빌드: 초기 애플리케이션을 개발하고 품질 및 안전 목표에 도달하기 위해 반복적으로 평가할 있는 위치입니다.
- 운영화: 애플리케이션을 실제 환경에 배포하고, 신뢰할 수 있고 책임 있는 방식으로 서비스를 제공하는 단계입니다.
이러한 모든 단계를 가장 중요하게 하는 것은 거버넌스, 보안 및 규정 준수에 중점을 둔 관리 루프. 결과물의 속도와 표준을 엄격하게 준수하는 프레임워크입니다.
Adventure Works 에이전트에 대해 생각해 보세요. 앞에서 본 사양 및 디자인 작업은 탐색 및 빌드 루프에 속합니다. 잘못된 추천이 갑자기 급증하면 팀이 다시 돌아가게 될 루프는 어느 것이라고 생각하시나요?
다음으로 GenAIOps 수명 주기의 각 단계를 지원하는 도구를 자세히 설명합니다.