요약
이 모듈에서는 Microsoft Foundry에서 보완 전략을 사용하여 생성 AI 모델 성능을 최적화하는 방법을 알아보았습니다.
당신은 다음을 배우셨습니다:
- 시스템 메시지, 몇 번의 학습 및 모델 매개 변수를 비롯한 프롬프트 엔지니어링 기술을 적용하여 모델 출력을 최적화합니다.
- RAG(검색 증강 생성)을 사용하여 언어 모델의 기반을 다지는 시기와 방법을 이해합니다.
- 모델을 미세 조정하면 동작 일관성이 향상되는 시기를 식별합니다.
- 최적화 전략을 비교하고 결합 시기를 결정합니다.
핵심은 프롬프트 엔지니어링, RAG 및 미세 조정이 경쟁적인 접근 방식이 아니라 다양한 차원의 모델 성능을 다루는 보완 전략이라는 것입니다. 프롬프트 엔지니어링부터 시작하여 모델의 동작을 안내하고, 사실 정확도에 도메인별 데이터가 필요한 경우 RAG를 추가하고, 프롬프트 엔지니어링만으로는 안정적으로 달성할 수 없는 일관된 스타일과 형식이 필요할 때 미세 조정을 고려합니다.
여행사 시나리오의 경우 가장 효과적인 솔루션은 브랜드 음성을 유지하는 미세 조정된 모델, 실제 호텔 카탈로그의 응답을 근거로 하는 RAG, 대화별 지침 및 안전 가드레일을 추가하는 프롬프트 엔지니어링의 세 가지를 모두 결합할 수 있습니다.