프롬프트 흐름의 변형
Azure Machine Learning 프롬프트 흐름을 사용하면 변형을 사용하여 프롬프트를 조정할 수 있습니다. 이 문서에서는 프롬프트 흐름 변형 개념에 대해 알아봅니다.
변형
변형은 고유한 설정이 있는 특정 버전의 도구 노드를 나타냅니다. 현재 변형은 LLM 도구에서만 지원됩니다. 예를 들어, LLM 도구에서 새 변형은 다른 프롬프트 콘텐츠이나 다른 연결 설정을 나타낼 수 있습니다.
뉴스 문서의 요약을 생성한다고 가정해 보겠습니다. 다음과 같이 다양한 프롬프트 및 설정 변형을 설정할 수 있습니다.
| 변형 | 프롬프트 | 연결 설정 |
|---|---|---|
| 변형 0 | Summary: {{input sentences}} |
온도 = 1 |
| 변형 1 | Summary: {{input sentences}} |
온도 = 0.7 |
| 변형 2 | What is the main point of this article? {{input sentences}} |
온도 = 1 |
| 변형 3 | What is the main point of this article? {{input sentences}} |
온도 = 0.7 |
다양한 프롬프트 및 설정 변형을 활용하여 모델이 다양한 입출력에 어떻게 반응하는지 탐색하여 요구 사항에 가장 적합한 조합을 찾을 수 있습니다.
변형 사용의 이점
- LLM 만들기 품질 향상: 다양한 프롬프트와 구성으로 동일한 LLM 노드의 여러 변형을 만들어 요구 사항에 맞는 고품질 콘텐츠를 만드는 최적의 조합을 식별할 수 있습니다.
- 시간과 활동 절약: 프롬프트를 조금만 수정해도 상당히 다른 결과가 나올 수 있습니다. 각 프롬프트 버전의 성과를 추적하고 비교해야 합니다. 변형을 사용하면 LLM 노드의 기록 버전을 쉽게 관리할 수 있으며 이전 반복을 잊어버릴 위험 없이 변형을 기반으로 업데이트를 촉진할 수 있습니다. 이를 통해 즉각적인 튜닝 내역을 관리하는 데 드는 시간과 활동을 절약할 수 있습니다.
- 생산성 향상: 변형은 LLM 노드의 최적화 프로세스를 간소화하여 여러 변형을 더 쉽게 만들고 관리할 수 있게 해줍니다. 더 짧은 시간에 개선된 결과를 얻을 수 있으므로 전반적인 생산성이 개선됩니다.
- 손쉬운 비교 촉진: 다양한 변형에서 가져오는 결과를 손쉽게 나란히 비교할 수 있으므로 최상의 결과를 생성하는 변형에 관해 데이터 기반 결정을 내릴 수 있습니다.