Azure AI 스튜디오의 프롬프트 흐름
Important
이 문서에 설명된 기능 중 일부는 미리 보기로만 제공될 수 있습니다. 이 미리 보기는 서비스 수준 계약 없이 제공되며, 프로덕션 워크로드에는 권장되지 않습니다. 특정 기능이 지원되지 않거나 기능이 제한될 수 있습니다. 자세한 내용은 Microsoft Azure Preview에 대한 추가 사용 약관을 참조하세요.
프롬프트 흐름은 LLM(대규모 언어 모델)을 기반으로 하는 AI 애플리케이션의 전체 개발 주기를 간소화하도록 설계된 개발 도구입니다. 프롬프트 흐름은 AI 애플리케이션의 프로토타입 제작, 실험, 반복 및 배포 프로세스를 간소화하는 포괄적인 솔루션을 제공합니다.
프롬프트 흐름은 GitHub에서 자체 SDK 및 VS Code 확장을 사용하여 오픈 소스 프로젝트로 독립적으로 사용할 수 있습니다. 프롬프트 흐름은 Azure AI 스튜디오와 Azure Machine Learning 스튜디오 모두 내에 포함된 기능으로도 사용할 수 있으며 그렇게 사용하는 것을 권장합니다. 이 설명서 세트는 Azure AI 스튜디오의 프롬프트 흐름에 중점을 둡니다.
용어 정의:
- 프롬프트 흐름은 흐름을 생성, 사용자 지정 또는 실행하는 데 사용할 수 있는 기능입니다.
- 흐름은 I 논리를 구현할 수 있는 실행 명령 집합입니다. 흐름은 미리 빌드된 캔버스, LangChain, etcetera와 같은 여러 도구를 통해 만들거나 실행할 수 있습니다. 흐름의 반복은 자산으로 저장할 수 있으며, 배포되면 흐름이 API가 됩니다. 모든 흐름이 프롬프트 흐름은 아닙니다. 오히려 프롬프트 흐름은 흐름을 만드는 한 가지 방법입니다.
- 프롬프트는 사용자 입력, 시스템 메시지 및 예제로 구성된 모델로 전송되는 입력 패키지입니다. 사용자 입력은 채팅 창에 제출되는 텍스트입니다. 시스템 메시지는 그 동작과 기능의 범위를 지정하는 모델에 대한 지침 세트입니다.
- 샘플 흐름은 흐름의 작동 방식을 보여 줍니다. 미리 빌드된 간단한 오케스트레이션 흐름이며, 사용자 지정할 수 있습니다.
- 샘플 프롬프트는 특정 시나리오에 대해 정의된 프롬프트로, 라이브러리에서 복사하고 프롬프트 디자인에서 있는 그대로 사용하거나 수정할 수 있습니다.
프롬프트 흐름의 이점
Azure AI 스튜디오에서 프롬프트 흐름을 사용하면 다음을 수행할 수 있습니다.
- 시각화된 그래프를 통해 LLM, 프롬프트 및 Python 도구를 연결하는 실행 가능한 흐름을 오케스트레이션합니다.
- 팀 협업을 통해 흐름을 쉽게 디버깅, 공유, 반복합니다.
- 프롬프트 변형을 만들고 각 변형의 성능을 비교합니다.
신속한 엔지니어링 민첩성
- 대화형 작성 환경: 프롬프트 흐름은 흐름 구조의 시각적 표현을 제공하므로 사용자가 프로젝트를 쉽게 이해하고 탐색할 수 있습니다.
- 프롬프트 튜닝을 위한 변형: 사용자가 여러 프롬프트 변형을 만들고 비교할 수 있어 반복적인 개선 프로세스를 촉진할 수 있습니다.
- 평가: 기본 제공된 평가 흐름을 통해 사용자가 프롬프트와 흐름의 품질과 효율성을 평가할 수 있습니다.
- 포괄적인 리소스: 프롬프트 흐름에는 개발의 시작점 역할을 하고 창의성을 불러 일으키며 프로세스를 가속화하는 기본 제공 도구, 샘플 및 템플릿 라이브러리가 포함되어 있습니다.
엔터프라이즈 준비
- 협업: 프롬프트 흐름은 팀 협업을 지원하므로 여러 사용자가 프롬프트 엔지니어링 프로젝트에서 함께 작업하고, 지식을 공유하고, 버전 제어를 유지할 수 있습니다.
- 올인원 플랫폼: 프롬프트 흐름은 개발 및 평가부터 배포 및 모니터링까지 전체 프롬프트 엔지니어링 프로세스를 간소화합니다. 사용자가 흐름을 Azure AI 엔드포인트로 손쉽게 배포하고 성능을 실시간으로 모니터링하여 최적의 운영과 지속적인 개선을 보장할 수 있습니다.
- 엔터프라이즈 준비 솔루션: 프롬프트 흐름은 강력한 Azure AI 엔터프라이즈 준비 솔루션을 활용하여 흐름 개발, 실험 및 배포를 위한 안전하고 확장 가능하며 신뢰할 수 있는 기반을 제공합니다.
Azure AI 스튜디오의 프롬프트 흐름을 통해 사용자는 신속한 엔지니어링 민첩성을 활용하고 효과적으로 협업하며 성공적인 LLM 기반 애플리케이션 개발 및 배포를 위해 엔터프라이즈급 솔루션을 적용할 수 있습니다.
흐름 개발 수명 주기
프롬프트 흐름은 AI 애플리케이션의 원활한 개발을 촉진하는 잘 정의된 프로세스를 제공합니다. 이를 사용하면 흐름 개발, 테스트, 튜닝 및 배포 단계를 효과적으로 진행할 수 있으며 궁극적으로 완전한 기능을 갖춘 AI 애플리케이션을 만들 수 있습니다.
수명 주기는 다음 단계로 구성됩니다.
- 초기화: 비즈니스 사용 사례를 식별하고, 샘플 데이터를 수집하고, 기본 프롬프트를 빌드하는 방법을 배우고, 기능을 확장하는 흐름을 개발합니다.
- 실험: 샘플 데이터에 대해 흐름을 실행하고, 프롬프트의 성능을 평가하고, 필요한 경우 흐름을 반복합니다. 결과에 만족할 때까지 지속적으로 실험합니다.
- 평가 및 개선: 더 큰 데이터 세트에 대해 흐름을 실행하여 흐름의 성능을 평가하고, 프롬프트의 효율성을 평가하고, 필요에 따라 개선합니다. 결과가 원하는 기준을 충족하면 다음 단계로 진행합니다.
- 프로덕션: 효율성과 유효성을 위해 흐름을 최적화하고, 배포하고, 프로덕션 환경에서 성능을 모니터링하고, 사용 현황 데이터와 피드백을 수집합니다. 이 정보를 사용하여 흐름을 개선하고 추가 반복을 위한 초기 단계에 기여합니다.
이러한 구조화되고 체계적인 방식을 따르면 프롬프트 흐름을 사용하면 자신 있게 흐름을 개발하고, 엄격하게 테스트하고, 미세 조정하고, 배포할 수 있으므로 강력하고 정교한 AI 애플리케이션을 만들 수 있습니다.
흐름 유형
Azure AI 스튜디오에서는, 갤러리에서 흐름 유형 또는 템플릿을 선택하여 새 흐름을 시작할 수 있습니다.
다음은 흐름 유형의 몇 가지 예입니다.
- 표준 흐름: 일반 애플리케이션 개발을 위해 설계된 표준 흐름을 통해 사용자는 LLM 기반 애플리케이션 개발을 위한 다양한 기본 제공 도구를 사용하여 흐름을 만들 수 있습니다. 다양한 도메인에 걸쳐 애플리케이션을 개발할 수 있는 유연성과 다양성을 제공합니다.
- 채팅 흐름: 대화형 애플리케이션 개발을 위해 맞춤화된 채팅 흐름은 표준 흐름의 기능을 기반으로 하며 채팅 입력/출력 및 채팅 기록 관리에 대한 향상된 지원을 제공합니다. 네이티브 대화 모드와 네이티브 제공 기능을 통해 사용자는 대화 컨텍스트 내에서 애플리케이션을 원활하게 개발하고 디버그할 수 있습니다.
- 평가 흐름: 평가 시나리오용으로 설계된 평가 흐름을 통해 사용자는 이전 흐름 실행의 출력을 입력으로 사용하는 흐름을 만들 수 있습니다. 이 흐름 형식을 통해 사용자는 이전 실행 결과의 성능을 평가하고 관련 메트릭을 출력하여 모델 또는 애플리케이션의 평가 및 개선을 촉진할 수 있습니다.
흐름
프롬프트 흐름의 흐름은 LLM 기반 AI 애플리케이션 개발을 간소화하는 실행 가능한 워크플로 역할을 합니다. 이는 애플리케이션 내에서 데이터 흐름 및 처리를 관리하기 위한 포괄적인 프레임워크를 제공합니다.
흐름 내에서 노드는 고유한 기능을 갖춘 특정 도구를 나타내는 중심 스테이지를 차지합니다. 이러한 노드는 입출력을 통해 데이터 처리, 작업 실행 및 알고리즘 작업을 처리합니다. 노드를 연결하면 애플리케이션을 통해 데이터 흐름을 안내하는 원활한 작업 체인이 설정됩니다.
노드 구성 및 미세 조정을 용이하게 하기 위해 워크플로 구조의 시각적 개체가 DAG(방향성 비순환 그래프) 그래프를 통해 제공됩니다. 이 그래프는 노드 간의 연결성과 종속성을 보여 주며 전체 워크플로에 대한 명확한 개요를 제공합니다.
프롬프트 흐름의 흐름 기능을 사용하면 AI 애플리케이션의 논리를 디자인, 사용자 지정 및 최적화할 수 있습니다. 응집력 있는 노드 배열은 효율적인 데이터 처리와 효과적인 흐름 관리를 보장하여 강력한 고급 애플리케이션을 만들 수 있도록 지원합니다.
프롬프트 흐름 도구
도구는 흐름의 기본 구성 요소입니다.
Azure AI 스튜디오에서 도구 옵션에는 LLM 도구, 프롬프트 도구, Python 도구 등이 포함됩니다.
각 도구는 특정 기능을 사용하는 간단한 실행 단위입니다. 다양한 도구를 결합하여 광범위한 목표를 달성하는 흐름을 만들 수 있습니다. 예를 들어 LLM 도구를 사용하여 텍스트를 생성하거나 아티클을 요약하고, Python 도구를 사용하여 텍스트를 처리하는 방법으로 다음 흐름 구성 요소 또는 결과를 알릴 수 있습니다.
프롬프트 흐름 도구의 주요 이점 중 하나는 타사 API 및 Python 오픈 소스 패키지와의 원활한 통합입니다. 이는 대규모 언어 모델의 기능을 개선시킬 뿐만 아니라 개발자의 개발 프로세스를 더욱 효율적으로 만듭니다.
Azure AI 스튜디오의 프롬프트 흐름 도구가 요구 사항을 충족하지 않는 경우 이 가이드에 따라 사용자 지정 도구를 개발하고 도구 패키지로 만들 수 있습니다. 오픈 소스 커뮤니티에서 개발한 더 많은 사용자 지정 도구를 검색하려면 이 페이지를 방문하세요.