프롬프트 및 텍스트 생성 기능에 대한 FAQ
이 자주 묻는 질문(FAQ)은 AI Builder의 프롬프트 기능이 AI에 미치는 영향을 설명합니다.
프롬프트란?
AI Builder의 프롬프트 기능은 사용자에게 AI 기반 워크플로, 애플리케이션, 데이터 변환 및 Copilot 사용자 지정을 개발하기 위한 다양한 기능을 제공합니다. 문서를 요약하고, 응답 초안을 만들고, 텍스트를 분류하고, 언어를 번역하는 워크플로 및 애플리케이션을 만들 수 있습니다. 이 기능은 GPT(Generative Pre-trained Transformer) 기술을 활용하는 Azure OpenAI 서비스로 구동됩니다. 이러한 모델은 방대한 양의 텍스트 데이터에 대해 학습되어 사람이 작성한 콘텐츠와 유사한 텍스트를 생성할 수 있습니다. Azure OpenAI 서비스에 대한 자세한 내용은 Azure OpenAI 서비스에 대한 투명성 노트를 참고하세요.
프롬프트의 의도된 사용 사례는 무엇입니까?
AI Builder의 프롬프트를 통해 지능형 애플리케이션과 워크플로를 구축하고 Copilot을 확장할 수 있습니다. 사전 학습된 GPT 모델의 기능을 활용하므로 사용자 지정 모델 학습이 필요하지 않습니다. 예를 들어, 들어오는 고객 불만 사항을 요약하는 워크플로를 구축하려는 인텐트가 있을 수 있습니다. 그런 다음 접수된 불만 사항의 범주에 따라 사고 관리 도구에서 티켓을 생성합니다. 이 예에서 제작자는 수신 불만을 분류하고 요약하여 새로운 인시던트를 생성하도록 모델에 지시하기만 하면 됩니다.
다음 목록에는 이 서비스에 대한 가장 널리 사용되는 사용 사례가 포함되어 있습니다.
- 이메일, 대화, 대화록, 문서 등의 요약
- 고객 문의, 불만, 이메일 등에 대한 초안 답변 제안
- 계약서, 이메일, 송장, 주문서 등에서 정보 추출
- 원하는 범주의 콘텐츠 분류(예: 이메일이 주문, 불만 또는 반품인지 여부).
- 주어진 텍스트의 감정 분석(예: 제품 리뷰의 감정 식별).
이 모든 경우에 사용자는 시스템의 최종 결과에 대한 책임을 집니다. 생성된 콘텐츠를 사용하기 전에 잠재적 부정확성 또는 불완전성이 있는지 검토해야 합니다.
프롬프트 기능의 준비 상태는 어떻게 평가되었습니까? 성능을 측정하는 데 사용되는 메트릭은 무엇입니까?
이 기능의 평가에는 다양한 안전 매개 변수에 대한 포괄적인 테스트가 포함됩니다. 이렇게 하면 기능이 우리 조직의 책임 있는 AI 표준 및 원칙과 일치합니다. 또한 서비스는 잠재적인 취약성에 대해 지속적으로 평가됩니다. 당사가 사용하는 성능 메트릭은 주로 콘텐츠 필터링의 효율성과 필터링된 콘텐츠와 필터링되지 않은 콘텐츠에 대한 인간과 기계 간의 합의 정도를 포함합니다.
프롬프트에는 어떤 종류의 콘텐츠 조정이 구현됩니까?
GPT 모델은 인터넷 데이터를 기반으로 학습되므로 일반적인 세계 모델을 구축하는 데 적합합니다. 동시에 동일한 소스로부터 독성 있고 유해하며 편향된 콘텐츠를 상속받을 수 있습니다. 모델은 유해한 콘텐츠를 생산하지 않고 안전하게 동작하도록 훈련되었지만 때로는 독성이 있는 결과를 생성할 수도 있습니다. AI Builder 프롬프트는 Azure AI Content Satefy 서비스를 활용하여 AI 프롬프트 내에서 최첨단 콘텐츠 조정 기능을 구현합니다. 여기에는 다중 심각도 텍스트 스캐너를 사용하여 생성된 출력을 분석하는 서비스와 즉각적인 주입 공격에 대한 안전이 포함됩니다. 보호된 물질의 역류에 대해서도 출력을 검사합니다.
프롬프트 기능의 제한 사항은 무엇인가요? 사용자가 시스템을 사용할 때 프롬프트 제한의 영향을 최소화하려면 어떻게 해야 합니까?
이 기술의 사용은 Azure OpenAI 서비스에 대한 사용 규정의 요구 사항을 준수해야 합니다. 이 기술은 정치적 선전, 증오심 표현, 잘못된 정보, 자해, 차별, 노골적인 성적 자료 또는 사용 규정에서 금지하는 기타 콘텐츠와 관련된 콘텐츠를 생성하는 데 사용되어서는 안 됩니다. 이 기술의 지원되지 않는 애플리케이션에는 조언 제공, 법률, 재무, 건강 관련 지침 또는 미래 예측, 재무, 과학 또는 수학적 계산 및 Azure OpenAI 서비스에 대한 투명성 노트에 언급된 기타 지원되지 않는 사용이 포함됩니다. 현재 이 서비스는 미국에서만 지원되며 영어로만 제공됩니다.
AI 생성 콘텐츠에는 실수가 있을 수 있으므로 제작자는 최종 사용자에게 이 모델에 의한 콘텐츠 생성이 AI에 의해 투명한 방식으로 생성되었음을 솔루션의 최종 사용자에게 알려야 합니다. 생성 콘텐츠의 명확한 커뮤니케이션은 과도한 의존을 피하는 데 도움이 됩니다. 제작자는 또한 AI 생성 콘텐츠가 정확하고 적절한지 확인하기 위해 사람의 검토 단계의 가능성을 주입해야 합니다.
시스템의 효과적이고 책임 있는 사용을 가능하게 하는 운영 요소 및 설정은 무엇입니까?
AI 모델에 의해 생성된 콘텐츠는 본질적으로 확률적이므로 동일한 프롬프트에 대해 모델 응답이 다를 수 있습니다. 생성된 응답은 부정확하거나 오해의 소지가 있을 수 있으며 흐름 또는 앱에서 의도하지 않은 결과를 초래할 수 있습니다. 예를 들어, 비즈니스 고객은 잘못되거나 부정확한 정보, 권장 사항 또는 지원을 받을 수 있습니다. 제작자는 흐름과 앱 내에서 의미 있는 사람의 감독을 구현하고 Microsoft 사용 규정에 나열된 유해한 행동이나 금지된 콘텐츠를 생성할 가능성이 있는지 프롬프트를 테스트해야 합니다. 로우 코드 개발자는 또한 앱에서 AI를 사용하는 것과 비즈니스 사용자에게 알리기 위한 흐름에 대해 투명해야 하며 콘텐츠가 AI에 의해 생성되었음을 나타냅니다. 또한 생성된 응답은 길이 제한, 콘텐츠 필터링 또는 모델 선택으로 인해 로우 코드 개발자의 기대와 일치하지 않을 수 있습니다.
GPT 모델은 무엇이며, 어디에서 호스팅되며, 어떻게 액세스할 수 있나요?
GPT-3.5 Turbo 모델은 Azure OpenAI Service에서 호스팅됩니다. Azure OpenAI Service REST API, Python SDK 또는 Azure OpenAI Studio의 웹 기반 인터페이스를 사용하여 액세스할 수 있습니다.
자세히 알아보려면 Azure OpenAI Service의 새로운 기능으로 이동하세요.
내 데이터는 사용 가능한 대규모 언어 모델을 훈련하거나 개선하는 데 사용됩니까 AI Builder?
AI Builder 프롬프트는 Microsoft에서 호스팅하는 Azure OpenAI 서비스에서 실행됩니다. 고객 데이터는 Azure OpenAI Service Foundation 모델을 학습하거나 개선하는 데 사용되지 않습니다. Microsoft는 귀하가 허가하지 않는 한 귀하의 고객 데이터를 제3자에게 공유하지 않습니다. 기초 데이터가 포함된 고객 프롬프트(입력)도 모델 응답(출력)도 Azure OpenAI Service Foundation 모델을 학습하거나 개선하는 데 사용되지 않습니다.
'프롬프트를 사용하여 GPT로 텍스트 만들기' 작업에 추가된 콘텐츠에 공개적으로 액세스할 수 있나요?
작업에 대한 정보 탭에는 이 작업을 통해 Azure OpenAI Service에서 실행되는 GPT 모델을 활용하는 프롬프트에 대한 액세스가 제공됩니다가 표시됩니다.
Power Automate에서 프롬프트를 사용하여 GPT로 텍스트 만들기 작업에 추가하는 프롬프트는 기본적으로 비공개입니다. 조직 내에서만 보고 사용할 수 있으며 전 세계에서는 액세스할 수 없습니다. 프롬프트는 비공개이며 회사 내부용으로 사용됩니다.
새로 생성된 프롬프트는 기본적으로 비공개입니다. 즉, Power Automate, Power Apps 및 Microsoft Copilot Studio 해당 항목을 만든 사람만 보고 사용할 수 있습니다. 이를 통해 제작자는 앱이나 작업 흐름에서 이를 테스트 및 평가하고 공유하기 전에 정확성을 확인할 시간을 가질 수 있습니다.
환경 또는 그룹의 다른 사용자가 Power Apps 또는 Power Automate에서 프롬프트를 사용하도록 하려면 이를 공유해야 합니다.
자세히 알아보려면 프롬프트 공유로 이동하십시오.
사용자 지정 프롬프트와 AI 함수란 무엇입니까?
사용자 지정 프롬프트
사용자 지정 프롬프트를 통해 제작자는 LLM(대규모 언어 모델)에 특정 방식으로 작동하거나 특정 작업을 수행하도록 지시할 수 있습니다. 프롬프트를 주의 깊게 작성하면 특정 비즈니스 요구 사항에 맞는 응답을 생성할 수 있습니다. 이는 LLM 모델을 다양한 작업을 수행하기 위한 유연한 도구로 변환합니다.
예
언어 모델을 사용하면 사용자 지정 프롬프트를 통해 모델이 질문에 대답하고, 텍스트를 완성하고, 언어를 번역하고, 문서를 요약하고, 텍스트에서 작업, 할 일, 작업 항목을 식별하도록 안내할 수 있습니다. 사용자 지정 프롬프트의 복잡성은 작업에 따라 단일 문장부터 더 복잡한 문장까지 다양할 수 있습니다.
AI 함수
사전 빌드된 AI 함수는 제작자가 일반적인 작업을 쉽게 수행할 수 있도록 Microsoft 팀에서 만든 사전 구성된 프롬프트입니다. 다양한 사용 사례에서 바로 사용할 수 있는 AI 기능을 제공하여 제작자의 솔루션에 인텔리전스를 주입하는 경험을 단순화합니다.
예
언어 모델의 사전 빌드된 프롬프트는 다음과 같습니다.
[TextToExtract]에서 작업 포인트를 번호가 매겨진 목록으로 추출
이 경우 사용자는 작업 포인트를 추출하려는 [TextToExtract] 텍스트만 제공하면 됩니다. 나머지는 사전 빌드된 프롬프트가 처리합니다.