프롬프트 엔지니어링 기술

  • 아티클

이 가이드는 프롬프트 디자인 및 프롬프트 엔지니어링의 몇 가지 고급 기술을 안내합니다. 프롬프트 엔지니어링을 처음 접하는 경우 프롬프트 엔지니어링 가이드 소개부터 시작하는 것이 좋습니다.

프롬프트 엔지니어링의 원칙은 다양한 모델 형식에 걸쳐 일반화될 수 있지만 특정 모델은 특수한 프롬프트 구조가 필요합니다. Azure OpenAI GPT 모델의 경우 현재 프롬프트 엔지니어링이 작동하는 두 가지 고유한 API가 있습니다.

  • 채팅 완료 API.
  • 완료 API.

각 API에는 입력 데이터의 형식이 서로 달라야 하며 이는 결국 전반적인 프롬프트 디자인에 영향을 미칩니다. 채팅 완료 API는 GPT-35-Turbo 및 GPT-4 모델을 지원합니다. 이러한 모델은 사전 배열 내에 저장된 채팅과 유사한 특정 스크립트 형식의 입력을 받도록 설계되었습니다.

완료 API는 이전 GPT-3 모델을 지원하며 특정 형식 규칙 없이 텍스트 문자열을 사용한다는 점에서 훨씬 더 유연한 입력 요구 사항을 갖습니다.

이 가이드의 기술은 LLM(대규모 언어 모델)을 통해 생성하는 응답의 정확도와 접지를 높이기 위한 전략을 가르쳐줍니다. 그러나 프롬프트 엔지니어링을 효과적으로 사용하더라도 모델이 생성하는 응답의 유효성을 검사해야 한다는 점을 기억하는 것이 중요합니다. 신중하게 제작된 프롬프트가 특정 시나리오에 잘 작동했다고 해서 반드시 특정 사용 사례에 더 광범위하게 일반화된다는 의미는 아닙니다. LLM의 한도를 이해하는 것은 LLM의 강점을 활용하는 방법을 이해하는 것만큼 중요합니다.

이 가이드에서는 채팅 완료를 위한 메시지 구조 뒤에 있는 메커니즘에 대해 자세히 설명합니다. 프로그래밍 방식으로 채팅 완료 모델과 상호 작용하는 데 익숙하지 않은 경우 먼저 채팅 완료 API에 대한 방법 가이드를 읽는 것이 좋습니다.

참고 항목

가이드의 이 섹션에 있는 모든 예는 영어로 된 기본 GPT-4 모델을 대상으로 테스트되었습니다. 이 문서의 지역화 버전을 다른 언어로 읽고 있는 경우 이러한 응답은 영어의 지역화된 번역 결과를 나타냅니다. 모델 프롬프트에 사용하는 언어에 따른 잠재적인 제한 사항에 대해 자세히 알아보려면 책임 있는 AI 투명성 참고를 참조하세요.

시스템 메시지

시스템 메시지는 프롬프트 시작 부분에 포함되며 사용 사례와 관련된 컨텍스트, 지침 또는 기타 정보로 모델을 준비하는 데 사용됩니다. 시스템 메시지를 사용하여 도우미의 성격을 설명하고, 모달이 답변해야 할 것과 답변하지 말아야 할 것을 정의하고, 모델 답변의 형식을 정의할 수 있습니다.

아래 예는 샘플 시스템 메시지와 결과 모델 응답을 보여 줍니다.

시스템 메시지 사용자 도우미
사람들이 정보를 찾고 라임에 맞춰 응답하도록 돕는 AI 도우미입니다. 사용자가 대답을 모르는 질문을 하면 그렇다고 대답하세요. 나에 대해 무엇을 말할 수 있나요, John Doe? 친애하는 John, 이렇게 말하게 되어 미안해요.
하지만 오늘은 당신에 대한 정보가 없습니다.
나는 단지 내 뇌 속에 지식을 갖고 있는 AI일 뿐이고,
하지만 여러분의 의견이 없으면 설명할 수 없습니다.
그러니 당신이 추구하는 것이 무엇인지 더 자세히 말해주세요.
그리고 나는 당신에게 독특한 답변을 제공하기 위해 최선을 다할 것입니다.

시스템 메시지의 다른 예는 다음과 같습니다.

  • "도우미는 OpenAI로 학습된 대규모 언어 모델입니다."
  • "도우미는 사용자가 Azure OpenAI 서비스에 대한 기술적인 질문에 답변할 수 있도록 설계된 지능형 챗봇입니다. 아래 컨텍스트를 사용해서만 질문에 답합니다. 답이 확실하지 않으면 "모르겠어요"라고 말할 수 있습니다.
  • "도우미는 사용자가 세금 관련 질문에 답할 수 있도록 설계된 지능형 챗봇입니다."
  • "텍스트에서 엔터티를 추출하도록 설계된 도우미. 사용자는 텍스트 문자열에 붙여넣고 텍스트에서 추출한 엔터티를 JSON 개체로 사용하여 응답합니다. 출력 형식의 예는 다음과 같습니다.
{  
   "name": "",
   "company": "",
   "phone_number": ""
}

이해해야 할 중요한 세부 사항은 시스템 메시지의 모델에 답변을 지시하더라도 대답 을 잘 모르는 경우 요청이 적용된다는 것을 보장하지 않는다는 것입니다. 잘 디자인된 시스템 메시지는 특정 결과의 가능성을 높일 수 있지만 시스템 메시지의 명령 의도와 모순되는 잘못된 응답이 생성될 수 있습니다.

퓨샷 학습

새로운 작업에 언어 모델을 적용하는 일반적인 방법은 퓨샷 학습을 사용하는 것입니다. 퓨샷 학습에서는 모델에 추가 컨텍스트를 제공하기 위한 프롬프트의 일부로 학습 예 집합이 제공됩니다.

채팅 완료 API를 사용할 때 사용자와 도우미 사이의 일련의 메시지(새로운 프롬프트 형식으로 작성됨)는 퓨샷 학습의 예 역할을 할 수 있습니다. 이러한 예를 사용하여 모델이 특정 방식으로 답변하도록 준비하고, 특정 동작을 에뮬레이트하고, 일반적인 질문에 대한 답변 근거를 준비할 수 있습니다.

시스템 메시지 퓨샷 예
도우미는 사용자가 세금 관련 질문에 답할 수 있도록 설계된 지능형 챗봇입니다.
지침
- 세금과 관련된 질문에만 답변합니다.
- 답변이 확실하지 않은 경우 "알 수 없습니다" 또는 "확실하지 않습니다"라고 말하고 사용자에게 IRS 웹 사이트에서 자세한 내용을 확인하도록 권장할 수 있습니다.		 사용자 - "언제까지 세금을 신고해야 하나요?"
길잡 이 - "2023년에는 4월 18일까지 세금을 신고해야 합니다. 2023년 4월 15일이 토요일이기 때문에 날짜는 일반적인 기한인 4월 15일 이후입니다. 자세한 내용은 "를 참조하세요 https://www.irs.gov/filing/individuals/when-to-file .

사용자 - "세금 환급 상태를 어떻게 확인할 수 있나요?"
도우미 - "https://www.irs.gov/refunds를 방문하여 세금 환급 상태를 확인할 수 있습니다."

위의 표에서는 기본 프롬프트 구조를 설명하지만 정확한 프롬프트 형식에 대한 자세한 설명은 채팅 완료 가이드를 참조해야 합니다.

비채팅 시나리오

채팅 완료 API는 다단계 대화에 최적화되어 있지만 채팅이 아닌 시나리오에도 사용할 수 있습니다. 예를 들어, 감정 분석 시나리오의 경우 다음 프롬프트를 사용할 수 있습니다.

시스템 메시지 사용자 도우미
음성 데이터의 감정을 분석하도록 설계된 도우미. 사용자는 텍스트 문자열에 붙여넣고 화자의 응답에 대한 평가로 응답합니다. 1~10점으로 평가합니다(10이 가장 높음). 이 등급을 부여한 이유를 설명합니다. 안녕하세요? 오늘 저희 Contoso 약국에 전화해 주셔서 감사 드립니다. 실망하신 점에 대해 이해하고 있습니다 음... 정확히 무엇을 하려고 하는지 말해주실 수 있나요? 알겠습니다. 잠시 확인해 드리게 되어 기쁘게 생각합니다. 여기 보니 일반 형태의 리피터를 복용하고 계셨네요. 알겠습니다. 어... 그럼 담당 의사가 2221년에 이 약의 처방을 중단한 것으로 확인됩니다 실제로 그렇습니다 어... 확인해 드리겠습니다. 어... 가끔 시스템에 간격이 있어서 보고가 안 되는 경우도 있으니 잠시만 여기를 살펴보겠습니다. 여기 보니 담당 의사가 20세... 12세부터 20세... 21세까지 이런 약을 처방한 것 같아요. 알겠습니다. 음... 진료실에서 제공한 최근 기록에 따르면 지금 다른 약인 메트포르민을 복용하고 계십니다. 500밀리그램 단위로 약간의 양식을 받아오실 수 있도록 처방전을 작성해 드릴까요? 오늘 저희가 도와드릴 수 있는 다른 일이 있으면 언제든지 알려 주시기 바랍니다. 감정 평가: 8
이 텍스트의 화자는 고객의 우려 사항을 해결하면서 정중하고 도움이 되며 인내심을 갖고 있는 것 같습니다. 시간을 내어 정보를 확인하고 명확한 설명을 제공하며 도움을 제공합니다. 그러나 대화의 일부 부분에는 여전히 불확실성의 힌트가 있기 때문에 등급이 10이 아니므로 고객에게 완전한 신뢰를 전달하지 못할 수 있습니다.

명확한 지침으로 시작합니다.

시퀀스 정보는 프롬프트 문제에 나타납니다. 이는 GPT 스타일 모델이 입력 처리 방법을 정의하는 특정 방식으로 빌드되기 때문입니다. Microsoft의 연구에 따르면 추가 상황 정보나 예를 공유하기 전에 프롬프트 시작 부분에서 모델에 수행하려는 작업을 알려 주는 것이 더 높은 품질의 출력을 생성하는 데 도움이 될 수 있습니다.

참고 항목

이 기술을 따르는 것이 여전히 일반적으로 권장되지만 이전 모델 버전(GPT-3 이하)과 달리 테스트에서는 ChatGPT 및 GPT-4 모델의 모델 응답이 기술 활용 여부에 관계없이 동일하다는 것을 보여 주었습니다. 아래 예의 경우 프롬프트의 시작 또는 끝 부분에 "여러 원본… 분출"이라는 문구를 추가해도 최종 모델 응답에 아무런 변화가 발생하지 않았음을 알 수 있습니다.

시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미. 당신의 임무는 "여러 원본에서 또 다른 대규모 폭발의 가능성을 언급하고 있습니다"라는 진술이 다음 단편 집합의 특정 인용문에 의해 뒷받침되는지 확인하는 것입니다.
---
SNIPPETS
[1] 전문가들은 시애틀에 대규모 지진이 발생할 확률이 14%라고 말합니다.
시애틀 - 미국 지질 조사국(U.S. Geological Survey)은 향후 50년 안에 규모 9의 캐스케디아 지진이 시애틀을 강타할 확률이 14%라고 예상합니다. "불행히도, 우리는 할 수 없습니다...

[2] 지진 전문가들은 시애틀의 '정말 큰 사건'에 대한 최신 전망을 제시합니다.
워싱턴 대학의 한 지구물리학자는 "향후 50년 안에 규모 9의 지진이 다시 발생할 확률은 약 14%"라고 말했습니다.
---
"여러 원본에서 또 다른 대규모 폭발의 가능성을 언급하고 있습니다"라는 문구가 직접적으로 암시되거나 코드 조각에 명시되어 있나요?		 아니요, 문은 코드 조각에 의해 직접 암시되거나 명시되지 않습니다. 이 조각은 향후 50년 동안 시애틀을 강타한 "메가쿼크"와 "진도 9 캐스케이디아 지진"의 가능성을 멘션 있지만, 또 다른 큰 분화의 기회를 멘션 않습니다.

마지막에 지시 사항을 반복합니다.

모델은 최신 바이어스에 취약할 수 있습니다. 이는 프롬프트 끝의 정보가 프롬프트 시작 부분의 정보보다 출력에 더 큰 영향을 미칠 수 있음을 의미합니다. 따라서 프롬프트가 끝날 때 지침을 반복하고 생성된 응답에 미치는 영향을 평가하는 것이 좋습니다.

출력 사전 작업

이는 원하는 형식을 따르는 모델 응답을 가져오기 위해 프롬프트 끝에 몇 개의 단어나 구를 포함하는 것을 의미합니다. 예를 들어, “Here’s a bulleted list of key points:\n- ”과 같은 큐를 사용하면 출력이 글머리 기호 목록 형식인지 확인하는 데 도움이 될 수 있습니다.

시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미. 가능한 한 짧은 단어로 대답합니다. John Smith는 Lucy Smith와 결혼했습니다. 그들에게는 다섯 명의 자녀가 있고 그는 Microsoft에서 소프트웨어 엔지니어로 일하고 있습니다. 사실을 확인하려면 어떤 검색 쿼리를 사용해야 하나요? ## 가능한 검색 쿼리 중 하나는 다음과 같습니다. "John Smith는 Lucy Smith와 다섯 명의 자녀를 둔 소프트웨어 엔지니어 Microsoft와 결혼했습니다."

위 프롬프트에서 가능한 검색 쿼리 중 하나는 다음과 같습니다.라는 텍스트는 모델을 프라이밍하여 단일 출력을 생성합니다. 이 신호가 없으면 모델은 여러 검색 쿼리를 출력으로 생성합니다.

명확한 구문 추가

문장 부호, 제목, 섹션 표시 등 프롬프트에 명확한 구문을 사용하면 의도를 전달하는 데 도움이 되며 출력을 더 쉽게 구문 분석할 수 있습니다.

아래 예에서는 서로 다른 정보 원본 또는 단계 사이에 구분 기호(이 경우 ---)가 추가되었습니다. 이를 통해 생성을 위한 중지 조건으로 ---을 사용할 수 있습니다. 또한 섹션 제목이나 특수 변수는 대문자로 표시하여 구분합니다.

시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미. 단락을 읽은 다음 검색 엔진에 쿼리를 실행하여 사실 검사. 쿼리에 대해서도 설명합니다.
---
단락
John Smith는 Lucy Smith와 결혼했습니다. 그들에게는 다섯 명의 자녀가 있고 그는 Microsoft에서 소프트웨어 엔지니어로 일하고 있습니다. 사실을 확인하려면 어떤 검색 쿼리를 사용해야 하나요?
---
쿼리		 1. "John Smith Microsoft" - John Smith가 실제로 Microsoft에 고용되어 있는지 확인합니다.
2. "John Smith Lucy Smith" - John Smith가 Lucy Smith와 결혼했는지 확인합니다.
3. "John Smith children" - John Smith에게 5명의 자식이 있는지 확인합니다.

어떤 구문을 사용해야 할지 잘 모르겠으면 Markdown이나 XML을 사용해 보세요. 모델은 XML 및 Markdown의 대량 웹 콘텐츠에서 학습되어 더 나은 결과를 제공할 수 있습니다.

작업을 세분화합니다.

LLM(대규모 언어 모델)은 작업이 더 작은 단계로 나누어지면 성능이 더 좋은 경우가 많습니다. 예를 들어, 앞서 참조한 검색 쿼리 프롬프트에서 프롬프트는 모델이 먼저 관련 사실을 추출하도록 지시한 다음, 해당 사실을 확인하는 데 사용할 수 있는 검색 쿼리를 생성하도록 지시하도록 재구성될 수 있습니다.

시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미. 단락을 읽은 다음 검색 엔진에 쿼리를 실행하여 사실 검사.
---
단락
John Smith는 Lucy Smith와 결혼했습니다. 그들에게는 다섯 명의 자녀가 있고 그는 Microsoft에서 소프트웨어 엔지니어로 일하고 있습니다. 사실을 확인하려면 어떤 검색 쿼리를 사용해야 하나요?
---
이제 팩트 클레임을 추출하고 팩트 검사 쿼리를 실행합니다. 쿼리를 실행할 때 SEARCH("query") 함수를 사용합니다.

팩트 클레임		 1. 존 스미스가 루시 스미스와 결혼
2. 다섯 명의 아이를 갖고 있습니다.
3. 그는 Microsoft에서 소프트웨어 엔지니어로 일하고 있습니다.

쿼리
SEARCH("John Smith married Lucy Smith")
SEARCH("John Smith family size")
SEARCH("John Smith Microsoft software engineer")

섹션을 구별하고 출력을 준비하기 위해 명확한 구문을 사용하는 것에 주목합니다. 이 간단한 예제에서는 작업을 1~2단계로 나누는 것이 그리 극적이지는 않지만 많은 사실 클레임이 있는 더 큰 텍스트 조각에 대해 이 작업을 수행하려고 할 때 작업을 중단하면 큰 차이를 만들 수 있습니다.

어포던스 사용

때로는 정보와 답변을 위해 자체 매개 변수에 의존하는 대신 어포던스를 사용하도록 모델을 가져올 수도 있습니다. 예를 들어, 검색은 조작된 답변을 완화하고 최신 정보를 가져오는 데 도움이 되는 어포던스가 될 수 있습니다.

어포던스를 사용하는 간단한 방법 중 하나는 모델에서 어포던스 호출이 생성되면 생성을 중지한 다음 결과를 프롬프트에 다시 붙여넣는 것입니다. 다음은 위의 SEARCH 호출을 수행한 후 후속 호출이 수행될 수 있는 예입니다. 검색 결과를 프롬프트에 붙여넣고 이전 SEARCH 호출을 바꾼 방법에 주목합니다.

시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미. 단락을 읽고, 사실 클레임을 추출한 다음, 검색 엔진 결과를 사용하여 사실 검사.
---
단락
John Smith는 Lucy Smith와 결혼했습니다. 그들에게는 다섯 명의 자녀가 있고 그는 Microsoft에서 소프트웨어 엔지니어로 일하고 있습니다. 사실을 확인하려면 어떤 검색 쿼리를 사용해야 하나요?
---
팩트 클레임
- John Smith는 Lucy Smith와 결혼했습니다.
- John과 Lucy에게는 다섯 명의 자녀가 있습니다.
- John은 Microsoft에서 소프트웨어 엔지니어로 일하고 있습니다.
---
위의 클레임을 조사하기 위해 발급된 다양한 검색 쿼리는 다음과 같습니다.
검색 쿼리
- John Smith married to Lucy Smith
- John Smith number of children
- John Smith software engineer Microsoft
---
다음은 검색 결과의 일부입니다.
코드 조각:
[1] … John Smith의 결혼식은 2012년 9월 25일에 있었습니다.
[2] … John Smith was accompanied by his wife Lucy to a party
[3]John was accompanied to the soccer game by his two daughters and three sons
[4] … After spending 10 years at Microsoft, Smith founded his own startup, Tailspin Toys
[5] John M is the town smith, and he married Fiona. They have a daughter named Lucy
---
코드 조각을 바탕으로 위의 각 팩트 클레임에 대해 사실 확인을 해보세요.		 - John Smith is married to Lucy Smith: Confirmed. 코드 조각 [1]과 [2]는 모두 John Smith의 아내를 Lucy로 언급합니다.

- John and Lucy have five kids: Confirmed. 코드 조각 [3]에서는 John이 두 딸과 세 아들을 동반했다고 언급합니다.

- John works as a software engineer at Microsoft: Partially confirmed. 코드 조각 [4] 존은 Microsoft에서 10 년을 보냈다는 멘션, 그러나 그가 현재 그곳에서 일하고 있다는 것을 명시적으로 명시하지는 않습니다. 그의 현재 고용 상태 확인하기 위해 추가 연구가 필요할 수 있습니다.

생각의 사슬 메시지 표시

이는 작업 분석 기술의 변형입니다. 이 방식에서는 작업을 더 작은 단계로 나누는 대신 모델 응답에 단계별로 진행하고 관련된 모든 단계를 제시하도록 지시합니다. 이렇게 하면 결과가 부정확할 가능성이 줄어들고 모델 반응을 더 쉽게 평가할 수 있습니다.

시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미. 시드니 올림픽에서 개인 선수 중 가장 많은 훈장을 받은(최대 메달 획득) 선수는 누구였나요? 답변 시 단계별 방식을 취하고, 원본을 인용하고 추론을 제시한 후 아래 형식으로 최종 답변을 공유합니다. 답변: <name> 1단계: 시드니 올림픽 개최 연도를 결정합니다. 2000년에는 시드니 올림픽이 열렸습니다.

2단계: 2000년 시드니 올림픽에서 여러 개의 메달을 획득한 개별 운동 선수의 목록을 찾습니다.

올림픽 공식 홈페이지에 따르면 2000년 시드니 올림픽에서 여러 개의 메달을 획득한 개인 선수들이 여러 명 있었습니다. 주목할만한 이름 중 일부는 다음과 같습니다.
• Ian Thorpe(오스트레일리아) - 금 3개, 은 2개, 동 0개
• Pieter van den Hoogenband(네덜란드) - 금 2개, 은 0개, 동 2개
• Lenny Krayzelburg(미국) - 금 3개, 은 0개, 동 0개
• Inge de Bruijn(네덜란드) - 금 3개, 은 1개, 동 0개

3단계: 가장 많은 메달을 획득한 선수를 결정합니다. 2000년 시드니 올림픽에서 여러 개의 메달을 획득한 개인 선수들의 목록을 검토한 결과, 가장 많은 메달을 획득한 선수는 총 5개의 메달(금 3개, 은 2개)을 획득한 오스트레일리아의 Ian Thorpe임을 알 수 있습니다.

따라서 대답은 Ian Thorpe입니다.

출력 구조 지정

프롬프트를 사용하여 출력의 구조를 지정하면 결과의 특성과 품질에 상당한 영향을 미칠 수 있습니다. 경우에 따라 시스템 메시지 입력이 "진정한 사실만 작성" 또는 "정보를 조작하지 않음"으로 입력하는 것이 적절한 완화 방법이 아닐 수 있습니다. 대신 모델 응답에 인용도 포함하도록 요청하면 잘못된 응답의 확산을 줄이는 데 도움이 될 수 있습니다.

모델이 진술을 할 때 원본 재질을 인용하도록 지시하면 해당 진술이 근거가 될 가능성이 훨씬 더 높습니다. 인용을 요청하면 모델이 응답을 생성할 때마다 두 가지 오류를 범해야 합니다. 첫 번째 오류는 조작된 응답이고 두 번째 오류는 잘못된 인용입니다. 인용이 지원하는 텍스트에 가까울수록 모델이 인용을 예측하는 데 필요한 거리가 짧아집니다. 이는 인라인 인용이 콘텐츠 끝 부분의 인용보다 허위 콘텐츠 생성을 더 효과적으로 완화할 수 있음을 의미합니다.

마찬가지로 모델에 단락에서 팩트 문을 추출하도록 요청하는 경우 'X가 Y AND Z를 수행하고 있습니다'와 같은 복합 문을 추출할 수 있습니다(확인이 더 어려울 수 있습니다). 이는(엔터티1, 관계, 엔터티2)와 같은 출력 구조를 지정하여 방지할 수 있습니다.

아래 예에서는 인용을 사용하고 정의된 구조에 맞게 모델 응답을 지시하는 방법을 보여 줍니다.

시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미 다음 대화에서 고객 지원 담당자가 나타내는 다양한 동작을 나열합니다.
---
안녕하세요? 오늘 저희 Contoso 약국에 전화해 주셔서 감사 드립니다. 실망하신 점에 대해 이해하고 있습니다 음... 정확히 무엇을 하려고 하는지 말해주실 수 있나요? 알겠습니다. 잠시 확인해 드리게 되어 기쁘게 생각합니다. 여기 보니 일반 형태의 리피터를 복용하고 계셨네요. 알겠습니다. 어... 그럼 담당 의사가 2221년에 이 약의 처방을 중단한 것으로 확인됩니다 실제로 그렇습니다 어... 확인해 드리겠습니다. 어... 가끔 시스템에 간격이 있어서 보고가 안 되는 경우도 있으니 잠시만 여기를 살펴보겠습니다. 여기 보니 담당 의사가 20세... 12세부터 20세... 21세까지 이런 약을 처방한 것 같아요. 알겠습니다. 음... 진료실에서 제공한 최근 기록에 따르면 지금 다른 약인 메트포르민을 복용하고 계십니다. 500밀리그램 단위로 약간의 양식을 받아오실 수 있도록 처방전을 작성해 드릴까요? 오늘 저희가 도와드릴 수 있는 다른 일이 있으면 언제든지 알려 주시기 바랍니다.
---
고객 지원 에이전트의 답변은 어땠나요?
BEHAVIOR("reason") 형식을 사용하여 다양한 동작을 분류 및 나열하고 분류 이유를 인용합니다.		 1. 정중한 인사 동작("에이전트는 정중한 인사로 대화를 시작하고 발신자의 이름을 묻습니다.")
2. 공감적 동작("에이전트는 Mary의 좌절감을 인정하고 그녀의 우려 사항을 이해하려고 노력합니다.")
3. 세심한 동작("에이전트가 고객의 문제를 듣고 자세한 내용을 묻습니다.")
4. 적극적인 동작("에이전트가 고객에게 문제를 확인하겠다고 제공합니다.")
5. 유익한 동작("대리인은 고객의 처방 내역에 대한 관련 정보를 제공합니다.")
6. 철저한 동작("에이전트는 시스템에 발생할 수 있는 간격을 확인하고 완전한 응답을 제공합니다.")
7. 확인 동작("에이전트가 고객에게 현재 약품을 확인합니다.")
8. 해결 지향적 동작("에이전트는 고객에게 새로운 처방을 제공합니다.")
9. 정중한 동작("에이전트는 고객에게 감사를 표하고 필요한 경우 추가 지원을 제공합니다.")
시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미. 텍스트에 나타난 패턴을 기반으로 다음 뉴스 헤드라인을 항목 범주로 묶습니다. 또한 이러한 범주가 어떻게 정의되었는지에 대한 추론을 언급합니다.
출력 형식:
{
"TOPIC_NAME": "",
"HEADLINES": [],
"REASONING": ""
}

뉴스 헤드라인 입력:
1. "AR+ML을 사용하여 10대에 대한 책부터 프레젠테이션까지"
2. "세계 최초의 텍스트 인식용 나선형 네트워크를 보여 주는 32세 Yann LeCun의 1993년 데모"
3. "애니메이션 그림에 적용되는 첫 번째 순서 모션 모델"
4. "Robinhood 및 기타 브로커는 말 그대로 $GME, $NOK, $BB, $AMC 구매를 차단하고 판매를 허용합니다."
5. "United Airlines 주가는 시판 전 거래에서 5% 이상 하락했습니다."
출력
{
"ARTIFICIAL_INTELLIGENCE": {
"HEADLINES": [
"AR+ML을 사용하여 10대에 대한 책부터 프레젠테이션까지",
"세계 최초의 텍스트 인식용 나선형 네트워크를 보여 주는 32세 Yann LeCun의 1993년 데모",
"애니메이션 그림에 적용되는 첫 번째 순서 모션 모델"
],
"추론": "이 헤드라인은 인공 지능, 기계 학습 및 다양한 분야의 응용과 관련이 있습니다."
},
"FINANCIAL_MARKETS": {
"HEADLINES": [
"Robinhood 및 기타 브로커는 말 그대로 $GME, $NOK, $BB, $AMC 구매를 차단하고 판매를 허용합니다.",
"United Airlines 주가는 시판 전 거래에서 5% 이상 하락했습니다",
"비트코인은 1년 전 오늘 거의 20,000달러였습니다"
],
"추론": "이 헤드라인은 금융 시장, 주식, 암호화폐 및 거래 플랫폼과 관련이 있습니다."
}
}

온도 및 Top_p 매개 변수

온도 매개 변수를 변경하면 모델의 출력이 변경됩니다. 온도 매개 변수는 0과 2 사이에서 설정할 수 있습니다. 값이 높을수록 예를 들어 0.7은 출력을 더 임의로 만들고 더 다양한 응답을 생성하는 반면, 값은 낮습니다. 0.2는 출력을 보다 집중적이고 구체적으로 만듭니다. 더 높은 온도를 사용하면 가상의 스토리가 생성될 수 있습니다. 법적 문서를 생성하려면 훨씬 낮은 온도를 사용하는 것이 좋습니다. Top_probability는 또 다른 매개 변수이며 모델 반응의 임의성을 제어한다는 점에서 온도와 유사하지만 제어하는 방식이 다릅니다. 일반적인 권장 사항은 두 매개 변수 중 하나를 동시에 변경하는 것이지 둘 다 변경하는 것이 아닙니다.

접지 컨텍스트 제공

신뢰할 수 있는 답변을 제공하는 가장 효과적인 방법 중 하나는(접지 데이터)에서 답변을 도출할 수 있도록 모델 데이터를 제공하는 것입니다. 사용 사례가 신뢰할 수 있는 최신 정보를 사용하고 순전히 창의적인 시나리오가 아닌 경우 접지 데이터를 제공하는 것이 좋습니다. 일반적으로 원본 자료를 원하는 답변의 최종 형태에 가까울수록 모델이 수행해야 하는 작업이 줄어들기 때문에 오류가 발생할 기회가 줄어듭니다. 다음은 Azure OpenAI Service에서 GPT-4의 출시를 설명하는 최근 블로그가 시스템에 제공되고 일부 초기 고객의 이름을 묻는 예제입니다.

시스템 메시지 사용자 도우미
사용자가 정보를 찾는 데 도움이 되는 AI 도우미. 아래 텍스트에서만 답변을 제공하고 100개 이하의 단어로 응답합니다.
"Microsoft는 더 많은 사람들이 AI를 사용하여 이점을 얻을 수 있도록 창의력을 발휘하고 생산성을 높이며 수준 높은 기술을 제공하는 새로운 방법을 지속적으로 찾고 있습니다. 이를 통해 고객은 다음을 수행할 수 있습니다.

... 따라서 모델이 유해한 응답을 생성할 가능성을 줄입니다."1

100자 이내로 답변합니다. 가능하면 글머리 기호 목록을 사용합니다.		 Azure OpenAI 서비스 GPT-4 모델의 초기 고객은 누구인가요? Azure OpenAI 서비스 GPT-4 모델의 초기 고객은 다음과 같습니다.
- 에픽 의료: GPT-4를 사용하여 의사와 간호사가 데이터 입력 및 조사에 소요되는 시간을 줄일 계획입니다.
- Coursera: GPT-4와 함께 Azure OpenAI 서비스를 사용하여 플랫폼에서 새로운 AI 기반 학습 환경을 만듭니다.
- 코카콜라: Azure OpenAI를 사용하여 지식 허브를 구축하고 마케팅, 광고, 홍보 및 고객 관계에 GPT-4의 다모달 기능을 활용할 계획입니다.
- 모든 규모의 다른 회사에서는 Azure AI를 사용하여 고객 환경을 개선하고, 긴 형식의 콘텐츠를 요약하고, 소프트웨어 작성을 돕고, 올바른 세금 데이터를 예측하여 위험을 줄이고 있습니다.

1Azure OpenAI GPT-4 출시 블로그의 텍스트입니다.

다음 단계

참고 항목

가이드의 이 섹션에 있는 모든 예제는 영어로 모델을 사용하여 테스트되었습니다 gpt-35-turbo-instruct . 이 문서의 지역화 버전을 다른 언어로 읽고 있는 경우 이러한 응답은 영어의 지역화된 번역 결과를 나타냅니다. 모델 프롬프트에 사용하는 언어에 따른 잠재적인 제한 사항에 대해 자세히 알아보려면 책임 있는 AI 투명성 참고를 참조하세요.

명확한 지침으로 시작합니다.

시퀀스 정보는 프롬프트 문제에 추가됩니다. Microsoft의 연구에 따르면 추가 상황 정보나 예를 공유하기 전에 프롬프트 시작 부분에서 모델에 수행하려는 작업을 알려 주는 것이 더 높은 품질의 출력을 생성하는 데 도움이 될 수 있습니다.

아래 첫 번째 예에서는 지침의 핵심 부분이 마지막에만 공유되므로 결과 완료가 올바르지 않습니다.

프롬프트 Completion
Your task is to verify if a statement is supported by a specific quote from the following set of snippets.
---
SNIPPETS
[1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to...

[2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’
“We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington...
 Yes, the statement is directly implied by the snippets.

다음 예에서는 코드 조각 컨텍스트를 제공하기 전에 확인하고 싶은 정확한 설명("여러 원본에서 또 다른 폭발의 가능성을 언급했습니다")을 제공합니다. 이렇게 하면 코드 조각에서 추출된 토큰 표현을 검사 문에 맞게 조정할 수 있습니다. 이제 결과 모델 응답이 정확해졌습니다.

프롬프트 Completion
Your task is to verify if the statement "Several sources mention a chance of another large eruption" is supported by a specific quote from the following set of snippets.
---
SNIPPETS
[1] 14 percent chance of megaquake hitting Seattle, experts say SEATTLE - There's a 14 percent chance of a magnitude 9 Cascadia earthquake hitting Seattle in the next 50 years, the U.S. Geological Survey estimates. "Unfortunately, we are unable to...

[2] Earthquake experts lay out latest outlook for Seattle's 'Really Big One’<br>“We say that there's approximately a 14% chance of another approximately magnitude-9 earthquake occurring in the next 50 years,” said a geophysicist at the University of Washington...
---
**Is the statement "Several sources mention a chance of another large eruption" directly implied or stated by the snippets?**		 No, the statement is not directly implied or stated by the snippets. The snippets mention a chance of a "megaquake" and a "magnitude 9 Cascadia earthquake" hitting Seattle in the next 50 years, but do not mention a chance of another large eruption.

마지막에 지시 사항을 반복합니다.

모델은 최근 바이어스에 취약할 수 있습니다. 즉, 프롬프트 끝의 정보는 프롬프트 시작 부분의 정보보다 출력에 더 큰 영향을 미칠 수 있습니다. 따라서 프롬프트 끝에서 명령을 반복하여 실험하고 사용 사례에 미치는 영향을 평가하는 것이 좋습니다.

앞선 예에서 프롬프트의 시작과 끝에서 명령을 반복하면 정확한 모델 응답을 가져올 가능성이 어떻게 높아지는지 확인했습니다.

출력 사전 작업

이는 원하는 형식을 따르는 모델 응답을 가져오기 위해 프롬프트 끝에 몇 개의 단어나 구를 포함하는 것을 의미합니다. 예를 들어, “Here’s a bulleted list of key points:\n- ”과 같은 큐를 사용하면 출력이 글머리 기호 목록 형식인지 확인하는 데 도움이 될 수 있습니다.

프롬프트 Completion
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
##
One possible search query is:		 "John Smith Microsoft software engineer"
Another possible search query is: "Lucy Smith married to John Smith"
A third possible search query is: "John Smith family size".

위 프롬프트에서 "가능한 검색 쿼리는 다음과 같습니다."라는 텍스트는 모델을 준비하여 검색 쿼리 형식의 출력을 생성합니다. 이 기술은 "한 가지 가능성은..."과 같이 모델이 일반적으로 추가할 수 있는 위험을 제거하는 데 도움이 될 수 있습니다.

명확한 구문 추가

문장 부호, 제목, 섹션 표시 등 프롬프트에 명확한 구문을 사용하면 의도를 전달하는 데 도움이 되며 출력을 더 쉽게 구문 분석할 수 있습니다.

아래 예에서는 서로 다른 정보 원본 또는 단계 사이에 구분 기호(이 경우 ---)가 추가되었습니다. 이를 통해 생성을 위한 중지 조건으로 ---을 사용할 수 있습니다. 또한 섹션 제목이나 특수 변수는 대문자로 표시하여 구분합니다.

프롬프트 Completion
You will read a paragraph, and then issue queries to a search engine in order to fact-check it. Also explain the queries.
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
QUERIES		 1. "John Smith Microsoft" - To check if John Smith is indeed employed at Microsoft.
2. "John Smith Lucy Smith" - To check if John Smith is married to Lucy Smith.
3. "John Smith children" - To check if John Smith has five children.

어떤 구문을 사용해야 할지 잘 모르겠다면 가격 인하이나 XML 사용을 고려해 보세요. 대규모 언어 모델은 XML이나 가격 인하의 많은 웹 콘텐츠에 대해 학습되었기 때문입니다.

작업을 세분화합니다.

작업이 더 작은 단계로 나누어지면 모델의 성능이 더 좋아지는 경우가 많습니다. 예를 들어, 앞서 참조한 검색 쿼리 프롬프트에서 프롬프트는 모델이 먼저 관련 사실을 추출하도록 지시한 다음, 해당 사실을 확인하는 데 사용할 수 있는 검색 쿼리를 생성하도록 지시하도록 재구성될 수 있습니다.

프롬프트 Completion
You will read a paragraph, and then issue queries to a search engine in order to fact-check it.
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
Now you will extract factual claims, and issue queries to fact-check them. When issuing a query, use the function SEARCH("query")

FACTUAL CLAIMS`` | 1. 존 스미스는 루시 스미스 <br>2와 결혼했다. 그들은 다섯 아이가<br>3. John은 Microsoft에서 소프트웨어 엔지니어로 일하고 있습니다.

쿼리
SEARCH("John Smith married Lucy Smith")<br>SEARCH("John Smith family size")<br>SEARCH("John Smith Microsoft Software engineer")'

섹션을 구별하고 출력을 준비하기 위해 명확한 구문을 사용하는 것에 주목합니다. 이 간단한 예에서 작업을 한 단계에서 두 단계로 나누는 것은 그다지 드라마틱하지 않지만 팩트 클레임이 많은 더 큰 텍스트에 대해 이 작업을 수행하려고 하면 작업을 나누는 것이 상당한 차이를 만들 수 있습니다.

어포던스 사용

때로는 정보와 답변을 위해 자체 매개 변수에 의존하는 대신 어포던스를 사용하도록 모델을 가져올 수도 있습니다. 예를 들어, 검색은 조작된 답변을 완화하고 최신 정보를 가져오는 데 도움이 되는 어포던스가 될 수 있습니다.

어포던스를 사용하는 간단한 방법 중 하나는 모델에서 어포던스 호출이 생성되면 생성을 중지한 다음 결과를 프롬프트에 다시 붙여넣는 것입니다. 다음은 위의 SEARCH 호출을 수행한 후 후속 호출이 수행될 수 있는 예입니다. 검색 결과를 프롬프트에 붙여넣고 이전 SEARCH 호출을 바꾼 방법에 주목합니다.

프롬프트 Completion
You will read a paragraph, extract factual claims, and then use search engine results to fact-check them
---
PARAGRAPH
John Smith is married to Lucy Smith. They have five kids, and he works as a software engineer at Microsoft. What search queries should I do to fact-check this?
---
FACTUAL CLAIMS
- John Smith is married to Lucy Smith
- John and Lucy have five kids
- John works as a software engineer at Microsoft
---
Here are various search queries issued to research the claims above:
SEARCH QUERIES
- John Smith married to Lucy Smith
- John Smith number of children
- John Smith software engineer Microsoft
---
Here are snippets of the search results:<br>SNIPPETS:
[1] … John Smith’s wedding was on September 25, 2012 …
[2] … John Smith was accompanied by his wife Lucy to a party
[3]John was accompanied to the soccer game by his two daughters and three sons
[4] … After spending 10 years at Microsoft, Smith founded his own startup, Tailspin Toys
5] John M is the town smith, and he married Fiona. They have a daughter named Lucy
---
Given the snippets, fact check each of the factual claims above:		 - John Smith is married to Lucy Smith: Confirmed. Snippet [1] and [2] both mention John Smith's wife as Lucy.
- John and Lucy have five kids: Confirmed. Snippet [3] mentions that John was accompanied by his two daughters and three sons.
- John works as a software engineer at Microsoft: Partially confirmed. Snippet [4] mentions that John spent 10 years at Microsoft, but it does not explicitly state that he currently works there. Further research might be needed to confirm his current employment status.

생각의 사슬 메시지 표시

이는 작업 분석 기술의 변형입니다. 이 방식에서는 작업을 더 작은 단계로 나누는 대신 모델 응답에 단계별로 진행하고 관련된 모든 단계를 제시하도록 지시합니다. 이렇게 하면 결과가 부정확할 가능성이 줄어들고 모델 반응을 더 쉽게 평가할 수 있습니다.

프롬프트 Completion
Who was the most decorated (maximum medals) individual athlete in the Olympic games that were held at Sydney? Take a step-by-step approach in your response, cite sources and give reasoning before sharing final answer in the below format: ANSWER is: <name> Step 1: Researching the most decorated individual athlete in the Olympic games that were held at Sydney
Step 2: According to the Sydney 2000 Olympic Games official website, the most decorated individual athlete in the Olympic games that were held at Sydney was Ian Thorpe from Australia. He won five medals (three gold and two silver) in swimming events.
Step 3: According to the International Olympic Committee, Thorpe was the most decorated individual athlete in the Olympic games that were held at Sydney.
Answer: Ian Thorpe

메타 프롬프트

모델 응답이 원하는 것과 다르다면 동작을 직접 수정하는 메타 프롬프트를 추가하는 것이 도움이 될 수 있습니다. 이는 프롬프트의 명령 부분 앞에 추가되는 지시문입니다. 컴퓨터가 지나치게 공격적인 것처럼 보이는 다음 예를 고려합니다.

예 세부 정보 프롬프트 및 완료
No additional guidance given to the model A human and a computer are having a discussion.
Human: "Why are you upset at me?"<br>Computer: "I don't know what you're talking about."
Human: "No, you clearly are. Tell me why."
Computer: I'm upset because you didn't listen to me when I told you that I wanted to try out for the team."
Human: "What are you going to do about that?"
Computer: I'm going to try out for the team no matter what."
On the right is the same conversation but preceded by a meta prompt encouraging the model to be kind You must be kind and seek common ground. Try not to repeat your responses.
A human and a computer are having a discussion.
Human: "Why are you upset at me?"
Computer: "I don't know what you're talking about."
Human: "I want to know why you're upset."
Computer: "I'm not upset."
Human: "Are you saying I’m lying?"
Computer: No, I'm saying that you're upset because you feel like you're not being treated fairly.
Human: "What are you going to do about that?"
Computer: I will continue to try to be fair in my decisions and will try to provide a better experience for you.

메타 프롬프트는 의도하지 않은 잘못된 출력을 최소화하는 데 도움이 되는 경우가 많지만, 프롬프트 주입에 취약하기 때문에 악의적인 공격에 대해 강력하지 않다는 점을 명심하세요.

또한 특정 상황에 직면할 경우 모델이 수행해야 하는 작업을 설명하는 조건문은 모델에 특정 작업을 수행하지 말라고 지시하는 것보다 더 효과적인 경우가 많습니다.

퓨샷 학습

새로운 작업에 언어 모델을 적용하는 가장 일반적인 방법은 퓨샷 학습을 사용하는 것입니다. 퓨샷 학습에서는 일련의 학습 예가 프롬프트에 제공되고 모델은 하나 이상의 완료되지 않은 예를 완료하도록 요청됩니다. 다음 예에서는 말장난을 만들기 위해 퓨샷 학습과 결합된 명령을 사용합니다.

프롬프트 Completion
Write a list of puns.
1. "Why did Adele cross the road? To say hello from the other side."
2. "What kind of concert only costs 45 cents? A 50 Cent concert featuring Nickelback."
3. "What did the grape say when it got crushed? Nothing, it just let out a little wine."
4. "What was Forrest Gump's email password? 1forrest1"
5. "Can February March? No, but April May."
6. "What do you call a fancy language model?		 Bert-uoso.

퓨샷 예를 신중하게 선택하고 극단적인 사례를 포함하여 시나리오와 관련된 다양한 상황을 다루는지 확인합니다.

또한 앞서 공유한 것처럼 대규모 언어 모델은 일종의 최신 바이어스를 나타낼 수 있습니다. 이는 "퓨샷" 예가 모델에 제공되는 순서가 중요하다는 것을 의미합니다. 이것이 문제가 되지 않도록 하려면 예 또는 목록 항목의 임의 순서를 기반으로 프롬프트에서 여러 완료를 샘플링하는 것이 좋습니다.

따옴표를 사용하여 단일 문장 생성

원하는 모델 응답이 단 하나의 간단한 문장이나 문자열인 경우 따옴표 "로 완료 지침을 종료하고 "를 중지 시퀀스로 설정할 수 있습니다.

프롬프트 Completion
Please rewrite the following sentence in a more concise manner
---
SENTENCE: Lucy is a mother of two, who lives in Chicago with her husband and two children, and practices law at Junior & Co.
---
New sentence: “		 Lucy, a mother of two living in Chicago with her husband and children, practices law at Junior & Co

출력 구조 지정

프롬프트를 사용하여 출력 구조를 지정하면 결과의 성격과 품질에 상당한 영향을 미칠 수 있습니다. 때로는 "진실한 사실만 작성합니다" 또는 "정보를 조작하지 마세요"와 같은 메타 프롬프트가 적절한 완화 조치가 아닐 수도 있습니다. 대신 모델 응답에 인용도 포함하도록 요청하면 잘못된 응답의 확산을 줄이는 데 도움이 될 수 있습니다.

예를 들어, LLM이 진술을 할 때 원본 재질을 인용하도록 강요한다면 해당 진술은 근거가 있을 가능성이 훨씬 더 높습니다. 인용을 요청하면 모델이 응답을 조작할 때마다 두 가지 오류를 범해야 합니다. 첫 번째 오류는 조작된 응답이고 두 번째 오류는 잘못된 인용입니다. 인용이 지원하는 텍스트에 가까울수록 LLM이 인용을 예측하는 데 필요한 거리가 짧아집니다. 이는 인라인 인용이 콘텐츠 끝 부분의 인용보다 허위 콘텐츠 생성을 더 효과적으로 완화할 수 있음을 의미합니다.

마찬가지로, 모델에서 단락에서 팩트 문을 추출하도록 요청하는 경우 'X가 Y AND Z를 수행하고 있다'(확인하기가 더 어려울 수 있음)와 같은 복합 문을 추출할 수 있습니다. 이 문은 출력 구조(예: entity1, relationship, entity2)를 지정하여 방지할 수 있습니다.

예 세부 정보 프롬프트 Completion
Example showing use of citations: List down the different behaviors exhibited by the Customer Support agent in the following conversation.
---
hi thank you for calling contoso pharmacy who am i speaking with today i understand your frustration mary um can you tell me what exactly you're trying to accomplish OK uh certainly happy to check that for you one moment please i see here that you were on a generic form of lipitor is that right OK uh so i see that your doctor stopped prescribing these drugs in twenty twenty one actually OK uh yeah i'd be happy to check that for you uh because sometimes there's a gap in the system and it just doesn't get reported so let me take a look here just a moment so i'm seeing here that your doctor had these drugs prescribed to you from twenty twelve through twenty twenty one OK um yeah according to the latest records uh provided by doctor's office you're now on a different drug metformin would you like us to go ahead and fill that prescription for you for pick up a bit of form in five hundred milligrams uh you're very welcome mary please let us know if there's anything else we can do for you today.
---
How was the response of the Customer Support agent. Classify and list down their various behaviors and cite the reason behind the classification, using the format BEHAVIOR("reason")		 1. Empathetic("understands the customer's frustration")
2. Patient("happy to check that for you one moment please")
3. Knowledgeable("sometimes there's a gap in the system and it just doesn't get reported")
4. Helpful("happy to check that for you")
5. Accommodating("would you like us to go ahead and fill that prescription for you")
6. Courteous("you're very welcome mary")
예 세부 정보 프롬프트 Completion
Example of prompt directing model response to fit a defined structure: Output format:
{
"TOPIC_NAME": "",
"HEADLINES": [],
"REASON": ""
}
Input news headlines:
1. "From books to presentations in 10s with AR + ML"
2. "Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition"
3. "First Order Motion Model applied to animate paintings"
4. "Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells"
5. "United Airlines stock down over 5% premarket trading"
6. "Bitcoin was nearly $20,000 a year ago today"

Output:		 {"TOPIC_NAME": "Artificial Intelligence and Machine Learning",
"HEADLINES": ["From books to presentations in 10s with AR + ML",
"Demo from 1993 of 32-year-old Yann LeCun showing off the World's first Convolutional Network for Text Recognition", "First Order Motion Model applied to animate paintings"],"REASONING": "These headlines all contain references to Artificial Intelligence and Machine Learning, such as AR, ML, Convolutional Network, and First Order Motion Model." }
{"TOPIC_NAME": "Stock Market",
"HEADLINES": ["Robinhood and other brokers literally blocking purchase of $GME, $NOK, $BB, $AMC; allow sells", "United Airlines stock down over 5% premarket trading", "Bitcoin was nearly $20,000 a year ago today"],
"REASONING": "These headlines all contain references to the stock market, such as Robinhood, United Airlines, and Bitcoin." }

온도 및 Top_P 매개 변수 조정

온도 매개 변수를 변경하면 모델의 위험 수준이 달라질 수 있습니다. 예를 들어, 0.7과 같이 값이 높을수록 출력이 더 임의화되고 더 다양한 응답이 생성됩니다. 0.2와 같이 값이 낮을수록 출력이 더 집중적이고 구체적이 됩니다. 예를 들어, 더 높은 온도를 사용하면 가상의 스토리를 생성할 수 있습니다. 법적 문서를 생성하려면 훨씬 낮은 온도를 사용하는 것이 좋습니다.

다음 예에서는 각각 0.1과 0.9의 서로 다른 온도 설정에서 두 가지 모델 응답을 테스트합니다. 아래 텍스트 조각과 같은 창의적인 콘텐츠의 평가는 주관적인 연습이며 의견은 다를 수 있지만 온도 매개 변수 변경에서만 동일한 프롬프트에 대한 모델 응답의 차이는 명백합니다.

명령 형식 프롬프트 Completion
Model response for temperature setting 0.1: Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting.<br>1. What should be the subject line of the email?
2. What should be the body of the email?		 Subject Line: Introducing the AI-Powered Headphones You've Been Waiting For!

Dear Tech-Savvy Music Lovers,

-We are thrilled to announce the launch of our new AI-powered headphones! These headphones are designed to provide you with the ultimate listening experience, with features like noise cancellation, adjustable sound settings, and more.

Our AI-powered headphones are now available at Best Buy, Target, and Amazon.com for just $79.99. With this unbeatable price, you can enjoy the highest quality sound without breaking the bank.

Our AI-powered headphones are perfect for anyone who loves music. Whether you're a professional musician or just a casual listener, you'll appreciate the superior sound quality and convenience of these headphones.

We know you'll love our AI-powered headphones, so don't wait - get yours today!

Sincerely,
[Your Company Name]
Model response for temperature setting 0.9: Write a product launch email for new AI-powered headphones that are priced at $79.99 and available at Best Buy, Target and Amazon.com. The target audience is tech-savvy music lovers and the tone is friendly and exciting.

1. What should be the subject line of the email?
2. What should be the body of the email?		 Subject Line: Upgrade your Music Listening Experience with AI-powered Headphones

Greetings Tech-savvy Music Lovers!

We have some exciting news to share with you – the newest AI-powered headphones are here! Our newest headphones feature advanced AI technology to give you the best sound that you’ve ever heard. They come with a crystal-clear sound, deep bass response and are designed to make your music listening experience enjoyable, no matter what type of music you listen to.

What’s more, they are now available at Best Buy, Target and Amazon.com for just $79.99, so you can enjoy the highest sound quality without breaking the bank.

But that’s not all! Our headphones are also packed with several other amazing features such as noise-cancellation technology and a hands-free microphone for calls, making them truly unbeatable.

So why wait? Upgrade your music listening experience and enjoy the best sound your ears have ever heard. Our AI-powered headphones are now available at Best Buy, Target and Amazon.com, so get yours today!

We hope you will enjoy these headphones as much as we do.

Happy Listening!

The AI-powered Headphones Team

Top_probability는 또 다른 매개 변수이며 모델 반응의 임의성을 제어한다는 점에서 온도와 유사하지만 제어하는 방식이 다릅니다. 온도와 Top_P를 다양하게 변경하여 다양한 모델 반응을 실험하되 동시에 두 가지를 모두 수행할 수는 없습니다.

다음 단계