소개
언어 모델은 사용자의 질문에 대한 인상적이고 일관된 답변을 만들면서 인기가 높아지고 있습니다. 특히 사용자가 채팅을 통해 언어 모델과 상호 작용하는 경우 이는 필요한 정보를 가져오는 직관적인 방법을 제공합니다.
채팅을 통해 언어 모델을 구현할 때 발생하는 한 가지 일반적인 과제는 응답이 현실 또는 특정 컨텍스트에서 루팅, 연결 또는 고정되는지를 나타내는 소위 접지성입니다. 즉, 접지성은 언어 모델의 응답이 사실 정보를 기반으로 하는지 여부를 나타냅니다.
근거 없는 프롬프트와 응답
언어 모델을 사용해 프롬프트에 대한 응답을 생성할 때 모델이 답변을 기초로 삼을 수 있는 유일한 정보는 그것이 학습된 데이터로부터 나옵니다. 이는 종종 인터넷이나 다른 출처에서 맥락이 없는 대량의 텍스트에 불과합니다.
결과는 프롬프트에 대해 문법적으로 일관되고 논리적인 응답이 될 가능성이 높지만 관련성 있는 팩트 데이터에 근거가 없기 때문에 컨텍스트화되지 않습니다. 실제로는 부정확할 수 있으며 "날조된" 정보가 포함될 수 있습니다. 예를 들어, "X를 수행하려면 어떤 제품을 사용해야 하나요?"라는 질문에는 가상의 제품에 대한 세부 정보가 포함될 수 있습니다.
근거 있는 프롬프트 및 응답
이와 대조적으로 데이터 원본을 사용하면 관련 있고 실제인 컨텍스트를 바탕으로 프롬프트를 기반할 수 있습니다. 그런 다음 기초가 되는 데이터를 포함한 언어 모델에 프롬프트를 제출하여 상황에 맞는 관련성 있고 정확한 응답을 생성할 수 있습니다.
데이터 원본은 관련 데이터의 리포지토리일 수 있습니다. 예를 들어, 제품 카탈로그 데이터베이스의 데이터를 사용하여 "X를 수행하려면 어떤 제품을 사용해야 하나요?"라는 프롬프트를 기반으로 할 수 있으므로 응답에는 카탈로그에 존재하는 제품의 관련 세부 정보가 포함됩니다.
이 모듈에서는 자신의 데이터로 에이전트를 빌드하여 기초적인 채팅 기반 언어 모델 애플리케이션을 만드는 방법을 알아봅니다.