소개
큰 언어 모델은 질문에 답변하고, 콘텐츠를 요약하고, 텍스트를 생성할 수 있습니다. 그러나 그들은 훈련 중에 배운 것만 알고 있습니다. 회사의 제품, 고객 주문 또는 호환되는 구성 요소에 대해 물어보면 모델에 유용한 대답이 없습니다. RAG(검색 보강 세대)는 쿼리 시 모델에 데이터에 대한 액세스 권한을 부여하여 이 문제를 해결합니다. 모델이 제품 카탈로그를 알고 있기를 바라는 대신 데이터베이스에서 관련 제품을 검색하여 프롬프트에 포함합니다. 그런 다음, 모델은 실제 현재 정보에 근거한 응답을 생성합니다.
RAG는 데이터가 이미 있는 데이터베이스 계층 내에서 AI 처리를 유지합니다. 이 방법은 시스템 간에 데이터를 이동하는 것을 방지하고 Transact-SQL 사용하여 모델이 수신하는 컨텍스트를 제어할 수 있습니다. 결과는 테이블의 실제 up-to-date 정보를 사용하여 특정 질문에 대답할 수 있는 애플리케이션입니다.
소매 팀이 제품 데이터베이스 위에 고객 지원 애플리케이션을 빌드하는 것을 상상해 보십시오. 한 고객이 "추운 날씨 사이클링에 가장 적합한 장갑은 무엇인가요?" 하고 묻습니다. 애플리케이션은 제품 카탈로그를 검색하고, 일치하는 액세서리를 찾고, LLM을 사용하여 유용한 응답을 생성해야 합니다. 이 워크플로는 RAG가 실제로 작동하는 과정입니다: 관련 데이터를 검색하고, 그 데이터를 이용해 프롬프트를 보강하고, 데이터를 기반한 응답을 생성합니다. SQL에서 이 워크플로를 빌드하면 팀은 검색 단계를 데이터에 가깝게 유지하고 별도의 검색 서비스를 빌드하지 않습니다.
이 모듈을 완료하면 다음을 수행할 수 있습니다.
- RAG가 애플리케이션에 적합한 접근 방식인지 식별합니다.
- SQL 쿼리 결과를 LLM(대규모 언어 모델) 처리를 위한 JSON으로 변환합니다.
- 지침을 데이터베이스 컨텍스트와 결합하는 프롬프트를 생성합니다.
- SQL에서 LLM 엔드포인트를 호출합니다.
- LLM이 생성한 응답을 파싱하여 애플리케이션에 필요한 답변을 반환합니다.
메모
우리는 다른 사람들이 다른 방법으로 배우는 것을 좋아한다는 것을 알고 있습니다. 이 모듈을 비디오 기반 형식으로 완료하도록 선택하거나 콘텐츠를 텍스트 및 이미지로 읽을 수 있습니다. 텍스트는 비디오보다 더 자세한 내용을 포함하므로 경우에 따라 비디오 프레젠테이션에 대한 추가 자료로 참조할 수 있습니다.