SQL 데이터베이스 워크로드에 대한 모델 이해 및 평가
Tip
자세한 내용은 텍스트 및 이미지 탭을 참조하세요.
LLM(대규모 언어 모델)을 사용하면 애플리케이션이 응답을 생성하고, 정보를 요약하고, 사용자 입력에 대한 이유를 파악할 수 있습니다. 데이터베이스에 저장된 애플리케이션 데이터에 액세스할 수 있을 때 유용성이 증가합니다.
Azure SQL Database 및 Fabric SQL Database는 포함, 벡터 데이터 형식 및 벡터 검색과 같은 AI 기능을 통합하여 지능형 애플리케이션 빌드를 지원합니다. 이러한 기능을 통해 모델은 관계형 데이터와 직접 작동하여 의미 체계 검색 및 RAG(검색 보강 세대)와 같은 일반적인 패턴을 사용할 수 있습니다.
모델을 SQL 기반 솔루션에 통합하기 전에 다양한 모델이 동작하는 방식과 해당 특성이 애플리케이션 디자인에 미치는 영향을 이해하는 것이 중요합니다.
SQL 데이터베이스 워크로드에 대한 모델 특성 식별
모델은 기능, 성능 특성 및 지원되는 입력 및 출력 형식에 따라 다릅니다. Azure SQL Database 또는 Fabric SQL Database와 함께 사용할 모델을 평가할 때 다음 요소를 고려합니다.
형식
일부 모델은 텍스트만 처리하고 다른 모델은 이미지 또는 구조화된 데이터와 같은 다른 입력을 지원합니다. 필요한 형식은 데이터베이스에 저장된 데이터 형식과 의도한 애플리케이션 시나리오에 따라 달라집니다.
언어 지원
애플리케이션이 여러 지역에서 사용자에게 서비스를 제공하거나 저장된 콘텐츠가 여러 언어에 걸쳐 있는 경우 다국어 지원이 중요합니다.
모델 크기 및 용량
대용량 모델은 일반적으로 더 강력한 추론과 더 미묘한 출력을 제공하지만 더 많은 토큰을 사용하며 대기 시간 및 비용이 더 높아질 수 있습니다. 더 작은 모델은 포함 생성과 같은 포커스가 있는 작업에 더 적합할 수 있습니다.
구조적 출력
JSON과 같은 구조적 출력을 생성할 수 있는 모델은 응답을 프로그래밍 방식으로 처리해야 하는 SQL 기반 워크플로에 쉽게 통합할 수 있습니다.
이러한 특성은 모델이 포함 생성, RAG 패턴 지원 또는 데이터베이스 콘텐츠에 대한 대화형 액세스 활성화에 적합한지 여부에 영향을 줍니다.
모델이 Azure SQL 데이터와 상호 작용하는 방법 설명
Azure SQL Database 및 Fabric SQL Database는 관계형 스토리지와 벡터 데이터 형식 및 벡터 함수와 같은 AI 기능을 결합하여 지능형 애플리케이션 패턴을 지원합니다.
일반적인 패턴은 RAG(검색 보강 생성)입니다. 여기서 관련 데이터는 데이터베이스에서 검색되고 응답을 생성하기 전에 컨텍스트로 모델에 제공됩니다. 이 단계를 사용하면 모델의 미리 학습된 지식에만 의존하지 않고 애플리케이션 데이터에 응답을 접지할 수 있습니다.
여러 개념은 모델이 데이터베이스 데이터와 상호 작용하는 방식에 영향을 줍니다.
- 텍스트 처리에 모델에서 사용하는 단위인 토큰
- 벡터로 데이터를 나타내는 임베딩
- 벡터 검색은 임베딩을 비교하여 의미적 유사성을 식별합니다.
벡터는 Azure SQL Database의 관계형 데이터와 함께 사용되므로 단일 쿼리에서 모든 표준 SQL 기능과 벡터 유사성 검색을 결합할 수 있습니다. 예를 들어, WHERE 절을 사용하여 벡터 검색 결과를 좁히거나, 관련 테이블과 조인하거나, 벡터 코사인 순위를 전체 텍스트 BM25 점수와 결합할 수 있습니다. 이러한 벡터 검색과 일반 SQL 작업의 조합을 하이브리드 검색이라고 합니다. 별도의 검색 서비스에 요청을 보내고 결과를 조정하는 대신 의미 체계 유사성과 관계형 필터링을 함께 처리하는 하나의 데이터베이스를 쿼리합니다.
이러한 개념을 이해하면 성능 및 비용을 관리하면서 AI 기능을 효과적으로 사용하는 SQL 기반 애플리케이션을 설계할 수 있습니다.
토큰이 비용 및 디자인에 미치는 영향 설명
모델은 텍스트를 원시 문자로 처리하지 않습니다. 대신 텍스트를 토큰으로 분리합니다. 토큰은 단어, 단어의 일부 또는 문장 부호일 수 있는 작은 청크입니다. 예를 들어 "햄버거"라는 단어는 "ham", "bur" 및 "ger"의 세 가지 토큰이 될 수 있지만 "the"와 같은 일반적인 단어는 일반적으로 단일 토큰입니다.
토큰 수는 두 가지 이유로 중요합니다. 첫째, 모델에는 입력 제한이 있습니다. 모델은 단일 요청에서 최대 8,000개 또는 128,000개의 토큰을 수락할 수 있습니다. 이 제한은 RAG 패턴에 컨텍스트로 포함할 수 있는 데이터베이스 콘텐츠의 양을 제한합니다. 둘째, 모델 공급자는 일반적으로 처리된 토큰에 따라 요금을 청구합니다. 토큰이 많을수록 비용이 높아지므로 효율적인 텍스트 처리는 운영 비용에 직접적인 영향을 줍니다.
SQL 기반 AI 솔루션을 디자인할 때 토큰 제한은 포함할 콘텐츠를 청크하는 방법과 생성 중에 모델에 전달할 수 있는 컨텍스트 양에 영향을 줍니다.
모델은 토큰 제한을 적용하고 포함이 생성되는 방식이 다르기 때문에 이러한 특성은 스키마 디자인, 청크 전략 및 쿼리 동작에 영향을 줍니다.
Microsoft Foundry를 사용하여 모델 탐색
Microsoft Foundry 모델은 Azure 서비스와 함께 사용할 수 있는 AI 모델의 카탈로그를 제공합니다. 카탈로그에는 텍스트 처리, 포함 생성, 추론 및 멀티모달 입력과 같은 작업을 지원하는 모델이 포함되어 있습니다.
SQL 데이터베이스 워크로드의 경우 Foundry는 Azure SQL Database 또는 패브릭 SQL 데이터베이스와의 통합에 적합한 모델을 평가하는 데 도움이 됩니다. 지원되는 입력 유형, 언어 검사 및 배포 옵션은 시나리오에 적합한 모델에 영향을 줍니다.
모델 카탈로그는 모델 기능, 벤치마크, 버전 세부 정보 및 수명 주기 상태와 같은 정보를 노출합니다. 이 정보는 모델을 데이터베이스 워크플로에 연결하기 전에 개발자가 성능 및 운영 제약 조건을 이해하는 데 도움이 됩니다.
디자인 중에 Foundry를 사용하면 선택한 모델이 SQL 기반 애플리케이션 요구 사항에 부합하고 관계형 데이터와 예측 가능하게 통합될 수 있습니다.
솔루션에 대한 모델 선택
모델을 선택하는 것은 성능, 비용 및 유지 관리에 영향을 주는 디자인 결정입니다. Azure SQL Database 또는 Fabric SQL 데이터베이스에서 사용할 모델을 선택할 때 다음을 고려합니다.
- 데이터베이스에 저장된 데이터의 유형 및 형식
- 성능 및 확장성 요구 사항
- 언어 또는 형식 요구 사항
- 배포 및 수명 주기 고려 사항
이러한 장편을 이해하면 예측 가능하고 확장 가능하며 애플리케이션 목표에 부합하는 방식으로 AI 기능이 SQL 데이터베이스 솔루션에 통합되도록 할 수 있습니다.
주요 내용
모델은 형식, 언어 지원, 크기 및 구조적 출력 기능이 다르며 이러한 차이는 SQL 데이터베이스 워크로드와 통합하는 방법에 영향을 줍니다. RAG는 관련 데이터베이스 콘텐츠를 검색하여 컨텍스트로 모델에 제공하는 반면 토큰은 입력 및 출력 텍스트 처리 방법을 결정합니다. 포함은 의미 체계 유사성 비교를 가능하게 하는 벡터로 데이터를 나타냅니다. Microsoft Foundry 모델은 SQL 기반 애플리케이션 요구 사항에 맞는 모델을 평가하고 선택하기 위한 카탈로그를 제공합니다.