Mosaic AI는 RAG(검색 증강 세대) 챗봇에서 도구 호출 에이전트에 이르기까지 간단하고 복잡한 GenAI 애플리케이션을 모두 지원합니다. 이 사용자 가이드에서는 Databricks의 GenAI 앱 및 에이전트 시스템에 대한 주요 개념을 설명하고 GenAI 앱을 빌드, 평가 및 크기 조정하기 위한 지침을 제공합니다.
| 페이지 | Description |
|---|---|
| 시작: 코드 없는 GenAI | UI 기반 테스트 및 프로토타입 생성을 위해 AI Playground를 사용해 보세요. |
| 시작하기: GenAI를 위한 MLflow 3 | GenAI 추적, 평가 및 사용자 피드백에 대해 MLflow를 사용해 보세요. |
| 개념: Databricks의 GenAI | GenAI 모델, 에이전트, 도구 및 앱에 대해 알아봅니다. |
| 플랫폼: 주요 GenAI 기능 | Azure Databricks에서 GenAI의 주요 기능에 대한 세부 정보를 찾습니다. |
GenAI 앱 빌드 시작
Azure Databricks에서 UI 기반 및 코드 기반 GenAI를 사용해 보세요.
| Tutorial | Description |
|---|---|
| 시작하기: 코드 없이 대형 언어 모델(LLMs) 쿼리하기 및 AI 에이전트 시험 제작 | UI 기반 테스트 및 프로토타입 생성을 위한 AI Playground 에 대해 알아 보세요. |
| 시작하기: GenAI를 위한 MLflow 3 | GenAI 추적, 평가 및 사용자 피드백을 위한 MLflow 를 사용해 보세요. |
| Databricks에서 LLM 쿼리 시작 | 파운데이션 모델 API를 사용하여 코드를 사용하여 GenAI 모델을 쿼리합니다. |
GenAI 개념 알아보기
모델, 에이전트, 도구 및 앱과 같은 기본 GenAI 개념을 숙지합니다.
| Guide | Description |
|---|---|
| 개념: Azure Databricks의 생성적 AI | GenAI 모델, 에이전트, 도구 및 앱에 대해 알아봅니다. |
| GenAI 앱 빌드의 주요 과제 | GenAI의 주요 과제와 Databricks가 이를 해결하는 방법에 대해 알아봅니다. |
| 에이전트 시스템 디자인 패턴 | 간단한 체인에서 복잡한 다중 에이전트 시스템에 이르기까지 에이전트 디자인에 대한 옵션 및 장단분에 대해 알아봅니다. |
Azure Databricks 기능을 사용하여 GenAI 앱 빌드
코드 없음 또는 하위 코드 접근 방식의 경우 먼저 다음 사항에 익숙해지세요.
| 특징 | Description |
|---|---|
| 에이전트 브릭스 | 일반적인 사용 사례에 맞게 도메인별 고품질 AI 에이전트 시스템을 빌드하고 최적화합니다. |
| AI 플레이그라운드 | UI에서 GenAI 모델 및 에이전트를 쿼리하고, 프롬프트 엔지니어링 및 프로토타입 도구 호출 에이전트를 수행합니다. |
| AI 함수 | AI 작업에 대한 기본 제공 SQL 함수를 호출합니다. |
코드 우선 방법의 경우 먼저 다음 사항에 익숙해지세요.
| 특징 | Description |
|---|---|
| GenAI용 MLflow | 추적 및 관찰,평가 및 모니터링에 MLflow를 사용합니다. |
| 모델 서비스에서의 기초 모델 | Databricks에서 호스트하는 Foundation Models API 및 외부 모델을 비롯한 GenAI 모델 엔드포인트를 사용합니다. |
| 벡터 검색 | RAG 및 기타 에이전트 시스템에 대한 벡터 인덱스를 만들고 쿼리합니다. |
| Mosaic AI 에이전트 프레임워크 | 코드를 사용하여 AI 에이전트를 빌드하고 배포합니다. |
| AI 게이트웨이 | GenAI 모델 및 엔드포인트에 대한 액세스를 제어하고 모니터링합니다. |
자세한 목록은 GenAI에 대한 모자이크 AI 기능을 참조하세요.
일반 인텔리전스 및 데이터 인텔리전스
일반 인텔리전스와 데이터 인텔리전스를 비교하는 
- 일반 인텔리전스 는 LLM이 다양한 텍스트에 대한 광범위한 사전 학습에서 본질적으로 알고 있는 것을 가리킵니다. 이는 언어 유창성과 일반적인 추론에 유용합니다.
- 데이터 인텔리전스 는 조직의 도메인별 데이터 및 API를 나타냅니다. 여기에는 고유한 비즈니스 환경을 반영하는 고객 레코드, 제품 정보, 기술 자료 또는 문서가 포함될 수 있습니다.
에이전트 시스템은 이러한 두 가지 지식 원본을 혼합합니다. 즉, LLM의 광범위하고 일반적인 지식으로 시작한 다음, 실시간 또는 도메인별 데이터를 가져와서 자세한 질문에 답하거나 특수한 작업을 수행합니다. Azure Databricks를 사용하면 모든 수준에서 GenAI 앱에 데이터 인텔리전스를 포함할 수 있습니다.
- 에이전트( 사용자 지정 에이전트 디자인 및에이전트 브릭의 자동화된 디자인 모두 포함)
- 평가 데이터 및 메트릭
- 평가 데이터를 기반으로 하는 프롬프트 최적화
- 모델 미세 조정에는 사용자 지정 미세 조정과 Agent Bricks에 의한 자동화된 튜닝이 포함됩니다.
GenAI 및 ML 및 딥 러닝
GenAI(생성 인공 지능), ML(기계 학습) 및 DL(딥 러닝) 간의 경계는 유사할 수 있습니다. 이 가이드에서는 GenAI에 중점을 두고 있지만 다음 Databricks 플랫폼 기능은 ML, 딥 러닝 및 GenAI를 지원합니다.
- 모델 제공 은 ML, 딥 러닝 및 GenAI 모델을 지원합니다. GenAI 일괄 처리 유추에 사용하고 사용자 지정 모델 서비스를 사용하여 에이전트 또는 미세 조정된 모델을 배포하는 데 사용할 수 있습니다.
- 서버리스 GPU 컴퓨팅 및 Machine Learning용 GPU 지원 Databricks 런타임 을 사용하여 ML, 딥 러닝 및 GenAI 모델을 학습하고 미세 조정할 수 있습니다.
- MLflow 실험 추적 을 사용하여 클래식 ML 및 GenAI 실험과 실행을 모두 추적할 수 있습니다.
- Databricks 기능 저장소 를 사용하여 클래식 ML 및 GenAI 모두에 대해 구조화된 데이터를 관리하고 제공할 수 있습니다.