Unity Gateway는 엔터프라이즈 AI를 위한 Azure Databricks 거버넌스 솔루션입니다. Unity 카탈로그를 기반으로 하여 데이터 및 AI 자산을 넘어 모델, 에이전트, MCP 서버 및 도구 간의 런타임 상호 작용으로 거버넌스를 확장합니다. AI 서비스 팀이 사용할 수 있는 AI 서비스 제어, AI 트래픽 라우팅 및 관리, 가드레일 설정 및 한 컨트롤 플레인에서 사용량 모니터링
Azure Databricks는 Foundation Model API를 통해 대형 언어 모델(LLM)을 네이티브로 제공하므로, GPT, Claude, Gemini 같은 모델에 인프라 없이 토큰당 유료 접근을 제공합니다. 외부 모델 제공자를 연결해 동일한 접근 제어와 트래픽 관리를 통해 API로 라우팅할 수도 있습니다.
Get started
AI 자산, 트래픽 및 서비스 동작에 AI 거버넌스를 설정하고 적용합니다.
| 주제 | Description |
|---|---|
| 튜토리얼: Unity 게이트웨이로 코딩 에이전트의 모델 접근 권한을 관리하기 | 외부 코딩 에이전트를 거버넌트 모델 서비스를 통해 라우팅한 후, 누가 모델에 접근할 수 있는지 제어하고 에이전트의 소비와 지출을 제한합니다. |
| 자습서: 코딩 에이전트의 GitHub MCP 액세스 제어 | Unity 카탈로그 권한 및 기본 제공 서비스 정책을 사용하여 GitHub MCP 도구에 대한 코딩 에이전트의 액세스를 제한합니다. |
| 튜토리얼: 정책으로 GRANT 모델 접근을 관리하기 | 모델, 모델 서비스, 모델 제공자 서비스, MCP 서비스에 system.ai 대한 접근을 시스템 제공 또는 맞춤형 거버넌트 태그로 관리할 수 있습니다. |
| 튜토리얼: 모델 서비스에 서비스 정책 가드레일을 추가하기 | 기본 제공 및 사용자 지정 서비스 정책을 사용하여 모델 서비스에서 가드레일을 구현합니다. |
| 튜토리얼: 사용자, 팀, 프로젝트별로 재단 모델 지출 추적 | 서비스 태그와 요청 태그를 사용하여 사용자, 팀 또는 프로젝트에 비용을 귀속시켜 LLM 지출 요인을 식별합니다. |
AI 서비스 접근 통제
AI 자산을 Unity 카탈로그 보안 개체로 등록한 다음 테이블 및 볼륨에 사용하는 것과 동일한 권한으로 액세스 권한을 부여하고 해지합니다. 에이전트는 동일한 보안 개체를 통해 제어됩니다. 에이전트는 Unity 카탈로그 모델로 등록되고, 에이전트가 호출하는 도구는 MCP 서비스, 함수 및 연결로 관리됩니다.
| 주제 | Description |
|---|---|
| 모델 API들 | 쿼리 기초 모델은 설정 없이 네이티브로 system.ai 제공되며, Unity 카탈로그 권한을 통해 접근을 관리합니다. |
| 외부 모델 제공자 | OpenAI 및 Anthropic와 같은 제공업체를 고객 소유 키(BYOK)로 연동하고, 단일 제어 지점에서 관리하세요. |
| 모델들 | Unity Catalog 권한을 사용하여 Azure Databricks에서 제공되는 파운데이션 모델을 포함한 등록된 모델을 관리하세요. |
| 파운데이션 모델 사용 권한 | 조직이 접근할 수 있는 Azure Databricks 기반 기반 모델을 계정 전체 또는 그룹별로 제한하세요. |
| MCP 도구 | 도구 필터링 및 서비스 정책을 사용하여 Unity 카탈로그 보안 개체로 등록된 MCP 서버를 관리합니다. |
| 사용자 지정 도구 | 에이전트가 도구로 사용하는 Unity 카탈로그 함수를 데이터에 사용하는 것과 동일한 권한으로 제어합니다. |
| HTTP 연결 | 외부 API 및 MCP 서버에 도달하는 데 사용되는 Unity 카탈로그 연결을 제어합니다. |
| 맞춤형 모델 API 생성 | 선택 사항: 기본 system.ai 모델 외에 필요한 자체 거버넌트 엔드포인트를 추가하세요. |
AI 트래픽 라우팅 및 관리
Unity Gateway는 중앙 제어 플레인에서 모델을 및 MCP 서비스로 요청 경로를 전달하여, 공급자 간 용량, 가용성, 지출을 관리할 수 있습니다.
| 주제 | Description |
|---|---|
| 속도 제한 적용 | 모델 서비스 및 MCP 서비스에 대한 사용 제한을 적용하여 용량 및 비용을 관리합니다. |
| 트래픽 분할 및 대체 구성 | 요청을 여러 모델 목적지에 분산시키고, 가용 가능성을 높이기 위해 장애 조치(failover)를 추가하세요. |
| Smart Routing으로 코딩 작업 라우팅하기 | 각 코딩 작업에 최적의 모델과 활용을 자동으로 선택하여 품질을 희생하지 않고 AI 지출을 통제할 수 있습니다. |
| 예산 관리 | 지출을 모니터링하고 사용자별 임계값 및 하드 캡을 설정합니다. |
가드레일 및 액세스 정책 설정
가드레일이라고도 하는 서비스 정책은 콘텐츠 및 호출하는 사람에 따라 각 요청 및 응답이 진행되는 방식을 제어합니다.
| 주제 | Description |
|---|---|
| AI 보안 개체에 대한 서비스 정책 | 서비스 정책이 기본 제공 및 사용자 지정 정책을 사용하여 AI 서비스에 대한 요청 및 응답의 콘텐츠를 제어하는 방법 |
| 서비스 정책 만들기 및 연결 | 서비스 정책 함수를 작성하고 이를 MCP 서비스나 모델 서비스에 연결하는 방법. |
사용량, 비용 및 위험 모니터링
모든 Unity Gateway 서비스의 활동, 지출, 결과를 추적하세요.
| 주제 | Description |
|---|---|
| 관찰 가능성 개요 | AI 사용, 비용, 성능, 서비스 전반에 걸친 활동을 모니터링할 적절한 도구를 선택하세요. |
| 사용량 모니터링 | Unity 게이트웨이 전반에서 시스템 테이블을 사용해 요청, 토큰 사용량, 지연 시간을 추적할 수 있습니다. |
| 비용 분석 | Azure Databricks 비용을 서비스, 대상 모델, 보안 주체 및 태그별로 귀속합니다. |
| 감사 요청 및 응답 | 모니터링 및 디버깅을 위해 Unity 카탈로그 델타 테이블에 대한 요청 및 응답을 기록합니다. |