Unity 게이트웨이 개념

Unity Gateway 는 AI 모델과 도구에 대한 등록, 발견, 접근을 한 곳에 모아줍니다. 누가 사용할 수 있는지 통제하고, 사용량을 모니터링하며, 애플리케이션과 에이전트 전반에 걸쳐 비용을 관리할 수 있습니다.

Unity Gateway는 이러한 개념을 사용하여 모델, 모델 제공자, 도구, 기술 및 서비스 정책으로 구현된 가드레일을 관리합니다:

Concept 용도 Example
모델 LLM 또는 임베딩 모델. 등록된 모델은 요청을 처리할 모델 서비스가 필요합니다. gpt-astra-6;
모델 서비스 추론 요청을 하나 이상의 모델로 변환하고 라우팅하며, 트래픽 분할과 대체 기능을 갖춘 엔드포인트입니다. 실시간 요청과 배치 추론을 지원합니다. frontier-model: GPT Astra 6 on Azure Databricks, Claude Opus 5를 대체 수단으로 사용합니다.
opus-5: Opus 5는 Azure Databricks에서 제공했으며, AWS Bedrock이 대체 수단으로 사용됩니다.
모델 제공자 중앙에서 관리되는 자격 증명을 사용하여 요청을 외부 모델 제공자로 라우팅하는 연결. anthropic-prod: Anthropic과의 연결.
MCP 모델 컨텍스트 프로토콜(MCP)을 통해 에이전트가 도구를 발견하고 호출할 수 있는 인터페이스입니다. support-tools: 슬랙과 지라용 도구.
기술 에이전트가 작업을 안내하기 위해 로드하는 재사용 가능한 지침과 파일들. customer-support: 지원 가이드북.
서비스 정책 기본 제공, 사용자 지정 또는 외부 정책을 사용하여 AI 서비스에 대한 요청과 응답을 확인하는 가드레일을 구현합니다. 내장된 detect_sensitive_data 정책은 모델 요청과 응답에서 신용카드 번호와 같은 지정된 민감한 데이터 유형을 감지합니다. 일치 항목을 차단하거나 가립니다.

조각이 함께 맞는 방법

Azure Databricks에서 gpt-astra-6에 연결하기 위해 모델 서비스를 호출하고, 동일한 모델은 폴백으로 aws-bedrock를 통해서도 사용할 수 있습니다. 애플리케이션의 이름을 바꾸지 않고도 모델이나 대체 옵션을 변경할 수 있습니다. 모델 서비스에 내장된 민감 데이터 감지 서비스 정책을 부착하여 지정된 민감 데이터 카테고리에 대한 요청과 응답을 점검합니다.

코덱스 에이전트는 고객 지원 스킬을 로드하고 detect_sensitive_data 서비스 정책으로 보호받는 모델 서비스를 호출하여 모델 요청과 응답을 확인합니다. 모델 서비스는 Databricks의 gpt-astra-6로 라우팅되거나 AWS Bedrock 모델 제공자를 통해 동일한 모델로 다시 전환됩니다. 에이전트는 또한 MCP를 통해 Slack과 Jira에 접근합니다.

호출 모델 및 도구

<workspace-url> 및 예시 이름을 사용자 본인의 것으로 바꾸세요. 을 설정하려면 DATABRICKS_TOKEN을(를) 참조하세요.

모델 서비스

모델 서비스는 호환 가능한 모델에 대해 OpenAI-compatible Chat Completions와 같은 통합 API와 Anthropic Messages와 같은 제공자 고유 API를 지원합니다.

통합 채팅 완료 API로 통화하세요 frontier-model . 서비스는 모델을 선택합니다:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

SDK 예제와 기타 API는 쿼리 기초 및 임베딩 모델을 참조하세요.

모델 제공자

Anthropic Messages API를 사용하여 anthropic-prod 외부 모델을 호출하세요. 헤더가 연결을 선택하고, Unity Gateway는 자격 증명을 제공합니다:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

지원되는 제공자 API는 외부 모델 제공자 쿼리(모델 제공자 서비스) 를 참조하세요.

MCP

support-tools를 통해 사용할 수 있는 도구를 나열하세요:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

도구 호출과 에이전트 통합에 대해서는 'Python agent에서 MCP 도구를 사용하기'를 참고하세요.

Unity 카탈로그 및 접근 제어

Unity Gateway는 Unity Catalog 와 통합하여 누가 서비스를 생성하고, 누가 모델 제공자를 온보딩하며, 누가 호출하고, 누가 접근 권한을 공유하는지 제어할 수 있습니다. Unity 카탈로그는 등록된 모델, 기술, 서비스 정책 첨부 권한도 관리합니다.

Unity 카탈로그 보안 자료

모델, 모델 서비스, 모델 제공자, MCP, 그리고 스킬은 Unity 카탈로그의 보안 객체로, 권한을 부여할 수 있는 객체입니다. 이들의 이름은 production.ai.frontier-model 뒤에 오며, 예를 들어 catalog.schema.name 등이 있습니다. Azure Databricks 제공 모델 서비스는 에 등록system.ai되어 있습니다.

모델 제공자는 Unity 카탈로그에 모델 제공자 서비스로 등록됩니다. 서비스 정책은 서비스에 부착되며, 독립적인 보안 대상이 아닙니다.

Unity 카탈로그에서 모델은 저장된 자산, 즉 버전, 메타데이터, 아티팩트입니다. 등록한다고 해서 콜이 가능해지는 건 아니에요. 외부 모델의 경우, 모델 대신 모델 제공자 연결을 등록하세요.

키 권한

사용자, 그룹, 서비스 주체에게 권한을 부여합니다. 모델 서비스, 모델 제공자, MCP의 경우, 주요 권한은 사용과 관리를 분리합니다:

Privilege 허용되는 내용
EXECUTE 모델 서비스, 모델 제공자, 또는 MCP에 연락하세요.
CREATE SERVICE 스키마 내에서 서비스와 온보드 모델 제공자를 생성합니다.
READ METADATA 구성을 점검하세요.
MANAGE 설정을 변경하고 다른 사람에게 접근 권한을 부여하세요.

호출자에게는 부모 카탈로그와 스키마에 대해 USE CATALOG 및 USE SCHEMA도 필요합니다. 서비스 정책은 허가된 통화를 제한합니다. 접근 권한을 부여하지 않습니다. 각 개념의 전체 허가 요구사항은 해당 페이지에서 확인하세요.

Get started

즉시 사용 가능한 모델 서비스 system.ai부터 시작하거나 코딩 에이전트와 연결하세요:

주제 Description
첫 번째 요청을 보내세요 모델을 쿼리하고 게이트웨이에서 그 사용 방식을 확인하세요.
코딩 에이전트를 연결하세요 Azure Databricks에서 제공하는 모델과 함께 선호하는 코딩 에이전트를 사용하세요.
사용량 모니터링 모델과 도구 활동, 성능, 비용을 점검하세요.
거버넌스 설정 조직의 AI 사용에 맞는 접근 권한과 정책을 설정하세요.