참고
Unity AI 게이트웨이는 Azure Government 지원되지 않습니다.
모델 API는 대규모 언어 모델에 대한 거버넌스 접근 권한을 제공합니다. 요청을 보내면 응답을 받지만, 인프라를 운영할 필요가 없습니다. 기본적으로 모든 계정 사용자는 설정 없이 스키마 내에서 system.ai 시스템 제공 모델 API를 조회할 수 있습니다. 이들은 Azure Databricks에서 네이티브로 제공되는 기본 모델로, 토큰당 요금이 청구됩니다.
Azure Databricks에서 모델 API는 거버넌스가 적용된 LLM 엔드포인트를 나타내는 Unity 카탈로그의 보안 가능한 객체(모델 서비스)입니다. Unity Catalog가 저장하기 때문에, 데이터를 중앙에서 정의하고 공유하며 접근 권한을 관리할 수 있습니다. 추가 모델을 관리하거나 커스텀 엔드포인트를 노출하려면 자신만의 모델 API를 만듭니다.
모델 API는 다음과 같은 기능을 지원합니다:
-
Azure Databricks 제공된 pay-per-token foundation 모델을 시스템 제공 서비스로 생성하고 서비스 중
system.ai하나로 제공합니다. - Unity AI Gateway UI, Catalog Explorer, Unity Catalog REST API를 사용하여 모델 API를 생성하고 관리합니다.
- Azure Databricks 내부와 외부에서 작업 공간 간 모델 API를 쿼리합니다.
모델 서비스란?
모델 서비스는 Unity 카탈로그 스키마에 존재하며, 하나 이상의 목적지를 참조하고, 그 사이에 라우팅과 대체 기능을 제공합니다. 발신자는 모델 서비스를 완전 정식 이름으로 호출하며, Unity AI 게이트웨이는 각 요청을 목적지로 라우팅합니다. 목적지는 Azure Databricks가 제공하는 모델일 수도 있고, 외부 공급자로 라우팅되는 모델 공급자 서비스일 수도 있으며, 단일 모델 서비스가 두 가지를 혼합할 수도 있습니다.
모델 서비스는 Unity 카탈로그 보안 개체이므로 다음을 수행합니다.
- 카탈로그와 스키마에 속하며, 여기서 작업 영역 바인딩과 같은 스키마 설정을 상속합니다.
- 이름, 소유자, 주석 및 태그와 같은 표준 Unity 카탈로그 메타데이터를 전달합니다.
-
Unity 카탈로그 권한에 따라 관리되므로 테이블, 함수 및
GRANT모델에 사용하는 것과 동일한REVOKE문을 사용하여 액세스 권한을 부여합니다. - 나머지 Unity 카탈로그 자산과 함께 카탈로그 탐색기에서 검색할 수 있습니다.
동일한 모델 서비스는 AI 팀이 속도 제한, 유추 테이블 및 가드레일과 같은 기능을 구성할 수 있는 Unity AI 게이트웨이 UI의 엔드포인트로도 나타납니다. 이러한 기능에 대한 자세한 내용은 Unity AI Gateway를 사용한 AI 거버넌스를 참조하세요.
Unity 카탈로그에서 LLM을 관리하는 이유는 무엇인가요?
작업 영역에서 만든 Unity AI 게이트웨이 엔드포인트의 범위는 해당 작업 영역으로 지정됩니다. 작업 영역에서 엔드포인트를 공유하려면 각 작업 영역에서 엔드포인트를 복제하고 각 복사본을 개별적으로 관리해야 합니다.
모델 서비스는 거버넌스를 Unity 카탈로그로 이동하므로 다음을 수행할 수 있습니다.
- LLM 엔드포인트를 한 번 정의 하고 동일한 메타스토어에 연결된 모든 작업 영역에서 사용합니다.
- 작업 영역별 권한 대신 Unity 카탈로그 권한을 사용하여 중앙에서 액세스를 제어합니다.
- 단일 위치에서 작업 영역에서 사용할 수 있는 모델을 검색합니다.
- Unity 카탈로그 시스템 테이블에서 모델 서비스의 사용량 및 비용을 추적합니다.
시스템 제공 모델 서비스
Azure Databricks는 각 Azure Databricks가 제공하는 기초 모델(예: system.ai.databricks-claude-opus-5.)에 대해 스키마에서 system.ai 즉시 사용 가능한 모델 서비스를 제공합니다. Azure Databricks 새 기본 모델을 사용할 수 있게 되면 새 시스템 모델 서비스를 추가합니다.
시스템 제공 모델 서비스에는 다음과 같은 특징이 있습니다.
- 기본적으로 모든 계정 사용자에게는
EXECUTE권한이 있으므로 추가 설정 없이 쿼리할 수 있습니다. - 시스템 사용자가 소유하고 있으므로 삭제할 수 없습니다.
- 기본적으로 메타스토어 관리자만 수정할 수 있습니다. 메타스토어 관리자는
MANAGE권한을 부여하여 관리 권한을 위임할 수 있습니다.
시스템 제공 모델 서비스에 대한 액세스를 제한하려면 모델 서비스 관리를 참조하세요.
권한
모델 서비스는 표준 Unity 카탈로그 권한 모델을 사용합니다. 다음 권한이 적용됩니다.
| 특권 | 설명 |
|---|---|
USE CATALOG, USE SCHEMA |
모델 서비스를 포함하는 카탈로그 및 스키마에 액세스합니다. 모든 작업에 필요합니다. |
CREATE SERVICE |
스키마에서 모델 서비스를 만듭니다. 카탈로그 또는 스키마에 대해 부여됩니다. |
EXECUTE |
모델 서비스에 질의합니다. |
MANAGE |
모델 서비스를 수정하거나 삭제하고 해당 권한을 관리합니다. 소유자는 MANAGE의 상위 집합을 갖고 있습니다. |
모델 서비스는 정의자의 권한을 사용합니다. Azure Databricks는 쿼리를 발신자의 권한이 아닌 소유자의 권한에 대해 평가합니다. 사용자가 모델 서비스에 쿼리하면, Azure Databricks는 소유자가 기본 모델 및 모든 EXECUTE와 같은 참조된 대상에 대해 를 가지고 있는지 확인합니다. 발신자는 해당 목적지에 직접 접근할 필요가 없습니다.
Limitations
다음 기능들은 지원되지 않습니다:
- 목적지로 프로비저닝된 처리량 모델.
- SQL을 이용한 모델 서비스 생성 및 관리.
-
BROWSE권한만으로 모델 서비스 검색 - 모델 서비스에 대한 글로벌 검색.