Compartir vía


Pasarela de IA

Importante

En esta página se describe la nueva instancia de AI Gateway (visible en el panel de navegación izquierdo de la interfaz de usuario), que se encuentra actualmente en beta. Los administradores de cuentas pueden habilitar el acceso a esta característica en la página Vista previa de la consola de la cuenta. Consulte Administrar Azure Databricks versiones preliminares.

Para más información sobre la versión anterior de AI Gateway, consulte AI Gateway para servir puntos de conexión.

AI Gateway es la capa de gobernanza de Inteligencia Artificial central de Databricks para puntos de conexión LLM, servidores MCP y agentes de codificación. Use AI Gateway para analizar el uso, configurar permisos, aplicar límites de protección y administrar la capacidad entre proveedores.

LLM

AI Gateway proporciona gobernanza empresarial para los puntos de conexión y agentes de codificación de LLM, incluida una interfaz de usuario unificada, una observabilidad mejorada y una cobertura de API ampliada.

Tema Description
Puerta de enlace de AI para puntos de conexión LLM Obtenga información sobre AI Gateway (Beta) para los endpoints LLM y cómo comenzar.
Configuración de puntos de conexión de AI Gateway Cree y configure los endpoints de AI Gateway para sus modelos de lenguaje y agentes de programación.
Consulta de endpoints de Gateway de IA Consulte los puntos de conexión de la puerta de enlace de IA mediante el cliente OpenAI y otras API admitidas.
Supervisión del uso de los puntos de conexión de AI Gateway Supervise el uso y los costos de los puntos de conexión de AI Gateway mediante tablas del sistema.
Supervisión de modelos mediante tablas de inferencia Supervise y audite las solicitudes y respuestas en las tablas Delta del catálogo de Unity.
Configuración de los límites de velocidad para los puntos de conexión de AI Gateway Aplique los límites de consumo en los puntos de conexión de AI Gateway para administrar la capacidad y los costos.
Integración con agentes de codificación Integre agentes de codificación como Cursor, Gemini CLI, Codex CLI y Claude Code con AI Gateway.

Nota:

Las características de AI Gateway no incurren en cargos durante la versión beta.

MCPs

AI Gateway proporciona gobernanza para los servidores MCP, lo que proporciona visibilidad, control de acceso y registro de auditoría en todas las interacciones de MCP.

Tema Description
Protocolo de contexto de modelo (MCP) en Databricks Obtenga información sobre los tipos de servidor MCP en Databricks y cómo empezar a trabajar.
Uso de servidores MCP administrados de Databricks Acceda inmediatamente a las características de Databricks mediante servidores MCP preconfigurados.
Uso de servidores MCP externos Conéctese de forma segura a servidores MCP hospedados fuera de Databricks mediante conexiones administradas.
Hospedaje de servidores MCP personalizados mediante aplicaciones de Databricks Hospede un servidor MCP personalizado como una aplicación de Databricks.
Conexión de clientes que no son de Databricks a servidores MCP de Databricks Conecte clientes MCP a los servidores MCP de Databricks.

Puntos finales de despliegue de modelos (anterior)

La versión anterior de AI Gateway proporciona características de gobernanza para los puntos de conexión de servicio del modelo, incluidos los puntos de conexión de modelo externos, los puntos de conexión de la API de Foundation Model y los puntos de conexión de modelo personalizados.

Tema Description
Puerta de enlace de IA para proporcionar puntos de conexión Obtenga información sobre las características de AI Gateway para atender puntos de conexión, incluidas las características y limitaciones admitidas.
Configurar AI Gateway en puntos de servicio de modelos Configure características de AI Gateway, como el seguimiento de uso, el registro de carga, los límites de velocidad y los límites de protección en un punto de conexión de servicio del modelo.
Supervisión de modelos servidos mediante tablas de inferencia habilitadas para la puerta de enlace de AI Supervise los modelos servidos mediante tablas de inferencia habilitadas para la puerta de enlace de IA.