Consumir implementaciones estándar de un proyecto o centro de Fundición de IA de Azure diferente

2025-05-20

En este artículo, aprenderá a configurar una implementación estándar existente en un proyecto o centro diferente al que se usó para crear la implementación.

Importante

Los modelos que están en versión preliminar se marcan como versión preliminar en sus tarjetas de modelo en el catálogo de modelos.

Algunos modelos del catálogo de modelos se pueden implementar como implementaciones estándar. Este tipo de implementación proporciona una forma de consumir modelos como API sin alojarlos en su suscripción, al tiempo que mantiene la seguridad y el cumplimiento empresarial que necesitan las organizaciones. Esta opción de implementación no requiere cuota de la suscripción.

La necesidad de consumir un punto de conexión de implementaciones estándar en un proyecto o centro diferente al que se usó para crear la implementación podría surgir en situaciones como las siguientes:

Quieres centralizar tus despliegues en un proyecto o hub determinado y consumirlos desde diferentes proyectos o hubs de tu organización.
Debe implementar un modelo en un centro de conectividad en una región de Azure determinada donde esté disponible la implementación sin servidor para ese modelo. Sin embargo, debe consumirlo desde otra región, donde la implementación sin servidor no está disponible para los modelos concretos.

Prerrequisitos

Una suscripción de Azure con un método de pago válido. Las suscripciones gratuitas o de evaluación de Azure no funcionarán. Si no tiene una suscripción de Azure, cree una cuenta de Azure de pago para comenzar.
Un centro de Fundición de IA de Azure, si usa un proyecto basado en concentrador. Un proyecto Foundry no usa un hub. Para obtener más información, vea Tipos de proyecto.
Si no tiene uno, cree un proyecto basado en concentrador.
Un modelo implementado en una implementación estándar. En este artículo se supone que ha implementado previamente el modelo Meta-Llama-3-8B-Instruct. Para obtener información sobre cómo implementar este modelo como una implementación estándar, consulte Implementación de modelos como implementaciones estándar.
Necesita instalar el siguiente software para trabajar con Azure AI Foundry:
Puede usar cualquier explorador web compatible para navegar por Azure AI Foundry.
La CLI de Azure y la Extensión ml para Azure Machine Learning.
```
az extension add -n ml
```
Si ya tiene instalada la extensión, asegúrese de que está instalada la versión más reciente.
```
az extension update -n ml
```
Una vez instalada la extensión, configúrela:
```
az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
```
Instale el SDK de Azure Machine Learning para Python.
```
pip install -U azure-ai-ml
```
Una vez instalado, importe los espacios de nombres necesarios:
```
from azure.ai.ml import MLClient
from azure.identity import InteractiveBrowserCredential
from azure.ai.ml.entities import ServerlessEndpoint, ServerlessConnection
```

Creación de una conexión de punto de conexión de implementación estándar

Siga estos pasos para crear una conexión:

Conéctese al proyecto o al centro donde se implementa el punto de conexión:
Sugerencia

Dado que puede personalizar el panel izquierdo en el portal de Azure AI Foundry, es posible que vea elementos diferentes de los que se muestran en estos pasos. Si no ve lo que busca, seleccione ... Más en la parte inferior del panel izquierdo.

Vaya a Azure AI Foundry y vaya al proyecto donde se implementa el punto de conexión al que quiere conectarse.
Configure la CLI para que apunte al proyecto:
```
az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
```
Cree un cliente conectado al proyecto:
```
client = MLClient(
    credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
    subscription_id="<subscription-id>",
    resource_group_name="<resource-group>",
    workspace_name="<project-name>",
)
```
Obtenga la dirección URL y las credenciales del punto de conexión al que desea conectarse. En este ejemplo, obtendrá los detalles de un nombre de punto de conexión meta-llama3-8b-qwerty.
1. En la barra lateral izquierda del proyecto en el portal de Azure AI Foundry, vaya a Mis recursos>Modelos y puntos de conexión para ver la lista de implementaciones en el proyecto.
2. Seleccione la implementación a la que desea conectarse.
3. Copie los valores de URI de destino y Clave.
```
az ml serverless-endpoint get-credentials -n meta-llama3-8b-qwerty
```
```
endpoint_name = "meta-llama3-8b-qwerty"
endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
print(endpoint_keys.primary_key)
print(endpoint_keys.secondary_key)
```

Ahora, conéctese al proyecto o al centro donde desea crear la conexión:

Vaya al proyecto en el que se debe crear la conexión.

Configure la CLI para que apunte al proyecto:

az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>

Cree un cliente conectado al proyecto:

client = MLClient(
    credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
    subscription_id="<subscription-id>",
    resource_group_name="<resource-group>",
    workspace_name="<project-name>",
)

Cree la conexión en el proyecto:
1. En el proyecto en el portal de Azure AI Foundry, vaya a la parte inferior de la barra lateral izquierda y seleccione Centro de administración.
2. En la barra lateral izquierda del centro de administración, seleccione Recursos conectados.
3. Seleccione Nueva conexión.
4. Seleccione Modelo sin servidor.
5. Para el URI de destino, pegue el valor que copió anteriormente.
6. Para la Clave, pegue el valor que copió anteriormente.
7. Asigne un nombre a la conexión, en este caso meta-llama3-8b-connection.
8. Seleccione Agregar conexión.
Cree una definición de conexión:

connection.yml
```
name: meta-llama3-8b-connection
type: serverless
endpoint: https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com
api_key: 1234567890qwertyuiop
```
```
az ml connection create -f connection.yml
```
```
client.connections.create_or_update(ServerlessConnection(
    name="meta-llama3-8b-connection",
    endpoint="https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com",
    api_key="1234567890qwertyuiop"
))
```
En este momento, la conexión está disponible para su uso.
Para validar que la conexión funciona:
1. Vuelva al proyecto en el portal de Azure AI Foundry.
2. En la barra lateral izquierda del proyecto, vaya a Compilar y personalizar>Flujo de avisos.
3. Seleccione Crear para crear un flujo.
4. Seleccione Crear en el cuadro Flujo de chat.
5. Asigne un nombre al Flujo de avisos y seleccione Crear.
6. Seleccione el nodo de chat en el gráfico para ir a la sección de chat.
7. Para Conexión, abra la lista desplegable para seleccionar la conexión que acaba de crear, en este caso meta-llama3-8b-connection.
8. Seleccione Iniciar sesión de cómputo en la barra de navegación superior para iniciar una ejecución automática del flujo de órdenes.
9. Seleccione la opción chat. Ahora puede enviar mensajes y obtener respuestas.

Compartir a través de

Consumir implementaciones estándar de un proyecto o centro de Fundición de IA de Azure diferente

Prerrequisitos

Creación de una conexión de punto de conexión de implementación estándar

Contenido relacionado

Comentarios

Recursos adicionales