Actualización de modelos de GitHub a modelos de Microsoft Foundry

En este artículo, aprenderá a desarrollar una aplicación de IA generativa a partir de modelos de GitHub y, a continuación, actualizará su experiencia mediante la implementación de un recurso de Foundry Tools con Microsoft Foundry Models.

Los modelos de GitHub son útiles cuando desea buscar y experimentar con modelos de IA de forma gratuita a medida que desarrolla una aplicación de IA generativa. Cuando esté listo para llevar la aplicación a producción, actualice su experiencia mediante la implementación de un recurso de Foundry Tools en una suscripción de Azure y empiece a usar Foundry Models. No es necesario cambiar nada en el código.

El entorno de pruebas y el uso gratuito de la API para los modelos de GitHub están sujetos a limitaciones de solicitudes por minuto, solicitudes por día, tokens por solicitud y solicitudes simultáneas. Si obtiene una limitación de volumen, tendrá que esperar a alcanzarla antes de poder realizar más solicitudes.

Prerrequisitos

Necesitas:

• Una cuenta de GitHub con acceso a Modelos de GitHub.
• Una suscripción de Azure con un método de pago válido. Si no tiene una suscripción de Azure, cree una cuenta de Azure de pago para comenzar. Como alternativa, puede esperar hasta que esté listo para implementar el modelo en producción, en cuyo momento se le pedirá que cree o actualice la cuenta de Azure a una cuenta estándar.
• Los modelos Foundry de socios y de la comunidad requieren acceso a Azure Marketplace. Asegúrese de que tiene los permisos necesarios para suscribirse a las ofertas de modelo. Foundry Models vendidos directamente por Azure no tienen este requisito.

Actualizar a los modelos de Foundry

Los límites de velocidad para el área de juegos y el uso gratuito de la API le ayudan a experimentar con modelos y a desarrollar la aplicación de IA. Cuando esté listo para llevar la aplicación a producción, use una clave y un punto de conexión desde una cuenta de Azure de pago. No es necesario cambiar nada en el código.

Nota:

Los modelos de GitHub son gratuitos con límites de velocidad. Después de actualizar a Foundry Models, el uso se factura a la suscripción de Azure en función del tipo de implementación que elija.

Para obtener la clave y el punto de conexión:

1. Vaya a Modelos de GitHub y seleccione un modelo para aterrizar en su área de juegos. En este artículo se usa Mistral Medium 3 (25.05).

2. Escriba algunas indicaciones o use algunas de las indicaciones sugeridas para interactuar con el modelo en el área de juegos.

3. Seleccione Usar este modelo en el área de juegos. Esta acción abre una ventana para "Introducción a los modelos en el código base".

4. En el paso "Configurar autenticación", seleccione Obtener clave de Microsoft Foundry en la sección "Azure AI".

   

5. Si ya ha iniciado sesión en su cuenta de Azure, omita este paso. Sin embargo, si no tiene una cuenta de Azure o no ha iniciado sesión en su cuenta, siga estos pasos:

   1. Si no tiene una cuenta de Azure, seleccione Crear mi cuenta y siga los pasos para crear una.

   2. Como alternativa, si tiene una cuenta de Azure, seleccione Volver a iniciar sesión. Si la cuenta existente es una cuenta gratuita, primero debe actualizar a un plan estándar.

   3. Vuelva al área de juegos del modelo y vuelva a seleccionar Obtener clave de Microsoft Foundry .

   4. Inicie sesión en la cuenta de Azure.

6. Se le lleva a Foundry > GitHub y llega a la página principal de un proyecto de Foundry.

   Sugerencia

   Si llega a la experiencia Foundry (clásico), active el interruptor New Foundry en la barra de navegación superior derecha para cambiar a la nueva experiencia de Foundry.

7. Siga los pasos descritos en Implementación de un modelo para implementar el modelo que prefiera, probarlo en el área de juegos e inferenciar el modelo implementado con código.

8. Compruebe que la implementación funciona enviando un mensaje de prueba en el área de juegos. Si recibe una respuesta, el modelo está listo para usarse desde el código.

Importante

A diferencia de los modelos de GitHub en los que ya están configurados todos los modelos, el recurso De herramientas de foundry permite controlar qué modelos están disponibles en el punto de conexión y en qué configuración. Agregue tantos modelos como planee usar antes de indicarlos en el parámetro model. Obtenga información sobre cómo agregar más modelos al recurso.

Explorar características adicionales

Foundry Models admite características que no están disponibles en los modelos de GitHub:

• Catálogo de modelos : examine, compare y evalúe modelos de Azure, asociados y la comunidad de código abierto.
• Autenticación sin claves : use microsoft Entra ID para la autenticación basada en tokens sin administrar claves de API.
• Filtrado de contenido: configure filtros de seguridad de contenido para las implementaciones.
• Limitación de velocidad: establezca límites de velocidad personalizados para modelos específicos en el recurso.
• Tipos de implementación : elija entre varias SKU de implementación, como pago por token, aprovisionado y por lotes.

Solucionar problemas comunes

Cuestión	Resolución
Modelo no disponible en su región	Compruebe la disponibilidad de la región del modelo en su página de catálogo de modelos y elija una región admitida.
Error de autenticación después del intercambio de claves	Compruebe que copió la clave correcta desde el portal de Foundry. Seleccione configuración del proyecto>Claves y puntos de conexión para ver tus claves.
Errores de límite de velocidad después de la actualización	Los límites de velocidad de los modelos de Foundry dependen del tipo de implementación. Escale verticalmente o elija una implementación de mayor rendimiento.

Contenido relacionado

• Implementación de modelos de Microsoft Foundry en el portal de Foundry
• Creación de implementaciones de modelos
• Tipos de implementación para modelos Foundry