Preguntas más frecuentes sobre el uso de los servicios de IA de Azure para empresas emergentes.
Cómo empezar
¿Cuál es la mejor manera de empezar a usar Azure OpenAI Service para mi inicio?
Echa un vistazo al curso de IA generativa para principiantes en GitHub. Se trata de un conjunto de instrucciones de 18 lecciones que presenta todas las características principales de Azure OpenAI y muestra cómo crear aplicaciones con ellas.
¿Cómo puedo probar rápidamente las funcionalidades de Azure AI con un enfoque de código bajo o sin código?
Use el portal de Azure AI Foundry para probar una variedad de funcionalidades de IA, incluida la implementación de modelos de Azure OpenAI y la aplicación de servicios de moderación de contenido.
Disponibilidad regional y residencia de datos
¿En qué regiones de Azure está disponible el servicio OpenAI?
Los diferentes modelos de Azure OpenAI están restringidos a diferentes regiones. Consulte la tabla de disponibilidad de modelos para obtener una lista completa.
¿Cómo afecta la selección de región a la latencia y el rendimiento de los servicios de Azure OpenAI?
El impacto es mínimo, a menos que estés utilizando la función de streaming. La latencia de la propia respuesta del modelo tiene un efecto mucho mayor en la latencia que las diferencias de región.
La elección de usar un servidor Azure OpenAI dedicado frente a un plan de pago por uso también tiene un mayor impacto en el rendimiento.
Límites de velocidad y gestión de recursos
¿Cómo puedo asegurarme de que mi aplicación puede escalar su cuota de Azure OpenAI?
Consulte Administración de la cuota del servicio de Azure OpenAI para comprender cómo funcionan los límites de cuota y cómo administrarlos.
¿Cuáles son los límites de frecuencia de Azure OpenAI Service y cómo puedo administrarlos?
Para los clientes que usan el modelo de pago por uso (el más común), consulte la página Administrar cuota del servicio de Azure OpenAI . Para los clientes que usan un servidor Azure OpenAI dedicado, consulte la sección de cuotas de la guía relacionada.
¿Cómo se controlan las restricciones de token por minuto en Azure OpenAI Service?
Considere la posibilidad de combinar varias implementaciones de Azure OpenAI en una arquitectura avanzada para crear un sistema que entregue más tokens por minuto a más usuarios.
¿Cuándo debo usar un servidor (PTU) dedicado de Azure OpenAI en lugar del modelo de pago por uso?
Debe considerar la posibilidad de cambiar de pago por uso a rendimiento aprovisionado cuando tenga requisitos de rendimiento bien definidos y predecibles. Normalmente, este es el caso cuando la aplicación está lista para producción o ya se ha implementado en producción y hay una comprensión del tráfico esperado. Esto permite a los usuarios predecir con precisión la capacidad necesaria y evitar una facturación inesperada.
Equilibrio de carga y escalado
¿Cómo puedo administrar el tráfico elevado y asegurarme de que mi aplicación de Azure OpenAI siga respondiendo?
Cree un equilibrador de carga para su aplicación.
Consulte el ejemplo de equilibrio de carga si usa el modelo de pago por uso. Si usa un servidor dedicado de Azure OpenAI, consulte la guía de PTU para obtener información sobre el equilibrio de carga.
Desarrollo y pruebas
¿Cómo se configura un entorno de desarrollo para probar las aplicaciones de Azure OpenAI?
Cree una implementación en línea mediante el flujo de solicitud en el portal de Azure AI Foundry. A continuación, pruébelo introduciendo valores en el editor de formularios o en el editor JSON.
Supervisión y métricas
¿Cómo puedo rastrear y evaluar las métricas de uso de mi aplicación de IA?
Consulte la guía de métricas de evaluación y supervisión para obtener información sobre el seguimiento de las métricas de riesgo y seguridad, así como una serie de métricas de calidad de respuesta.
¿Qué herramientas puedo usar para supervisar el rendimiento de mis puntos de conexión de Azure OpenAI?
Use la característica de supervisión de Azure OpenAI Studio. Proporciona paneles que realizan un seguimiento de las métricas de rendimiento de sus modelos a lo largo del tiempo.
Implementación de producción y mejores prácticas
¿Cuáles son algunos de los procedimientos recomendados para implementar aplicaciones de OpenAI en Azure en producción?
Consulte la arquitectura de referencia de chat de Azure OpenAI para conocer los procedimientos recomendados para implementar una aplicación de chat estándar.
¿Puede proporcionar ejemplos o casos prácticos de implementaciones correctas de Azure OpenAI Service?
Consulte el foro de la comunidad tecnológica de Inteligencia Artificial y Aprendizaje Automático .
Contenido relacionado
Para obtener más información, consulte Microsoft para startups.