Foire aux questions sur l'utilisation des Azure AI Services pour les start-ups.
Mise en route
Quelle est la meilleure façon de commencer à utiliser Azure OpenAI Service pour mon démarrage ?
Découvrez le cours IA générative pour les débutants sur GitHub. Il s'agit d'un ensemble d'instructions de 18 leçons qui présente toutes les principales fonctionnalités d'OpenAI Azure et vous montre comment créer des applications avec eux.
Comment puis-je tester Azure fonctionnalités d’IA rapidement avec une approche faible/sans code ?
Utilisez le portail Azure AI Foundry pour tester diverses fonctionnalités d’IA, notamment déployer les modèles Azure OpenAI et appliquer des services de modération de contenu.
Disponibilité régionale et résidence des données
Dans quelles régions Azure le service OpenAI est-il disponible ?
Différents Azure modèles OpenAI sont limités à différentes régions. Consultez le tableau de disponibilité des modèles pour une liste complète.
Comment la sélection de région a-t-elle un impact sur la latence et les performances des services OpenAI Azure ?
L’impact est minime, sauf si vous utilisez la fonction de streaming. La latence de la réponse du modèle a un effet beaucoup plus important sur la latence que les différences régionales.
Le choix d’utiliser un serveur OpenAI dédié Azure par rapport au plan de paiement à l’utilisation a également un impact plus important sur performance.
Limites de débit et gestion des ressources
Comment puis-je m'assurer que mon application peut gérer la mise à l'échelle de son quota Azure OpenAI ?
Consultez Manage Azure OpenAI Service quota pour comprendre comment fonctionnent les limites de quota et comment les gérer.
Quelles sont les limites de taux pour Azure OpenAI Service et comment puis-je les gérer ?
Pour les clients qui utilisent le modèle de paiement à l’utilisation (le plus courant), consultez la page Manage Azure OpenAI Service quota. Pour les clients qui utilisent un serveur OpenAI dédié Azure, consultez la section quota du guide associé.
Comment gérer les restrictions de jeton par minute dans Azure OpenAI Service ?
Envisagez combinage de plusieurs déploiements OpenAI Azure dans une architecture avancée pour créer un système qui fournit plus de jetons par minute à plus d’utilisateurs.
Quand dois-je utiliser un serveur dédié Azure OpenAI plutôt que le modèle de paiement à l'utilisation ?
Vous devriez envisager de passer d’un débit de paiement à l’utilisation à un débit provisionné lorsque vous disposez d’exigences de débit bien définies et prévisibles. En règle générale, c’est le cas lorsque l’application est prête pour la production ou qu’elle a déjà été déployée en production et que le trafic attendu est compris. Cela permet aux utilisateurs de prévoir avec précision la capacité requise et d’éviter une facturation inattendue.
Équilibrage de charge et mise à l’échelle
Comment gérer le trafic élevé et garantir que mon application OpenAI Azure reste réactive ?
Créez un équilibreur de charge pour votre application.
Consultez l’exemple d’équilibrage de charge si vous utilisez le modèle de paiement à l’utilisation. Si vous utilisez un serveur OpenAI dédié Azure, consultez le guide PTU pour plus d'informations sur l'équilibrage de charge.
Développement et test
Comment configurer un environnement de développement pour tester Azure applications OpenAI ?
Créer un déploiement en ligne à l’aide du flux de requête dans le portail Azure AI Foundry. Ensuite, testez-le en saisissant des valeurs dans l’éditeur de formulaires ou l’éditeur JSON.
Analyse et métriques
Comment puis-je suivre et évaluer les indicateurs d’utilisation de mon application d’IA ?
Consultez le guide des mesures d’évaluation et de surveillance pour plus d’informations sur le suivi des mesures de risque et de sécurité, ainsi qu’un certain nombre de mesures de qualité de réponse.
Quels outils puis-je utiliser pour surveiller les performances de mes Azure points de terminaison OpenAI ?
Utilisez la fonctionnalité monitoring de Azure OpenAI Studio. Il fournit des tableaux de bord qui suivent les indicateurs de performance de vos modèles au fil du temps.
Mise en œuvre de la production et bonnes pratiques
Quelles sont les meilleures pratiques pour déployer des applications IA de production sur Azure ?
Consultez l’architecture de référence de Microsoft Foundry pour découvrir les meilleures pratiques en matière de déploiement d'une application de chat.
Pouvez-vous fournir des exemples ou des études de cas sur des implémentations réussies de Azure OpenAI Service ?
Consultez le forum Artificial Intelligence et Machine Learning de la communauté technique.
Contenu connexe
Pour plus d’informations, consultez Microsoft pour les startups.