Choisir entre les modèles IA basés sur le cloud et locaux

Pour les développeurs d’applications qui cherchent à intégrer des fonctionnalités d’IA, Microsoft Windows propose une plateforme complète et flexible qui prend en charge les solutions locales, sur appareil et évolutives basées sur le cloud.

Le choix entre les modèles IA basés sur le cloud et locaux dépend de vos besoins et priorités spécifiques. De nombreuses applications de production utilisent une stratégie hybride : essayez d'abord une API IA locale Windows ou un modèle local, puis revenez à un point de terminaison cloud lorsque le modèle n'est pas installé, que l'appareil n'est pas pris en charge, que l'utilisateur ne consent pas à un téléchargement de modèle ou que la tâche nécessite un modèle plus grand.

Facteurs à prendre en considération :

  • Confidentialité, conformité et sécurité des données
  • Disponibilité des ressources
  • Accessibilité et collaboration
  • Coûts
  • Maintenance et mises à jour
  • Niveau de performance et latence
  • Extensibilité
  • Configuration requise pour la connectivité
  • Taille et complexité du modèle
  • Outils et écosystème associé
  • Personnalisation et contrôle

Facteurs de décision clés pour les développeurs d’applications

  • Confidentialité, conformité et sécurité des données

    • Local, sur site : Étant donné que les données restent sur l’appareil, exécuter un modèle sur site peut offrir des avantages en matière de sécurité et de confidentialité, la responsabilité de la sécurité des données reposant sur l’utilisateur. Le développeur est responsable de la gestion des mises à jour, de la compatibilité et de la surveillance des vulnérabilités de sécurité.

    • Nuage: Les fournisseurs de cloud offrent des mesures de sécurité robustes, mais les données doivent être transférées vers le cloud, ce qui peut entraîner des préoccupations en matière de confidentialité des données pour le responsable de la maintenance des services d’application ou d’entreprise dans certains cas. L’envoi de données au cloud doit également se conformer aux réglementations de protection des données, telles que RGPD ou HIPAA, en fonction de la nature des données et de la région dans laquelle l’application fonctionne. Les fournisseurs de cloud gèrent généralement les mises à jour et la maintenance de la sécurité, mais les utilisateurs doivent s’assurer qu’ils utilisent des API sécurisées et suivre les meilleures pratiques pour la gestion des données.

  • Disponibilité des ressources

    • Local, sur site : L’exécution d’un modèle dépend des ressources disponibles sur l’appareil utilisé, notamment le processeur, le GPU, le NPU, la mémoire et la capacité de stockage. Cela peut être limité si l’appareil ne dispose pas d’une puissance de calcul élevée ou d’un stockage suffisant. Les modèles linguistiques réduits (SLM), tels que Phi, conviennent mieux à une utilisation en local sur un appareil. Copilot+ Les PC offrent des modèles intégrés avec des fonctionnalités IA prêtes à l’emploi prises en charge par Microsoft Foundry on Windows.

    • Nuage: Les plateformes cloud, telles que Azure les services IA, offrent des ressources évolutives. Vous pouvez utiliser autant de puissance de calcul ou de stockage que nécessaire et payer uniquement pour ce que vous utilisez. Les modèles de langage volumineux (LLMs), comme les modèles de langage OpenAI , nécessitent plus de ressources, mais sont également plus puissants.

  • Accessibilité et collaboration

    • Local, sur site : Le modèle et les données sont accessibles uniquement sur l'appareil, à moins qu'elles ne soient partagées manuellement. Cela a le potentiel de rendre la collaboration plus difficile sur les données de modèle.

    • Nuage: Le modèle et les données sont accessibles depuis n’importe où avec une connectivité Internet. Cela peut être préférable pour les scénarios de collaboration.

  • Coût

    • Local, sur site : Il n’y a aucun coût supplémentaire au-delà de l’investissement initial dans le matériel de l’appareil.

    • Nuage: Bien que les plateformes cloud fonctionnent sur un modèle de paiement à l’utilisation, les coûts peuvent s’accumuler en fonction des ressources utilisées et de la durée d’utilisation.

  • Maintenance et mises à jour

    • Local, sur site : L’utilisateur est responsable de la maintenance du système et de l’installation des mises à jour.

    • Nuage: La maintenance, les mises à jour système et les nouvelles mises à jour des fonctionnalités sont gérées par le fournisseur de services cloud, ce qui réduit la surcharge de maintenance pour l’utilisateur.

  • Performances et latence

    • Local, local : L’exécution d’un modèle localement peut réduire la latence, car les données n’ont pas besoin d’être envoyées sur le réseau. Toutefois, les performances sont limitées par les fonctionnalités matérielles de l’appareil.

    • Nuage: Les modèles basés sur le cloud peuvent tirer parti du matériel puissant, mais ils peuvent introduire une latence en raison de la communication réseau. Les performances peuvent varier en fonction de la connexion Internet de l’utilisateur et du temps de réponse du service cloud.

  • Scalabilité

    • Local, local : La mise à l’échelle d’un modèle sur un appareil local peut nécessiter des mises à niveau matérielles importantes ou l’ajout d’autres appareils, ce qui peut être coûteux et fastidieux.

    • Nuage: Les plateformes cloud offrent une scalabilité facile, ce qui vous permet d’ajuster rapidement les ressources en fonction de la demande sans avoir besoin de modifications matérielles physiques.

  • Exigences de connectivité

    • Local, sur site : Un appareil local ne nécessite pas de connexion Internet pour exécuter un modèle, ce qui peut s'avérer bénéfique dans les environnements avec une connectivité limitée.

    • Nuage: Les modèles basés sur le cloud nécessitent une connexion Internet stable pour l’accès et peuvent être affectés par les problèmes réseau.

  • Disponibilité du runtime et basculement

    • Local, sur site : Les fonctionnalités d’IA locales peuvent dépendre du matériel, de la version Windows, de la version du SDK de l’application Windows, de la région et du fait qu’un modèle facultatif soit installé. Avant d’appeler une fonctionnalité IA locale, vérifiez son état de préparation et guidez l’utilisateur via tout flux de téléchargement ou de consentement de modèle requis. Pour Windows les API IA, utilisez le modèle de préparation spécifique à l’API documenté dans Prise en main des Windows API IA et les pages d’API individuelles.

    • Cloud : Un point de terminaison cloud peut fournir un secours lorsqu’un modèle local n’est pas prêt ou pris en charge sur l’appareil actuel. Déterminez si le mécanisme de secours est automatique, contrôlé par l’utilisateur ou désactivé pour les scénarios sensibles en matière de confidentialité. Assurez-vous que l’interface utilisateur explique quand les données quittent l’appareil.

  • Taille et complexité du modèle

    • Sur site : Les appareils locaux peuvent avoir des limitations sur la taille et la complexité des modèles pouvant être exécutés en raison de contraintes matérielles. Les modèles plus petits, tels que Phi, sont plus adaptés à l’exécution locale.

    • Nuage: Les plateformes cloud peuvent gérer des modèles plus volumineux et plus complexes, tels que ceux fournis par OpenAI, en raison de leur infrastructure évolutive.

  • Outils et écosystème associé

    • Local, sur site : Les solutions IA locales, telles que Microsoft FoundryMicrosoft Foundry on Windows, Windows ML et Foundry Local, s’intègrent au SDK d’application et au runtime d’ONNX, ce qui permet aux développeurs d’incorporer des modèles directement dans une application de bureau ou de périphérie avec des dépendances externes minimales.

    • Nuage: Les solutions IA cloud, telles que Microsoft Foundry, Azure les services IA et Azure openAI Service, fournissent un ensemble complet d’API et de kits sdk pour la création d’applications IA. Ces services sont conçus pour s’intégrer en toute transparence à Azure DevOps, GitHub Copilot, Noyau sémantique et d’autres Azure services, ce qui permet l’orchestration de bout en bout, le déploiement de modèles et la surveillance à grande échelle.

  • Personnalisation et contrôle

    • Local, sur site : les modèles locaux peuvent être utilisés prêts à l’emploi, sans nécessiter de haut niveau d’expertise. Microsoft Foundry on Windows propose des modèles comme Phi Silica prêts à l'emploi. Par ailleurs, Windows ML permet aux développeurs d’exécuter des modèles personnalisés, tels que ceux entraînés avec ONNX Runtime, directement sur Windows les appareils. Cela fournit un niveau élevé de contrôle sur le modèle et son comportement, ce qui permet un réglage et une optimisation précis en fonction des cas d’usage spécifiques. Foundry Local permet également aux développeurs d’exécuter des modèles localement sur Windows des appareils, fournissant un niveau élevé de contrôle sur le modèle et son comportement.

    • Nuage: Les modèles basés sur le cloud offrent également des options prêtes à l’emploi et personnalisables, ce qui permet aux développeurs de tirer parti des fonctionnalités préentraînés tout en adaptant le modèle à leurs besoins spécifiques. Microsoft Foundry est une offre unifiée Azure de plateforme en tant que service pour les opérations IA d’entreprise, les générateurs de modèles et le développement d’applications. Cette base combine l’infrastructure de niveau production avec des interfaces conviviales, ce qui permet aux développeurs de se concentrer sur la création d’applications plutôt que sur la gestion de l’infrastructure.

Exemples d’IA cloud

Si une solution basée sur le cloud fonctionne mieux pour votre Windows scénario d’application, vous serez peut-être intéressé par certains des didacticiels ci-dessous.

De nombreuses API sont disponibles pour accéder aux modèles basés sur le cloud pour alimenter les fonctionnalités IA de votre Windows application, que ces modèles soient personnalisés ou prêts à l’emploi. L’utilisation d’un modèle basé sur le cloud peut permettre à votre application de rester rationalisée en déléguant des tâches gourmandes en ressources vers le cloud. Voici quelques ressources pour vous aider à ajouter des API basées sur l’IA basées sur le cloud proposées par Microsoft ou OpenAI :

  • Ajoutez des complétion à votre application de bureau WinUI 3 / Windows App SDK : un didacticiel sur l’intégration des capacités d’achèvement OpenAI ChatGPT basées sur le cloud dans une application de bureau WinUI 3 / Windows SDK d'application.

  • Windows : un tutoriel sur l'intégration des capacités de génération d'images DALL-E d'OpenAI basées sur le cloud dans une application de bureau WinUI 3 / SDK d'application.

  • Azure Service OpenAI : si vous souhaitez que votre Windows application accède aux modèles OpenAI, tels que GPT-4, GPT-4 Turbo avec Vision, GPT-3.5-Turbo, DALLE-3 ou la série de modèles Embeddings, avec les fonctionnalités de sécurité et d’entreprise ajoutées de Azure, vous trouverez des conseils dans cette Azure documentation OpenAI.

  • Azure Services IA : Azure offre une suite complète de services IA disponibles via les API REST et les kits SDK de bibliothèque de client dans les langages de développement populaires. Pour plus d’informations, consultez la documentation relative à chaque service. Ces services basés sur le cloud aident les développeurs et les organisations à créer rapidement des applications intelligentes, prêtes à l’emploi, prêtes pour le marché et responsables avec des API et des modèles prédéfinis et personnalisables. Les exemples d’applications incluent le traitement en langage naturel des conversations, la recherche, l’analyse, la traduction, le message, la vision et la prise de décision.

Concevoir un chemin d’accès local/cloud hybride

Utilisez un chemin d’accès hybride lorsque votre application doit tirer parti de l’inférence locale lorsqu’elle est disponible, mais fournissez toujours une expérience utile sur les appareils non pris en charge ou avant qu’un modèle local soit prêt.

  1. Choisissez d’abord la fonctionnalité locale. Commencez par une Windows API IA quand elle correspond à votre scénario, ou utilisez Windows ML / Foundry Local quand vous devez exécuter un modèle spécifique.
  2. Vérifiez la préparation avant l’utilisation. Au démarrage ou avant l’affichage de la fonctionnalité, interrogez l’état de préparation de la fonctionnalité locale. Si l’API signale que la fonctionnalité n’est pas prise en charge, n’est pas installée ou a besoin d’un téléchargement, n’appelez-la pas aveuglement.
  3. Demandez le consentement lorsqu’un modèle local doit être téléchargé. Certains modèles locaux sont facultatifs et peuvent être de plusieurs Go. Expliquer la taille du téléchargement, pourquoi le modèle est nécessaire et si l’application peut continuer sans elle.
  4. Définissez une solution de secours dans le cloud. Si le modèle local n’est pas prêt, appelez un point de terminaison cloud uniquement lorsque l’utilisateur et l’organisation autorisent les données à quitter l’appareil. Conservez les chemins d’accès locaux et cloud derrière la même abstraction au niveau de l’application afin que le reste de l’application ne dépende pas de l’emplacement d’exécution de l’inférence.
  5. Veillez à ce que le comportement reste observable. Consignez le chemin utilisé, les échecs de disponibilité, les résultats des téléchargements de modèles et les erreurs de basculement vers le cloud, sans enregistrer dans les journaux les prompts, les tokens ou tout contenu sensible, sauf si votre organisation a approuvé ce traitement des données.

Flux de décision de secours hybride

Utilisez ce flux comme point de départ :

  1. Lorsque l’utilisateur démarre une fonctionnalité IA, vérifiez si une fonctionnalité IA locale correspond à la tâche.
  2. Si aucune fonctionnalité locale n’est adaptée à la tâche, utilisez l’IA cloud ou un autre service.
  3. Si une fonctionnalité locale correspond à la tâche, vérifiez si la fonctionnalité est prête sur l’appareil actuel.
  4. Si la fonctionnalité locale est prête, exécutez l’inférence locale.
  5. Si la fonctionnalité locale a besoin d’un téléchargement de modèle, demandez le consentement de l’utilisateur avant de commencer le téléchargement.
  6. Si l’utilisateur consent, télécharge ou prépare le modèle, réessayez l’inférence locale.
  7. Si l’utilisateur ne consent pas ou si la fonctionnalité locale n’est pas prise en charge, vérifiez si la secours cloud est autorisée pour le scénario.
  8. Si le basculement vers le cloud est autorisé, utilisez le chemin d’accès cloud.
  9. Si le recours au cloud n’est pas autorisé, indiquez la configuration requise concernant l’appareil, le modèle ou la stratégie, puis désactivez ou masquez la fonctionnalité.

Pour plus d’informations sur la disponibilité locale, consultez Windows les API d’IA, Bien démarrer avec les Windows API d’IA, Foundry Local, et Windows l’apprentissage automatique.

  • Dernière mise à jour :