Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Microsoft Foundry on Windows est la première solution pour les développeurs qui cherchent à intégrer des fonctionnalités d’IA locales dans leurs applications Windows.
Microsoft Foundry on Windows fournit aux développeurs...
- Modèles d'IA et API prêts à l'emploi via Windows AI APIs et Foundry Local
- Infrastructure d’inférence IA pour exécuter n’importe quel modèle localement via Windows ML
Que vous soyez nouveau dans l'IA ou un expert expérimenté Machine Learning (ML), Microsoft Foundry on Windows a quelque chose pour vous.
diagramme
Modèles et API IA prêts à l’emploi
Votre application peut facilement utiliser les modèles et API IA locaux suivants en moins d’une heure. La distribution et le runtime des fichiers de modèle sont gérés par Microsoft, et les modèles sont partagés entre les applications. L’utilisation de ces modèles et API ne prend qu’une poignée de lignes de code, sans expertise ML nécessaire.
| Type de modèle ou API | Qu’est-ce que c’est | Options et appareils pris en charge |
|---|---|---|
| Modèles de langage volumineux (LLMs) | Modèles de texte génératifs | Phi Silicon via AI APIs (prend en charge le réglage précis) ou 20+ modèles LLM OSS via Foundry Local Pour en savoir plus, consultez les machines virtuelles llms locales . |
| Description de l’image | Obtenir une description de texte en langage naturel d’une image | Description de l'image via AI APIs (PCs Copilot+) |
| Extracteur de premier plan d’image | Segmenter le premier plan d’une image | Extracteur de premier plan d'image via AI APIs (Copilot+ PC) |
| Génération d’images | Générer des images à partir du texte | Génération d'images via AI APIs (PCs Copilot+) |
| Effacement de l’objet Image | Effacer les objets des images | Effacement d'objets dans les images via AI APIs (PCs Copilot+) |
| Extracteur d’objets image | Segmenter des objets spécifiques dans une image | extracteur d'images d'objets via AI APIs (PC Copilot+) |
| Super résolution d’image | Augmenter la résolution des images | Image Super Resolution via AI APIs (PC Copilot+) |
| Recherche sémantique | Rechercher sémantiquement du texte et des images | Recherche de contenu d'application via AI APIs (Copilot+ PC) |
| Reconnaissance vocale | Convertir la parole en texte | Chuchoter via Foundry Local ou reconnaissance vocale via Windows SDK Pour en savoir plus, consultez reconnaissance vocale . |
| Reconnaissance de texte (OCR) | Reconnaître du texte à partir d’images | OCR via AI APIs (PC Copilot+) |
| Video Super Resolution (VSR) | Augmenter la résolution des vidéos | Video Super Résolution via AI APIs (Copilot+ pour PC) |
Utilisation d’autres modèles avec Windows ML
Vous pouvez utiliser un large éventail de modèles à partir de Hugging Face ou d’autres sources, ou même entraîner vos propres modèles, et les exécuter localement sur des PC Windows 10 et versions ultérieures à l’aide de Windows ML(compatibilité et performances des modèles varient en fonction du matériel de l’appareil).
Consultez comment trouver ou entraîner des modèles à utiliser avec Windows ML pour en savoir plus.
Quelle option commencer par
Suivez cet arbre de décision pour sélectionner la meilleure approche pour votre application et votre scénario :
Vérifiez si les fonctionnalités intégrées de Windows AI APIs couvrent votre scénario et si vous ciblez des PC Copilot+. Il s’agit du chemin le plus rapide vers le marché avec un effort de développement minimal.
Si Windows AI APIs n’a pas ce dont vous avez besoin, ou si vous devez prendre en charge Windows 10 et versions ultérieures, envisagez Foundry Local pour les scénarios LLM ou de reconnaissance vocale.
Si vous avez besoin de modèles personnalisés, souhaitez tirer parti des modèles existants à partir de Hugging Face ou d'autres sources, ou avoir des exigences de modèle spécifiques qui ne sont pas couvertes par les options ci-dessus, Windows ML vous donne la possibilité de trouver ou d'entraîner vos propres modèles (et prend en charge Windows 10 et versions ultérieures).
Votre application peut également utiliser une combinaison de ces trois technologies.
Technologies disponibles pour l’IA locale
Les technologies suivantes sont disponibles dans Microsoft Foundry on Windows :
| Windows AI APIs | Foundry Local | Windows ML | |
|---|---|---|---|
| Qu’est-ce que c’est | Modèles et API IA prêts à l’emploi sur différents types de tâches, optimisés pour les PC Copilot+ | Modèles LLM prêts à l’emploi et voix à texte | ONNX Runtime framework pour l’exécution de modèles que vous recherchez ou entraînez |
| Appareils pris en charge | PC Copilot+ | Windows 10 et versions ultérieures pc et multiplateforme (Les performances varient en fonction du matériel disponible, et non de tous les modèles disponibles) |
Windows 10 pc et versions ultérieures, et multiplateforme via ONNX Runtime open source (Les performances varient en fonction du matériel disponible) |
| Types de modèles et API disponibles |
LLM Description de l’image Extracteur de premier plan d’image Génération d’images Effacement de l’objet Image Extracteur d’objets image Super résolution d’image Recherche sémantique Reconnaissance de texte (OCR) Super résolution vidéo |
Grands Modèles de Langage (LLMs) (multiple) voix à texte Parcourir plus de 20 modèles disponibles |
Rechercher ou entraîner vos propres modèles |
| Distribution de modèle | Hébergés par Microsoft, acquis lors de l'exécution et partagés entre les applications | Hébergés par Microsoft, acquis lors de l'exécution et partagés entre les applications | Distribution gérée par votre application (les bibliothèques d’applications peuvent partager des modèles entre les applications) |
| En savoir plus | Lire la AI APIs documentation | Lire la Foundry Local documentation | Lire la Windows ML documentation |
Microsoft Foundry on Windows inclut également des outils de développement tels que Foundry Toolkit pour Visual Studio Code et AI Dev Gallery qui vous aideront à créer des fonctionnalités d’IA.
Foundry Toolkit pour Visual Studio Code est une extension VS Code qui vous permet de télécharger et d’exécuter des modèles IA localement, y compris l’accès à l’accélération matérielle pour de meilleures performances et une mise à l’échelle via DirectML. La Foundry Toolkit peut également vous aider pour :
- Test de modèles dans un terrain de jeu intuitif ou dans votre application avec une API REST.
- Réglage précis de votre modèle IA, localement ou dans le cloud (sur une machine virtuelle) pour créer de nouvelles compétences, améliorer la fiabilité des réponses, définir le ton et le format de la réponse.
- Réglage des modèles populaires de langues à faibles ressources (SLMs), comme Phi-3 et Mistral.
- Déployez votre fonctionnalité IA dans le cloud ou avec une application qui s’exécute sur un appareil.
- Tirez parti de l’accélération matérielle pour améliorer les performances avec les fonctionnalités IA à l’aide de DirectML. DirectML est une API de bas niveau qui permet à votre matériel d’appareil Windows d’accélérer les performances des modèles ML à l’aide du GPU d’appareil ou du NPU. L’appairage de DirectML avec le ONNX Runtime est généralement le moyen le plus simple pour les développeurs d’apporter l’IA accélérée matériellement à leurs utilisateurs à grande échelle. En savoir plus : Vue d’ensemble de DirectML.
- Quantifiez et validez un modèle pour une utilisation sur NPU en utilisant les capacités de conversion de modèle.
Idées pour tirer parti de l’IA locale
Voici quelques façons dont les applications Windows peuvent tirer parti de l’IA locale pour améliorer leurs fonctionnalités et leur expérience utilisateur :
- Les applications peuvent utiliser des modèles d'IA générative LLM pour comprendre des rubriques complexes afin de résumer, réécrire, faire un rapport ou développer.
- Les applications peuvent utiliser des modèles LLM pour transformer du contenu de forme libre en un format structuré que votre application peut comprendre.
- Les applications peuvent utiliser des modèles de recherche sémantique qui permettent aux utilisateurs de rechercher du contenu en signification et de trouver rapidement du contenu associé.
- Les applications peuvent utiliser des modèles de traitement du langage naturel pour raisonner sur les exigences complexes du langage naturel, et planifier et exécuter des actions pour accomplir la demande de l’utilisateur.
- Les applications peuvent utiliser des modèles de manipulation d’images pour modifier intelligemment des images, effacer ou ajouter des sujets, une mise à l’échelle ou générer du nouveau contenu.
- Les applications peuvent utiliser des modèles de diagnostic prédictifs pour identifier et prédire les problèmes et guider l’utilisateur ou le faire pour eux.
Utilisation de modèles IA cloud
Si l’utilisation de fonctionnalités IA locales n’est pas le bon chemin pour vous, l’utilisation de modèles et de ressources IA cloud peut être une solution.
Utiliser des pratiques d’IA responsable
Chaque fois que vous incorporez des fonctionnalités d’IA dans votre application Windows, nous highly vous recommandons de suivre les Developing Responsible Generative AI Applications and Features on Windows conseils.