Megjegyzés
Az oldalhoz való hozzáféréshez engedély szükséges. Megpróbálhat bejelentkezni vagy módosítani a címtárat.
Az oldalhoz való hozzáféréshez engedély szükséges. Megpróbálhatja módosítani a címtárat.
Microsoft Foundry on Windows a legkiválóbb megoldás a helyi AI-képességeket integrálni kívánó fejlesztők számára a Windows-alkalmazásokba.
Microsoft Foundry on Windows nyújt a fejlesztőknek...
- Azonnal használható AI-modellek és API-kWindows AI APIs és Foundry Local
- AI-következtetési keretrendszer bármely modell helyi futtatásához Windows ML
Függetlenül attól, hogy ön még nem ismeri az AI-t, vagy tapasztalt Machine Learning (ML) szakértő, Microsoft Foundry on Windows van valami az Ön számára.
Használatra kész AI-modellek és API-k
Az alkalmazás egy órán belül könnyedén használhatja a következő helyi AI-modelleket és API-kat. A modellfájlok terjesztését és futtatókörnyezetét a Microsoft kezeli, a modelleket pedig az alkalmazások osztják meg. Ezeknek a modelleknek és API-knak a használata csak néhány sornyi kódot vesz igénybe, és nincs szükség ml-szakértelemre.
| Modell típusa vagy API | Mi ez | Beállítások és támogatott eszközök |
|---|---|---|
| Nagy nyelvi modellek (LLM-ek) | Generatív szövegmodellek | Phi Silica AI APIs keresztül (támogatja a finomhangolást) vagy több mint 20 OSS LLM modell Foundry Local keresztül További információért lásd a helyi LLM-eket . |
| Kép leírása | Kép természetes nyelvű szöveges leírásának lekérése | Kép leírása AI APIs (Copilot+ PC-k) |
| Kép előtérelválasztó | Kép előterének szegmentálása | Kép előtér-kivonó AI APIs (Copilot+ PC-n keresztül) |
| Képgenerálás | Képek létrehozása szövegből | Kép generálása AI APIs (Copilot+ PC-k) |
| Képobjektum törlése | Objektumok törlése képekről | Képi objektum törlése AI APIs (Copilot+ PC-n keresztül) |
| Image Object Extractor | Adott objektumok szegmentálása egy képen | Képobjektum kivonó AI APIs (Copilot+ számítógépeken keresztül) |
| Képfelbontás | Képek felbontásának növelése | Képfelbontás javítása AI APIs (Copilot+ PC-kkel) |
| Szemantikai keresés | Szemantikai keresés szövegben és képekben | App Content Search AI APIs (Copilot+ PC-k) |
| Beszédfelismerés | Beszéd szöveggé alakítása | Suttogás Foundry Local vagy beszédfelismerés útján Windows SDK-n keresztül További információ: Beszédfelismerés . |
| Szövegfelismerés (OCR) | Szöveg felismerése képekből | OCR AI APIs (Copilot+ PC-n keresztül) |
| Videó szuperfelbontása (VSR) | Videók felbontásának növelése | Videó szuperfelbontás AI APIs által (Copilot+ PC-k) |
Más modellek használata Windows ML
A Face vagy más forrásokból származó modellek széles skáláját használhatja, vagy akár saját modellek betanítását is végezheti, és helyileg futtathatja őket Windows 10 és újabb számítógépeken Windows ML (a modellek kompatibilitása és teljesítménye az eszköz hardverétől függően változik).
A modellek kereséséről vagy betanításáról a használathoz az Windows ML oldalon talál további információt.
Melyik beállítással kezdje?
Kövesse ezt a döntési fát az alkalmazáshoz és forgatókönyvhöz leginkább megfelelő megközelítés kiválasztásához:
Ellenőrizze, hogy a beépített Windows AI APIs lefedi-e az esetét, és a Copilot+ PC-ket célozza meg. Ez a leggyorsabb út a piacra minimális fejlesztési erőfeszítéssel.
Ha Windows AI APIs nem rendelkezik azzal, amire szüksége van, vagy támogatnia kell Windows 10 és újabb verziót, fontolja meg Foundry Local LLM- vagy hang-szöveg forgatókönyvek esetében.
Ha egyéni modellekre van szüksége, meglévő modelleket szeretne használni az Arc ölelése vagy más forrásokból, vagy olyan konkrét modellkövetelményekkel rendelkezik, amelyekre a fenti lehetőségek nem vonatkoznak, Windows ML rugalmasságot biztosít a saját modellek megkereséséhez vagy betanításához (és támogatja a Windows 10 és újabb modelleket).
Az alkalmazás mindhárom technológia kombinációját is használhatja.
A helyi AI-hez elérhető technológiák
A következő technológiák érhetők el Microsoft Foundry on Windows:
| Windows AI APIs | Foundry Local | Windows ML | |
|---|---|---|---|
| Mi ez | Használatra kész AI-modellek és API-k különböző feladattípusokban, Copilot+ pc-khez optimalizálva | Használatra kész LLM-ek és hang-szöveg modellek | ONNX Runtime keretrendszer a talált vagy betanított modellek futtatásához |
| Támogatott eszközök | Copilot+ számítógépek | Windows 10 és újabb számítógépek és platformfüggetlen (A teljesítmény az elérhető hardvertől függően változik, nem minden elérhető modell) |
Windows 10 és újabb számítógépek, valamint nyílt forráskódú, több platformon átívelő ONNX Runtime (A teljesítmény a rendelkezésre álló hardvertől függően változik) |
| Modelltípusok és API-k érhetők el |
LLM Kép leírása Kép előtérelválasztó Képgenerálás Képobjektum törlése Image Object Extractor Képfelbontás Szemantikai keresés Szövegfelismerés (OCR) Videó szuperfelbontása |
LLM-ek (több) beszéd szöveggé alakítása Több mint 20 elérhető modell tallózása |
Saját modellek keresése vagy betanítása |
| Modeldisztribúció | A Microsoft üzemelteti, futtatási idő alatt szerzik be, és alkalmazások között megosztják. | A Microsoft üzemelteti, futtatási idő alatt szerzik be, és alkalmazások között megosztják. | Az alkalmazás által kezelt disztribúció (az alkalmazástárak modelleket oszthatnak meg az alkalmazások között) |
| Tudj meg többet | A dokumentumok olvasása AI APIs | A dokumentumok olvasása Foundry Local | A dokumentumok olvasása Windows ML |
A Microsoft Foundry on Windows olyan fejlesztői eszközöket is tartalmaz, mint a Foundry Toolkit Visual Studio Code és AI fejlesztői katalógus amelyek segítenek az AI-képességek sikeres kiépítésében.
Foundry Toolkit Visual Studio Code egy VS Code-bővítmény, amely lehetővé teszi mesterséges intelligencia modellek helyi letöltését és futtatását, beleértve a DirectML révén történő hardveres gyorsításhoz való hozzáférést a jobb teljesítmény és skálázhatóság érdekében. A Foundry Toolkit következőkkel is segíthet:
- Modellek tesztelése intuitív játszótéren vagy az alkalmazásban REST API-val.
- Az AI-modell finomhangolása helyileg vagy a felhőben (virtuális gépen) új készségek létrehozásához, a válaszok megbízhatóságának javításához, a válasz hangnemének és formátumának beállításához.
- A népszerű kis nyelvi modellek, például a Phi-3 és a Mistral, finomhangolása (SLM-ek).
- Az AI-funkció üzembe helyezése a felhőben vagy egy eszközön futó alkalmazással.
- Használja ki a hardveres gyorsítást a jobb teljesítmény érdekében a DirectML-t használó AI-funkciókkal. A DirectML egy alacsony szintű API, amely lehetővé teszi a Windows eszköz hardverének, hogy felgyorsítsa az ML-modellek teljesítményét az eszköz GPU-jának vagy NPU-jának használatával. A DirectML és a ONNX Runtime párosítása általában a legegyértelmesebb módja annak, hogy a fejlesztők a hardveresen gyorsított AI-t nagy léptékben érhessék el a felhasználók számára. További információ: A DirectML áttekintése.
- Modell kvantálása és érvényesítése NPU-n való használatra a modellkonvertálási képességek használatával
Ötletek a helyi AI kihasználásához
Néhány módszer, amellyel Windows alkalmazások kihasználhatják a helyi AI-t a funkciók és a felhasználói élmény javítása érdekében:
- Az alkalmazások a Generatív AI LLM-modellek segítségével összetett témaköröket ismerhetnek meg az összegzéshez, átíráshoz, jelentéskészítéshez vagy bővítéshez.
- Az alkalmazások LLM-modelleket használhatnak a szabad formátumú tartalmak strukturált formátumtá alakításához, amelyet az alkalmazás megérthet.
- Az alkalmazások szemantikai keresési modelleket használhatnak , amelyek lehetővé teszik a felhasználók számára a tartalom jelentés szerinti keresését és a kapcsolódó tartalmak gyors megtalálását.
- Az alkalmazások természetes nyelvi feldolgozási modelleket használhatnak az összetett természetes nyelvi követelmények magyarázatára, valamint a felhasználó kérésének végrehajtásához szükséges műveletek megtervezésére és végrehajtására.
- Az alkalmazások képmanipulációs modellek használatával intelligensen módosíthatják a képeket, törölhetik vagy hozzáadhatnak témákat, felskálázhatják vagy új tartalmakat hozhatnak létre.
- Az alkalmazások prediktív diagnosztikai modelleket használhatnak a problémák azonosításához és előrejelzéséhez, és segíthetnek a felhasználó irányításában vagy a számukra történő megoldásában.
Felhőbeli AI-modellek használata
Ha a helyi AI-funkciók használata nem a megfelelő elérési út, a felhőalapú AI-modellek és -erőforrások használata megoldást jelenthet.
Felelős AI-eljárások használata
Amikor AI-funkciókat épít be a Windows alkalmazásba, highly javasoljuk, hogy kövesse a A felelős generatív AI-alkalmazások és -szolgáltatások fejlesztése Windows útmutatást.