Helyi AI használata Microsoft Foundry on Windows

Microsoft Foundry on Windows a legkiválóbb megoldás a helyi AI-képességeket integrálni kívánó fejlesztők számára a Windows-alkalmazásokba.

Microsoft Foundry on Windows nyújt a fejlesztőknek...

Függetlenül attól, hogy ön még nem ismeri az AI-t, vagy tapasztalt Machine Learning (ML) szakértő, Microsoft Foundry on Windows van valami az Ön számára.

Egy ábra, amely bemutatja a különféle összetevőket, amelyekből a Microsoft Foundry on Windows áll (Windows AI APIs, Foundry Local és Windows ML).

Használatra kész AI-modellek és API-k

Az alkalmazás egy órán belül könnyedén használhatja a következő helyi AI-modelleket és API-kat. A modellfájlok terjesztését és futtatókörnyezetét a Microsoft kezeli, a modelleket pedig az alkalmazások osztják meg. Ezeknek a modelleknek és API-knak a használata csak néhány sornyi kódot vesz igénybe, és nincs szükség ml-szakértelemre.

Modell típusa vagy API Mi ez Beállítások és támogatott eszközök
Nagy nyelvi modellek (LLM-ek) Generatív szövegmodellek Phi Silica AI APIs keresztül (támogatja a finomhangolást) vagy több mint 20 OSS LLM modell Foundry Local keresztül

További információért lásd a helyi LLM-eket .
Kép leírása Kép természetes nyelvű szöveges leírásának lekérése Kép leírása AI APIs (Copilot+ PC-k)
Kép előtérelválasztó Kép előterének szegmentálása Kép előtér-kivonó AI APIs (Copilot+ PC-n keresztül)
Képgenerálás Képek létrehozása szövegből Kép generálása AI APIs (Copilot+ PC-k)
Képobjektum törlése Objektumok törlése képekről Képi objektum törlése AI APIs (Copilot+ PC-n keresztül)
Image Object Extractor Adott objektumok szegmentálása egy képen Képobjektum kivonó AI APIs (Copilot+ számítógépeken keresztül)
Képfelbontás Képek felbontásának növelése Képfelbontás javítása AI APIs (Copilot+ PC-kkel)
Szemantikai keresés Szemantikai keresés szövegben és képekben App Content Search AI APIs (Copilot+ PC-k)
Beszédfelismerés Beszéd szöveggé alakítása Suttogás Foundry Local vagy beszédfelismerés útján Windows SDK-n keresztül

További információ: Beszédfelismerés .
Szövegfelismerés (OCR) Szöveg felismerése képekből OCR AI APIs (Copilot+ PC-n keresztül)
Videó szuperfelbontása (VSR) Videók felbontásának növelése Videó szuperfelbontás AI APIs által (Copilot+ PC-k)

Más modellek használata Windows ML

A Face vagy más forrásokból származó modellek széles skáláját használhatja, vagy akár saját modellek betanítását is végezheti, és helyileg futtathatja őket Windows 10 és újabb számítógépeken Windows ML (a modellek kompatibilitása és teljesítménye az eszköz hardverétől függően változik).

A modellek kereséséről vagy betanításáról a használathoz az Windows ML oldalon talál további információt.

Melyik beállítással kezdje?

Kövesse ezt a döntési fát az alkalmazáshoz és forgatókönyvhöz leginkább megfelelő megközelítés kiválasztásához:

  1. Ellenőrizze, hogy a beépített Windows AI APIs lefedi-e az esetét, és a Copilot+ PC-ket célozza meg. Ez a leggyorsabb út a piacra minimális fejlesztési erőfeszítéssel.

  2. Ha Windows AI APIs nem rendelkezik azzal, amire szüksége van, vagy támogatnia kell Windows 10 és újabb verziót, fontolja meg Foundry Local LLM- vagy hang-szöveg forgatókönyvek esetében.

  3. Ha egyéni modellekre van szüksége, meglévő modelleket szeretne használni az Arc ölelése vagy más forrásokból, vagy olyan konkrét modellkövetelményekkel rendelkezik, amelyekre a fenti lehetőségek nem vonatkoznak, Windows ML rugalmasságot biztosít a saját modellek megkereséséhez vagy betanításához (és támogatja a Windows 10 és újabb modelleket).

Az alkalmazás mindhárom technológia kombinációját is használhatja.

A helyi AI-hez elérhető technológiák

A következő technológiák érhetők el Microsoft Foundry on Windows:

  Windows AI APIs Foundry Local Windows ML
Mi ez Használatra kész AI-modellek és API-k különböző feladattípusokban, Copilot+ pc-khez optimalizálva Használatra kész LLM-ek és hang-szöveg modellek ONNX Runtime keretrendszer a talált vagy betanított modellek futtatásához
Támogatott eszközök Copilot+ számítógépek Windows 10 és újabb számítógépek és platformfüggetlen

(A teljesítmény az elérhető hardvertől függően változik, nem minden elérhető modell)
Windows 10 és újabb számítógépek, valamint nyílt forráskódú, több platformon átívelő ONNX Runtime

(A teljesítmény a rendelkezésre álló hardvertől függően változik)
Modelltípusok és API-k érhetők el LLM
Kép leírása
Kép előtérelválasztó
Képgenerálás
Képobjektum törlése
Image Object Extractor
Képfelbontás
Szemantikai keresés
Szövegfelismerés (OCR)
Videó szuperfelbontása
LLM-ek (több)
beszéd szöveggé alakítása

Több mint 20 elérhető modell tallózása
Saját modellek keresése vagy betanítása
Modeldisztribúció A Microsoft üzemelteti, futtatási idő alatt szerzik be, és alkalmazások között megosztják. A Microsoft üzemelteti, futtatási idő alatt szerzik be, és alkalmazások között megosztják. Az alkalmazás által kezelt disztribúció (az alkalmazástárak modelleket oszthatnak meg az alkalmazások között)
Tudj meg többet A dokumentumok olvasása AI APIs A dokumentumok olvasása Foundry Local A dokumentumok olvasása Windows ML

A Microsoft Foundry on Windows olyan fejlesztői eszközöket is tartalmaz, mint a Foundry Toolkit Visual Studio Code és AI fejlesztői katalógus amelyek segítenek az AI-képességek sikeres kiépítésében.

Foundry Toolkit Visual Studio Code egy VS Code-bővítmény, amely lehetővé teszi mesterséges intelligencia modellek helyi letöltését és futtatását, beleértve a DirectML révén történő hardveres gyorsításhoz való hozzáférést a jobb teljesítmény és skálázhatóság érdekében. A Foundry Toolkit következőkkel is segíthet:

  • Modellek tesztelése intuitív játszótéren vagy az alkalmazásban REST API-val.
  • Az AI-modell finomhangolása helyileg vagy a felhőben (virtuális gépen) új készségek létrehozásához, a válaszok megbízhatóságának javításához, a válasz hangnemének és formátumának beállításához.
  • A népszerű kis nyelvi modellek, például a Phi-3 és a Mistral, finomhangolása (SLM-ek).
  • Az AI-funkció üzembe helyezése a felhőben vagy egy eszközön futó alkalmazással.
  • Használja ki a hardveres gyorsítást a jobb teljesítmény érdekében a DirectML-t használó AI-funkciókkal. A DirectML egy alacsony szintű API, amely lehetővé teszi a Windows eszköz hardverének, hogy felgyorsítsa az ML-modellek teljesítményét az eszköz GPU-jának vagy NPU-jának használatával. A DirectML és a ONNX Runtime párosítása általában a legegyértelmesebb módja annak, hogy a fejlesztők a hardveresen gyorsított AI-t nagy léptékben érhessék el a felhasználók számára. További információ: A DirectML áttekintése.
  • Modell kvantálása és érvényesítése NPU-n való használatra a modellkonvertálási képességek használatával

Ötletek a helyi AI kihasználásához

Néhány módszer, amellyel Windows alkalmazások kihasználhatják a helyi AI-t a funkciók és a felhasználói élmény javítása érdekében:

  • Az alkalmazások a Generatív AI LLM-modellek segítségével összetett témaköröket ismerhetnek meg az összegzéshez, átíráshoz, jelentéskészítéshez vagy bővítéshez.
  • Az alkalmazások LLM-modelleket használhatnak a szabad formátumú tartalmak strukturált formátumtá alakításához, amelyet az alkalmazás megérthet.
  • Az alkalmazások szemantikai keresési modelleket használhatnak , amelyek lehetővé teszik a felhasználók számára a tartalom jelentés szerinti keresését és a kapcsolódó tartalmak gyors megtalálását.
  • Az alkalmazások természetes nyelvi feldolgozási modelleket használhatnak az összetett természetes nyelvi követelmények magyarázatára, valamint a felhasználó kérésének végrehajtásához szükséges műveletek megtervezésére és végrehajtására.
  • Az alkalmazások képmanipulációs modellek használatával intelligensen módosíthatják a képeket, törölhetik vagy hozzáadhatnak témákat, felskálázhatják vagy új tartalmakat hozhatnak létre.
  • Az alkalmazások prediktív diagnosztikai modelleket használhatnak a problémák azonosításához és előrejelzéséhez, és segíthetnek a felhasználó irányításában vagy a számukra történő megoldásában.

Felhőbeli AI-modellek használata

Ha a helyi AI-funkciók használata nem a megfelelő elérési út, a felhőalapú AI-modellek és -erőforrások használata megoldást jelenthet.

Felelős AI-eljárások használata

Amikor AI-funkciókat épít be a Windows alkalmazásba, highly javasoljuk, hogy kövesse a A felelős generatív AI-alkalmazások és -szolgáltatások fejlesztése Windows útmutatást.