mi- és gépi tanulási termékek Microsoft

Microsoft számos platformot kínál a mi- és gépi tanuláshoz. Minden platform a célközönség, a számítási feladat, az adatalapozás és az üzembe helyezési modell különböző kombinációját célozza meg. Ez a cikk segítséget nyújt a megoldástervezőknek, gépi tanulási mérnököknek, adattudósoknak és alkalmazásfejlesztőknek a kezdőplatform kiválasztásában, a platformok közötti különbségek megértésében és a valós architektúrákban való kombinálásukban. A lefedettség magában foglalja a klasszikus gépi tanulást, az elemzésbe integrált gépi tanulást és a generatív AI-számítási feladatokat Azure, Microsoft Fabric és Microsoft Foundryben. Ez a cikk a Microsoft által biztosított megoldásokkal foglalkozik.

Ez a cikk a lehetőségek összehasonlítására és egy végpontok közötti megoldás megtervezésére használható.

Note

Ez a cikk az egyéni AI- és gépi tanulási platformokra összpontosít, nem pedig a szolgáltatásként csomagolt szoftverekre (SaaS-asszisztensek), az alacsony kódszámú SaaS szerzői eszközökre vagy a terméken belüli végfelhasználói élményekre.

Elsődleges számítási feladatok forgatókönyvei

Kezdje az AI- vagy gépi tanulási funkcióval, amelyet hozzá kell adnia a számítási feladathoz. Az alábbi táblázat a gyakori funkcióforgatókönyveket egy ajánlott kezdőplatformra képezi le egyéni AI- és gépi tanulási képességekhez. Használja kezdeti tájolásként, mielőtt áttekintené a platform képességeit, és végigvezeti a döntési fán.

Elsődleges forgatókönyv Ajánlott kiindulópont Indoklás
Generatív AI-alkalmazások vagy AI-ügynökök létrehozása Microsoft Öntöde Modellfelderítést, finomhangolást, lekéréses-kiterjesztett generációs (RAG), ügynök-vezénylést, kiértékelést és biztonsági eszközt biztosít egy platformon.
AI-funkciók hozzáadása előre összeállított API-val a látás, beszéd, nyelv, keresés vagy tartalombiztonság érdekében Öntöde Eszközök Előre betanított API-kat kínál, amelyek nem igényelnek egyéni betanítást. Egyéni modell létrehozása előtt használja őket.
Egyéni gépi tanulási vagy mélytanulási modell betanítása, üzembe helyezése és kezelése Azure Machine Learning A teljes gépi tanulási életciklust ismerteti, beleértve az MLOpst, az online és a kötegvégpontokat, valamint a felelős AI-eszközöket.
Elemzéssel integrált gépi tanulás futtatása egységes adat- és üzletiintelligencia-platformon Microsoft Fabric Olyan SaaS-elemzési platformot biztosít, amely támogatja az Apache Spark-jegyzetfüzeteket, az AutoML-t és Microsoft a OneLake által támogatott integrációt Power BI.
Gépi tanulás futtatása Spark-, lakehouse-adatokon vagy nagy méretű elosztott betanítási feladatokon Azure Databricks vagy Apache Spark a Azure HDInsight Azure Databricks: Támogatja a lakehouse-méretű Sparkot natív MLflow és Unity Catalog integrációval.

Azure HDInsight: Támogatja a Azure felügyelt Spark-fürtöket natív tárolási és biztonsági integrációval.
Gépi tanulás megtartása SQL-adatbázisban, peremeszközökön vagy asztali alkalmazásokban INTELLIGENS SQL-alkalmazások és AI, Azure SQL Managed Instance Machine Learning-szolgáltatások, SQL Server Machine Learning-szolgáltatások vagy helyi machine learning-eszközök Lehetővé teszi az adatok helyben tartását, valamint az adatbázison belüli előrejelzés, vektorlekérés vagy AI-végpont integrációjának hozzáadását.

Platformfunkciók összehasonlítása

Az alábbi mátrix összefoglalja, hogy az egyes platformok hol az elsődleges illeszkedés, hol nyújt kiegészítő támogatást, és hol nem a képesség a fókusz. A mátrix a következő ikonokat használja:

  • ✅ Elsődleges képesség
  • ⚠️ Támogatott vagy kiegészítő képesség
  • ❌ Nem fókusz
Capability Microsoft Műhely Azure Machine Learning Microsoft Fabric Azure Databricks Öntödei eszközök SQL gépi tanulás Peremhálózati vagy helyi gépi tanulás
Generatív AI és ügynökök ✅ ⚠️ (Nem elsődleges platform) ❌ ⚠️ (Lakehouse-hatókörű) ⚠️ (Csak építőelemek) ❌ ⚠️ (csak eszközön)
Alapmodell felderítése és kiértékelése ✅ ⚠️ (Nem elsődleges platform) ❌ ⚠️ (Lakehouse-hatókörű) ❌ ❌ ❌
Egyéni modell betanítása (klasszikus vagy mélytanulás) ⚠️ (csak finomhangolás) ✅ ⚠️ (Elemzési hatókörű) ✅ ❌ ⚠️ (Adatbázis-hatókörű) ⚠️ (csak helyi)
Nagy méretű vagy elosztott betanítási számítás ❌ ✅ ⚠️ (Kisebb méret) ✅ ❌ ❌ ❌
automatizált gépi tanulás ❌ ✅ ✅ ✅ ❌ ❌ ⚠️ (csak .NET)
MLOps életciklus (beállításjegyzék, folyamatok, folyamatos integráció és folyamatos teljesítés (CI/CD)) ⚠️ (Azure Machine Learning keresztül) ✅ ⚠️ (Azure Machine Learning keresztül) ✅ ❌ ❌ ❌
Valós idejű (online) következtetés ✅ ✅ ⚠️ (Modellvégpontok előzetes verzióban) ✅ ✅ ⚠️ (csak adatbázison belül) ✅
Kötegelt (offline) következtetés ⚠️ (Online-first) ✅ ✅ ✅ ❌ ✅ ⚠️ (csak helyi)
Helyszíni vagy offline üzembe helyezés ⚠️ (csak edge-részhalmaz) ⚠️ (Azure Arc keresztül) ❌ ❌ ⚠️ (csak tárolók) ✅ ✅
Szabályozási és biztonsági eszközök ✅ ✅ ⚠️ (Korlátozott modellszabályozás) ✅ ⚠️ (szolgáltatás hatóköre) ⚠️ (Adatbázis-hatókörű) ❌

A következő megjegyzések pontosítják a mátrix adott minősítéseit:

  • Az Öntödei eszközök a generatív AI és az ügynökök kiegészítőjeként vannak minősítve, mivel az olyan szolgáltatások, mint a Azure AI Keresés, a Tartalombiztonság az Öntödei vezérlősíkban, valamint a Azure Dokumentumintelligencia az Öntödei eszközökben gyakori építőelemei a RAG- és ügynökmegoldásoknak. A generatív AI-fejlesztés elsődleges platformja a Foundry Microsoft.

  • Microsoft Öntödei irányítás elsősorban az Öntödei vezérlősíkból származik, amely megfigyelhetőséget, futtatókörnyezet-vezérlést, biztonsági integrációt és flottakezelést biztosít az ügynökök és alkalmazások számára.

  • Azure Machine Learning támogatja a generatív AI-t az Öntödei modellekhez való hozzáférés, a felügyelt végpontok, a kiértékelési képességek és a támogatott alapmodellek finomhangolása révén. Nem ez a generatív AI-fejlesztés elsődleges platformja.

  • Azure Databricks elsődleges minősítést kap a szabályozáshoz, mivel a Unity Catalog egységes adatokat és modellszabályozást biztosít szerepköralapú hozzáférés-vezérléssel (RBAC) és OpenSharinggel.

  • Microsoft Fabric az irányítás kiegészítőjeként van minősítve, mivel a OneLake, Microsoft Purview integráció, bizalmassági címkék és tartományalapú vezérlők jól lefedik az adategységeket. Microsoft Fabric beépített MLflow-alapú modellregisztrációs adatbázist tartalmaz a modellek tárolásához és nyomon követéséhez. Microsoft Fabric beépített életútnézetet is biztosít a gépi tanulási modellekhez és kísérletekhez, beleértve a tóházakhoz és kódelemekhez való kapcsolatokat. Microsoft Fabric azonban nem tartalmaz felelős AI-irányítópultot. A modell életciklusának szélesebb körű szabályozásához párosítsa Microsoft Fabric Azure Machine Learning.

  • A Microsoft Fabric a valós idejű következtetés kiegészítőjeként van minősítve, mivel Microsoft Fabric Real-Time intelligencia a streamelési elemzésekre terjed ki, és Microsoft Fabric gépi tanulási modellvégpontok felügyelt online REST-végpontokat biztosítanak valós idejű előrejelzésekhez. A modellvégpontok előzetes verzióban érhetők el, és korlátozott modell-ízeket támogatnak. Széles körű online szolgáltatáshoz Microsoft Fabric is párosíthat Azure Machine Learning felügyelt online végpontokkal vagy Microsoft Foundryvel.

  • A Foundry Local kiterjeszti Microsoft Foundryt az eszközön végzett következtetésre a peremhálózati és offline forgatókönyvek esetében.

  • Azure Arc kiterjeszti a Azure Machine Learning a helyszíni Kubernetes-fürtökre hibrid betanítás vagy pontozás céljából.

  • Microsoft Fabric Data Science alacsony kódú AutoML-élményt tartalmaz. A kódelső AutoML gyors és egyszerűsített AutoML (FLAML) API-kkal érhető el Microsoft Fabric jegyzetfüzetekben. Az aktuális állapotot a Microsoft Fabric dokumentációjában találja.

A platform választásának szűkítése

A következő döntési fával szűkítheti a választott kezdőplatformot. A fa segítségével kiválaszthat egy elsődleges platformot egy számítási feladathoz. A legtöbb éles megoldás több platformot is kombinál, ezért a jelen cikk termékspecifikus szakaszaival finomíthatja a választást. Érdemes lehet összetett architektúramintát is használni. További információ: Platformok egyesítése.

Döntési fa egy elsődleges Microsoft AI- vagy gépi tanulási platformhoz a forgatókönyv, a fejlesztői profil, valamint a betanítási és következtetési helyek alapján.

Töltse le a döntési fa Visio fájlját.

Útmutató lépésről lépésre

A döntési fán az alábbi lépésekkel haladhat végig. Amikor egy platformválasztást választ, hagyja ki a többi lépést.

  1. Azonosítsa a funkcióforgatókönyvet.

    Hozzon létre platformszintű döntéseket a számítási feladaton belül a funkciók szintjén. Minden funkció egyedi funkcionális és nem funkcionális követelményekkel rendelkezhet, amelyeket egy vagy több technológia képes kiszolgálni. A folyamatábra használatakor vegye figyelembe a megoldani kívánt használati eset követelményeit.

  2. A generatív AI-k és ügynökök esetében válassza ki a fejlesztői profilnak megfelelő Microsoft platformot.

    • Csak nagy nyelvi modell (LLM) API-hozzáférés: Használja Azure OpenAI-t Microsoft Foundryben.

    • Kódelső ügynök vagy többügynök fejlesztése: Használja a Microsoft Agent Framework SDK-t az Foundry Agent Service szolgáltatással párosítva az üzemeltetéshez és vezényléshez.

    • Teljes generatív AI-platform (Öntödei modellek, finomhangolás, értékelés, biztonság, megfigyelhetőség és szabályozás): Használja a Microsoft Foundryt.

  3. Egyéni gépi tanulás és mélytanulás esetén a döntés alapja, hogy hol kell futnia a betanításnak és a következtetésnek.

  4. Az elemzésbe integrált gépi tanuláshoz válassza ki az adatoknak és a BI-mintának megfelelő megoldást.

  5. Spark-alapú vagy elosztott számítás esetén a döntés alapja, hogy lakehouse- vagy felügyelt Spark-fürtöket használ-e.

    • Lakehouse az MLflow és a Unity Catalog szabályozásával: Használja a Azure Databricks. Továbbra is közzétehet modelleket Azure Machine Learning felügyelt végpontokon keresztül a kiszolgáláshoz és a szabályozáshoz.

    • Felügyelt Spark-fürtök Azure natív tárolási és biztonsági integrációval: Az Apache Spark használata Azure HDInsight.

Note

A felhőbeli és helyszíni környezetekre kiterjedő architektúrák esetében helyszíni vagy többfelhős Kubernetes-fürtöket csatolhat egy Azure Machine Learning munkaterülethez a Azure Arc keresztül. Ez a beállítás a helyszíni adatokat a betanítás és a következtetés Azure keresztüli vezénylése közben tárolja. További információ: Kubernetes-fürt konfigurálása Azure Machine Learning.

Azure Machine Learning

Azure Machine Learning egy teljes körűen felügyelt felhőszolgáltatás a gépi tanulási modellek nagy léptékű betanításához, üzembe helyezéséhez és kezeléséhez. Több tízezer nyílt forráskódú Python csomagot támogat, köztük a TensorFlow-t, a PyTorch-t és a scikit-learn-t. Eszközkészletet biztosít a teljes gépi tanulási életciklushoz, az adatok előkészítésétől az üzembe helyezésen át az MLOpsig és a felelős AI-hez.

A Azure Machine Learning akkor használja, ha a következő képességekre van szüksége:

  • Egyéni betanítás. Egyéni modellbetanítást használ a klasszikus gépi tanuláshoz, a mély tanuláshoz vagy a nyílt forráskódú LLM-k finomhangolásához.

  • Éles MLOps. Éles MLOps-életciklust használ, amely magában foglalja a kísérletkövetést, a modell verziószámozását, a szabályozott regisztrációs adatbázisokat, a CI/CD-folyamatokat és az éles monitorozást.

  • Felügyelt végpontok. Felügyelt online vagy kötegelt következtetési végpontokat használ, amelyek automatikus skálázást, felügyelt identitást és monitorozást biztosító környezetben vannak üzemeltetve.

  • Hibrid számítás. Hibrid betanítást vagy következtetést használ Azure Arc-kompatibilis Kubernetes-fürtökön.

Az alábbi táblázat összefoglalja a Azure Machine Learning a gépi tanulási életciklus során nyújtott platformképességeket.

Capability Leírás
Munkaterületek és adattárak Központi erőforrás kísérletek, számítások, adathalmazok, modellek és külső adattárak kapcsolatainak rendszerezéséhez. Az eszközök és a futtatási előzmények verziószámozottak a reprodukálhatóság érdekében.
Számítási fürtök és példányok Kiépített CPU- és GPU-számítás elosztott betanításhoz (számítási fürtök) és interaktív notebook-fejlesztéshez (számítási példányokhoz).
Kiszolgáló nélküli számítás Igény szerinti felügyelt számítás, amely Azure Machine Learning automatikusan létrehozza és skálázza a betanítási feladatokat.
Automatizált gépi tanulás Modellek, folyamatok, hiperparaméterek hangolása és funkciófejlesztés a besoroláshoz, regresszióhoz, előrejelzéshez, számítógépes látáshoz és természetes nyelvi feldolgozáshoz.
Folyamatok és tervező Kódalapú és húzással végzett vezénylés adatelőkészítéshez, betanításhoz, kiértékeléshez és üzembe helyezéshez. Integrálható a CI/CD-eszközökkel.
Öntödei modellek hozzáférése Platform támogatott alapmodellek felderítésére, kiértékelésére, finomhangolására és üzembe helyezésére Microsoft, OpenAI, Meta, Hugging Face és más szolgáltatóktól az Öntödei modelleken keresztül a Azure Machine Learning.
MLflow kísérletkövetés és modellkezelés Kísérletek, futtatások, metrikák, paraméterek, összetevők és modellek nyomon követése MLflow-kompatibilis API-k és Azure Machine Learning munkaterület használatával.
Online és kötegelt végpontok Felügyelt REST-végpontok a kötegelt pontozás valós idejű következtetéséhez és invokálható végpontjaihoz automatikus skálázással és felügyelt identitástámogatással.
Felelős AI-eszközök Méltányosság, magyarázhatóság és hibaelemzési irányítópultok.
Biztonság és hibrid támogatás Integráció Azure Virtual Network, Azure Key Vault, Azure Container Registry, RBAC, felügyelt identitások és Azure Arc.

Az alábbi táblázat a Azure Machine Learning alapvető bevezetési részleteit foglalja össze.

Tulajdonság Részletek
Típus Felhőalapú gépi tanulási platform.
Támogatott nyelvek Python és R. A parancssori felület (CLI) és a REST API-k is támogatottak.
Gépi tanulási fázisok Adatelőkészítés, betanítás, üzembe helyezés, MLOps és felelős AI.
Legfontosabb előnyök Kódelső SDK- és CLI-munkafolyamatok. Studio-alapú szerzői műveletek. Szkriptek, kísérletek és futtatási előzmények központi kezelése. Skálázható betanítás és üzembe helyezés. Hibrid lehetőségek Azure Arc keresztül.
Considerations A munkaterület és az eszközmodell ismerete hasznos lehet a teljes MLOps bevezetése előtt.

Azure Machine Learning nem a legjobb választás az alábbi helyzetekben:

  • Csak előre betanított API-kat kell használnia a látáshoz, a beszédhez vagy a nyelvhez. Ebben az esetben használja a Foundry Tools eszközt.

  • A gépi tanulás az elemzési számítási feladatok kis mértékű kiterjesztése. Ebben az esetben a Microsoft Fabric vagy Azure Databricks lehet jobb kiindulópont.

  • A számítási feladat a végpontok közötti generatív AI (modell kiválasztása, ügynök vezénylése, kiértékelése, üzembe helyezése és monitorozása). Emellett nincs szükség klasszikus gépi tanulási képzésre vagy az Azure Machine Learning eszköz- és futtatási és MLflow-modellre. Ebben az esetben Microsoft Foundry önmagában elegendő lehet. A Azure Machine Learning munkaterületre csak akkor van szükség, ha Azure Machine Learning betanítási számításra, MLOps-életciklusra vagy felügyelt online vagy kötegelt végpontokra van szükség egyéni modellekhez.

Microsoft Műhely

Microsoft Foundry egy egységes Azure platform a generatív AI-alkalmazások és AI-ügynökök létrehozásához, optimalizálásához és szabályozásához. Microsoft Foundry egyesíti az Foundry modellkatalógusát, az ügynök- és vezénylési szolgáltatásokat, a kiértékelési és biztonsági eszközöket, valamint egy vezérlősíkot a futtatókörnyezet szabályozásához. A kódelső ügynökfejlesztéshez Microsoft Öntödei párok az Microsoft Ügynök-keretrendszerrel, az egyesített Microsoft SDK-val, amely felülírja a Szemantikus kernel és az AutoGen közötti korábbi felosztást.

Ha a következő képességekre van szüksége, használja a Microsoft Foundryt:

  • Generatív AI vagy ügynökök. Létrehozhat generatív AI-t vagy ügynökalapú megoldásokat, például többmodelles csevegőrobotokat vagy vezénylésre kerülő LLM-munkafolyamatokat.

  • Modellfelderítés és -értékelés. Képesnek kell lennie több szolgáltató alapmodelljeinek felderítésére, összehasonlítására és kiértékelésére.

  • Modell testreszabása és szabályozása. Az alapmodelleket olyan felügyelt környezetben szeretné finomhangolni, értékelni és üzembe helyezni, amely beépített megfigyelhetőséget, tartalombiztonságot és futtatókörnyezeti vezérlőket biztosít.

Az alábbi táblázat összefoglalja azokat a Microsoft Foundry-képességeket, amelyek támogatják a generatív AI-alkalmazásokat és az ügynökfejlesztést.

Capability Leírás
Öntödei modellek Olyan szolgáltatóktól származó előre betanított modellek katalógusa, mint például az Azure OpenAI, az Ölelés arc és a Meta, valamint a Microsoft Phi kis nyelvi modellcsalád, teljesítménytesztekkel és üzembe helyezési lehetőségekkel.
Modell testreszabása A támogatott alapmodellek finomhangolásának vagy testreszabásának lehetősége a saját adatain. Az üzembe helyezési lehetőségek a modelltől függenek, és a rendelkezésre álló standard és kiépített típusokat is tartalmazzák.
Öntöde Ügynöki Szolgáltatás Olyan AI-ügynökök üzemeltetésére és vezénylására szolgáló platform, amely automatizálja a többhelyes üzleti folyamatokat. Párok a Microsoft Agent Framework SDK-val kódelső ügynökfejlesztéshez. Implementálja az OpenAI-kompatibilis Responses API-t az ügyféloldali SDK széles körű támogatásához.
Öntödei IQ Felügyelt tudásréteg, amely az ügynököket vállalati adatokra alapozza. Többforrásos tudásbázisokat hoz létre, és ügynöki lekérést használ az engedélyérzékeny válaszok idézetekkel való visszaadásához. Azure AI Keresés. A tudásbázisok közé tartoznak az indexelt források (például egy meglévő Azure AI Keresés index, Azure Blob Storage, közvetlenül feltöltött fájlok, OneLake, Azure SQL és indexelt SharePoint) és a futtatókörnyezetben lekérdezett távoli források (például távoli SharePoint, Microsoft Fabric ontológia, munkahelyi IQ, Microsoft Bing webes adatok, a Model Context Protocol (MCP) kiszolgálók és Microsoft Fabric adatügynökök). Ezen összekötők közül több jelenleg előzetes verzióban érhető el. Az aktuális előzetes verzió állapotáról és a támogatott összekötőkről lásd a Azure AI Keresés ügynöki tudásbázisait. Az adattárolási lehetőségekért lásd: Azure szolgáltatás kiválasztása vektorkereséshez.
Öntödei vezérlősík Olyan felület, amely megfigyelhetőséget, futtatókörnyezet-vezérlést, biztonsági integrációt és flottakezelést biztosít Microsoft Foundry-ügynökök és -alkalmazások között.
Tartalom biztonsága Olyan AI-szolgáltatás, amely észleli a felhasználók által létrehozott és AI által létrehozott tartalmakat. Lásd : Tartalombiztonság.
Foundry Local Megoldás az eszközalapú AI-következtetésre a peremhálózati és offline forgatókönyvek esetében, ahol fontos a teljesítmény, az adatvédelem vagy a költségek.

Öntőműhely eszközkészlet a Visual Studio Code-hoz

A Foundry Toolkit for Visual Studio Code az elsődleges fejlesztői felület az Microsoft Foundryhez. Akkor használja, ha helyi első munkafolyamatot szeretne használni a generatív AI-alkalmazásokhoz és -ügynökökhöz. Az eszközkészlet támogatja a modellfelderítést, a helyi modellvégrehajtást, a parancssori és ügynökfejlesztést, az eszközintegrációt, a hibakeresést, a nyomkövetést, a kiértékelést, a finomhangolást és az üzembe helyezést Microsoft Foundryben Visual Studio Code.

A Foundry Toolkitben kezdje, amikor a megoldásnak kód, forráskövetés, helyi iteráció, ügynökvizsgálat, MCP-eszközintegráció vagy modelltesztelés szükséges az üzembe helyezés előtt. Az Foundry portál használatával ellenőrizheti a koncepció feltárását, a projektbeállítást, az erőforrás-felülvizsgálatot, az értékelés áttekintését, valamint az alkalmazások és ügynökök futtatása utáni működési láthatóságot.

Öntödei portál és Azure Machine Learning stúdió

Az Foundry portál és a Azure Machine Learning stúdió egymást kiegészítő webes felületek. Ezeket használhatja prototípus-készítéshez, projekt- és erőforrás-kezeléshez, kiértékelési felülvizsgálathoz és működési láthatósághoz.

Kategória Öntödei portál Azure Machine Learning stúdió
A legjobban megfelelő számítási feladat A generatív AI-alkalmazások és -ügynökök koncepciójának, modellfeltárásának, ügynökvizsgálatának, kiértékelésének és működési láthatóságának igazolása. Egyéni gépi tanulás, klasszikus gépi tanulás, mély tanulás és szélesebb körű gépi tanulási platform munkafolyamatai.
Adatkezelés A projekterőforrások és a támogatott adatforrások összekapcsolásának funkciói, beleértve a Blob Storage, a OneLake és a Azure Data Lake Storage. Munkaterületi tárolók, adategységek és csatlakoztatott Azure tárfiókok.
Szerzői élmények Portálalapú prototípus-kezelés, játszóterek, modellfeltárás, kiértékelési felülvizsgálat és projekterőforrás-kezelés. Jegyzetfüzetek, tervezők, AutoML, modellkezelés, SDK- és PARANCSSOR-munkafolyamatok.
Támogatott nyelvek és SDK-k Python, C#, JavaScript és Java SDK-k. REST API-k. Python, R és a Azure CLI. REST API-k.
Alapvető betanítási erő Modellértékelés és támogatott finomhangolás. AutoML és egyéni betanítás a klasszikus gépi tanulás, a mély tanulás és az LLM finomhangolása során.
Számítás és üzembe helyezés Felügyelt számítási és kiszolgáló nélküli API-k támogatott alapmodellekhez. Felügyelt számítás, kiszolgáló nélküli számítás, online végpontok, kötegelt végpontok és Azure Arc lehetőségek.
Generatív AI-felület Webes felület az Öntödei modellek feltárásához, kiértékeléshez, megfigyelhetőséghez és biztonsági eszközökhöz. Az Öntödei modellek hozzáférése, felügyelt végpontjai, kiértékelése és finomhangolása a támogatott alapmodellekhez a Azure Machine Learning platformon belül.
Governance Öntödei vezérlősík az ügynök- és alkalmazásszabályozáshoz. Felelős AI-irányítópult, -vonalvezetés, modellkezelés és MLOps-vezérlők.

Az alábbi táblázat a Microsoft Foundry alapvető bevezetési adatait foglalja össze.

Tulajdonság Részletek
Típus Egységes platform alapmodellekhez, ügynökökhöz és generatív AI-alkalmazásokhoz.
Támogatott nyelvek Python, C#, JavaScript és Java SDK-k. REST API-k.
Gépi tanulási fázisok Modellfelderítés és -értékelés, alkalmazás- és ügynökfejlesztés, támogatott modellek finomhangolása, üzembe helyezés, monitorozás és biztonság.
Legfontosabb előnyök Konszolidált Öntödei modellkatalógus. Integrált értékelés, biztonság és megfigyelhetőség. Ügynök- és RAG-támogatás. Project-alapú együttműködés.

Microsoft Foundry nem a legjobban illik a következő helyzetekben:

  • Előre összeállított AI-képességeket használ, például optikai karakterfelismerést (OCR), beszéd-szöveg átírást, fordítást vagy tartalommoderálást egy API-n keresztül, és nincs szükség modell kiválasztására, vezénylésére vagy ügynökökre. Ebben az esetben használja a Foundry Tools eszközt.

  • A megoldáshoz egyéni modellbetanításra van szükség a klasszikus gépi tanuláshoz vagy mély tanuláshoz, valamint a teljes MLOps-képességekhez. Ebben az esetben használja a Azure Machine Learning. Microsoft Foundry nem kínál széles körű kiépítésű betanítási számítást vagy AutoML-t a táblázatos adatokhoz.

  • A megoldáshoz Spark-szintű adatelemzés szükséges. Ebben az esetben használjon Azure Databricks vagy Microsoft Fabric.

Öntödei eszközök

Az Öntödei eszközök, korábban Azure AI services és Cognitive Services olyan előre betanított AI-képességek családja, amelyeket REST API-k és SDK-k használatával használ fel. Minden eszköz egy adott képességet céloz meg, így egyéni modell létrehozása és betanítása nélkül adhat hozzá intelligens funkciókat az alkalmazásokhoz. Ha segítségre van szüksége annak eldöntéséhez, hogy melyik szolgáltatást szeretné használni, olvassa el az AI-szolgáltatások technológia kiválasztása című témakört.

Tip

Az Foundry Tools előre betanított API-kat biztosít a gyakori valószínűségi feladatokhoz. A generatív AI-modellek, -ügynökök és vezénylés esetén a Foundry-eszközök közvetlen használata helyett Microsoft Foundryben kell dolgoznia. Az Öntödei eszközök számos szolgáltatása ugyanazzal a mögöttes Azure erőforrástípussal (Microsoft.CognitiveServices/accounts) rendelkezik, mint Microsoft Foundry, de különálló termékek.

Használja az Öntödei eszközöket a következő helyzetekben:

  • Az előre betanított API-k lefedik a forgatókönyvet, így nem kell egyéni modelleket betanítása.

  • Szabványos, felügyelt API-kra és API-alapú integrációra van szükség a meglévő alkalmazásokkal.

Az alábbi táblázat a gyakran használt szolgáltatásokat képességterület szerint csoportosítja. A generatív AI-modellek, -ügynökök és vezénylés Microsoft Foundry részét képezik, és külön szerepelnek a listán hivatkozás céljából.

Képességterület Reprezentatív szolgáltatások
Képfelismerés Azure Vision és Azure Face az Öntödei eszközökben.
Dokumentum- és tartalomértés Azure dokumentumintelligencia és Azure tartalomértelmezés.
beszéd Azure Beszéd beszédfelolvasáshoz, szövegfelolvasáshoz és beszédfelismeréshez.
Nyelv Azure elnevezett entitások felismerésének, személyes adatok észlelésének és nyelvfelismerésének nyelve. Azure Translator az Foundry Tools for Translationben.
Keresés és tudás Azure AI Keresés AI-alapú kereséshez és RAG-lekéréshez.
Tartalom biztonsága Tartalombiztonság a felhasználó által létrehozott és AI által létrehozott tartalmak káros tartalmak észleléséhez.
Video Azure AI Video Indexer videóelemzéshez és indexeléshez.
Generatív AI-modellek és -ügynökök Microsoft Öntöde. Tartalmazza az Öntödei ügynök szolgáltatást és az Öntödei modelleket.

Egy képességterület szolgáltatásainak összehasonlításához és kiválasztásához tekintse meg az alábbi részletes kiválasztási útmutatókat:

Az alábbi táblázat az Foundry Tools alapvető bevezetési adatait foglalja össze.

Tulajdonság Részletek
Típus Előre betanított API-k intelligens alkalmazások létrehozásához.
Támogatott nyelvek A szolgáltatástól függően C#, Java, JavaScript és Python SDK-k. REST API-k.
Gépi tanulási fázisok Felhasználás API-kon keresztül. Egyes szolgáltatások támogatják a testreszabást.
Legfontosabb előnyök Előre összeállított AI-képességek hozzáadása API-kon keresztül. Minimális adatelemzési szakértelem szükséges. Felügyelt skálázás.

Az Öntödei eszközök nem a legmegfelelőbbek a következő helyzetben: A forgatókönyvhez a támogatott testreszabási beállításokon túl egyéni modellarchitektúrákra vagy betanítási adatokra van szükség. Ezekben az esetekben használjon Azure Machine Learning klasszikus vagy mélytanulási modellekhez, vagy használja a Microsoft Foundryt a generatív AI finomhangolásához.

Microsoft Fabric

Microsoft Fabric egy egységes, SaaS-alapú elemzési platform. Integrálja az adatelemzést, az adatelemzést, az adattárházat, a valós idejű intelligenciát és a Power BI egy megosztott OneLake-adatalapon. Az Microsoft Fabric használó adatmérnökök, adattudósok és üzleti elemzők ugyanabban a felügyelt környezetben működnek együtt.

A Microsoft Fabric Data Science számítási feladat az a rész, amely a gépi tanulás szempontjából a legfontosabb. Spark-jegyzetfüzeteket, AutoML-t, beépített MLflow-élményt biztosít a kísérletkövetéshez, valamint egy modellregisztrációs adatbázist. Részletes információkért lásd: Mi az adatelemzés a Microsoft Fabric?.

A Microsoft Fabric akkor használja, ha a következő képességekre van szüksége:

  • Elemzéssel integrált gépi tanulás. A gépi tanulás egy szélesebb körű elemzési munkafolyamat része a megoldásban, például egy lakehouse-beli adatokra épülő modell létrehozása és az előrejelzések Power BI való kiszolgálása.

  • Teljes körűen felügyelt SaaS. Teljes körűen felügyelt SaaS-élményt szeretne, minimális infrastruktúrával.

  • Megosztott adatok alapja. Csapata ugyanazon a OneLake-alaprendszeren dolgozik az adatmérnöki, az adatelemzési és a BI-területen.

Az alábbi táblázat az elemzéssel integrált gépi tanulás szempontjából leginkább releváns Microsoft Fabric képességeket foglalja össze.

Capability Leírás
OneLake alapítvány Egyetlen logikai adattó, amelyet Microsoft Fabric számítási feladatok osztanak meg, beleértve az adatelemzést, az adatelemzést, a Data Warehouse és a Power BI.
Adatelemzési számítási feladat Felügyelt Spark-futtatókörnyezet, Python, R, SQL és Scala jegyzetfüzetekkel elemzéshez és modellbetanításhoz. Tartalmaz egy beépített MLflow-felületet a kísérletkövetéshez és egy modellregisztrációs adatbázishoz. MLflow-kísérleteket és modelleket is naplózhat munkaterületeken és platformokon, például Microsoft Fabric egy Azure Machine Learning munkaterületről.
automatizált gépi tanulás Alacsony kódú AutoML besoroláshoz, regresszióhoz és előrejelzéshez. A kódelső AutoML a FLAML API-kon keresztül érhető el Microsoft Fabric jegyzetfüzetekben.
Real-Time Intelligence és Fabric Activator Streamelemzés és kód nélküli eseményészlelés, amely Microsoft Fabric folyamatokat, jegyzetfüzeteket vagy alárendelt műveleteket indíthat el.
Gépi tanulási modell végpontjai Felügyelt online REST-végpontok, amelyek valós idejű előrejelzéseket szolgálnak ki a regisztrált Microsoft Fabric modellekből. Ez a funkció előzetes verzióban érhető el, és modellízekre korlátozódik, de az AutoML-betanított modellek támogatottak. Részletes információkért lásd: Valós idejű előrejelzések megjelenítése gépi tanulási modell végpontjaival.
Power BI-integráció A gépi tanulási kimenetek szemantikai modelleken és jelentéseken keresztül Power BI való felfedésére szolgál, beleértve a Direct Lake-t is, ha Microsoft Fabric adatok a OneLake-ben maradnak, és szükség esetén importálnak vagy DirectQuery-mintákat. Ezzel az integrációval előrejelzéseket, rendellenességi pontszámokat és előrejelzési metrikákat építhet be az üzleti irányítópultokon és döntési munkafolyamatokban.
Microsoft Foundry-integráció A Microsoft Fabric adatok vagy modellkimenetek Microsoft Öntöde-alapú alkalmazásba vagy -ügynökbe való betáplálásának módja, például egy alapozott másodpilóta, összegzési munkafolyamat vagy RAG-felület. A gyakorlatban Microsoft Foundry Microsoft Fabric adatügynökön vagy más támogatott adatkapcsolaton keresztül csatlakozhat Microsoft Fabric adatokhoz. Ezután Microsoft Foundry ezt a környezetet használhatja az ügynökválaszok generálásakor. Ha a számítási feladatnak csak klasszikus gépi tanulásra van szüksége a Microsoft Fabric belül, és nem igényel LLM-eket vagy ügynököket, ez az integráció általában szükségtelen.

Az alábbi táblázat a Microsoft Fabric alapvető bevezetési részleteit foglalja össze.

Tulajdonság Részletek
Típus Egységes SaaS-elemzési platform.
Támogatott nyelvek Python, R, SQL és Scala.
Gépi tanulási fázisok Adat-előkészítés, betanítás, regisztráció, kötegelt pontozás, valós idejű szolgáltatás (előzetes verzió), valós idejű elemzés és BI-használat.
Legfontosabb előnyök Egy közös OneLake alapítvány. Alacsony üzemeltetési többletterhelés. Integráció a Power BI és a szélesebb Microsoft adattulajdonnal.

Microsoft Fabric nem a legjobb megoldás a következő helyzetekben: Nagy léptékű mélytanulásra, átfogó MLOpsra és szabályozott nyilvántartásokra vagy részletes számításvezérlésre van szüksége. Ezekben az esetekben egészítse ki Microsoft Fabric Azure Machine Learning vagy Azure Databricks. Microsoft Fabric jól lefedi az elemzésbe integrált gépi tanulást, de ez nem helyettesíti a dedikált gépi tanulási platformot.

Note

Microsoft Fabric az új elemzésbe integrált gépi tanulási beruházások ajánlott platformja. A Azure Synapse Analytics meglévő beruházásaiért lásd: Gépi tanulás Azure Synapse Analytics. A dedikált SQL-készlet Microsoft Fabric Data Warehouse való migrálását lásd a Data Warehouse Fabric Migration Assistant.

Azure Databricks

Azure Databricks egy egységes, nyílt elemzési platform az adatok, elemzések és AI-megoldások létrehozásához, üzembe helyezéséhez, megosztásához és karbantartásához. A lakehouse architektúrában egyesíti az adattárházak és a Data Lake képességeit, és integrálható Azure tárolással és biztonsággal.

A Azure Databricks akkor használja, ha a következő képességekre van szüksége:

  • Spark-skálázású gépi tanulás. Nagyon nagy adathalmazokon vagy elosztott Spark-fürtökön kell futtatnia a gépi tanulást.

  • Egyesített lakehouse-munkafolyamat. Egyetlen lakehouse-munkafolyamatban kombinálhatja az adatfejlesztést, a funkciófejlesztést, a kísérletezést és a modellfejlesztést.

  • Éles gépi tanulási műveletek. Felügyelt végpontok, automatizált munkafolyamatok és MLOps-folyamatok használatával szeretne gépi tanulási megoldásokat üzembe helyezni, felügyelni és figyelni az éles környezetben.

  • Unity Catalog-szabályozás. Az adatokat, funkciókat, modelleket és függvényeket a Unity Catalogban szeretné szabályozni, amely központosított hozzáférés-vezérlést és -levezetést biztosít.

  • Generatív AI és ügynökök. Generatív AI- és AI-ügynök-számítási feladatokat hozhat létre Azure Databricks, beleértve az egyéni és az alapmodell-forgatókönyveket is.

Az alábbi táblázat felsorolja Azure Databricks képességeket:

Capability Leírás
Felügyelt integráció nyílt forráskódú projektekkel Ide tartozik a Delta Lake, az OpenSharing, az MLflow, a Spark, az Apache Spark strukturált streamelése és a Unity Catalog.
Azure Databricks futtatókörnyezet gépi tanuláshoz Előre telepített kódtárakat kínál a klasszikus gépi tanuláshoz és a mély tanuláshoz, beleértve a Face Transformers ölelését is.
MLflow-nyomkövetés és modellek a Unity Catalogban Támogatja a kísérletkövetést, a modell életciklus-kezelését és a szabályozott modellfelderítést.
Szolgáltatástervezési és szolgáltatás-szolgáltatási minták Támogatja az újrafelhasználható betanítási és következtetési funkciókat.
Azure Databricks modellkiszolgáló Felügyelt valós idejű következtetési végpontokat kínál automatikus skálázással, verziószámozott üzembe helyezésekkel, forgalomvezérlőkkel és éles monitorozással.
AI-átjáró Modellhozzáférés-szabályozást, használatkövetést és hasznos adatok naplózását biztosítja a kiszolgált és külső modelleken. Támogatja az egyéni vagy nyitott modellek fejlesztését, kiértékelését és kiszolgálását egy lakehouse-környezetben.
Mesterséges intelligencia függvények az SQL-ben Lehetővé teszi, hogy az elemzők llM-eket hívjanak az adatfolyamokból.
Alapmodell API-k Integrálja a külső modelleket, és egységes hozzáférési mintákat biztosít a modellszolgáltatók között.
Unity Catalog-szabályozás Az adatok, funkciók, modellek és funkciók egységes szabályozását biztosítja olyan képességeken keresztül, mint az RBAC és az OpenSharing.
Stream-elemzések Valós idejű és streamelt elemzéseket kínál strukturált streamelésen és Delta Lake-on keresztül.
Lakeflow-feladatok és MLOps Feladatokat és munkafolyamatokat biztosít az automatizált betanítási, kiértékelési, üzembe helyezési és újratanítási folyamatokhoz.

Az alábbi táblázat a Azure Databricks alapvető bevezetési részleteit foglalja össze.

Tulajdonság Részletek
Típus Egy Sparkra épülő tóházi platform.
Támogatott nyelvek Python, R, Scala és SQL.
Gépi tanulási fázisok Adatok előkészítése, betanítása, finomhangolása, kiértékelése, modell-kiszolgálás és szabályozás.
Legfontosabb előnyök Teljes körű gépi tanulási életciklus egy tóházban. Natív MLflow-integráció. Felügyelt kiszolgálás és műveletek. Unity Catalog-szabályozás. Spark-szintű gépi tanulás és generatív AI-támogatás.
Considerations A kiszolgáló nélküli modellszolgáltatás csökkentheti a következtetési infrastruktúra többletterhelését, de a Spark-alapú adat-előkészítés, a funkciófejlesztés és a modellbetanítás költsége továbbra is fontos szempont. A nem Spark-alapú számítási feladatok esetében a Azure Machine Learning vagy az Öntödei eszközök egyszerűbbek lehetnek.

Azure Databricks nem a legjobb választás az alábbi helyzetekben:

  • A csapatnak nincs szüksége Spark-szintű feldolgozásra. Ebben az esetben előfordulhat, hogy a fürt többletterhelése nem indokolt.

  • A forgatókönyv tisztán API-alapú AI-t használ. Ebben az esetben a Foundry Tools vagy Microsoft Foundry közvetlenebb útvonalat kínál.

  • Azure Machine Learning-specifikus szabályozási vezérlőkre, végponti képességekre vagy szabványosított végpontrétegre van szükség a csapatok között. Ezekben az esetekben Azure Machine Learning felügyelt végpontokat használjon hibrid kialakításban.

INTELLIGENS SQL-alkalmazások és gépi tanulás

Az sql in-database AI megtartja a szabályozott relációs adatokat, ahol már él, és közvetlenül Transact-SQL (T-SQL) előrejelzést, vektorlekérést és AI-végpontintegrációt ad hozzá.

Az SQL adatbázison belüli AI-t a következő helyzetekben használhatja:

  • Az adatoknak biztonsági, adatvédelmi, késési vagy szabályozási okokból a relációs adatbázisban kell maradniuk.

  • Kis késésű, tranzakciókhoz közeli pontozásra van szüksége, például csalási ellenőrzésekre vagy a következő legjobb műveletekre vonatkozó döntésekre.

  • Vektorkeresést és -lekérést szeretne közvetlenül az adatbázisban rag- és szemantikai egyező mintákhoz.

  • A vezényléshez vagy az ügynök által hívható munkafolyamatokhoz a T-SQL-ből származó külső AI-végpontok natív meghívására van szükség.

Az alábbi táblázat az aktuális platformokat és eszközöket sorolja fel:

Capability Szerepkör az architektúrában
PREDICT a T-SQL-ben Natív adatbázison belüli pontozást végez a támogatott modellekhez, beleértve az ONNX-alapú futtatókörnyezeti mintákat, ahol elérhető.
Vektor adattípus és vektorfüggvények Tárolja a beágyazásokat, és vektoros hasonlósági műveleteket hajt végre a relációs motoron belül.
sp_invoke_external_rest_endpoint Külső AI-végpontokat hív meg a T-SQL-ből hitelesítő adatokkal, fejlécekkel, újrapróbálkozással és szabályozott kimenő vezérlőkkel.
AI-függvények (Transact-SQL), beleértve a AI_GENERATE_EMBEDDINGS Adatbázis-natív AI-műveleteket ad hozzá az adattömbökhöz, a beágyazáshoz és a kapcsolódó SQL AI-munkafolyamatokhoz.
Azure SQL Managed Instance Machine Learning Szolgáltatások Támogatja az adatbázison belüli Python és R-kód végrehajtását a meglévő Machine Learning Services-stílusú számítási feladatokhoz.

Az alábbi táblázat az Azure SQL gépi tanulás alapvető bevezetési részleteit foglalja össze.

Tulajdonság Részletek
Típus Az adatbázison belüli relációs AI-képességek előrejelzéshez, vektorlekéréshez és AI-végpontintegrációhoz.
Támogatott nyelvek Először t-SQL. Python és R a Azure SQL Managed Instance Machine Learning Szolgáltatásokon keresztül érhető el.
Gépi tanulási fázisok Adatbázison belüli adatok előkészítése, betanítása, következtetése, vektorok lekérése és végpont vezénylése.
Legfontosabb előnyök A szabályozott tranzakciós adatok a helyén maradnak. Csökkenti az adatáthelyezést. A meglévő SQL-munkafolyamatokban lehetővé teszi az alacsony késésű AI-bővítést.
Considerations A képességek elérhetősége az SQL-platformtól és a verziótól függően változik. A nagy léptékű modellbetanítás és az elosztott mélytanulás általában jobban kezelhető Azure Machine Learning, Azure Databricks vagy Microsoft Fabric.

Kombinálja Azure SQL gépi tanulást egy másik platformmal, ha az alábbi megközelítést szeretné alkalmazni:

  • Külső betanítása, pontszám az SQL-ben. Nagy léptékű vagy mélytanulási betanításhoz használja a Azure Machine Learning, Azure Databricks vagy Microsoft Fabric a betanításhoz. Ezután hozzon vissza következtetési összetevőket az SQL-be az adatbázison belüli pontozáshoz.

  • Cloud-train, database-deploy, SQL-predict. Külső betanítása, a cél SQL-platform által támogatott pontozó összetevő exportálása, majd PREDICT előrejelzések végrehajtása a tranzakciós adatokhoz közeli SQL-ben.

  • Beágyazások létrehozása SQL-ben, végpontok meghívása a létrehozáshoz. RAG- és ügynökforgatókönyvek esetén beágyazást és vektorlekérést hozhat létre az SQL-ben. Ezután, ha válaszgenerálásra van szüksége, külső sp_invoke_external_rest_endpoint modellvégpontokat hívhat meg az SQL-ből.

Peremhálózati, helyi és helyszíni gépi tanulás

A felhőn kívül, helyi eszközökön, offline környezetekben, alkalmazásokba ágyazott vagy helyszíni infrastruktúrában futó gépi tanuláshoz Microsoft számos lehetőséget kínál.

Ha az alábbi képességekre van szüksége, használjon peremhálózati, helyi és helyszíni gépi tanulást:

  • Helyi következtetés. A késés, az offline művelet vagy az adatvédelmi követelmények teljesítéséhez a forgatókönyvnek következtetésre van szüksége a helyi futtatáshoz. Az időszakos kapcsolattal rendelkező környezetekben például a prediktív karbantartási megoldások helyi következtetést igényelnek.

  • A gépi tanulás alkalmazásokba való beágyazásának képessége. Olyan asztali vagy mobilalkalmazásokat hozhat létre, amelyek beágyazott gépi tanulási képességeket igényelnek.

  • Helyszíni végrehajtás. A forgatókönyvhöz gépi tanulás végrehajtására van szükség, hogy egy helyszíni környezetben, például egy helyi SQL Server üzemelő példányban maradjon.

Microsoft a következő lehetőségeket kínálja:

  • Microsoft Foundry a Windowstartalmaz Windows ML-t a helyi következtetéshez Windows eszközökön, processzorok, GPU-k és NPU-k közötti hardveres gyorsítással. Új Windows alkalmazás- és eszközkövetkeztetési számítási feladatokhoz használja az Windows ML-t.

  • ML.NET nyílt forráskódú, platformfüggetlen gépi tanulási keretrendszer .NET fejlesztők számára. Támogatja az adatok betöltését, a betanítást (beleértve a .NET autoML-ét) és a helyi következtetést. Használja ML.NET, ha az alkalmazásnak .NET natív modellbetanításra vagy következtetésre van szüksége, beleértve az ONNX-modellintegrációt is.

  • SQL Server Machine Learning szolgáltatások támogatják a helyszíni SQL Server belüli betanítást és pontozást, ha az adatoknak a helyi adatszinten kell maradniuk.

  • A Foundry Local egy eszközalapú AI-következtetési megoldás, amely Microsoft Foundryt a peremhálózati és offline forgatókönyvekre is kiterjeszti.

  • Azure Local Azure által felügyelt infrastruktúrát biztosít a helyi virtuális gépekhez és tárolókhoz. Segítségével adatokhoz közeli peremhálózati AI-összetevőket üzemeltethet, például foundry local számítási feladatokat, RAG-lekéréses összetevőket vagy Azure Machine Learning exportált ONNX-modelleket.

  • A Kubernetes compute for Azure Machine Learning Azure Arc-kompatibilis Kubernetes-fürtöket csatol egy Azure Machine Learning-munkaterülethez, így a helyszíni vagy többfelhős fürtök betanítást és következtetést futtatnak, miközben a vezénylés Azure marad.

  • Azure IoT Edge tárolóalapú gépi tanulási modelleket helyez üzembe a peremeszközökön, hogy a következtetés helyileg fusson.

  • Azure Stack Edge Microsoft által felügyelt peremhálózati berendezéseket biztosít, amelyeket hardveresen gyorsított gépi tanuláshoz, virtuális géphez vagy tárolóalapú számítási feladatokhoz használhat. Az eszközök csak ellenőrzött partneri számítási feladatokhoz vagy legalább 100 csomópont üzembe helyezéséhez érhetők el.

Egy tipikus minta betanít egy exportálható modellt a felhőben Azure Machine Learning vagy Azure Databricks használatával. A modell ezután ONNX-ré alakul, amikor a modell és a cél futtatókörnyezet támogatja ezt a formátumot. Végül a modell peremhálózati következtetésre van üzembe helyezve Windows ML, ML.NET, Azure IoT Edge modul, Foundry Local vagy Azure Local infrastruktúrán keresztül.

Platformok egyesítése

Az éles megoldások több platformot is kombinálhatnak. A cikk korábbi folyamatábra segítségével kiválaszthatja az elsődleges kezdőplatformot. Az alábbi táblázat segítségével összetett architektúrákat tervezhet, és azonosíthatja azokat a támogató Microsoft összetevőket, amelyeket az egyes forgatókönyvek általában igényelnek.

Kombinált forgatókönyv Elsődleges platform Microsoft összetevők támogatása Pattern
Vállalati RAG vagy csevegés az adatokkal Microsoft Műhely Azure AI Keresés (és az Öntödei IQ a földeléshez), Azure dokumentumintelligencia (betöltés), Microsoft Fabric vagy Azure Cosmos DB (adattár), Tartalombiztonság Betölti a vállalati tartalmat, indexeli a vektor- és hibrid lekéréshez, és egy Microsoft Foundry által üzemeltetett ügynököt vagy LLM-alkalmazást ad hozzá. Az adattárolási lehetőségekért lásd: Azure szolgáltatás kiválasztása vektorkereséshez.
Generatív AI a szabályozott elemzéseken felül Microsoft Fabric Microsoft Öntöde (ügynökök, modellek), Power BI (felhasználás), Azure AI Keresés A Microsoft Fabric használatával betölthet és tárolhat szabályozott adatokat a OneLake-ben. Ezután ügynököket vagy RAG-alkalmazásokat hozhat létre az Microsoft Foundryben ezen adatokon keresztül. Eredmények megjelenítése Power BI.
Előre összeállított AI-funkciókkal bővített egyéni gépi tanulás Azure Machine Learning Azure Vision, Azure Document Intelligence, Azure Speech, Azure Language, Azure AI Keresés Az Öntödei eszközök használata az előfeldolgozáshoz, a funkciók kinyeréséhez vagy lekéréséhez, valamint a Azure Machine Learning használatával betanításra, üzembe helyezésre és az ezekre a funkciókra épülő egyéni modell szabályozására.
Spark-méretezési betanítás felügyelt kiszolgálással Azure Databricks Azure Databricks modellkiszolgáló, MLflow, Unity-katalógus, választható Azure Machine Learning (szabályozás vagy végpontszabványozás) Szolgáltatásfejlesztés és elosztott betanítás futtatása Azure Databricks. Ezután használja a Azure Databricks Modellkiszolgálót a betanított modellek üzembe helyezéséhez és kiszolgálásához. Adjon hozzá Azure Machine Learning felügyelt végpontokat, ha Azure Machine Learning-specifikus szabályozásra vagy végpontszabványosításra van szükség a csapatok között.
Felhőbetanítása, peremhálózat üzembe helyezése Azure Machine Learning vagy Azure Databricks ONNX (modellcsere), Windows ML, ML.NET, Foundry Local, Azure IoT Edge, Azure Local, Azure Stack Edge Betaníthat egy exportálható modellt a felhőben, átalakíthatja ONNX-gé, ha támogatott, és telepítheti az eszközökre, a helyszíni átjárókra vagy a hardveresen gyorsított peremhálózati berendezésekre offline vagy kis késleltetésű következtetés céljából.
Hibrid helyszíni és felhőalapú gépi tanulás Azure Machine Learning Azure Arc Azure Arc-kompatibilis Kubernetes-fürtök, Azure Machine Learning munkaterület, Tárolóregisztrációs adatbázis, Key Vault A helyszíni adatok megőrzése a Azure Arc-kompatibilis Kuberneteshez csatolt Azure Machine Learning-munkaterület használatával a betanítás és a következtetés vezénylése érdekében.
Adatbázison belüli pontozás felhőalapú betanított modellekkel SQL gépi tanulás Azure Machine Learning vagy Azure Databricks (betanítás), ONNX, SQL Managed Instance vagy SQL Server Betaníthat a felhőbe, exportálhat az ONNX-be, és használhatja az SQL-függvényt PREDICT az alacsony késésű, adatbázison belüli pontozáshoz a működési adatok mellett.
Többügynök-automatizálás Microsoft Agent Framework és Foundry Agent Service Öntödei modellek, Öntödei IQ, Azure AI Keresés, Azure Functions vagy Azure Logic Apps (eszközök), Azure API Management Többügynök-munkafolyamatokat hozhat létre kódban az Microsoft Agent Framework használatával, az Foundry Agent Service használatával üzemeltetheti és vezénylheti őket, és integrálhatja a vállalati eszközöket és API-kat.

Fejlesztési platformok és eszközök

A legtöbb csapat több területet érintő fejlesztési eszközöket és támogató szolgáltatásokat használ az általuk elsődlegesként használt platform mellett. Ezek az eszközök befolyásolják, hogy hol fejlesztik, tesztelik és csomagolják az AI-t és a gépi tanulási munkát a futtatás előtt. A támogató szolgáltatások befolyásolják a következtetés helyét, vagy azt, hogy a számítás olyan adatokhoz kapcsolódik, amelyek nem helyezhetők át felügyelt felhőplatformra.

Ez a szakasz elkülöníti az elsődleges fejlesztői eszközöket, amelyek a napi fejlesztési és üzemeltetési platformok, az ön által felügyelt következtetést üzemeltető szomszédos támogató szolgáltatásoktól, felgyorsítják a Spark-alapú gépi tanulást, vagy kiterjesztik a betanítást és a pontozást a helyszíni infrastruktúrára.

Az alábbi eszközök támogatják a felhőbeli és a helyszíni platformok közötti fejlesztést.

Eszköz Leírás
Foundry Eszközkészlet a Visual Studio Code-hoz Fejlesztői tapasztalat a VS Code-ban generatív AI-alkalmazások és -ügynökök létrehozásához, teszteléséhez, hibakereséséhez, kiértékeléséhez és üzembe helyezéséhez. Támogatja a helyi modelleket, a modellkatalógusokat, az ügynökfejlesztést, az eszközintegrációt, a nyomkövetést és a kiértékelést.
Öntödei portál Webes környezet a megvalósíthatósági vizsgálatokhoz, a modellfeltáráshoz, a projekterőforrás-kezeléshez, a kiértékelési felülvizsgálathoz és a működési láthatósághoz Microsoft Öntödei alkalmazások és ügynökök számára.
Azure Machine Learning Studio A Azure Machine Learning platform webes felhasználói felülete. Jegyzetfüzeteket, folyamattervezőt, AutoML-t, modellkezelést és adatcímkét tartalmaz.
Azure Data Science Virtual Machine Előre konfigurált virtuálisgép-rendszerkép adatelemzési eszközökkel, például Jupyterrel, R-vel és Python előre telepítve.
ML.NET Nyílt forráskódú, platformfüggetlen gépi tanulási keretrendszer .NET alkalmazásokhoz.
Microsoft Foundry a Windows rendszeren Windows ml hardveresen gyorsított helyi modellkövetkező Windows eszközökön.
SynapseML Nyílt forráskódú elosztott gépi tanulási és mikroszolgáltatási keretrendszer a Sparkhoz.

A szomszédos támogató szolgáltatások segítenek a kísérletezésben, az ön által felügyelt következtetési üzemeltetésben, a Spark-alapú gépi tanulásban vagy a hibrid műveletekben, de nem ezek az elsődleges platformválasztások a döntési folyamatban.

Service Szerepkör a gépi tanulásban és az AI-ökoszisztémában
Azure Kubernetes Service (AKS) és Azure Container Apps Megoldások önkiszolgáló következtetési tárolók üzemeltetésére Azure. A Container Apps használata egyszerűbb felügyelt tárolók üzemeltetéséhez vagy az AKS-hez, ha nagyobb vezérlésre van szüksége a kiszolgáló futtatókörnyezet és a fürtkörnyezet felett. Ilyenek például a nyílt forráskódú kiszolgálóvermek, például a vLLM, a Triton Inference Server vagy a BentoML.
SynapseML Nyílt forráskódú, elosztott gépi tanulási és mikroszolgáltatási keretrendszer a Sparkhoz. Azure Databricks, Microsoft Fabric és más Spark-fürtökön működik.
Azure Arc-kompatibilis gépi tanulás Megoldás helyszíni vagy többfelhős Kubernetes-fürtök csatlakoztatására egy Azure Machine Learning-munkaterülethez hibrid betanítás és következtetés céljából.

Közreműködők

A Microsoft fenntartja ezt a cikket. A következő közreműködők írták ezt a cikket.

Fő szerző:

A nem nyilvános LinkedIn-profilok megtekintéséhez jelentkezzen be a LinkedInbe.

Következő lépések

  • Utolsó frissítés időpontja: