Ismerkedés az AI-architektúra tervezésével

Az AI lehetővé teszi a gépek számára az adatok elemzését, a tartalom előállítását, a beszéd szintetizálását, az előrejelzések készítését és a döntéshozatal támogatását az iparágakban. Ahogy az AI-képességek generatív modelleken, nyelvi modelleken és ügynökalapú architektúrákon keresztül bővülnek, a szervezeteknek architekturális útmutatásra van szükségük a megbízható, biztonságos, költséghatékony és működésileg stabil AI-számítási feladatok tervezéséhez.

Ez a cikk az AI használatának első lépéseit ismerteti a Azure. Bemutatja az AI-szolgáltatásokat, a referenciaarchitektúrákat, a bevált gyakorlatokat és a tanulási anyagokat, hogy megtervezhesse és létrehozhassa azokat az AI-megoldásokat, amelyek megfelelnek a munkaterhelési követelményeknek.

Azure AI-szolgáltatások

Azure számos szolgáltatást biztosít az AI-számítási feladatok létrehozásához, üzembe helyezéséhez és kezeléséhez. Ezek a szolgáltatások kiterjednek a fejlesztési platformokra, az előre összeállított AI-képességekre, az adatplatformokra és az egyéni modellek létrehozására szolgáló eszközökre. Az alábbi szolgáltatásokkal integrálhatja az AI-t a számítási feladatok tervezésébe.

AI-fejlesztési platformok

  • Microsoft Foundry: Egységes szolgáltatásként nyújtott platform (PaaS) a generatív AI-alkalmazások és -ügynökök fejlesztéséhez és üzembe helyezéséhez. A Microsoft Foundry hozzáférést biztosít a modellkatalógushoz, az ügynöktárhelyhez a Foundry Agent Service-en keresztül, a finomhangoláshoz, az értékelési eszközökhöz és a felelős AI-képességekhez. Az Foundry portál használatával kísérletezhet, hozhat létre és helyezhet üzembe AI-modelleket és -ügynököket.

  • Azure Machine Learning: Felhőalapú szolgáltatás gépi tanulási modellek nagy méretekben történő létrehozásához, betanításához és üzembe helyezéséhez. Azure Machine Learning támogatja az olyan nyílt forráskódú keretrendszereket, mint a PyTorch, a TensorFlow és a scikit-learn. Emellett képes az AutoML-re, a hiperparaméterek finomhangolására, az elosztott betanításra, a gépi tanulási műveletekre és a felelős AI-re.

  • Microsoft Copilot Studio: Alacsony kódszámú platform az AI-alapú ügynökök létrehozásához, testreszabásához és üzembe helyezéséhez. A Microsoft Copilot Studio használatával beszélgetési ügynököket hozhat létre belső és külső forgatókönyvekhez, és kiterjesztheti a Microsoft 365 Copilot vállalati adatokkal és egyéni munkafolyamatokkal.

Előre összeállított AI-szolgáltatások

  • Foundry Tools: Előre elkészített és testre szabható API-k és modellek gyűjteménye, amelyekkel intelligens funkciók adhatók hozzá az alkalmazásokhoz. A Foundry Tools képességeket biztosít a beszéd, a fordítás, a nyelvi megértés, a dokumentumintelligencia, a tartalomelemzés, a számítógépes látás, a tartalombiztonság és a keresés terén.

  • Azure OpenAI: Hozzáférést biztosít az OpenAI-modellekhez, beleértve a GPT-t és a DALL-E-t is, Azure felügyelt infrastruktúrán keresztül, nagyvállalati biztonsági, hálózatkezelési és felelős AI-vezérlőkkel.

Adatplatformok AI-hoz

  • Microsoft Fabric: Teljes körű elemzési és adatplatform, amely az adatok betöltésére, átalakítására, valós idejű esemény-útválasztásra és jelentéskészítésre terjed ki. Microsoft Fabric egységes adattóként biztosítja a OneLake-t, és beágyazott AI-képességeket, Microsoft Copilot funkciókat és integrálást tartalmaz a Foundry Tools használatával.

  • Azure Databricks: Spark-alapú elemzési platform az adatelemzéshez, az adatelemzéshez és a gépi tanuláshoz. Azure Databricks databricks-futtatókörnyezetet biztosít a Azure Machine Learning, az MLflow-integrációhoz, az AutoML-hez, az alapmodell finomhangolásához és a Mozaik AI-vektorkereséshez a beágyazásalapú lekéréshez.

  • Azure HDInsight: Felügyelt Apache Spark-szolgáltatás big data-feldolgozáshoz és -elemzéshez. Az Azure HDInsight Spark-klaszterek az MLlib révén támogatják a gépi tanulási feladatokat, kompatibilisek az Azure Storage-dzsal és az Azure Data Lake Storage-dzsal, valamint támogatják a SynapseML-t a mélytanuláshoz.

  • Azure Data Lake Storage: Skálázható, központosított adattár strukturált és strukturálatlan adatok tárolására. Azure Data Lake Storage fájlrendszer-szemantikát, fájlszintű biztonságot és Azure Blob Storage épülő rétegzett tárolást biztosít.

Vállalati intelligenciarétegek

Az AI-architektúra Microsoft három kiegészítő intelligenciaréteget vagy IQ-t vezet be, amelyek az AI-rendszerek legfontosabb környezeti forrásait képviselik:

  • A Munkahelyi IQ a szervezeten belüli munkavégzéssel kapcsolatos intelligenciát rögzíti. Jeleket használ Microsoft 365, például e-maileket, csevegéseket, értekezleteket, dokumentumokat és együttműködési mintákat.

    Ez a réteg elengedhetetlen az AI emberi tevékenységben és szervezeti viselkedésben való alapozásához, nem pedig az interakciók izolált kérésként való kezeléséhez.

  • Fabric IQ a Microsoft Fabric felügyelt strukturált vállalati adatokból származó intelligenciát biztosít, beleértve az elemzési modelleket, a fő teljesítménymutatókat (KPI-ket) és az üzleti entitásokat.

    Fabric IQ lehetővé teszi, hogy az AI összetett elemzési kérdésekre válaszoljon, és az üzleti műveletek kontextusában értelmezze az eredményeket.

  • A Foundry IQ egységes, több forrásból származó tudásréteget biztosít, amely lehetővé teszi a MI-ügynökök számára, hogy információkat nyerjenek ki, és válaszaikat a vállalati adatokra alapozzák.

    Ez a réteg kritikus fontosságú az olyan minták implementálásához, mint a lekéréses kiterjesztett generáció (RAG), hogy az AI-kimenetek pontosak, aktuálisak és megfelelőek legyenek.

Architecture

Az alábbi ábra egy alapkonfigurációs végpontok közötti csevegési architektúrát mutat be, amely Microsoft Foundryt használja. Ez a referenciaarchitektúra bemutatja, hogy az AI-szolgáltatások hogyan alkotnak egy üzemkész megoldást az Azure-on. Magában foglalja az identitás- és hálózatkezelési, monitorozási és szabályozási rétegeket.

A Microsoft Foundryt használó alapszintű, végpontok közötti csevegési architektúrát bemutató ábra.

A diagram részletes Azure-architektúrát mutat be egy AI-megoldás üzembe helyezéséhez. A bal oldalon egy felhasználó egy alkalmazásátjárón keresztül csatlakozik egy webalkalmazási tűzfalhoz (WAF), amely egy virtuális hálózat része. Ez az átjáró privát dns-zónákra hivatkozik. Az Azure DDoS Protection védi az átjárót. Az átjáró alatt a privát végpontok olyan szolgáltatásokhoz csatlakoznak, mint az Azure App Service, az Azure Key Vault és az Azure Storage, amelyeket az ügyfélalkalmazások üzembe helyezéséhez használnak. Azure App Service identitással van kezelve, és három zónára terjed ki. Az Application Insights és az Azure Monitor monitorozást biztosít, a Microsoft Entra ID pedig a hitelesítést kezeli. Jobbra a virtuális hálózat több alhálózattal rendelkezik: App Service-integráció, privát végpont, Microsoft Foundry-integráció, Azure AI-ügynökintegráció, Azure Bastion, jump box, ügynökök létrehozása és Azure Firewall. Minden alhálózat olyan konkrét végpontokat vagy szolgáltatásokat üzemeltet, mint a storage, Microsoft Foundry, Azure AI Keresés, Azure Cosmos DB és tudástárak, amelyek privát végpontokon keresztül csatlakoznak. A hálózatról kimenő forgalom áthalad az Azure Firewallon az internetes források eléréséhez. A jobb szélen egy külön mező jelöli a Microsoft Foundryt, amely egy fiókot és egy projektet tartalmaz. A felügyelt identitások összekapcsolják az Foundry Agent Service-t a Microsoft Foundry-projekthez, amely viszont hozzáfér Azure OpenAI-hoz. A diagram számozott körökkel jelzi a logikai folyamatot, amely bemutatja, hogy a felhasználó hogyan lépi át a hálózatot, hogyan kommunikál a különböző végpontokkal, és hogyan csatlakozik az Foundry Toolshoz és a tárolóhoz.

Ennek az architektúrának a Visio-fájlját töltsd le.

Az előző ábra egy tipikus AI-implementációt mutat be. A Azure építhető valós megoldásokért lásd az AI-architektúrákat.

Az AI architektúráinak és útmutatóinak felfedezése

Az ebben a szakaszban található cikkek olyan útmutatókat és teljes körűen kidolgozott architektúrákat tartalmaznak, amelyeket Azure üzembe helyezhet, és kiterjesztheti az éles szintű megoldásokra. A megoldási ötletek bemutatják az AI-megvalósíthatósági (POC) fejlesztés tervezése során figyelembe veendő megvalósítási mintákat és lehetőségeket. Ezekkel a cikkekkel eldöntheti, hogyan használhatja az AI-technológiákat Azure.

  • Az AI-technológia áttekintése: Segít áttekinteni az AI-koncepciókat, a fejlesztési platformokat és az architektúramintákat, hogy megtervezhesse az AI-munkaterheléseket az Azure-ban.

AI-szolgáltatás kiválasztása

Az alábbi cikkek segítséget nyújtanak a számítási feladatokra vonatkozó követelményeknek megfelelő legjobb AI-technológiák kiértékelésében és kiválasztásában:

AI-megoldási ötletek

Az alábbi AI-megoldási ötletek bemutatják a megvalósítási mintákat és a vizsgálandó lehetőségeket.

Hangfeldolgozási megoldási ötletek

Képfeldolgozás

  • Képbesorolás: Intelligens alkalmazásmintákkal osztályozza a képeket.

Előrejelző elemzés

MLOps-megoldási ötletek

Dokumentumfeldolgozás és -bővítés

Munkafolyamat-automatizálás

AI-architektúrák

Az alábbi éles üzemre kész architektúrák bemutatják az üzembe helyezhető és testre szabható, teljes körű AI-megoldásokat.

Csevegés adatokkal

Dokumentumfeldolgozás

Videó- és képbesorolás

Hangfeldolgozási architektúrák

Regulatory

AI-útmutatók

RAG-megoldások fejlesztése és értékelése

MLOps-útmutatók

Proxy-generatív mesterségesintelligencia-modellek

Szervezeti felkészültség

A felhő bevezetésének folyamatában még kezdeti szakaszban lévő szervezetek a felhőadaptálási keretrendszer for Azure használatával hozzáférhetnek olyan bevált útmutatáshoz, amely felgyorsítja a felhő bevezetését.

Az AI-specifikus bevezetési útmutatót a következő felhőadaptálási keretrendszer forrásokban talál:

  • AI bevezetése: Strukturált folyamatot biztosít az AI-megoldások Azure való bevezetéséhez, beleértve a stratégiát, a tervezést, a felkészültséget, a szabályozást, a biztonságot és a felügyeletet.

  • AI kész: Felvázolja az AI-számítási feladatok Azure való létrehozásának szervezeti folyamatát, beleértve az erőforrás-szervezést, a hálózatkezelést, a megbízhatóságot és a szabályozást.

Az AI-megoldás minőségének biztosításához kövesse az Azure Well-Architected-keretrendszer útmutatását a Azure. A Well-Architected keretrendszer előíró útmutatást nyújt az architekturális kiválóságot kereső szervezetek számára, és ismerteti a költségoptimalizált Azure-megoldások tervezését, kiépítését és monitorozását.

Az AI-specifikus útmutatásért tekintse meg a következő Well-Architected keretrendszer-erőforrást:

  • AI-munkaterhelések az Azure-ban: Az AI-munkaterhelések tervezésének architekturális kihívásaival foglalkozik, beleértve a nem determinisztikus működést, az adat- és alkalmazástervezést, valamint az öt Well-Architected Framework-pillér mentén végzett üzemeltetést.

Az AI-hez kapcsolódó Well-Architected Keretrendszer szolgáltatás-útmutatóiért lásd:

Bevált gyakorlatok

Az alábbi ajánlott eljárásokat követve javíthatja az AI-számítási feladatok megbízhatóságát, biztonságát, költséghatékonyságát, működési minőségét és teljesítményét a Azure:

  • RAG-megoldás megtervezése és fejlesztése: A RAG-megoldások tervezéséhez kövesse a strukturált, fázisonkénti megközelítést, beleértve az adattömböt, a beágyazást, az információlekérést és a végpontok közötti kiértékelést.

  • Válasszon egy Azure szolgáltatást a vektorkereséshez: Értékelje ki a vektorkeresést támogató Azure szolgáltatásokat, hogy megtalálja a lekérési és hasonlósági keresési követelményeknek leginkább megfelelőt.

  • AI-ügynökök vezénylési mintái: Ismerje meg a több ügynököt használó architektúrák bevált vezénylési mintáit, beleértve a szekvenciális, az egyidejű, a csoportos csevegést, az átadást és a magentikus mintákat. Tekintse át a megbízhatóságra, a biztonságra, a költségekre és a megfigyelhetőségre vonatkozó megvalósítási szempontokat.

  • Átjáró használata a generatív AI-modellek előtt: Átjáróminták implementálása a proxyzáshoz, a terheléselosztáshoz és a generatív modellvégpontok monitorozásához.

  • Gépi tanulási műveletek v2: A gépi tanulási műveletek életciklus-útmutatójának alkalmazása a gépi tanulási modellek nagy méretekben történő betanításához, üzembe helyezéséhez és kezeléséhez.

  • Generatív AI-műveletek gépi tanulási műveletekkel: A gépi tanulási üzemeltetési eljárások kiterjesztése a generatív AI-számítási feladatokra, beleértve az azonnali felügyeletet, a kiértékelést és az üzembe helyezést.

  • Biztonságos több-bérlős RAG-következtetési megoldás tervezése: Több-bérlős mintákat alkalmazhat olyan RAG-megoldásokhoz, amelyek adatelkülönítést és biztonságos következtetést kényszerítenek ki a bérlők között.

  • Tervezés az alapmodell életciklusainak támogatásához: A modell verziószámozásának, elavulásának és elforgatásának kezelése az AI-számítási feladatok naprakészen és rugalmasan tartása érdekében.

  • Gépi tanulási lehetőségek: Hasonlítsa össze a gépi tanulási betanítási és üzembe helyezési lehetőségeket a Azure a megfelelő szolgáltatások kiválasztásához a számítási feladathoz.

  • Apache Spark-irányelvek: Tekintse át az Apache Spark-feladatok futtatására, figyelésére, hibakeresésére és optimalizálására vonatkozó irányelveket Azure HDInsight.

Maradjon naprakész a mesterséges intelligenciával kapcsolatban

Azure AI services a modern adatokkal kapcsolatos kihívások kezelése érdekében fejlődnek. Tájékozódjon a legújabb frissítésekről és funkciókról.

A legfontosabb AI-szolgáltatások naprakészen maradásához tekintse meg az alábbi cikkeket:

Amazon Web Services (AWS) vagy Google Cloud-szakemberek

A gyors felfutás érdekében az alábbi cikkek összehasonlítják Azure AI-lehetőségeket más felhőszolgáltatásokhoz:

  • Adatok és AI: Összehasonlítja az AWS-adatokat és az AI-szolgáltatásokat, köztük a gépi tanulást, a generatív AI-t és az AI-platformszolgáltatásokat Azure megfelelőikkel.

  • Mi és gépi tanulás: Összehasonlítja a Google Cloud AI-t és a gépi tanulási szolgáltatásokat, köztük a Vertex AI-t, a Dialogflow-t és a Gemini-t Azure megfelelőikkel.