Mesterséges intelligencia (AI) megosztott felelősségi modellje

Amikor az MI-alapú integrációt mérlegeljük és értékeljük, kritikus megérteni a megosztott felelősségi modellt, valamint hogy mely feladatokat kezel az AI platform vagy alkalmazásszolgáltató, és mely feladatokat te kezeled. A munkaterhelési felelősségek attól függően változnak, hogy az AI integráció szoftverként szolgáltatáson (SaaS), platformként szolgáltatáson (PaaS) vagy infrastruktúraként szolgáltatáson (IaaS) alapul-e.

A felelősség megosztása

Ahogy a felhőszolgáltatásoknál, több lehetőség is létezik, amikor MI képességeket telepítesz a szervezetedhez. Attól függően, hogy melyik lehetőséget választja, felelősséget vállal az AI biztonságos használatához szükséges műveletek és szabályzatok különböző részeiért.

Az alábbi ábra az Üzembe helyezés típusának megfelelően mutatja be az Ön és a Microsoft közötti felelősségi területeket.

AI-réteg áttekintése

Egy MI-alapú alkalmazás három funkciórétegből áll, amelyek összegyűjtik azokat a feladatokat, amelyeket Ön vagy egy AI-szolgáltató végez. A biztonsági felelősségek általában a feladatokat végző fél felelősségét viselik, de egy MI szolgáltató úgy dönthet, hogy szükség szerint biztonsági vagy egyéb szabályozásokat kínál konfigurációs lehetőségként. Ez a három réteg a következőket foglalja magában:

AI-platform

Az AI platformréteg biztosítja az alkalmazások AI-képességeit. A platformrétegben fel kell építened és meg kell védened azt az infrastruktúrát, amely az AI-modellt, a betanítási adatokat és a modell viselkedését megváltoztató speciális konfigurációkat, például a súlyokat és torzításokat futtatja. Ez a platform réteg API-kon keresztül biztosít hozzáférést a funkcionalishoz. Az API-k átadják a metapromptnak nevezett szöveget az AI modellnek feldolgozásra, majd visszaadják a generált eredményt, amit prompt-response néven ismernek.

MI platform biztonsági szempontok – Az AI platform rosszindulatú bemenetektől való védelméhez a biztonsági rendszernek ki kell szűrnie az MI modellhez küldött potenciálisan káros utasításokat (bemeneteket). Mivel az MI modellek generatívak, előfordulhat, hogy néhány káros tartalmat is generálnak és visszaküldenek a felhasználónak (kimenetek). Bármely biztonsági rendszernek először védenie kell a potenciálisan káros bemenetek és kimenetek ellen, amelyek sokféle besorolásban vannak, beleértve a gyűlöletet, börtönszökést és egyéb károkat. Ezek a kárkategóriák valószínűleg idővel fejlődnek a modellismeret, a helyszín és az iparág alapján.

A Microsoft beépített biztonsági rendszerekkel rendelkezik Mind a PaaS, mind az SaaS-ajánlatokhoz:

• PaaS – Azure OpenAI szolgáltatás
• SaaS – Microsoft Security Copilot

AI-alkalmazás

Az AI-alkalmazás hozzáfér az AI képességeihez, és biztosítja a felhasználó által használt szolgáltatást vagy felületet. A réteg összetevői az alkalmazástól függően viszonylag egyszerűtől rendkívül összetettig változhatnak. A legegyszerűbb önálló MI alkalmazások interfészként működnek egy API-készlethez, amelyek szöveges felhasználói promptot vesznek át, és továbbítják az adatokat a modellnek válaszhoz. A bonyolultabb AI alkalmazások közé tartozik a felhasználói prompt további kontextushoz való földelése is, beleértve a persistenciás réteget, szemantikai indexet vagy bővítményeket, amelyek több adatforráshoz való hozzáférést biztosítanak. A fejlett AI-alkalmazások a meglévő alkalmazásokkal és rendszerekkel is kommunikálhatnak. A meglévő alkalmazások és rendszerek szöveget, hangot és képeket dolgozhatnak fel különféle tartalmak generálásához.

MI alkalmazás biztonsági szempontok – Építs egy alkalmazásbiztonsági rendszert, amely megvédi az AI alkalmazást a rosszindulatú tevékenységektől. A biztonsági rendszer mélyreható ellenőrzést biztosít az MI modellhez küldött metapromptban használt tartalomról. A biztonsági rendszer emellett ellenőrzi a bővítményekkel, adatcsatlakozókkal és más AI alkalmazásokkal (az úgynevezett AI orkráráció) közötti interakciókat is. Az egyik módja annak, hogy ezt beépítheted saját IaaS/PaaS-alapú AI alkalmazásodba, ha használod az Azure AI Tartalombiztonság szolgáltatást. Az igényeitől függően más képességek is rendelkezésre állnak.

AI-használat

Az AI használati rétege leírja, hogyan használják és használják fel végül az AI-képességeket. A generatív MI egy újfajta felhasználó/számítógép felületet kínál, amely alapvetően különbözik más számítógépes interfészektől, mint például az API-k, parancssorok és grafikus felhasználói felületek (GUI-k). A generatív AI-felület interaktív és dinamikus is, így a számítógép képességei alkalmazkodhatnak a felhasználóhoz és a szándékukhoz. A generatív AI-felület ellentétben áll a korábbi felületekkel, amelyek elsősorban arra kényszerítik a felhasználókat, hogy megtanulják a rendszer kialakítását és működését, és alkalmazkodjanak hozzá. Ez az interaktivitás lehetővé teszi, hogy a felhasználói input, nem pedig az alkalmazástervezők befolyása gyakoroljon nagy befolyással a rendszer kimenetére, így a biztonsági korlátok kritikusak az emberek, adatok és üzleti eszközök védelmében.

MI használati biztonsági szempontok – Az MI használatának védelme hasonló bármely számítógépes rendszer védelméhez, mivel az identitás- és hozzáférés-ellenőrzések, eszközvédelem és monitorozás, adatvédelem és irányítás, adminisztratív ellenőrzések és egyéb szabályozások biztonsági garanciáira támaszkodik.

A felhasználói viselkedés és az elszámoltathatóság nagyobb hangsúlyt igényel, mert a felhasználók nagyobb befolyást gyakorolnak a rendszerek kimenetére. Kritikus az elfogadható használati szabályzatok frissítése, valamint a felhasználók tájékoztatása a szabványos IT alkalmazások és az AI-alapú alkalmazások közötti különbségekről. Az elfogadható használati szabályzatoknak tartalmazniuk kell az AI-specifikus megfontolásokat a biztonság, a magánélet és az etikai szempontok tekintetében. Emellett tájékoztasd a felhasználókat az MI-alapú támadásokról is, amelyek során a támadók meggyőző hamis szövegekkel, hangokkal, videókkal és egyebekkel téveszthetik meg őket.

Az alábbi források határozzák meg az AI-specifikus támadástípusokat:

• A Microsoft Biztonsági reagálási központ (MSRC) biztonságirés súlyossági besorolása AI-rendszerekhez
• MITRE Mesterséges Intelligencia Rendszerek Adverszárius Fenyegetés Tájképe (ATLAS)
• OWASP top 10 nagy nyelvi modell (LLM) alkalmazásokhoz
• OWASP Machine Learning (ML) biztonsági top 10
• NIST AI kockázatkezelési keretrendszer

Biztonsági életciklus

Más típusú képességek biztonságához hasonlóan a teljes megközelítés tervezése is kritikus fontosságú. A teljes körű megközelítés személyekre, folyamatokra és technológiákra terjed ki a teljes biztonsági életciklusban: azonosítás, védelem, észlelés, reagálás, helyreállítás és szabályozás. Bármilyen hiányosság vagy gyengeség ebben az életciklusban okozhatja, hogy:

• Nem sikerült biztonságossá tenni a fontos objektumokat
• Megelőzhető támadások élménye
• Képtelen leszek a támadások kezelésére
• Nem lehet gyorsan helyreállítani az üzleti kritikus szolgáltatásokat
• Vezérlők inkonzisztens alkalmazása

További információért az AI fenyegetéstesztelés egyedi természetéről lásd: a Microsoft AI Red Team építi a biztonságosabb AI jövőjét.

Konfigurálás testreszabás előtt

A Microsoft azt javasolja, hogy a szervezetek kezdjék SaaS-alapú megközelítésekkel, mint a Copilot modell az AI kezdeti alkalmazásához és minden későbbi MI munkaterheléshez. Ez a megközelítés minimalizálja a felelősség és szakértelem szintjét, amelyet szervezetnek biztosítania kell ezeknek a rendkívül összetett képességeknek a tervezéséhez, működtetéséhez és biztonságos biztosításához.

Ha a jelenlegi gyári képességek nem felelnek meg egy munkaterhelés konkrét igényeinek, akkor PaaS modellt alkalmazhatsz AI szolgáltatásokkal, például az Azure OpenAI Service-szel, hogy kielégítsd ezeket a speciális követelményeket.

Csak azok a szervezetek, akik mély szakértelemmel rendelkeznek az adattudományban, valamint az AI biztonsági, adatvédelmi és etikai szempontjaiban, vegyenek fel egyedi modellépítést.

Az MI világra való eljuttatása érdekében a Microsoft minden fő produktivitási megoldáshoz fejleszt Copilot megoldásokat: a Bingtől és a Windows-tól a GitHub-ig és a Microsoft 365-ig. A Microsoft mindenféle termelékenységi helyzetre fejleszt full-stack megoldásokat. A Microsoft ezeket a lehetőségeket SaaS megoldásként kínálja. A Microsoft ezeket a képességeket a termék felhasználói felületébe építi, ahol úgy hangolják őket, hogy segítsék a felhasználót konkrét feladatokban a produktivitás növelése érdekében.

A Microsoft minden Copilot megoldást a Microsoft erős AI irányítási elvei szerint tervez.

Következő lépések

További információ az Azure AI biztonsági ajánlott eljárásairól.

További információ a Microsoft termékfejlesztési követelményeiről a felelős AI-szabványban.

Megismerheti a felhőalapú számítástechnika megosztott feladatait.