AI-biztonság a Microsoft Teljes felügyelet workshopon

Az AI felerősíti a meglévő biztonsági kockázatokat, és új kockázatokat és szempontokat vezet be az identitások, adatok, alkalmazások és felhasználói interakciók között. Ezek a kockázatok Teljes felügyelet alapelvek használatával kezelhetők.

Az AI védelme nem csak a mögöttes AI-modellek és -szolgáltatások védelméről szól. Gondoskodnunk kell arról is, hogy az AI-rendszerek hozzáférése, használata és szabályozása megfeleljen Teljes felügyelet alapelveknek.

Az AI-pillér útmutatása az AI-használat láthatóságának kialakítására, az erős identitás- és hozzáférés-vezérlés kikényszerítésére, az adatok parancssorok és kimenetek közötti védelmére, az ügynökfejlesztési és futtatókörnyezetek biztonságossá tételére, valamint az AI-jelek biztonsági műveletekbe való integrálására összpontosít.

Workshop implementálása

Az AI-workshop a táblázatban összefoglalt megvalósítási területeket ismerteti.

Area	Részletek
AI-kockázatok feltérképezése és értékelése	Az AI-ügynökök, -alkalmazások és -szolgáltatások felderítése és leltározása a szervezetben. Az AI-kockázatok felmérése központosított biztonsági elemzések használatával, a leltár áttekintése és az eredmények rangsorolása, valamint szabályozási, tulajdonjogi és elfogadható használati szabályzatok létrehozása. Folyamatos monitorozás és szervizelés megvalósítása a fejlődő AI-kockázatok érdekében.
Ügynökök regisztrálása	Regisztrálja az AI-ügynököket egy központosított beállításjegyzékben a láthatóság és az ellenőrzés fenntartása érdekében. Ügynökök besorolása és rendszerezése cél és kockázat alapján, tulajdonjog és elszámoltathatóság hozzárendelése, valamint közzététel, minősítés és életciklus meghatározása
Biztonságos AI-hitelesítés és -hozzáférés	Identitásalapú hozzáférés-vezérlők kényszerítése AI-rendszerekhez és -ügynökökhöz. Feltételes hozzáférés, kockázatalapú és attribútumalapú szabályzatok és identitásszabályozási folyamatok alkalmazásával biztosíthatja, hogy csak a jogosult felhasználók és szolgáltatások használhatják az AI-erőforrásokat.
AI-hálózati hozzáférés biztonságossá tétele	Az AI-szolgáltatások hálózaton keresztüli elérésének szabályozása. A forgalmat biztonságos hozzáférés-vezérlésen keresztül irányítsa, szűrési és ellenőrzési szabályzatokat alkalmazzon az AI-interakciókhoz, és védelmet nyújt az olyan kockázatok ellen, mint a gyors injektálás és a jogosulatlan hozzáférési útvonalak.
AI-adatok biztonságos elérése	Az AI-kérésekben, a földelésben és a kimenetekben használt bizalmas adatok védelme. Besorolási, címkézési és DLP-szabályzatok alkalmazása, a csatlakoztatott adatforrásokhoz való hozzáférés szabályozása, valamint az AI-interakciók túlhasználati és adatexpozíciós kockázatainak monitorozása.
Ügynökök biztonságos létrehozása	A hitelesítési, engedélyezési és adatkezelési szabványok kikényszerítésével biztonságossá teheti az AI-ügynökök fejlesztését és üzembe helyezését. A tartalombiztonsági vezérlők integrálása, az ellenőrzés és a red teaming megkövetelése, valamint a biztonságos közzétételi és üzembehelyezési folyamatok létrehozása.
AI észlelése és megválaszolása	Monitorozza az AI-tevékenységeket, és észlelje az olyan fenyegetéseket, mint a visszaélés, a rendellenességek és a parancssori támadások. Integrálja az AI-jeleket a biztonsági műveletekbe, lehetővé teszi a vizsgálati és válasz-munkafolyamatokat, és folyamatosan fejleszti az észlelési és válaszképességeket.

Következő lépések

Kezdje el az AI-workshopot.