Riasztások AI-számítási feladatokhoz
Ez a cikk felsorolja azokat a biztonsági riasztásokat, amelyek az AI-számítási feladatokhoz Felhőhöz készült Microsoft Defender és az ön által engedélyezett Microsoft Defender-csomagokból származhatnak. A környezetben megjelenő riasztások a védeni kívánt erőforrásoktól és szolgáltatásoktól, valamint a testre szabott konfigurációtól függenek.
Feljegyzés
Előfordulhat, hogy a Microsoft Defender Intelligens veszélyforrás-felderítés és Végponthoz készült Microsoft Defender által nemrég hozzáadott riasztások némelyike visszavonva.
Megtudhatja, hogyan válaszolhat ezekre a riasztásokra.
Megtudhatja, hogyan exportálhat riasztásokat.
Feljegyzés
A különböző forrásokból származó riasztások megjelenése különböző időt vehet igénybe. A hálózati forgalom elemzését igénylő riasztások például tovább tarthatnak, mint a virtuális gépeken futó gyanús folyamatokkal kapcsolatos riasztások.
AI-számítási feladatokra vonatkozó riasztások
Az Azure OpenAI-modell üzembe helyezésekor észlelt hitelesítőadat-lopási kísérletek
(AI. Azure_CredentialTheftAttempt)
Leírás: A hitelesítő adatok ellopására vonatkozó riasztás úgy lett kialakítva, hogy értesítse az SOC-t, amikor a GenAI-modell válaszai között hitelesítő adatokat észlel egy felhasználói kérésre, jelezve az esetleges behatolást. Ez a riasztás kulcsfontosságú a hitelesítő adatok szivárgásának vagy ellopásának észleléséhez, amelyek a generatív AI-re jellemzőek, és sikeresség esetén súlyos következményekkel járhatnak.
MITRE-taktikák: Hitelesítő adatok elérése, Oldalirányú mozgás, Kiszűrés
Súlyosság: Közepes
Az Azure AI Content Safety Prompt Shields letiltotta egy Azure OpenAI-modell üzembe helyezésére irányuló jailbreak-kísérletet
(AI. Azure_Jailbreak.ContentFiltering.BlockedAttempt)
Leírás: A közvetlen parancssori injektálási technikával végrehajtott Jailbreak-riasztás úgy lett kialakítva, hogy értesítse a SOC-t, amely megkísérelte manipulálni a rendszer parancssorát, hogy megkerülje a generatív AI biztonsági funkcióit, és esetleg bizalmas adatokhoz vagy kiemelt funkciókhoz férhessen hozzá. Jelezte, hogy az Ilyen kísérleteket az Azure Responsible AI Content Safety (AKA Prompt Shields) letiltotta, biztosítva az AI-erőforrások integritását és az adatbiztonságot.
MITRE-taktikák: Privilege Escalation, Defense Evasion
Súlyosság: Közepes
Az Azure AI Content Safety Prompt Shields egy Azure OpenAI-modell üzembe helyezésére tett Jailbreak-kísérletet észlelt
(AI. Azure_Jailbreak.ContentFiltering.DetectedAttempt)
Leírás: A közvetlen parancssori injektálási technikával végrehajtott Jailbreak-riasztás úgy lett kialakítva, hogy értesítse a SOC-t, amely megkísérelte manipulálni a rendszer parancssorát, hogy megkerülje a generatív AI biztonsági funkcióit, és esetleg bizalmas adatokhoz vagy kiemelt funkciókhoz férhessen hozzá. Azt jelezte, hogy az Ilyen kísérleteket az Azure Responsible AI Content Safety (AKA Prompt Shields) észlelte, de a tartalomszűrési beállítások vagy az alacsony megbízhatóság miatt nem blokkolták őket.
MITRE-taktikák: Privilege Escalation, Defense Evasion
Súlyosság: Közepes
Bizalmas adatexpozíció észlelhető az Azure OpenAI-modell üzembe helyezésében
(AI. Azure_DataLeakInModelResponse.Sensitive)
Leírás: A bizalmas adatszivárgási riasztás úgy lett kialakítva, hogy értesítse az SOC-t arról, hogy egy GenAI-modell érzékeny információkat tartalmazó felhasználói kérésre válaszolt, ami lehet, hogy egy rosszindulatú felhasználó megkísérli megkerülni a generatív AI biztonsági elemeit a jogosulatlan bizalmas adatokhoz való hozzáférés érdekében.
MITRE-taktikák: Gyűjtemény
Súlyosság: Közepes
Sérült AI-alkalmazás\modell\adatok adathalászati kísérletet irányítottak egy felhasználóra
(AI. Azure_PhishingContentInModelResponse)
Leírás: Ez a riasztás a szervezet által kifejlesztett AI-alkalmazás sérülését jelzi, mivel aktívan megosztott egy ismert rosszindulatú URL-címet, amelyet adathalászathoz használnak egy felhasználóval. Az URL-cím magából az alkalmazásból, az AI-modellből vagy az alkalmazás által elérhető adatokból származik.
MITRE-taktikák: Hatás (Defacement)
Súlyosság: Magas
AI-alkalmazásban megosztott adathalász URL-cím
(AI. Azure_PhishingContentInAIApplication)
Leírás: Ez a riasztás egy AI-alkalmazás lehetséges sérülését vagy az egyik végfelhasználó adathalászati kísérletét jelzi. A riasztás megállapítja, hogy az adathalászathoz használt rosszindulatú URL-címet az AI-alkalmazáson keresztül folytatott beszélgetés során adták át, azonban az URL-cím (felhasználó vagy alkalmazás) eredete nem egyértelmű.
MITRE-taktikák: Hatás (Defacement), Gyűjtemény
Súlyosság: Magas
Adathalászati kísérlet észlelhető egy AI-alkalmazásban
(AI. Azure_PhishingContentInUserPrompt)
Leírás: Ez a riasztás azt jelzi, hogy egy felhasználó adathalász támadáshoz használt URL-címet küldött egy AI-alkalmazásnak. A tartalom általában arra csábítja a látogatókat, hogy a céges hitelesítő adataikat vagy pénzügyi adataikat egy megbízhatónak látszó webhelyre írhassák be. Az AI-alkalmazásokba való küldés célja lehet, hogy megrongálja, megmérgezi azokat az adatforrásokat, amelyhez hozzáféréssel rendelkezik, vagy hogy az alkalmazás eszközeivel hozzáférést kapjon az alkalmazottakhoz vagy más ügyfelekhez.
MITRE-taktikák: Gyűjtemény
Súlyosság: Magas
Feljegyzés
Előzetes verziójú riasztások esetén: Az Azure Előzetes verzió kiegészítő feltételei további jogi feltételeket tartalmaznak, amelyek a bétaverzióban, előzetes verzióban vagy más módon még nem általánosan elérhető Azure-funkciókra vonatkoznak.