A Microsoft AI Red csapata

Megtudhatja, hogyan védheti meg szervezete AI-jét az iparágvezető Microsoft AI Red Csapat útmutatásával és ajánlott eljárásaival.

Tudnivalók az AI Red Teamről

Áttekintés

• Mi az AI Red összevonása, és hogyan építi ki a Microsoft a biztonságosabb AI-t?

Útmutató

• Útmutató az AI Red Teams for LLM-ekhez való létrehozásához

Referencia

• Felelős AI-eszközök és eljárások
• Felelős AI-szabvány és hatásvizsgálat

Előkészületek

Áttekintés

• A Microsoft Open Automation Framework to Red Team Generative AI Systems (PyRIT)

Útmutató

• PyRIT útmutató

Referencia

• AI-kockázatértékelés az ML-mérnökök számára
• AI megosztott felelősségi modellje

A fenyegetések ismertetése

Útmutató

• Fejlesztői fenyegetésmodellezési útmutató ml-rendszerekhez

Fogalom

• Gépi tanulási hibák osztályozása

Referencia

• Hibasáv az ML-rendszerek elleni támadások osztályozásához

Biztonságos megoldások felfedezése

Fogalom

• A Phi-3 nyelvi modellek sorozatának biztonsági igazításának módszertana

Referencia

• Vállalati biztonság és irányítás az Azure Machine Learninghez
• Mi az Azure AI Content Safety?
• Ártalomcsökkentési stratégiák az Azure AI-vel
• Az üzembe helyezett gyorsáramlási alkalmazások minőségének és biztonságának monitorozása

Tanulságok

Oktatás

• AI biztonsági képzés

Áttekintés

• A red teaming 100 generatív AI-termék tanulságai