AI-red teaming tréning sorozat: Generatív AI rendszerek védelme

A Microsoft AI Red Teaming 101 képzési sorozata segít a szakembereknek a generatív MI-rendszerek védelmében a felmerülő fenyegetések ellen. Ez a sorozat a sebezhetőségeket, a támadási technikákat és a védelmi stratégiákat ismerteti, és használható elemzéseket és gyakorlati tapasztalatokat nyújt. Akár biztonsági szakértő, gépi tanulási mérnök, akár üzleti vezető, valós esettanulmányokkal, moduláris epizódokkal és automatizált tesztelési eszközökkel szerezhet gyakorlati ismereteket. Megismerheti az olyan témaköröket, mint a gyors injektálási támadások, a többfordulós támadási technikák és a méretezhető védelmi módszerek, amelyek javítják az AI biztonsági szakértelmét.

Miért érdemes megnézni ezt a betanítási sorozatot?

Hasznos tanácsokat kaphat a generatív AI-rendszerek kritikus biztonsági réseinek azonosításához, kihasználásához és védelméhez. Ismerje meg a legjobb gyakorlatokat, technikákat és útmutatást, amelyeket a Microsoft AI Red Team valódi tapasztalatai alapján dolgoztak ki.

Kinek érdemes megnéznie ezt a betanítási sorozatot?

A képzési sorozat a biztonsági csapatok, az ML-mérnökök, az AI-szakemberek és az AI-val dolgozó üzleti vezetők számára hasznos. Elsősorban a következő kérdésekre összpontosít:

  • Biztonsági szakemberek: megismerheti az AI-specifikus támadásvektorokat és védelmi stratégiákat.
  • Gépi tanulási szakemberek és AI-mérnökök: biztonsági tesztelés hozzáadása az AI fejlesztési munkafolyamataihoz.
  • Vállalati és biztonsági tervezők: biztonságos AI-rendszereket hozhat létre, és felfedezheti a felmerülő fenyegetéseket.

Jótanács

Az AI Red Teaming 101 videó moduláris, így bármely érdekes szakaszra ugorhat, vagy az elején kezdheti, és megnézheti az összeset. Töltse le a diákat, és kövesse a saját tempójában.

A betanítási sorozat újdonságai

A képzési sorozat útmutatást nyújt a generatív AI-biztonsági rések megértéséhez, a támadási technikák végrehajtásához és a védelmi intézkedések végrehajtásához. A workshop gyakorlati bemutatókat, valós esettanulmányokat és automatizált tesztelési eszközöket tartalmaz, amelyek a Microsoft éles AI-biztonsági gyakorlatán alapulnak.

Jótanács

Minden epizód tartalmaz gyakorlati bemutatókat és hozzáférést a Microsoft red teaming laboratóriumaihoz, a gyakorlati tapasztalatok megszerzése érdekében.

Bevezetés és alapismeretek

1. epizód: Mi az AI red teaming? - Bevezetés az AI red teaming alapjaiba, a generatív AI főbb kockázataival és a Microsoft AI red csapatának küldetésével

2. epizód: A Generatív AI-modellek működése – A modellarchitektúra, a betanítási szakaszok és a modellek egyedi biztonsági kockázatainak ismertetése

A. rész – Alapvető támadási technikák

3. epizód: A közvetlen gyors injektálás magyarázata – Hogyan manipulálják a támadók a modell viselkedését rosszindulatú utasítások beadásával, beleértve a valós esettanulmányokat, például az $1 SUV csevegőrobot támadást

Episode 4: Indirect Prompt Injection Explained – Lopakodó támadások, amelyekben rosszindulatú utasítások rejtve vannak külső adatforrásokban, például e-mailekben, webhelyeken vagy adatbázisokban

5. epizód: Single-Turn támadások – Fejlett utasítás tervezési technikák, beleértve a persona hackelést, az érzelmi manipulációt és a filtráció kijátszását kódolási trükkökkel

Episode 6: Multi-Turn Attacks - technikák, mint a Skeleton Key és a Crescendo, amelyek fokozatosan egyre inkább arra irányítják a modelleket, hogy megkerüljék a biztonsági védelmeket.

B. rész – Védelem és kockázatcsökkentés

7. epizód: Támadások elleni védelem – Kockázatcsökkentési stratégiák és védőkorlát technikák, beleértve a Microsoft reflektorfénybe helyező védelmi módszereit (elválasztó, adatjelölő és kódolás)

C. rész – Automatizálás és méretezés

8. epizód: Az AI red teaming és a PyRIT automatizálása – Bevezetés a Microsoft nyílt forráskódú eszközének a generatív AI-rendszerek támadó tesztelésének automatizálásához és skálázásához, a Python-kockázatazonosítási eszközhöz (PyRIT)

9. epizód: Single-Turn támadások automatizálása – Az adathalmazok, a célok és a pontozási logika konfigurálásának gyakorlati bemutatása, amely egyszerre több kérdést is elküld a PyRIT használatával

10. epizód: Többfordulós támadások automatizálása – Fejlett automatizálási technikák többfordulós beszélgetésekhez, beleértve a támadómodell-beszélgetéseket, valamint a szöveg- és képgenerálási rendszerek tesztelését

Amit tanulsz

A betanítási sorozat befejezése után a következőt fogja megérteni:

  • Az AI csapatozás alapjai a hagyományos csapatozási megközelítésekkel szemben.
  • Alapvető biztonsági rések a generatív AI-rendszerekben, például a gyors injektálás és a modelleligazítás
  • Támadási technikák, az egyszerű gyors manipulációtól a kifinomult, többfordulós támadó stratégiákig
  • Védelmi stratégiák, beleértve az olyan bevált kockázatcsökkentési technikákat, mint a Microsoft reflektorfénybe helyezése
  • Automatizálási eszközök a red teaming erőfeszítések skálázására PyRIT és más nyílt forráskódú eszközök használatával
  • Valódi világ alkalmazások laboratóriumi gyakorlatokkal és esettanulmányokkal a Microsoftnak az AI biztonság terén végzett termelési munkájából

Kapcsolódó tartalom

  • Last updated on