Einführung
Sie haben erfahren, welche Arten von Angriffen auf KI-Systeme abzielen und welche Sicherheitskontrollen Sie implementieren können, um diese zu schützen. Wenn Sie jedoch wissen, dass Sicherheitsrisiken vorhanden sind und wissen, wie Sie sie finden können, bevor Angreifer vorgehen, sind zwei verschiedene Fähigkeiten. Hier kommen KI-Sicherheitstests ins Spiel.
KI-Sicherheitstests , insbesondere KI-rotes Teaming, ist der Prozess des Testens von KI-Systemen mit adversarialen Techniken, um Sicherheitsrisiken zu erkennen, bevor sie ausgenutzt werden können. Es ist eine erforderliche Praxis in jedem verantwortungsvollen KI-Entwicklungslebenszyklus, und es funktioniert anders als herkömmliche Penetrationstests in der Art und Weise, wie Sie sie planen und ausführen.
In diesem Modul erfahren Sie, was das rote KI-Teaming ist und warum es sich von herkömmlichen Sicherheitstests unterscheidet, die drei Kategorien der in der Praxis verwendeten KI-roten Teaming und wie Sie eine rote Teamübung für eine LLM- oder KI-fähige Anwendung in Ihrer Organisation planen.
Lernziele
Am Ende dieses Moduls können Sie:
- Beschreiben, was KI-rotes Team ist und wie es sich von herkömmlichen roten Sicherheitsteams unterscheidet
- Identifizieren Sie die drei Kategorien des KI-Red-Teamings und die Fähigkeiten, die jeweils erforderlich sind.
- Planen einer AI Red Teaming-Übung, einschließlich Teamzusammensetzung und Testmethodik
- Beschreiben, wie automatisierte Rote Teaming-Tools manuelle Tests ergänzen
Voraussetzungen
Den besten Lernerfolg in diesem Modul erzielen Sie, wenn Sie über Kenntnisse und Erfahrung in den folgenden Bereichen verfügen:
- Grundlegende Sicherheitskonzepte (z. B. Authentifizierung, Zugriffssteuerung, Verschlüsselung)
- Grundlegende KI-Konzepte (z. B. Modelle, Schulungen, Rückschlüsse)
- Die Arten von KI-Angriffen, die im Modul Grundlagen der KI-Sicherheit behandelt werden
- Die KI-Sicherheitskontrollen, die im Modul KI-Sicherheitskontrollen behandelt werden