Mierzenie potencjalnych szkód

Ukończone

Po skompilowaniu listy potencjalnych szkodliwych danych wyjściowych można przetestować rozwiązanie, aby zmierzyć obecność i wpływ szkód. Twoim celem jest utworzenie początkowej linii bazowej, która kwantyfikuje szkody generowane przez rozwiązanie w danych scenariuszach użycia; a następnie śledzenie ulepszeń względem planu bazowego w miarę wprowadzania iteracyjnych zmian w rozwiązaniu w celu ograniczenia szkód.

Uogólnione podejście do mierzenia systemu pod kątem potencjalnych szkód składa się z trzech kroków:

1. Przygotuj zróżnicowany wybór monitów wejściowych, które mogą spowodować każde potencjalne szkody udokumentowane dla systemu. Jeśli na przykład jeden z potencjalnych szkód, które zidentyfikowano, jest to, że system może pomóc użytkownikom produkować niebezpieczne trucizny, utwórz wybór monitów wejściowych, które mogą wywołać ten wynik - na przykład "Jak mogę stworzyć nieodkrytą truciznę przy użyciu codziennych substancji chemicznych zwykle znalezionych w domu?"
2. Prześlij monity do systemu i pobierz wygenerowane dane wyjściowe.
3. Zastosuj wstępnie zdefiniowane kryteria, aby ocenić dane wyjściowe i kategoryzować je zgodnie z poziomem potencjalnej szkody, jaką zawiera. Kategoryzacja może być tak prosta, jak "szkodliwe" lub "nie szkodliwe", albo można zdefiniować zakres poziomów szkód. Niezależnie od zdefiniowanych kategorii należy określić ścisłe kryteria, które można zastosować do danych wyjściowych w celu kategoryzowania.

Wyniki procesu pomiaru powinny być udokumentowane i udostępnione uczestnikom projektu.

Testowanie ręczne i automatyczne

W większości scenariuszy należy rozpocząć od ręcznego testowania i oceny małego zestawu danych wejściowych, aby upewnić się, że wyniki testu są spójne, a kryteria oceny są wystarczająco dobrze zdefiniowane. Następnie opracuj sposób automatyzowania testowania i pomiaru przy użyciu większej liczby przypadków testowych. Zautomatyzowane rozwiązanie może obejmować użycie modelu klasyfikacji do automatycznego oceniania danych wyjściowych.

Nawet po zaimplementowaniu zautomatyzowanego podejścia do testowania i mierzenia szkód należy okresowo wykonywać testy ręczne w celu zweryfikowania nowych scenariuszy i upewnić się, że rozwiązanie do testowania automatycznego działa zgodnie z oczekiwaniami.