Poznaj pojęcia dotyczące moderowania obrazów

  • Artykuł

Użyj moderowania obrazu wspomaganego przez maszynę usługi Content Moderator, aby moderować obrazy dla treści dla dorosłych i rasistowskich. Skanuj obrazy pod kątem zawartości tekstowej i wyodrębniaj ten tekst oraz wykrywa twarze. Obrazy można dopasować do list niestandardowych i podjąć dalsze działania.

Ocenianie zawartości dla dorosłych i rasistowskich

Operacja Evaluate zwraca wynik ufności z zakresu od 0 do 1. Zwraca również dane logiczne równe true lub false. Te wartości przewidują, czy obraz zawiera potencjalną zawartość dla dorosłych, czy rasistowską. Po wywołaniu interfejsu API za pomocą obrazu (pliku lub adresu URL) zwrócona odpowiedź zawiera następujące informacje:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Uwaga

  • Obiekt isImageAdultClassified reprezentuje potencjalną obecność obrazów, które mogą być uznane za seksualne lub zawierające treści dla dorosłych w niektórych sytuacjach.
  • Obiekt isImageRacyClassified reprezentuje potencjalną obecność obrazów, które mogą być uznane za potencjalnie seksualne lub zawierające treści dla dorosłych w niektórych sytuacjach.
  • Wyniki mają od 0 do 1. Im wyższy wynik, tym wyższy model przewiduje, że kategoria może być odpowiednia. Ta wersja zapoznawcza opiera się na modelu statystycznym, a nie na ręcznie zakodowanych wynikach. Zalecamy testowanie z własną zawartością, aby określić, jak każda kategoria jest zgodna z wymaganiami.
  • Wartości logiczne są prawdziwe lub fałszywe w zależności od wewnętrznych progów oceny. Klienci powinni ocenić, czy należy użyć tej wartości, czy też zdecydować o progach niestandardowych na podstawie zasad zawartości.

Wykrywanie tekstu za pomocą optycznego rozpoznawania znaków (OCR)

Operacja optycznego rozpoznawania znaków (OCR) przewiduje obecność zawartości tekstowej na obrazie i wyodrębnia ją na potrzeby moderowania tekstu, między innymi. Możesz określić język. Jeśli nie określisz języka, wykrywanie jest domyślne dla języka angielskiego.

Odpowiedź zawiera następujące informacje:

  • Oryginalny tekst.
  • Wykryte elementy tekstowe z wynikami ufności.

Przykładowy wyodrębnianie:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Wykrywanie twarzy

Wykrywanie twarzy pomaga wykrywać dane osobowe, takie jak twarze na obrazach. Wykrywasz potencjalne twarze i liczbę potencjalnych twarzy na każdym obrazie.

Odpowiedź zawiera następujące informacje:

  • Liczba twarzy
  • Lista lokalizacji wykrytych twarzy

Przykładowy wyodrębnianie:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Tworzenie list niestandardowych i zarządzanie nimi

W wielu społecznościach online po przekazaniu obrazów lub innego typu zawartości obraźliwe elementy mogą być udostępniane wiele razy w ciągu następnych dni, tygodni i miesięcy. Koszty wielokrotnego skanowania i filtrowania tego samego obrazu, a nawet nieznacznie zmodyfikowane wersje obrazu z wielu miejsc mogą być kosztowne i podatne na błędy.

Zamiast moderować ten sam obraz wiele razy, można dodać obraźliwe obrazy do niestandardowej listy zablokowanej zawartości. W ten sposób system moderowania zawartości porównuje obrazy przychodzące z listami niestandardowymi i zatrzymuje dalsze przetwarzanie.

Uwaga

Istnieje maksymalny limit wynoszący 5 list obrazów, a poszczególne listy nie mogą przekraczać 10 000 obrazów.

Usługa Content Moderator udostępnia kompletny interfejs API zarządzania listami obrazów z operacjami do zarządzania listami obrazów niestandardowych. Zacznij od konsoli interfejsu API list obrazów i użyj przykładów kodu interfejsu API REST. Zapoznaj się również z przewodnikiem Szybki start lista obrazów platformy .NET , jeśli znasz program Visual Studio i język C#.

Dopasowywanie do list niestandardowych

Operacja Dopasowania umożliwia rozmyte dopasowywanie obrazów przychodzących do dowolnych list niestandardowych, utworzonych i zarządzanych przy użyciu operacji Listy.

Jeśli zostanie znalezione dopasowanie, operacja zwróci identyfikator i tagi moderowania dopasowanego obrazu. Odpowiedź zawiera następujące informacje:

  • Wynik dopasowania (od 0 do 1)
  • Dopasowany obraz
  • Tagi obrazów (przypisane podczas poprzedniego moderowania)
  • Etykiety obrazów

Przykładowy wyodrębnianie:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Następne kroki

Przetestuj konsolę interfejsu API moderowania obrazów i użyj przykładów kodu interfejsu API REST.