Görüntü denetimi kavramlarını öğrenme

  • Makale

Yetişkinlere yönelik ve müstehcen içeriğe yönelik görüntüleri denetlemek için Content Moderator'ın makine destekli görüntü moderasyonu'nu kullanın. Metin içeriği için görüntüleri tarayın, bu metni ayıklayın ve yüzleri algılayın. Görüntüleri özel listelerle eşleştirebilir ve daha fazla işlem yapabilirsiniz.

Yetişkinlere yönelik ve müstehcen içerikleri değerlendirme

Evaluate işlemi 0 ile 1 arasında bir güvenilirlik puanı döndürür. Ayrıca true veya false değerine eşit boole verileri döndürür. Bu değerler, görüntünün olası yetişkinlere yönelik içerik mi yoksa müstehcen içerik mi içerdiğini tahmin eder. API'yi görüntünüzle (dosya veya URL) çağırdığınızda, döndürülen yanıt aşağıdaki bilgileri içerir:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Not

  • isImageAdultClassified, belirli durumlarda açık saçık veya yetişkinlere yönelik olarak değerlendirilebilecek görüntülerin mevcut olma olasılığını gösterir.
  • isImageRacyClassified, belirli durumlarda davetkar veya yetişkinlere yönelik olarak değerlendirilebilecek görüntülerin mevcut olma olasılığını gösterir.
  • Puanlar 0 ile 1 arasındadır. Puan ne kadar yüksek olursa model o kadar yüksek bir kategorinin uygulanabileceğini tahmin ediyordur. Bu önizleme, el ile kodlanmış sonuçlar yerine istatistiksel bir modeli kullanır. Her kategorinin gereksinimlerinize nasıl uygun olduğunu belirlemek için kendi içeriğinizle test etmenizi öneririz.
  • Boole değerleri, iç puan eşiklerine bağlı olarak true veya false değerleridir. Müşteriler bu değerin kullanılıp kullanılmayacağını değerlendirmeli veya içerik ilkelerine göre özel eşiklere karar vermelidir.

Optik Karakter Tanıma (OCR) ile metin algılama

Optik Karakter Tanıma (OCR) işlemi, bir görüntüdeki metin içeriğinin varlığını tahmin eder ve diğer kullanımların yanı sıra metin denetimi için ayıklar. Dili belirtebilirsiniz. Bir dil belirtmezseniz algılama varsayılan olarak İngilizce olur.

Yanıt aşağıdaki bilgileri içerir:

  • Özgün metin.
  • Algılanan metin öğeleri ve güvenilirlik puanları.

Örnek ayıklama:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Yüzleri algılama

Yüzleri algılamak, görüntülerdeki yüzler gibi kişisel verileri algılamaya yardımcı olur. Olası yüzleri ve her görüntüdeki olası yüz sayısını algılarsınız.

Yanıt şu bilgileri içerir:

  • Yüz sayısı
  • Algılanan yüzlerin konumlarının listesi

Örnek ayıklama:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Özel listeleri oluşturma ve yönetme

Birçok çevrimiçi toplulukta, kullanıcılar görüntüleri veya diğer içerik türlerini yükledikten sonra rahatsız edici öğeler sonraki günler, haftalar ve aylar boyunca birden çok kez paylaşılabilir. Aynı görüntüyü tekrar tekrar taramanın ve filtrelemenin veya hatta birden çok yerden görüntünün biraz değiştirilmiş sürümlerinin maliyeti pahalı ve hataya eğilimli olabilir.

Aynı görüntüyü birden çok kez denetlemek yerine, rahatsız edici görüntüleri özel engellenen içerik listenize eklersiniz. Bu şekilde, içerik denetleme sisteminiz gelen görüntüleri özel listelerinizle karşılaştırır ve daha fazla işlemeyi durdurur.

Not

Liste sayısı üst sınırı, her biri 10.000 görüntüyü aşmamak kaydıyla 5 görüntü listesidir.

Content Moderator, özel görüntü listelerini yönetme işlemlerini içeren eksiksiz bir Görüntü Listesi Yönetim API'sini sağlar. Görüntü Listeleri API Konsolu ile başlayın ve REST API kod örneklerini kullanın. Visual Studio ve C# hakkında bilginiz varsa Görüntü Listesi .NET hızlı başlangıcına da göz atın.

Özel listelerinizle eşleştirme

Eşleştirme işlemi, gelen görüntülerin Liste işlemleri kullanılarak oluşturulan ve yönetilen özel listelerinizden herhangi biriyle benzer şekilde eşleşmesine olanak tanır.

Eşleşme bulunursa, işlem eşleşen görüntünün tanımlayıcısını ve denetim etiketlerini döndürür. Yanıt şu bilgileri içerir:

  • Maç puanı (0 ile 1 arasında)
  • Eşleşen görüntü
  • Görüntü etiketleri (önceki denetim sırasında atanmış)
  • Görüntü etiketleri

Örnek ayıklama:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Sonraki adımlar

Görüntü Denetimi API'sinin konsolunu test edin ve REST API kod örneklerini kullanın.