Overzicht van tekstbeheer

  • 4 minuten

Wanneer u geautomatiseerd inhoudsbeheer gebruikt, kunt u de inhoud blokkeren, goedkeuren of controleren op basis van uw beleid en drempelwaarden. U kunt automatisering gebruiken om menselijk toezicht te verbeteren in omgevingen waar partners, werknemers en klanten tekstinhoud genereren. Deze plaatsen zijn onder andere:

  • Chatruimten
  • Discussieforums
  • Chatbots
  • E-commerce-catalogi
  • Documenten

Het antwoord van de tekstbeheer-API bevat de volgende informatie:

  • Een lijst van mogelijk ongewenste woorden die in de tekst worden gevonden.
  • Welk type potentieel ongewenste woorden zijn gevonden.
  • Mogelijke persoonsgegevens in de tekst.

Aanstootgevend taalgebruik

Wanneer u tekst doorgeeft aan de API, worden eventuele aanstootgevende termen in de tekst geïdentificeerd en in een JSON-antwoord geretourneerd. Het aanstootgevende item wordt geretourneerd als een Term in het JSON-antwoord, samen met een indexwaarde van waar de term zich bevindt in de opgegeven tekst.

U kunt ook aangepaste terminologielijsten gebruiken met deze API. Als in dat geval een scheldwoord wordt geïdentificeerd in de tekst, wordt er ook een ListId geretourneerd om de aangepaste termenlijst te identificeren die is gebruikt. De combinatie van het ListID en Term, identificeer het specifieke aangepaste woord dat is gevonden. Hier ziet u een voorbeeld van een JSON-antwoord:

"Terms": [
{
    "Index": 118,
    "OriginalIndex": 118,
    "ListId": 0,
    "Term": "crap"
}

Classificatie

Deze functie van de API kan tekst plaatsen in specifieke categorieën op basis van de volgende specificaties:

  • Categorie 1: Mogelijke aanwezigheid van taal die in bepaalde situaties als seksueel expliciet of volwassen kan worden beschouwd.
  • Categorie 2: Mogelijke aanwezigheid van taal die in bepaalde situaties als seksueel suggestief of volwassen kan worden beschouwd.
  • Categorie 3: Mogelijke aanwezigheid van taal die in bepaalde situaties als aanstootgevend kan worden beschouwd.

Wanneer het JSON-antwoord wordt geretourneerd, bevat dit antwoord een Booleaanse waarde voor een aanbevolen beoordeling van de tekst. Indien true, dient u de inhoud handmatig te controleren om de mogelijke aanwezigheid van problemen te bepalen.

Elke categorie wordt ook geretourneerd met een score tussen 0 en 1 om de voorspelde categorie aan te geven voor de geëvalueerde tekst. Hoe hoger de score, hoe groter de kans is dat de categorie van toepassing is. Hier volgt een voorbeeld van een JSON-antwoord:

"Classification": {
    "ReviewRecommended": true,
    "Category1": {
        "Score": 0.99756889843889822
        },
    "Category2": {
        "Score": 0.12747249007225037
        },
    "Category3": {
        "Score": 0.98799997568130493
    }
}

Persoonlijke gegevens

Persoonlijke gegevens zijn van cruciaal belang in veel toepassingen. Met deze functie van de API kunt u detecteren of waarden in de tekst als persoonlijke gegevens kunnen worden beschouwd voordat u deze openbaar vrijgeeft. Belangrijke aspecten die worden gedetecteerd, zijn onder andere:

  • E-mailadressen
  • Postadressen in de VS
  • IP-adressen
  • Telefoonnummers in de VS
  • Telefoonnummers in het VK
  • Sofinummers

Indien mogelijk worden persoonsgegevens gevonden, bevat het JSON-antwoord relevante informatie over de tekst en de indexlocatie in de tekst. Hier ziet u een voorbeeld van een JSON-antwoord:

"PII": {
    "Email": [{
        "Detected": "abcdef@abcd.com",
        "SubType": "Regular",
        "Text": "abcdef@abcd.com",
        "Index": 32
        }],
    "IPA": [{
        "SubType": "IPV4",
        "Text": "255.255.255.255",
        "Index": 72
        }],
    "Phone": [{
        "CountryCode": "US",
        "Text": "5557789887",
        "Index": 56
        }, {
        "CountryCode": "UK",
        "Text": "+44 123 456 7890",
        "Index": 208
        }],
    "Address": [{
        "Text": "1 Microsoft Way, Redmond, WA 98052",
        "Index": 89
        }],
    "SSN": [{
        "Text": "999-99-9999",
        "Index": 267
        }]
    }