Модерация текста с помощью консоли API

  • Статья

Используйте API модерации текста в Azure Content Moderator, чтобы проверить содержимое текста на ненормативную лексику и сравнить его с настраиваемыми и общими списками.

Получение ключа API

Прежде чем можно будет опробовать API в веб-консоли, необходимо получить ключ подписки. Он указан на вкладке Settings (Параметры) в поле Ocp-Apim-Subscription-Key. Дополнительные сведения см. в этом обзоре.

Перейдите к справочнику по API модерации текста.

Откроется страница Text - Screen (Текст — проверка).

Открытие консоли API

Для параметра Open API testing console (Открытая тестовая консоль API) выберите регион, лучше всего подходящий для вашего расположения.

Text - Screen page region selection

Откроется консоль API Text - Screen (Текст — проверка).

Выбор входных данных

Параметры

Выберите параметры запроса, которые требуется использовать при проверке текста. В этом примере используется значение по умолчанию для параметра language (Язык). Можно также оставить его пустым, так как эта операция автоматически определяет предполагаемый язык в ходе выполнения.

Примечание.

Для параметра language (язык) задайте значение eng или оставьте это поле пустым, чтобы в ответе отобразился результат classification (классификация), которая сейчас выполняется в режиме предварительной версии. Эта функция поддерживает только английский язык.

Для обнаружения ненормативной лексики укажите код ISO 639-3 для поддерживаемых языков, которые перечислены в этой статье, или оставьте это поле пустым.

Для параметров autocorrect (Автозамена), PII (Личные сведения) и classify (preview) (Классификация (предварительная версия)) выберите значение true (Истина). Оставьте поле ListId (ИД списка) пустым.

Text - Screen console query parameters

Content type

Для параметра Content-Type (Тип содержимого) выберите тип проверяемого содержимого. В этом примере используйте тип содержимого по умолчанию, text/plain. В поле Ocp-Apim-Subscription-Key введите свой ключ подписки.

Пример текста для проверки

В поле Request body (Текст запроса) введите какой-либо текст. В следующем примере показана преднамеренная опечатка в тексте.

Is this a grabage or <offensive word> email abcdef@abcd.com, phone: 4255550111, IP: 
255.255.255.255, 1234 Main Boulevard, Panapolis WA 96555.

Анализ ответа

Приведенный ниже ответ показывает различные важные сведения из API. В ответе присутствует потенциально ненормативная лексика, личные данные, результаты классификации (предварительная версия) и автоматически исправленный вариант.

Примечание.

Функция машинной классификации находится в режиме предварительной версии и поддерживает только английский язык.

{
   "original_text":"Is this a grabage or <offensive word> email abcdef@abcd.com, phone: 
   6657789887, IP: 255.255.255.255, 1 Microsoft Way, Redmond, WA 98052.",
   "normalized_text":"   grabage  <offensive word> email abcdef@abcd.com, phone: 
   6657789887, IP: 255.255.255.255, 1 Microsoft Way, Redmond, WA 98052.",
   "auto_corrected_text":"Is this a garbage or <offensive word> email abcdef@abcd.com, phone: 
   6657789887, IP: 255.255.255.255, 1 Microsoft Way, Redmond, WA 98052.",
   "status":{
      "code":3000,
      "description":"OK"
   },
   "pii":{
      "email":[
         {
            "detected":"abcdef@abcd.com",
            "sub_type":"Regular",
            "text":"abcdef@abcd.com",
            "index":32
         }
      ],
      "ssn":[

      ],
      "ipa":[
         {
            "sub_type":"IPV4",
            "text":"255.255.255.255",
            "index":72
         }
      ],
      "phone":[
         {
            "country_code":"US",
            "text":"6657789887",
            "index":56
         }
      ],
      "address":[
         {
            "text":"1 Microsoft Way, Redmond, WA 98052",
            "index":89
         }
      ]
   },
   "language":"eng",
   "terms":[
      {
         "index":12,
         "original_index":21,
         "list_id":0,
         "term":"<offensive word>"
      }
   ],
   "tracking_id":"WU_ibiza_65a1016d-0f67-45d2-b838-b8f373d6d52e_ContentModerator.
   F0_fe000d38-8ecd-47b5-a8b0-4764df00e3b5"
}

Подробное описание всех разделов в ответе JSON приведено в концептуальном руководстве Модерация текста.

Следующие шаги

Используйте в своем коде REST API или используйте Краткое руководство по работе с пакетом SDK для .NET, чтобы интегрировать эту функцию в приложение.