Модерация с помощью настраиваемых списков терминов в консоли API

Стандартный глобальный список терминов в Azure Content Moderator достаточен для большинства задач модерации контента. Тем не менее может потребоваться проверка специальных терминов, относящихся к вашей организации. Например, может потребоваться добавить теги с названиями конкурентов для более тщательной проверки.

Используйте API управления списками, чтобы создать настраиваемые списки терминов, используемые в API модерации текста. Операция Text - Screen проверяет текст на наличие ненормативной лексики и сравнивает его с пользовательскими и общими списками запрещенных терминов.

Примечание.

Существует максимальное ограничение в 5 списков терминов, каждый из которых может содержать не более 10 000 терминов.

API управления списками можно использовать для выполнения следующих задач:

• Создание списка
• добавление терминов в список;
• проверка терминов по списку;
• удаление терминов из списка;
• удаление списка;
• изменение сведений о списке;
• обновление индекса для того, чтобы изменения в списке были учтены при новой проверке.

Использование консоли API

Прежде чем можно будет опробовать API в веб-консоли, необходимо получить ключ подписки. Этот ключ указан на вкладке Settings (Параметры) в поле Ocp-Apim-Subscription-Key. Дополнительные сведения см. в этом обзоре.

Обновление индекса поиска

После внесения изменений в список терминов необходимо обновить его индекс, чтобы эти изменения учитывались в будущих проверках. Точно так же поисковая система на компьютере (если она включена) или поисковая система в Интернете постоянно обновляет свой индекс, чтобы добавлять новые файлы или страницы.

1. В справочнике по API управления списками терминов в левом меню выберите Term Lists (Списки терминов) > Refresh Search Index (Обновить индекс поиска).

   Откроется страница Term Lists - Refresh Search Index (Списки терминов — обновление индекса поиска).

2. Для параметра Open API testing console (Открытая тестовая консоль API) выберите регион, лучше всего подходящий для вашего расположения.

   

   Откроется консоль API Term Lists - Refresh Search Index (Списки терминов — обновление индекса поиска).

3. В поле listId введите идентификатор списка. Введите ключ подписки, а затем щелкните Send (Отправить).

   

Создание списка терминов

1. Перейдите к справочнику по API управления списками терминов.

   Откроется страница Term Lists - Create (Списки терминов — создание).

2. Для параметра Open API testing console (Открытая тестовая консоль API) выберите регион, лучше всего подходящий для вашего расположения.

   

   Откроется консоль API Term Lists - Create (Списки терминов — создание).

3. В поле Ocp-Apim-Subscription-Key введите свой ключ подписки.

4. В поле Request body (Текст запроса) введите значения параметров Name (Имя) (например, MyList) и Description (Описание).

   

5. Используйте заполнители пар "ключ-значение", чтобы назначить более понятные метаданные для списка.

   {
       "Name": "MyExclusionList",
       "Description": "MyListDescription",
       "Metadata": 
       {
           "Category": "Competitors",
           "Type": "Exclude"
       }
   }
   

   Добавьте метаданные списка в виде пар "ключ-значение", а не фактических терминов.

6. Выберите Отправить. Будет создан список. Запишите значение ID (Идентификатор) этого нового списка. Этот идентификатор необходим для других функций управления списками терминов.

   

7. Добавьте термины в список MyList. В левом меню в разделе Term (Термин) выберите Add Term (Добавить термин).

   Откроется страница Term - Add Term (Термин — добавление термина).

8. Для параметра Open API testing console (Открытая тестовая консоль API) выберите регион, лучше всего подходящий для вашего расположения.

   

   Откроется консоль API Term - Add Term (Термин — добавление термина).

9. В поле listId введите полученный идентификатор списка и выберите значение параметра language. Введите ключ подписки, а затем щелкните Send (Отправить).

   

10. Чтобы убедиться, что термин добавлен в список, в левом меню выберите Term (Термин), а затем выберите Get All Terms (Получить все термины).

    Откроется консоль API Term - Get All Terms (Термин — получение всех терминов).

11. В поле listId введите идентификатор списка, а затем введите свой ключ подписки. Выберите Отправить.

12. В поле Response content (Содержимое ответа) проверьте введенные термины.

    

13. Добавьте еще несколько терминов. Теперь, когда вы создали настраиваемый список терминов, попробуйте проверить какой-нибудь текст, используя этот список.

Удаление терминов и списков

Удалить термин или список достаточно просто. С помощью API можно выполнить следующие задачи:

• удаление термина (страница Term - Delete (Термин — удаление));
• удаление всех терминов в списке без удаления самого списка (страница Term - Delete All Terms (Термин — удаление всех терминов));
• удаление списка и всего его содержимого (страница Term Lists - Delete (Списки терминов — удаление)).

В этом примере удаляется один термин.

1. В справочнике по API управления списками терминов в левом меню выберите Term (Термин) > Delete (Удалить).

   Откроется страница Term - Delete (Термин — удаление).

2. Для параметра Open API testing console (Открытая тестовая консоль API) выберите регион, лучше всего подходящий для вашего расположения.

   

   Откроется консоль API Term - Delete (Термин — удаление).

3. В поле listId введите идентификатор списка, из которого вы хотите удалить термин. Этим идентификатором является номер (в нашем примере — 122), возвращаемый консолью Term Lists - Get Details (Списки терминов — получение сведений) для MyList. Введите термин и выберите нужный язык.

   

4. Введите ключ подписки, а затем щелкните Send (Отправить).

5. Чтобы убедиться, что термин удален, используйте консоль Term Lists - Get All (Списки терминов — получение всех).

   

Изменение сведений о списке

Можно изменить имя и описание списка, а также добавить элементы метаданных.

1. В справочнике по API управления списками терминов в левом меню выберите Term Lists (Списки терминов) > Update Details (Обновить сведения).

   Откроется страница Term Lists - Update Details (Списки терминов — обновление сведений).

2. Для параметра Open API testing console (Открытая тестовая консоль API) выберите регион, лучше всего подходящий для вашего расположения.

   

   Откроется консоль API Term Lists - Update Details (Списки терминов — обновление сведений).

3. В поле listId введите идентификатор списка, а затем введите свой ключ подписки.

4. В поле Request body (Текст запроса) внесите необходимые изменения, затем щелкните Send (Отправить).

   

Следующие шаги

Используйте в коде REST API или начните с краткого руководства по работе со списками терминов с помощью .NET, чтобы интегрировать эту функцию в приложение.