Поделиться через

Пользовательские категории (быстрые)

  • Статья

В сценариях кон режим палатки мерации пользовательские категории (быстрые) — это процесс выявления, анализа, сдерживания, искоренения и восстановления от кибер-инцидентов, которые включают неуместное или вредное содержимое на онлайн-платформах.

Инцидент может включать набор новых шаблонов содержимого (текст, изображение или другие модальности), которые нарушают правила сообщества Майкрософт или собственные политики и ожидания клиентов. Эти инциденты необходимо быстро и точно устранить, чтобы избежать потенциальных проблем с веб-сайтом или вреда пользователям и общинам.

Функции API пользовательских категорий (быстрые)

Одним из способов борьбы с возникающими инцидентами содержимого является использование блок-списков, но это позволяет точно совпадать с текстом и без сопоставления изображений. API содержимого ИИ Azure Сейф ty настраиваемых категорий (быстрых) предлагает следующие расширенные возможности:

  • сопоставление семантического текста с помощью внедрения поиска с упрощенным классификатором
  • сопоставление изображений с упрощенной моделью отслеживания объектов и внедрением поиска.

Принцип работы

Сначала вы используете API для создания объекта инцидента с описанием. Затем к инциденту добавляется любое количество изображений или текстовых примеров. Нет необходимости в обучении.

Затем можно включить определенный инцидент в обычный запрос анализа текста или анализа изображений. Служба будет указывать, является ли отправленное содержимое экземпляром инцидента. Служба по-прежнему может выполнять другие задачи con режим палатки ration в том же вызове API.

Ограничения

Доступность языка

API пользовательских категорий текста (быстрый) поддерживает все языки, поддерживаемые модерированием содержимого Сейф сти текста. См. статью Поддержка языка.

Ограничения ввода

См. следующую таблицу для ограничений ввода пользовательского API категорий (быстрых).

Object Ограничение
Максимальная длина имени инцидента 100 символов
Максимальное количество примеров текста и изображения на инцидент 1000
Максимальный размер каждого примера Текст: 500 символов
Изображение: 4 МБ
Максимальное количество инцидентов текста или изображения на ресурс 100
Поддерживаемые форматы изображений BMP, GIF, JPEG, PNG, TIF, WEBP

Доступность по регионам

Чтобы использовать этот API, необходимо создать ресурс содержимого ИИ Azure Сейф ty в одном из поддерживаемых регионов. См . сведения о доступности региона.

Следующие шаги

Следуйте инструкциям по использованию API содержимого ИИ Azure Сейф ty настраиваемых категорий (быстрых).