Поделиться через

Краткое руководство. Модерация текста и изображений с безопасностью содержимого в Azure AI Studio

  • Статья

Внимание

Некоторые функции, описанные в этой статье, могут быть доступны только в предварительной версии. Эта предварительная версия предоставляется без соглашения об уровне обслуживания, и мы не рекомендуем ее для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования Предварительных версий Microsoft Azure.

В этом кратком руководстве вы используете службу содержимого ИИ Azure Сейф ty в Azure AI Studio для модерации текста и изображений. Безопасность контента обнаруживает вредоносный контент, созданный пользователями и искусственным интеллектом, в приложениях и службах.

Внимание

Некоторые примеры содержимого, предоставленного Azure AI Studio, могут быть оскорбительными. Примеры изображений по умолчанию размыты. Рекомендуется использовать усмотрение пользователя.

Необходимые компоненты

  • подписка Azure — создайте бесплатную учетную запись.
  • После создания подписки Azure создайте ресурс Content Сейф ty в портал Azure, чтобы получить ключ и конечную точку. Введите уникальное имя ресурса, выберите подписку и выберите группу ресурсов, поддерживаемый регион и поддерживаемую ценовую категорию. Затем выберите Создать.
  • Центр AI Studio в Azure AI Studio.

Установка

  1. Войдите в Azure AI Studio.
  2. Выберите концентратор, в который вы хотите работать.
  3. В меню навигации слева выберите службы ИИ. Выберите панель "Содержимое" Сейф ty. Снимок экрана: выбрана панель содержимого Azure AI Studio Сейф ty.

Умеренный текст или изображения

Выберите одну из следующих вкладок, чтобы приступить к работе с контентом Сейф ty в Azure AI Studio.

Azure AI Studio предоставляет возможность быстро попробовать модерацию текста. Функция умеренного текстового содержимого учитывает различные факторы, такие как тип контента , политики платформы и потенциальное влияние на пользователей. Выполнение тестов модерации для примера содержимого. Затем настройте фильтры для дальнейшей настройки результатов теста. Вы также можете использовать блок-список для добавления определенных терминов, с которыми требуется обнаружить и действовать.

  1. Выберите панель "Умеренное текстовое содержимое" на странице "Содержимое Сейф ty" в Azure AI Studio.
  2. Выберите ресурс служб ИИ или имя ресурса Сейф содержимого из раскрывающегося меню.
  3. Вы можете выбрать предварительно написанный текстовый пример или написать собственный пример текста в поле ввода.
  4. При необходимости настройте фильтры содержимого на вкладке "Настройка фильтров ". Используйте ползунки, чтобы определить, какой уровень серьезности в каждой категории должен отклоняться моделью. Служба по-прежнему возвращает все обнаруженные категории вреда, а также уровень серьезности для каждого (0-Сейф, 2-Низкий, 4-Средний, 6-Высокий), но результат "Разрешенный/заблокирован" зависит от того, как настроить фильтр.
  5. При необходимости настройте список блоков с помощью вкладки "Использовать блок-список ". Вы можете выбрать список блокировок, который вы уже создали или создать здесь. Нажмите кнопку "Изменить", чтобы добавить и удалить термины. Вы можете сложить несколько списков блокировок в одном фильтре.
  6. Когда фильтры будут готовы, выберите "Выполнить тест".

Просмотр и экспорт кода

Вы можете использовать кнопку "Просмотр кода" в верхней части страницы в сценариях умеренного текстового содержимого и умеренного содержимого изображения для просмотра и копирования примера кода, включающего конфигурацию для фильтрации серьезности, блок-списков и функций модерации. Затем можно развернуть код в собственном приложении.

Очистка ресурсов

Чтобы избежать ненужных затрат Azure, следует удалить ресурсы, созданные в этом кратком руководстве, если они больше не нужны. Для управления ресурсами можно использовать портал Azure.

Следующие шаги