Поделиться через

Краткое руководство. Обнаружение защищенного материала (предварительная версия)

  • Статья

Защищенный текст материала описывает язык, соответствующий известному тексту (например, текст песни, статьи, рецепты, выбранное веб-содержимое). Эту функцию можно использовать для идентификации и блокировки известного текстового содержимого от отображения в выходных данных языковой модели (только на английском языке).

Необходимые компоненты

  • подписка Azure — создайте бесплатную учетную запись.
  • После получения подписки Azure создайте ресурс безопасности содержимого в портал Azure, чтобы получить ключ и конечную точку. Введите уникальное имя ресурса, выберите подписку и выберите группу ресурсов, поддерживаемый регион (см . доступность региона) и поддерживаемую ценовую категорию. Затем выберите Создать.
    • Развертывание ресурса занимает несколько минут. После завершения выберите ресурс. В области слева в разделе "Управление ресурсами" выберите "Ключ подписки" и "Конечная точка". Конечная точка и любой из ключей используются для вызова API.
  • Установленная программа cURL.

Анализ текста для обнаружения защищенных материалов

В следующем разделе описывается пример запроса с cURL. Вставьте приведенную ниже команду в текстовый редактор и внесите следующие изменения.

  1. Замените <endpoint> URL-адрес конечной точки, связанный с ресурсом.
  2. Замените <your_subscription_key> одним из ключей, которые входят в ваш ресурс.
  3. При необходимости замените "text" поле в тексте собственным текстом, который вы хотите проанализировать.

    Совет

    См . сведения о требованиях к входным данным для ограничений максимальной длины текста. Защищенное обнаружение материалов предназначено для выполнения в завершениях LLM, а не в запросах пользователей.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine, they\'re yours, they\'re mine. and love can come to everyone, the best things in life are"
}'

Следующие поля должны быть включены в URL-адрес:

имени Обязательно Описание Тип
Версия API Обязательное поле Это проверяемая версия API. Текущая версия: api-version=2023-10-15-preview. Пример: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview Строка

Параметры в тексте запроса определяются в этой таблице:

имени Обязательно Описание Тип
text Обязательное поле Это необработанный текст для проверки. Другие символы, отличные от ascii, могут быть включены. Строка

См. следующий пример текста запроса:

{
  "text": "string"
}

Откройте окно командной строки и выполните команду cURL.

Интерпретация ответа API

Результаты обнаружения защищенных материалов отображаются в виде данных JSON в выходных данных консоли. Например:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Поля JSON в выходных данных определяются здесь:

Имя Описание Тип
protectedMaterialAnalysis Каждый выходной класс, прогнозируемый API. Строка
Обнаружены Обнаружен ли защищенный материал. Логический

Очистка ресурсов

Если вы хотите очистить и удалить подписку на службы искусственного интеллекта Azure, можно удалить ресурс или группу ресурсов. При удалении группы ресурсов также удаляются все связанные с ней ресурсы.

Следующие шаги

Настройте фильтры для каждой категории и проверьте наборы данных с помощью Content Safety Studio, экспортируйте код и разверните его.

Краткое руководство по Content Safety Studio