Guia de início rápido: detetar material protegido (visualização)

Artigo
05/30/2024

O texto do material protegido descreve o idioma que corresponde ao conteúdo de texto conhecido (por exemplo, letras de músicas, artigos, receitas, conteúdo da Web selecionado). Esse recurso pode ser usado para identificar e bloquear a exibição de conteúdo de texto conhecido na saída do modelo de idioma (somente conteúdo em inglês).

Pré-requisitos

Uma assinatura do Azure - Crie uma gratuitamente
Depois de ter sua assinatura do Azure, crie um recurso de Segurança de Conteúdo no portal do Azure para obter sua chave e ponto de extremidade. Introduza um nome exclusivo para o seu recurso, selecione a sua subscrição e selecione um grupo de recursos, uma região suportada (consulte Disponibilidade da região) e um escalão de preços suportado. Depois, selecione Criar.
- O recurso leva alguns minutos para ser implantado. Depois que terminar, selecione ir para recurso. No painel esquerdo, em Gerenciamento de Recursos, selecione Chave de Assinatura e Ponto de Extremidade. O ponto de extremidade e qualquer uma das chaves são usados para chamar APIs.
cURL instalado

Analise o texto para deteção de material protegido

A seção a seguir percorre uma solicitação de exemplo com cURL. Cole o comando abaixo em um editor de texto e faça as seguintes alterações.

Substitua <endpoint> pela URL do ponto de extremidade associada ao seu recurso.
Substitua <your_subscription_key> por uma das chaves que acompanham o recurso.
Opcionalmente, substitua o "text" campo no corpo pelo seu próprio texto que você gostaria de analisar.

Gorjeta

Tamanho e granularidade do texto

O comprimento máximo padrão para envios de texto é de 1K caracteres. O comprimento mínimo é de 111 caracteres. A deteção de material protegido destina-se a ser executada em finalizações LLM, não em prompts do usuário.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine, they\'re yours, they\'re mine. and love can come to everyone, the best things in life are"
}'

Os campos abaixo devem ser incluídos no url:

Nome	Obrigatório	Description	Type
Versão da API	Necessário	Esta é a versão da API a ser verificada. A versão atual é: api-version=2023-10-15-preview. Exemplo: `<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview`	String

Os parâmetros no corpo da solicitação são definidos nesta tabela:

Nome	Obrigatório	Description	Type
texto	Necessário	Este é o texto bruto a ser verificado. Outros caracteres não-ascii podem ser incluídos.	String

Consulte o seguinte corpo de solicitação de exemplo:

{
  "text": "string"
}

Abra uma janela de prompt de comando e execute o comando cURL.

Interpretar a resposta da API

Você deve ver os resultados da deteção de material protegido exibidos como dados JSON na saída do console. Por exemplo:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Os campos JSON na saída são definidos aqui:

Nome	Descrição	Type
protectedMaterialAnalysis	Cada classe de saída que a API prevê.	String
detetada	Se o material protegido foi detetado ou não.	Boolean

Clean up resources (Limpar recursos)

Se quiser limpar e remover uma assinatura de serviços do Azure AI, você pode excluir o recurso ou grupo de recursos. A exclusão do grupo de recursos também exclui quaisquer outros recursos associados a ele.

Próximos passos

Configure filtros para cada categoria e teste em conjuntos de dados usando o Content Safety Studio, exporte o código e implante.

Guia de início rápido do Content Safety Studio

Partilhar via