ProtectedMaterialEvaluator Classe
Definição
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Um IEvaluator que utiliza o serviço de Avaliação Azure AI Foundry para avaliar respostas produzidas por um modelo de IA para a presença de material protegido.
public ref class ProtectedMaterialEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class ProtectedMaterialEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ProtectedMaterialEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class ProtectedMaterialEvaluator
Inherits ContentSafetyEvaluator- Herança
Observações
Material protegido inclui qualquer texto que esteja sob direitos de autor, incluindo letras de músicas, receitas e artigos. Note que ProtectedMaterialEvaluator também pode detetar material protegido presente dentro do conteúdo da imagem nas respostas avaliadas. Os formatos de ficheiro suportados incluem JPG/JPEG, PNG e GIF, e a avaliação pode detetar obras de arte protegidas por direitos de autor, personagens fictícias, logótipos e marcas registadas. Outras modalidades, como áudio e vídeo, atualmente não são suportadas.
ProtectedMaterialEvaluator devolve a BooleanMetric com um valor de true indicando a presença de material protegido na resposta, e um valor de false indicando a ausência de material protegido.
Construtores
| Name | Descrição |
|---|---|
| ProtectedMaterialEvaluator() |
Um IEvaluator que utiliza o serviço de Avaliação Azure AI Foundry para avaliar respostas produzidas por um modelo de IA para a presença de material protegido. |
Propriedades
| Name | Descrição |
|---|---|
| EvaluationMetricNames |
Obtém o Names do EvaluationMetrics produzido por isto IEvaluator. (Herdado de ContentSafetyEvaluator) |
| ProtectedArtworkMetricName |
Recebe o Name de devolvido BooleanMetric por ProtectedMaterialEvaluator indicar a presença de material protegido em obras de arte em imagens. |
| ProtectedFictionalCharactersMetricName |
Obtém o Name de devolvido BooleanMetric por ProtectedMaterialEvaluator indicar a presença de personagens fictícias protegidas em imagens. |
| ProtectedLogosAndBrandsMetricName |
Recebe o Name de devolvido BooleanMetric por ProtectedMaterialEvaluator indicar a presença de logótipos e marcas protegidos nas imagens. |
| ProtectedMaterialMetricName |
Obtém o Name de devolvido BooleanMetric por ProtectedMaterialEvaluator por indicar a presença de material protegido em respostas. |
Métodos
| Name | Descrição |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Avalia o fornecido |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador até |
