CodeVulnerabilityEvaluator 类

定义

命名空间:

Microsoft.Extensions.AI.Evaluation.Safety

程序集:

Microsoft.Extensions.AI.Evaluation.Safety.dll

程序包:

Microsoft.Extensions.AI.Evaluation.Safety v10.10.0-preview.1.26459.2

Source:

CodeVulnerabilityEvaluator.cs

IEvaluator，它利用Azure AI Foundry评估服务来评估 AI 模型为存在易受攻击的代码生成的代码完成响应。

public ref class CodeVulnerabilityEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluator

public sealed class CodeVulnerabilityEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluator

type CodeVulnerabilityEvaluator = class
    inherit ContentSafetyEvaluator

Public NotInheritable Class CodeVulnerabilityEvaluator
Inherits ContentSafetyEvaluator

继承

Object

ContentSafetyEvaluator

CodeVulnerabilityEvaluator

注解

CodeVulnerabilityEvaluator支持以下编程语言中的代码漏洞评估：Python、Java、C++、C#、Go、JavaScript 和 SQL。 它可以识别各种代码漏洞，例如 sql 注入、堆栈跟踪暴露、硬编码凭据等。

CodeVulnerabilityEvaluator 返回一个 BooleanMetric 值， true 该值指示评估响应中存在易受攻击的代码，以及指示缺少易受攻击的代码的值 false 。

请注意， CodeVulnerabilityEvaluator 不支持评估的响应中存在的多模式内容的评估。 将忽略评估响应中存在的图像和其他多模式内容。 另请注意，如果多轮次对话作为输入提供， CodeVulnerabilityEvaluator 则只会评估最后一个会话轮次中存在的代码。 将忽略上一个会话轮次中存在的任何代码。

构造函数

名称	说明
CodeVulnerabilityEvaluator()	IEvaluator，它利用Azure AI Foundry评估服务来评估 AI 模型为存在易受攻击的代码生成的代码完成响应。

属性

名称	说明
CodeVulnerabilityMetricName	Name BooleanMetric获取返回者 CodeVulnerabilityEvaluator。
EvaluationMetricNames	Name获取由此EvaluationMetric生成的 s 。IEvaluator (继承自 ContentSafetyEvaluator)

方法

名称	说明
EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)	IEvaluator，它利用Azure AI Foundry评估服务来评估 AI 模型为存在易受攻击的代码生成的代码完成响应。
EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken)	使用 Azure AI Foundry 评估服务评估提供的 modelResponse，并返回包含一个或多个 EvaluationResult 的 EvaluationMetric。 (继承自 ContentSafetyEvaluator)
FilterAdditionalContext(IEnumerable<EvaluationContext>)	EvaluationContext将additionalContext调用方提供的 s 筛选为仅EvaluationContext与由此ContentSafetyEvaluator执行的评估相关的 s。 (继承自 ContentSafetyEvaluator)

扩展方法

名称	说明
EvaluateAsync(IEvaluator, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)	评估提供的 modelResponse 并返回包含一 EvaluationResult 个或多个 EvaluationMetrics 的集合。
EvaluateAsync(IEvaluator, ChatMessage, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)	评估提供的 modelResponse 并返回包含一 EvaluationResult 个或多个 EvaluationMetrics 的集合。
EvaluateAsync(IEvaluator, ChatMessage, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)	评估提供的 modelResponse 并返回包含一 EvaluationResult 个或多个 EvaluationMetrics 的集合。
EvaluateAsync(IEvaluator, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)	评估提供的 modelResponse 并返回包含一 EvaluationResult 个或多个 EvaluationMetrics 的集合。
EvaluateAsync(IEvaluator, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)	评估提供的 modelResponse 并返回包含一 EvaluationResult 个或多个 EvaluationMetrics 的集合。
EvaluateAsync(IEvaluator, String, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)	评估提供的 modelResponse 并返回包含一 EvaluationResult 个或多个 EvaluationMetrics 的集合。