使用文本审核

PlayFab 群提供了与文本聊天集成的文本审核解决方案。 文本聊天可以实时审核,以筛选攻击性语言。 此功能由 Azure AI 内容安全 提供支持。 有关详细信息,请参阅 Azure AI 内容安全

语言支持

超过 100 种语言支持文本审查。 但是,无需执行任何操作即可配置文本审查的语言选择;Azure 会自动检测每个文本消息的语言。 有关支持自动检测和不雅语言筛选的支持语言的完整列表,请参阅Azure AI 内容安全支持的语言列表

启用文本审核

文本审核按聊天控件进行配置。 通过调用 PartyLocalChatControl::SetTextChatOptions() 选项 PartyTextChatOptions::FilterOffensiveText 来启用它。 启用了审查的聊天控件接收带有星号屏蔽的冒犯性字词的文本聊天。 由于每个聊天控件都启用了审查,因此你可以创建 UI 以允许用户设置自己的审查选择。 或者,可以对部分或所有用户实施审核。

若要禁用聊天控件的审查,请使用同一 PartyTextChatOptions 函数,传入不包含 FilterOffensiveText 标志的选项。

示例代码:

// Opt into moderation
myLocalChatControl->SetTextChatOptions(PartyTextChatOptions::FilterOffensiveText, nullptr);

// Opt out of moderation
myLocalChatControl->SetTextChatOptions(PartyTextChatOptions::None, nullptr);

发送和接收已审核的消息

发送到已启用审查的聊天控件的所有文本都应用了审查,而不管发件人自己的审查设置如何。 已启用审查的聊天控件收到的文本消息已 chatText 将 中的 PartyChatTextReceivedStateChange 字段替换为审查版本。

PartyChatTextReceivedStateChange 提供了更多字段来启用更复杂的方案,例如为用户提供查看未筛选文本版本的选项。 有关详细信息,请参阅 PartyChatTextReceivedStateChange 参考页。

如果由于服务错误或服务认为该文本具有冒犯性而无法识别特定术语而导致短信审查失败,则整个文本消息将被星号屏蔽。 PartyChatTextReceivedOptions发生此错误时,options字段中PartyChatTextReceivedStateChange提供的枚举包含详细信息。

调整筛选级别

对于英语,可以通过使用 PartyManager::SetOption 功能来调整聊天控件的筛选级别。 可用的筛选级别有家庭友好、中等和慎重。 默认级别为“家庭友好”级别。

示例代码:

// Set the filter level to Mature
PartyTextChatFilterLevel filterLevel = PartyTextChatFilterLevel::Mature;
PartyOption option = PartyOption::TextChatFilterLevel;
PartyError error = PartyManager::SetOption(nullptr, option, &filterLevel);

另请参阅