健康文本分析透明度注释

重要

仅为方便起见，提供非英语翻译。 查看此文档的版本，以获取权威版本。

什么是透明度说明？

重要

文本分析 for Health 是一项“按原样”提供的功能，“不保证没有故障”。 文本分析 for health 不打算或被设计用于作为医疗设备、临床支持、诊断工具或旨在用于诊断、治愈、缓解、治疗或预防疾病或其他健康状况的技术使用，且Microsoft未授予用于此类目的的许可或权利。 此功能不是设计或旨在实现或部署为替代专业医疗咨询或医疗保健意见、诊断、治疗或医疗保健专业人员临床判断的替代功能，不应使用此类功能。 客户对使用文本分析进行健康相关分析负全部责任。 客户必须根据 UMLS 元词表许可协议附录或任何将来的等效链接规定的条款，单独许可其打算使用的任何及所有源词汇。 客户负责确保遵守这些许可条款，包括任何地理或其他适用的限制。

文本分析 for Health 现在允许提取文本中的健康的社会决定因素 (SDOH) 和种族提及。 此功能可能无法涵盖所有潜在的健康社会决定因素（SDOH），且不会基于SDOH或种族推导出结论（例如，物质使用的信息会被披露，但不会推论出物质滥用）。 利用健康领域文本分析的输出做出的影响个人或资源分配的所有决策（包括但不限于与计费、人力资源或治疗管理相关的决策）都应在人工监督下进行，而不能仅依赖于模型的分析结果。 SDOH 和种族信息提取功能的目的是帮助提供商改进健康结果，不应用于对 SDOH 数据的用户或使用者或患者群体进行污名化或引证负面推理，不能超出帮助提供商改进健康结果的既定目的。

AI 系统不仅包括技术，还包括将使用它的人员、将受其影响的人员及其部署环境。 创建适合其预期目的的系统需要了解技术的工作原理、其功能和限制，以及如何实现最佳性能。 Microsoft的透明度说明旨在帮助你了解 AI 技术的工作原理、系统所有者可以做出哪些影响系统性能和行为的选择，以及思考整个系统（包括技术、人员和环境）的重要性。 开发或部署自己的系统时，可以使用透明度说明，或与将使用或受系统影响的人员共享它们。

Microsoft的透明度说明是Microsoft将 AI 原则付诸实践的更广泛努力的一部分。 若要了解详细信息，请参阅 Microsoft 中的 Responsible AI 原则。

健康文本分析基础知识

介绍

Foundry 工具中 Azure Language 的“健康文本分析”功能使用自然语言处理技术，在非结构化文本中查找和标记诸如诊断、症状、药物和治疗等有价值的健康信息。 该服务可用于各种类型的非结构化医疗文档，包括出院摘要、临床说明、临床试验协议、医疗出版物等。 文本分析用于健康执行命名实体识别（NER），提取已识别实体之间的关系，显示断言（如否定和条件性），并将检测到的实体链接到常见词汇。

文本分析 for Health 可接收英语的非结构化文本，作为其正式版产品/服务的一部分。 预览版产品/服务目前支持其他语言。 有关详细信息，请参阅 语言支持。

可以阅读 API 及其功能的 概述 。 另请参阅 支持的实体和关系。

此外，现在自定义 文本分析 for Health（一项新的预览功能）下，为 文本分析 for Health 提供供自定义功能。 自定义 文本分析 for Health 允许客户使用自己的数据训练专为医疗保健设计的自定义 NER 模型，以提取其领域特定类别，扩展现有医疗文本分析实体映射。 客户还可以为新定义的自定义实体以及现有的 文本分析 for Health 实体（如药物名称）词典或特定词汇。 因此，自定义健康文本分析提供与健康文本分析相同的功能，同时能够通过添加新的ML实体和自定义词汇来扩展现有的实体映射。

关键术语

文本分析目前对生物医学文本执行命名实体识别（NER）、关系提取、断言检测和实体链接。 还可使用习得实体和列表组件进行额外的自定义实体提取来对其进行补充，这些内容现可使用自定义 文本分析 for Health 获取。

术语	定义
命名实体识别	检测非结构化文本中提及的字词和短语，这些字词和短语可以与一个或多个语义类型（如诊断、药物名称、症状或符号或年龄）相关联。
关系提取	标识文本中提到的概念之间的有意义的连接。 例如，通过将条件名称与时间关联来找到“条件时间”关系。
断言检测	显示文本中提到的实体修饰符，例如否定或条件性。 医疗内容的含义可能会受到这些修饰符的高度影响。
实体链接	通过将文本中提到的命名实体与预定义概念数据库（如统一医学语言系统 (UMLS)）中的概念相关联，消除不同实体的歧义。
实体学习组件	允许通过训练具有标记数据的自定义模型来定义新的自定义实体，例如治疗、设施或医疗设备。
实体列表组件	允许通过定义与所选实体对应的同义词或词汇列表，使用词典识别器提取新自定义实体或现有 文本分析 for Health 实体。 例如，“药物 A”可以定义为药物名称实体下的新列表值。

能力

系统行为

若要使用文本分析进行健康文本分析，您需要输入原始的非结构化文本进行分析，并在您的应用程序中处理 API 输出。 在单个 API 调用中执行四个关键函数：实体识别、关系提取、实体链接和断言检测。 as-is执行分析，无需对预先训练的模型进行额外的自定义。 您可以通过托管的API或在本地环境中部署容器来使用健康领域的文本分析。 有关更多信息，请参阅 如何调用健康文本分析。

若要自定义健康文本分析，请使用健康文本分析的自定义创作体验来创建新实体，以扩展现有的预生成实体映射。 还可以为新的自定义实体以及现有的预生成实体类别（如药物名称）使用精确匹配来定义要识别的新词汇。 定义项目的实体映射后，可以训练和部署自定义模型进行预测。 默认情况下，部署的自定义模型支持 文本分析 for Health 中已包含的所有预构建实体类别功能。 此外，自定义模型为新的实体类别提供自定义 NER，还提供为预构建实体定义的任何字典。 因此，预测自定义模型会针对 文本分析 for Health 实体执行命名实体识别、关系提取、实体链接和断言检测，还会执行自定义命名实体识别，以提取客户定义的实体类别并为新的和现有实体类别提供已定义的词汇。 用于训练自定义模型的所有数据都将存储在专用 Blob 存储中。 此外，调用自定义模型需要 APIM 订阅密钥，这意味着自定义模型仅适用于你与之共享密钥的用户。

预期用例

健康领域的文本分析可以用于此类系统支持的多种行业的多种场景。 使用文本分析进行健康分析的一些常见客户动机包括：

• 协助并自动处理医疗文档，以便进行适当的编码，以提高护理和计费的准确性。
• 提高分析医疗保健数据的效率，以帮助推动基于价值的护理模型（例如医疗保险）的成功。
• 改进关键数据的聚合，以跟踪患者护理和历史记录的趋势，而不会增加医疗保健提供商的开销。
• 取得进展，采用HL7标准，这是交换、集成、共享和检索电子健康信息的框架，以支持日常临床实践和管理以及卫生服务的整体交付和评估。

自定义 文本分析 for Health 适用相同的用例和注意事项，但自定义 文本分析 for Health 更适合客户有数据并希望通过创建自己的实体类别或为新的和现有实体类别定义词汇来扩展现有预构建实体映射的场景。

示例用例

以下是用于健康的文本分析和自定义健康文本分析功能的常用应用示例：

• 见解和统计信息提取。 在临床笔记和各种临床文档中识别医学实体，如症状、药物和诊断。 使用此信息可生成有关患者群体的见解和统计信息、搜索临床文档以及研究文档和出版物。
• 从历史数据创建预测分析和预测模型。 基于使用历史数据创建的预测模型，实现规划、决策支持、风险分析等解决方案的开发。
• 辅助注释和整理。 支持临床数据标注和整理的解决方案。 例如，为了支持临床编码、手动创建的数据数字化以及注册表报告的自动化。
• 支持用于显示或分析健康相关信息的解决方案。 支持用于显示或分析健康相关数据的解决方案。 例如，出于报告目的，支持质量保证流程或标记人工审查的可能错误。

选择用例时的注意事项

用于医疗的文本分析在管理和从非结构化医疗文本中提取知识时，是一个有价值的工具。 但是，考虑到与健康相关的数据的敏感性质，请务必仔细考虑使用场景。 在所有情况下，人员都应根据系统返回的信息做出决策，在所有情况下，都应有办法查看源数据并更正错误。 选择用例时，下面是一些其他注意事项：

• 避免将此服务用作医疗设备、提供临床支持或作为诊断工具用于诊断、治愈、缓解、治疗或预防疾病或其他疾病的方案，而无需人工干预。 合格的医疗专业人员应始终尽职尽责，并验证可能影响患者护理决策的源数据。
• 避免涉及在没有人工干预的情况下自动授予或拒绝医疗服务或健康保险的情景。 由于影响覆盖率级别的决策具有极大的影响，因此应始终在这些方案中验证源数据。
• 避免在患者同意或适用法律不允许的情况下，使用个人健康信息。 健康信息对隐私和同意有特殊保护。 请确保你使用的所有数据都获得了患者对于你在系统中使用该数据方式的同意，或者你以其他方式遵守适用于健康信息使用的法律。
• 仔细考虑使用检测到的实体来自动更新患者记录，而无需人工干预。 确保始终有一种方法来报告、跟踪和更正任何错误，以避免将不正确的数据传播到其他系统。 确保合格专业人员审查和批准患者记录的任何更新。
• 慎重考虑在没有人工干预的情况下在患者计费中使用检测到的实体。 确保提供商和患者始终能够报告、跟踪和更正生成错误计费的数据。
• 慎重考虑使用检测到的健康的社会决定因素和种族实体的场景。 始终确保有办法报告、跟踪和更正任何错误，以避免错误物质使用推理或基于社会和人口因素提供不正确的护理形式。
• 仔细考虑在微调健康文本分析模型时使用自动反馈循环的场景。 在部署到生产环境之前，始终确保测试和评估模型，以避免模型质量回归，因为自定义模型训练是一个对输入训练数据非常敏感的迭代过程。
• 法律和法规注意事项：组织在使用任何 Foundry 工具和解决方案时需要评估潜在的特定法律和监管义务，这些义务可能不适合在每个行业或方案中使用。 此外，Foundry 工具或解决方案并非设计用于适用服务条款和相关行为准则所禁止的用途。

健康与种族的社会决定因素

文本分析用于健康领域，允许提取健康的社会决定因素（SDOH）以及文本中的种族提及。 使用社交和人口统计实体可能有助于揭示除直接医疗之外还能影响健康结果的多种因素，例如基础遗传学、健康行为、以及社会和环境因素。 利用文本分析的健康SDOH实体提取功能，你可以减少经常由社会和经济劣势造成的健康差距，改善护理，评估健康不平等问题，并将未被充分代表的群体纳入临床试验和研究。 有关详细信息，请参阅 社会健康决定因素， FDA 采取重要步骤来提高临床试验中的种族和种族多样性 |FDA和县健康排名：确定因素与健康结果之间的关系。

此功能不会根据 SDOH 或种族背景推断结论（例如，物质使用信息会从输入文本中提取，但并不基于提取的实体推断药物滥用）。 所有依赖于健康文本分析输出，并影响个人或资源分配的决策（包括但不限于与计费、人力资源或护理管理相关的决策），都应由人工进行监督，而不应仅仅基于模型的结果。 SDOH 和种族提取能力的目的是帮助提供者改善健康结果。 不应使用它们来污名化或对 SDOH 数据的用户、消费者或患者群体产生负面推论，而这些用途应仅限于帮助提供者改善健康结果的既定目的。 与提取的其他实体一样，文本分析 for Health 响应也会返回关于生活状态、就业情况、物质使用情况和种族实体的置信度分数。 仔细考虑置信度分数在实体的预期用途上下文中的重要性。

健康领域的自定义文本分析

用于健康领域的文本分析使开发人员能够处理和提取非结构化医疗数据的见解。 尽管健康功能能够处理和提取各种数据类型和实体类别，但在某些情况下，客户可能希望针对其数据添加新的实体类型，甚至在现有实体类别中定义额外的医学词汇。

因此，自定义 文本分析 for Health 的目的是提供一种在 文本分析 for Health 之上进行自定义的方法，使客户能够使用特定于其数据的全新实体类别扩展实体图，并能够向现有实体类别添加自定义词汇表。

自定义健康文本分析使客户能够使用其标记数据和自定义字典/词汇表来训练自定义医疗保健实体提取机器学习模型。 这将允许客户定义特定于其数据的新医疗实体。 该服务还会在内部调用 文本分析 for Health ，提供 文本分析 for Health 中已提供的所有功能和实体映射。 作为附加的自定义功能，客户将能够将自己的词汇添加到现有的健康实体文本分析中，以便用他们的数据补充预生成的响应。

客户负责提供足够的标签数据和词汇来训练自定义模型;因此，模型的性能可能因客户相对于要定义的新实体类别使用的标记训练数据的质量和全面性而异。 建议在部署到生产环境之前始终测试和评估模型，以避免模型质量回归，因为自定义模型训练是一个对输入训练数据非常敏感的迭代过程。

限制

• 覆盖范围：SDOH 提取功能可能并不涵盖所有潜在的 SDOH。 识别仅限于种族以及 文本分析 for Health 识别的实体类别，这些类别在 Foundry Tools | Microsoft Learn 中列出。
• 语言：目前，仅对英语文本启用了 SDOH 和种族提取功能。 文本分析 for Health 可接收英语的非结构化文本，作为其正式版产品/服务的一部分。 预览版产品/服务目前支持其他语言。
• 拼写：拼写错误可能会影响输出。 具体而言，实体链接仅根据特定的正确拼写查找术语和同义词。 例如，如果药物名称拼写错误，系统可能有足够的信息来识别该文本是药物名称，但由于拼写错误，它可能无法像识别正确拼写的药物名称那样识别链接。
• 性能：下面“系统性能”部分概述了潜在的错误类型。
• 自定义文本分析 - 医疗健康（预览版）：支持医疗健康文本分析支持的所有语言。 若要训练自定义模型，需要为每个新定义的自定义实体类别提供至少 10 个标签的训练服务。 为了训练自定义模型，客户必须将至少 10 个文档添加到项目的数据集。 用于提取客户定义词汇的词典识别器依赖于指定语言的精确大小写匹配，这意味着客户必须添加特定单词的所有变体，并为其项目的所有输入语言包含该变量。 使用自定义健康文本分析时，健康实体的文本分析将支持实体链接、关系提取和断言检测，但不会为任何新定义的自定义实体类别返回这些功能。

系统性能

对于健康状况功能支持的各项能力，文本分析 for Health 和自定义 文本分析 for Health 通常可能出现假正和假负错误。 后续部分介绍了潜在错误类型的几个示例。

命名实体识别 （NER）

误报

在 NER 中，当系统错误地将实体标识为属于类别时，会发生误报。 在以下示例中，COVID-19 被错误标记为EXAMINATION_NAME。 事实上，COVID-19 是诊断，而不是检查的名称。 因此，这是 EXAMINATION_NAME 的假正例。

第二个示例中，vodka 是 MEDICATION_NAME 的假正例。 相反，它应分类为 SUBSTANCE_USE。

假阴性

当某个实体应被标识为属于某个类别，但却未被标识时，NER 中会出现假负。 在以下示例中，实体 ER 应已标识为CARE_ENVIRONMENT，但不是。 如果实体识别不准确，链接的代码也不会被识别。

在接下来的两个示例中，第二次提及种族和有关以前就业的信息未被正确识别。

关系提取

误报

在关系提取中，当某个关系不应被标识出，但却被标识时，会出现假正。 在下一个示例中，AST 检查的值被错误地归因于已分配测量值的 ALT 检查。

假阴性

在关系提取中，当某个关系应被标识出，但却未被标识时，会出现假负。 在前面的示例中，度量值 45 未分配到 AST 测试，实际上应该被分配。

实体链接

误报

实体链接是通过查找常见词汇和已识别实体中概念之间的完全匹配来实现的。 当在极少数情况下实体被捕获，而实际上不该被获取（假正 NER），并且词汇中似乎存在匹配的概念时，实体链接就会出现假正。 对于在常见词汇中具有多个不同匹配概念的模糊术语，实体链接也可能出现假正。

假阴性

由于实体链接与原始文本完全匹配，如果有足够的信号来正确识别实体，但该实体的拼写在文本中不正确，则可能会出现假阴性。 例如，在以下文本中，“therapies”（疗法）拼写有误，你不会获得相应的链接实体 UMLS：C0087111。

断言检测

误报

在断言检测中，当系统标识文本中不应存在的断言时，将发生误报。 在以下示例中，“呼吸系统疾病”实体被错误地否定为诊断出新冠肺炎。

假阴性

在断言检测中，当断言未被捕获时就会出现假阴性。 在下面的示例中，应否定症状“响应”，因为没有对上述药物的反应。

改进系统性能的最佳做法

• 自定义 文本分析 for Health 的自定义词汇使用精确的单词匹配；因此，拼写错误可能会影响实体提取。
• 为了提高自定义 文本分析 for Health 使用习得实体组件基于 ML 进行实体提取的质量，建议为每个自定义实体提供均衡分布的标签，并为代表输入数据的示例的每个实体提供至少 15 个标签。

健康文本分析评估

评估方法

文本分析 for Health 被用于训练和评估各种类型的非结构化医疗文件，包括出院摘要、临床记录、临床试验方案、医学出版物等。 SDOH 模型显示生活状况、就业和物质使用实体，根据来自两个独立来源的手动批注数据集进行训练和评估：大约 750 个随机采样的专有临床笔记和大约 1,500 份临床笔记从美国医疗中心提供的语料库随机采样，主要集中在成人患者身上。 最初的语料库覆盖了10多年的采集数据和数千名患者入院。 它提供男女病人几乎平等的代表性。 应指出，尚未进一步分析训练数据代表性（例如地理、人口统计或民族学表示形式）。 尽管内部测试演示了模型可能通用化到不同的人口和地理区域，但你应该仔细考虑训练和评估数据在预期用途的上下文中如何具有代表性。 为了评估与潜在公平危害有关的系统，评估数据集被社会和人口因素（如性别、年龄、种族、就业和生活状况）划分为文件子组。 评估了每个组的目标最低性能级别，组之间的相对性能差异也不同。

自定义健康文本分析评估

自定义医疗文本分析利用一个定制的医疗保健基础模型，除了预建的医疗文本分析模型外，还利用客户提供的数据进行微调。 使用的医疗保健基础模型与用于健康实体映射的文本分析的基础模型相同。

自定义 文本分析 for Health 包含内部评估作为创作体验的一部分，这使得客户能够创建测试数据集，并评审所定义的自定义实体类别的 F1 分数、精准率和召回率分数。 文本分析 for Health 预构建的实体不在内部评估范围内。 该体验还具有模型指南，可为客户提供改进测试结果分数的方法，例如为性能不佳的实体推荐其他标签。

评估并整合健康领域的文本分析工具供您使用

Microsoft希望帮助你负责任地开发和部署使用语言的解决方案。 这些注意事项符合我们开发负责任的 AI 的承诺。 在决定如何使用和实现由语言功能提供支持的产品和解决方案时，请考虑以下因素。

一般准则

当你准备部署用于健康的文本分析时，以下活动将帮助你取得成功：

• 了解它可以执行的操作：充分评估健康文本分析的能力，了解其功能和限制。 了解它在方案和上下文中的执行方式。
• 使用真实、多样化的数据进行测试：通过使用反映用户、地域和部署环境多样性的实际条件和数据来全面测试健康领域的文本分析，以了解其在您场景中的表现。 不反映端到端方案的小型数据集、综合数据和测试不太可能充分表示生产性能。
• 尊重个人的隐私权利：仅出于合法和合理的目的收集或使用个人的数据和信息。 仅使用你同意使用或合法允许使用的数据和信息。
• 法律审查：获取解决方案的适当法律审查，尤其是在敏感或高风险应用程序中使用它时。 了解可能需要在哪些限制范围内工作，以及在使用前需要缓解的任何风险。 你有责任降低此类风险并解决可能出现的任何问题。
• 系统评审：如果计划将 AI 驱动的产品或功能集成到现有系统中的软件、客户或组织流程，需要花时间了解系统的每个部分将受到的影响。 考虑 AI 解决方案如何与Microsoft负责任的 AI 原则保持一致。
• 人工在环：保持人工在环，并将人工监督作为一致的模式领域进行探索。 这意味着不断对 AI 驱动的产品或功能进行人工监督，并确保人类在做出基于模型输出的任何决策中的作用。 为了防止伤害和管理 AI 模型的表现，请确保人类有一种方法实时干预解决方案。
• 安全性：确保解决方案是安全的，并且它有足够的控制来保留内容的完整性，并防止未经授权的访问。
• 客户反馈循环：提供反馈渠道，用户和个人可在部署服务后报告服务问题。 部署 AI 驱动的产品或功能后，需要持续监视和改进。 制定计划并准备好实施反馈和建议以改进。

另请参阅

• 语言透明度说明
• 命名实体识别和个人标识信息的透明度说明
• 关键短语提取的透明度说明
• 语言检测的透明度说明
• 问题解答的透明度说明
• 关于摘要的透明说明
• 情绪分析的透明度说明
• 语言的数据隐私和安全性
• 语言集成与负责使用指南