AI 放大现有安全风险，并跨标识、数据、应用程序和用户交互引入新的风险和注意事项。 可以使用零信任原则解决这些风险。
保护 AI 不仅与保护基础 AI 模型和服务有关。 我们还需要确保 AI 系统访问、使用和治理符合零信任原则。
AI 支柱指南侧重于建立对 AI 使用情况的可见性、强制实施强标识和访问控制、跨提示和输出保护数据、保护代理开发和运行时环境以及将 AI 信号集成到安全操作中。
研讨会实施
AI 研讨会涵盖表中汇总的实现区域。
| Area | 详细信息 |
|---|---|
| 映射和评估 AI 风险 | 发现并清点整个组织中的 AI 代理、应用程序和服务。 使用集中式安全见解评估 AI 风险，查看清单并确定发现优先级，并建立治理、所有权和可接受的使用策略。 为不断演变的 AI 风险实施持续监视和修正。 |
| 注册代理 | 在集中式注册表中注册 AI 代理，以保持可见性和控制。 根据用途和风险对代理进行分类和组织，分配所有权和责任，并定义发布、认证和生命周期 |
| 安全 AI 身份验证和访问 | 为 AI 系统和代理强制实施基于标识的访问控制。 应用条件访问、基于风险的策略和基于属性的策略和标识治理流程，以确保只有经过授权的用户和服务才能与 AI 资源交互。 |
| 保护 AI 网络访问 | 控制如何通过网络访问 AI 服务。 通过安全访问控制路由流量、应用 AI 交互的筛选和检查策略，并防范提示注入和未经授权的访问路径等风险。 |
| 保护 AI 数据访问 | 保护 AI 提示词、基础数据和输出内容中使用的敏感数据。 应用分类、标记和 DLP 策略、控制对连接的数据源的访问，以及监视 AI 交互中的过度共享和数据暴露风险。 |
| 安全地生成代理 | 通过强制实施身份验证、授权和数据处理标准来保护 AI 代理的开发和部署。 集成内容安全控制措施，要求进行验证和红队测试，并建立安全的发布和部署流程。 |
| 面向 AI 的检测与响应 | 监视 AI 活动并检测滥用、异常和基于提示的攻击等威胁。 将 AI 信号集成到安全操作中，启用调查和响应工作流，并持续改进检测和响应功能。 |
后续步骤
开始 AI 研讨会。