使用代理扩展智能 Microsoft 365 Copilot 副驾驶®时,可以根据提示、聊天历史记录和Microsoft 365 数据与代理共享查询,以生成响应或完成命令。 使用 智能 Microsoft 365 Copilot 副驾驶® 连接器扩展智能 Microsoft 365 Copilot 副驾驶®时,外部数据将引入到 Microsoft Graph 中,并保留在租户中。 本文概述了在内部和商业开发人员中开发不同 Copilot 扩展性解决方案时的数据隐私和安全注意事项。
代理和操作
智能 Microsoft 365 Copilot 副驾驶®中的代理单独受其使用条款和隐私策略的约束。 作为) API 插件 (代理和操作的开发人员,你负责保护服务范围内的客户数据,并提供有关用户个人信息策略的信息。 然后,管理员和用户可以在应用商店中查看 你的隐私策略 和 使用条款 ,然后选择添加或使用你的代理。
将业务工作流作为 Copilot 的代理集成后,外部数据将保留在应用中;它不会流入 Microsoft Graph,也不用于训练智能 Microsoft 365 Copilot 副驾驶® LLM。 但是,Copilot 会根据用户的提示和与 Copilot 的对话历史记录以及用户在 Microsoft 365 中有权访问的数据,生成一个搜索查询,以代表用户发送到代理。 有关详细信息,请参阅 智能 Microsoft 365 Copilot 副驾驶® 管理文档中存储的有关用户与智能 Microsoft 365 Copilot 副驾驶®交互的数据。
确保 Microsoft 365 中声明性代理的安全实现
Microsoft 365 客户和合作伙伴可以使用自定义指令、基础知识以及通过声明性代理配置的 REST API 说明调用的操作来构建可扩展 Microsoft 365 Copilot 的声明性代理。 在运行时,智能 Microsoft 365 Copilot 副驾驶®用户提示、属于声明性代理的自定义指令以及自定义操作提供的数据的组合的原因。 所有这些数据都可能影响系统的行为,并且此类处理会带来安全风险。 具体而言,如果自定义操作可以提供来自不受信任的源 (的数据,例如电子邮件或支持票证) ,攻击者可能能够创建一个消息有效负载,使代理的行为方式由攻击者控制,例如错误地回答问题,甚至调用自定义操作。 Microsoft采取许多措施来防止此类攻击。 此外,组织应仅启用使用受信任知识源并通过自定义操作连接到受信任的 REST API 的声明性代理。 如果需要使用不受信任的数据源,请在设计声明性代理时考虑到泄露的可能性,并且不要赋予它执行敏感操作的能力,而无需仔细人工干预。
Microsoft 365 为组织提供了广泛的控制,用于控制谁可以获取和使用集成应用,以及为Microsoft 365 租户中的组或个人(包括使用声明性代理的应用)启用哪些应用。 Copilot Studio 等工具(可支持用户创建自己的声明性代理)还包括广泛的控制功能,用于支持管理员管理用于知识和自定义操作的连接器。
智能 Microsoft 365 Copilot 副驾驶®连接器
Microsoft 365 Copilot 仅显示每个人可以访问的数据,且使用与其他 Microsoft 365 服务中使用的数据访问相同的基础控件。 Microsoft Graph 遵循基于用户标识的访问边界,以便智能 Microsoft 365 Copilot 副驾驶®地面进程仅访问当前用户有权访问的内容。 对于从智能 Microsoft 365 Copilot 副驾驶®连接器引入Microsoft Graph 中的外部数据也是如此。
使用智能 Microsoft 365 Copilot 副驾驶®连接器将外部数据连接到智能 Microsoft 365 Copilot 副驾驶®时,数据将流入 Microsoft Graph。 可以通过将访问控制列表 (ACL) 与Microsoft Entra用户和组 ID 或外部组相关联来管理查看外部项目的权限。
通过 Microsoft Graph 访问的提示、回复和数据不用于培训基础 LLM,包括 Microsoft 365 Copilot 使用的 LLM。
业务线开发人员注意事项
智能 Microsoft 365 Copilot 副驾驶®仅与 Microsoft 365 管理员为 Copilot 启用的代理或连接器共享和搜索数据。作为 Copilot 扩展性解决方案的业务线开发人员,请确保你和管理员熟悉:
- Microsoft 365 Copilot 要求
- 智能 Microsoft 365 Copilot 副驾驶® 管理文档的数据、隐私和安全性
- 将零信任原则应用到智能 Microsoft 365 Copilot 副驾驶®智能 Microsoft 365 Copilot 副驾驶®部署计划的零信任原则
- Microsoft 365 管理中心过程:
独立软件发布者的注意事项
将应用包提交到 Microsoft 合作伙伴中心 Microsoft 365 和 Copilot 计划需要满足认证策略才能接受 365 个产品内商店Microsoft。 Microsoft有关隐私、安全性和负责任的 AI 的认证策略和指南包括: