配置 Microsoft Purview 以实现第三方 LLM 中的数据保护

配置 Microsoft Purview 以实现第三方 LLM 中的数据保护

2026 年 2 月 18 日

简介：外部法学硕士时代数据治理的挑战

到 2026 年，大型语言模型 (LLM) 和生成人工智能 (AI) 工具的采用已在许多组织中成为现实。虽然 Microsoft 365 Copilot 等本机解决方案提供安全集成和数据治理，但许多公司还利用各种其他第三方 LLM，可通过 Web 或 API 访问。外部人工智能工具的激增虽然有利于创新和生产力，但也带来了重大风险：无意或恶意暴露敏感数据 [1]。

员工为了追求效率或好奇心，可能会无意中将商业秘密、客户信息、财务数据或知识产权粘贴到公共人工智能聊天界面或第三方法学硕士中，而这些界面不具备与企业解决方案相同的安全和隐私保证。这种行为可能会导致大量数据泄露、违反合规性和严重的声誉损害。员工使用敏感公司数据“训练”公共人工智能模型的风险是 2026 年最大的数据安全和治理问题之一[2]。

为了应对这一挑战，Microsoft Purview 在 2026 年显着扩展了其数据丢失防护 (DLP) 功能。 Purview 现在充当“人工智能安全网关”，实时监控和阻止敏感数据发送到未经授权的外部人工智能工具。它检查出站流量，识别敏感数据模式，并执行防止泄露的策略，确保人工智能创新不会损害数据安全性和合规性[3]。

本技术和教育文章旨在指导合规管理员、安全分析师和 IT 领导者了解与第三方 LLM 相关的风险并配置 Microsoft Purview 防御以保护敏感数据。我们将介绍为 AI 服务实施特定 DLP 政策的基本原则、先决条件和详细的分步指南。

第三方法学硕士的风险和治理的需要

第三方法学硕士的易用性和力量可能是一把双刃剑。虽然它们提供了好处，但也给企业数据安全带来了巨大的风险：

  • 无意数据泄露：员工可能无恶意地将敏感数据复制并粘贴到外部 LLM 提示中以总结、分析或生成内容，而没有意识到这些数据可能会被存储或用于训练 AI 模型，使其公开或可供第三方访问。

  • 恶意数据泄露：恶意员工可以使用第三方 LLM 作为渠道来绕过传统的安全控制来泄露敏感数据。

  • 违反合规性：向外部法学硕士发送受监管的数据（例如 PII、PHI、PCI）可能违反数据隐私法（GDPR、LGPD）和行业特定法规，从而导致巨额罚款和声誉受损。

  • 知识产权：如果将商业秘密、专有源代码和商业计划插入第三方法学硕士，则可能会暴露它们。

  • 缺乏可见性和控制：如果没有适当的工具，组织就无法了解正在使用哪些第三方法学硕士、正在共享哪些数据以及这些服务是否符合内部安全策略。

Microsoft Purview 通过将其 DLP 功能扩展到 AI 服务领域来解决这些风险。它允许组织识别、监控和控制敏感数据流向这些服务，确保数据治理策略在整个数字生态系统中得到一致应用[4]。

Microsoft 权限内的 AI 数据保护原则

Microsoft Purview 中第三方法学硕士中敏感数据的有效保护基于以下原则：

  1. AI发现和分类：识别网络上正在访问哪些第三方AI服务并对其进行级别分类的风险。这使得 DLP 政策具有针对性和有效性。

  2. 实时敏感数据检测：实时检查出站流量，以在敏感信息（例如信用卡号、社会安全号码、健康数据）到达外部 LLM 之前识别其是否存在。

  3. 访问控制和阻止：应用策略来阻止或警告与未经授权的法学硕士共享敏感数据的尝试，确保仅使用批准的渠道。

  4. 用户意识：向用户提供有关政策违规行为的即时反馈，教育他们如何安全使用人工智能工具以及共享敏感数据相关的风险。

  5. 审计和报告：保留所有尝试违反策略的详细记录，并提供报告以供分析和持续改进安全状况。

实施的先决条件

要为第三方 LLM 配置 Microsoft Purview 保护，您将需要以下元素：

  • Microsoft 365 E5 或 Microsoft Purview 合规套件许可：这些计划包括所需的高级 DLP 和 AI 治理功能。

  • 管理访问权限：在 Microsoft Purview 合规性门户 (compliance.microsoft.com) 上具有合规性管理员、安全管理员或全局管理员权限的帐户。

  • 了解数据策略：熟悉组织的敏感数据类型和内部合规性策略。

  • DLP 代理部署：对于端点监控，必须在用户设备上部署 Microsoft Purview DLP 代理。

分步指南：在 Microsoft Purview 中为 AI 配置 DLP 策略

设置保护措施以防止向第三方法学硕士发送敏感数据涉及识别有风险的人工智能应用程序并创建有针对性的 DLP 策略。

第 1 步：识别有风险的 AI 应用程序

第一步是了解网络上正在访问哪些第三方人工智能服务并评估其风险。

  1. 访问 Microsoft Purview 合规门户：打开浏览器并导航至“compliance.microsoft.com”。使用具有必要管理权限的帐户登录。

  2. 导航到AI Hub：在左侧导航窗格中，转到AI Hub > 发现。 AI Hub 是 2026 年推出的新部分，用于管理 AI 安全性和合规性。

  3. 查看发现的人工智能服务：Purview 将列出您网络上已访问的所有第三方网站和人工智能服务。对于每项服务，它将根据提供商的声誉、已知的隐私政策、数据的位置以及服务处理的数据类型等因素分配“风险评分”。这可以帮助您确定哪些第三方法学硕士对您的组织构成最大的风险。

  4. 应用程序分类：根据风险评分和内部政策，将人工智能应用程序分类为“已批准”、“受监控”或“未经授权”。

步骤 2：为第三方 LLM 创建 DLP 阻止策略

识别出有风险的 AI 应用程序后，您可以创建 DLP 策略来控制敏感数据的流动。

  1. 创建新的 DLP 策略：在 Microsoft Purview 合规性门户中，转到 数据丢失防护 > 策略。单击 + 创建策略。

  2. 选择模板或自定义：您可以从预先存在的模板（例如“财务数据”、“健康数据”）开始或创建自定义策略。对于第三方法学硕士来说，定制政策提供了更大的灵活性。

  3. 设置位置：在位置部分中，选择“AI 服务和聊天机器人”。这是 2026 年推出的一个新选项，允许您专门针对与第三方法学硕士的互动制定政策。您还可以包括其他位置（例如端点）来监视复制/粘贴。

  4. 定义条件：配置触发策略的条件。这通常涉及检测特定的敏感信息类型 (SIT)，例如：

  5. 财务数据：信用卡号码说，银行账户。

  6. 个人数据：公积金、身份证号码、公司电子邮件地址。

  7. 知识产权：源代码、带有特定敏感度标签的文档（例如“机密”）。

  8. 您可以细化条件以包含指示专有数据的关键字或正则表达式。

  9. 设置操作：对于未经授权或高风险的第三方 LLM，将操作设置为 “使用策略提示阻止”。策略提示将通知用户该操作被阻止以及原因，并向他们介绍安全策略。对于受监控的法学硕士，您可以选择“审核”或“通过用户覆盖阻止”（允许用户证明并继续）。

  10. 保存并激活策略：查看策略并激活它。 DLP 策略可能需要一些时间才能在整个环境中完全应用。

步骤 3：监控和持续教育

监测对于确保 DLP 政策的有效性并确定需要额外教育的领域至关重要。

  1. 使用 AI Hub 报告：在 Microsoft Purview AI Hub 中，您将找到与第三方 LLM 相关的 DLP 政策违规的详细报告。这些报告将显示：

  2. 正在使用哪些第三方法学硕士：确定最受欢迎的服务和构成最大风险的服务。

  3. 共享哪些敏感数据：了解用户尝试发送给外部法学硕士的信息类型。

  4. 哪些用户/部门违反了政策：确定需要额外培训或意识的领域。

  5. 事件调查：使用Purview中的Activity Explorer详细调查DLP事件，包括涉及的用户、文件、涉及的AI服务以及被阻止的内容。

  6. 教育和意识：使用报告数据推动人工智能安全意识培训。向员工解释与第三方法学硕士共享敏感数据的风险，并推广使用公司批准的人工智能工具。

  7. 定期政策审查：人工智能格局在不断发展。定期审查第三方法学硕士的 DLP 政策，以确保它们针对新威胁和新兴人工智能服务保持相关性和有效性。

其他注意事项和最佳实践

  • 数据分类：强大的数据分类是有效 DLP 策略的基础。使用敏感度标签自动或手动对敏感数据进行分类。

  • 清晰的沟通：向员工清晰地传达人工智能使用政策。解释什么是允许的，什么是不允许的，以及与使用未经授权的法学硕士相关的风险。

  • 分阶段方法：考虑分阶段实施 DLP 策略，从审核模式开始，在应用硬块之前了解用户行为。

  • SIEM/SOAR 集成：将 Microsoft Purview DLP 警报与您的 SIEM 系统（例如 Microsoft Sentinel）集成，以集中查看安全事件并协调自动响应。

  • 人工智能供应商评估：在考虑使用第三方法学硕士时，请对供应商进行严格的安全和隐私评估，以确保他们满足您的合规性要求。

结论

在第三方法学硕士可广泛访问的世界中保护敏感数据是 2026 年的一项关键信息安全挑战。Microsoft Purview 凭借其增强的 DLP 和 AI 治理功能，提供了强大的解决方案来降低数据泄露和合规违规的风险。通过实施有针对性的 DLP 策略、识别有风险的 AI 应用程序以及教育用户，组织可以在不损害其最有价值资产的安全性的情况下实现人工智能的优势。在第三方法学硕士中有效配置 Microsoft Purview 进行数据保护不仅仅是一项技术措施，而且是全面、主动的 AI 安全策略的基本支柱。

参考文献

[1] Microsoft 数据安全指数 2026。”探索数据安全的未来，包括新兴创新和战略，以及建议和最佳实践。”可访问：https://info.microsoft.com/ww-landing-data-security-index-2026.html?lcid=en-us [2] 微软安全博客。 “2026 年人工智能驱动的身份和网络访问安全的四个优先事项。”网址：[https://www.microsoft.com/en-us/security/blog/2026/01/20/four-priorities-for-ai-powered-identity-and-network-access-security-in-2026/] （https://www.microsoft.com/en-us/security/blog/2026/01/20/four-priorities-for-ai-powered-identity-and-network-access-security-in-2026/） [3] Microsoft 365 路线图。 “Microsoft 365 路线图提供了商业功能的预计发布日期和说明。”网址：https://www.microsoft.com/microsoft-365/roadmap?featureid=109581 [4] 微软安全。 “利用人工智能加强身份安全。”网址：https://www.microsoft.com/en-us/security/business/identity-access/microsoft-entra-id