网络安全负责人将敏感文件上传至人工智能

3 年 2026 月 XNUMX 日 | 博客

麻烦接踵而至也就不足为奇了。

去年夏天，美国一家大型网络安全机构的临时负责人将一些敏感的政府合同文件上传到了ChatGPT的公开版本中。这些文件被标记为“仅供官方使用”，这意味着它们属于敏感信息（但并非机密或绝密）。一旦上传到公开的LLM平台，LLM平台就可以利用这些文件来回答其他LLM用户提出的问题，从而使数据面临泄露和被发现的风险。

这起事件之所以引人注目，是因为涉事人员是负责保护美国国家基础设施的网络安全负责人。幸运的是，自动化安全控制系统检测到了这些上传行为，并触发了警报，从而在造成重大损失之前展开了内部审查。

从这个意义上讲，这套系统确实有效。但更重要的问题或许并不那么显而易见。从 CyberHoot 的角度来看，人工智能工具的普及和应用似乎会让受过良好教育、心地善良且身居要职的人士也难以抵挡诱惑。它如此新颖强大，以至于员工（包括您的员工）无法抗拒地用它来改进沟通技巧、分析文档，并将我们敏感的商业数据置于风险之中。请继续阅读，了解我们所有人应该如何建立自身的安全保障。

为什么即使是聪明人也会发生这种情况

这个错误并非出于恶意或不良意图。对于这位网络安全专业人士来说，他们只是想更快、更智能、更高效地工作。如今，每个组织都存在着同样的动机。员工使用人工智能工具来撰写电子邮件、总结文档和分析数据。问题不在于生产力，而在于意识。人们不了解公共人工智能工具和私有人工智能工具之间的区别。他们想当然地认为某个工具是安全的，因为它很流行、被广泛使用，或者没有被IT部门明确屏蔽（在本例中，该员工强行申请了例外，使用了ChatGPT，而该工具在机构内被禁止使用）。这种假设导致了日常错误，例如将客户数据、公司财务信息或人力资源投诉粘贴到公共LLM人工智能提示框中。这样做会使数据面临被发现的风险。

公共人工智能工具如何处理您的数据

当用户将信息输入公共人工智能服务时，这些信息会与运营该平台的公司共享。大多数免费的人工智能工具会利用用户输入来改进其模型，这意味着数据可能会以用户意想不到的方式被存储或重复使用。上传客户列表、合同或内部报告并非违规或黑客行为，而是用户在开始使用该工具时同意的服务条款的直接结果。一旦数据被共享，用户实际上就失去了对数据的控制权。

为什么培训和合适的工具比手册上的禁令更重要

这就是为什么意识培训比书面政策更重要。如果人工智能禁令被埋没在100页员工手册的第53页，人们根本不会阅读、理解，当然也无法阻止实际应用中的使用。在这个强大的新兴技术领域，人们需要的是简明易懂的课程，了解规则存在的意义以及如何在日常工作中应用这些规则。有效的培训应该解释什么是公共人工智能工具，它们与私有工具有何区别。培训还应该说明哪些数据绝对不能上传，以及可以使用哪些经批准的工具。培训的目标不是吓唬团队，让他们不敢使用人工智能，而是帮助他们安全、自信地使用人工智能。

IT团队和安全专业人员必须准备好解决方案

除了培训员工如何保护敏感数据外，IT 团队还必须赋能用户，让他们能够以自己喜欢的方式工作（在私有或安全的 LLM 环境中）。为团队提供经过评估并妥善保护的私有 AI 工具。强制员工使用公司批准的工具，并培训他们了解这样做的重要性。奖励遵守规则的员工，而不是惩罚违规者。让批准的工具成为最便捷的工作方式，这样就能将合规性融入到您的技术架构中。然后，务必监控可能出现的疏忽和错误，并及时解决这些问题，就像这家政府机构所做的那样，以防止更大规模的数据泄露事件发生。

每个组织都应该吸取的教训

教训显而易见。如果一位资深网络安全领导者都会犯这样的错误，那么任何组织都可能犯同样的错误。员工就像河水一样，他们会选择阻力最小的路径来完成工作。因此，员工需要接受培训，了解与公共LLM共享敏感数据所涉及的风险。通过清晰的指导、简短的沟通以及部署经批准的低摩擦AI解决方案，您可以在不阻碍创新、不减慢工作进度、不让最终用户感到沮丧的情况下降低风险。从小处着手，培训您的团队，然后逐步扩展。当人们理解规则并拥有安全的工具时，他们就能始终保护您的数据。