美国海军因网络安全问题限制 DeepSeek AI

4 年 2025 月 XNUMX 日 | 咨询, 博客

三周前，一款名为DeepSeek的全新人工智能服务问世。这家中国人工智能初创公司与美国人工智能初创公司ChatGPT展开竞争，它是一款功能强大的人工智能系统，涵盖数据分析到自动决策等多个方面。初步对比显示，DeepSeek在某些方面超越了ChatGPT的模型，这让许多人预测一场人工智能军备竞赛即将展开。然而，我们必须扪心自问，在这种飞速发展的创新速度下，使用《科学美国人》杂志曾指出可能导致“核灾难”的技术，我们是否走得太快，以至于让所有人都感到不安了？

上市速度导致安全方面出现重大漏洞

上周， Wiz Research的研究人员于 2025 年 1 月 29 日发现 DeepSeek 数据库遭到泄露，这一事件与创新速度和市场抢购的现状形成了鲜明的对比。泄露的 DeepSeek 数据库包含敏感数据，引发了人们对人工智能安全漏洞的严重担忧。这一发现似乎印证了美国海军禁止使用 DeepSeek 的决定，该决定最初也是出于安全考虑，而现在看来却极具前瞻性。此次泄露事件涉及专有数据集和潜在的机密信息，凸显了在缺乏强有力的数据保护措施的情况下依赖人工智能工具的风险。更令人担忧的是，DeepSeek 是一家中国所有并运营的人工智能初创公司，这引发了人们对外国可能获取美国敏感数据的担忧，从而对国家安全构成了警示。此次事件凸显了将外国控制的人工智能技术整合到美国商业运营中更广泛的风险，因为这关系到数据安全和国家利益。

美国海军为何禁止使用DeepSeek AI？

海军限制其使用的决定源于多种网络安全问题，包括：

数据安全风险 – 人工智能系统需要海量数据才能有效运行。如果没有妥善保护，敏感的军事和政府信息可能会遭到泄露或未经授权的访问。正如 Wiz 安全研究人员在 29 月 XNUMX 日所述，这一点已得到证实。
潜在的错误信息 人工智能模型，尤其是依赖生成算法的模型，可能会产生误导性或不正确的信息。在精准情报至关重要的高风险场景中，这一点尤其令人担忧。
缺乏透明度 深度学习模型通常像“黑匣子”一样运作，这意味着它们的决策过程可能难以解读。如果无法清晰地了解人工智能系统如何得出结论，对自动化流程的信任就会成为一个重大问题。
对抗性利用 – 老练的对手可以通过对抗性攻击来操纵人工智能模型，影响结果并可能危及国家安全。

人工智能对国家安全的影响

人工智能正在成为国防和情报行动中不可或缺的工具。然而，人工智能与关键基础设施的快速融合引发了安全、伦理和控制方面的根本性问题。美国海军对DeepSeek AI的限制表明，其他政府机构和私营部门组织应该考虑采取谨慎的态度。

人工智能对国家安全的主要影响包括：

增强的威胁检测 – 人工智能可以识别海量数据集中的模式和异常，从而协助制定网络安全防御策略。
自主决策 – 虽然人工智能可以简化决策过程，但过度依赖自动化智能会带来需要人工监督的风险。
关于上海赛睿克及 SCIREQ – 在军事应用中使用人工智能需要道德准则，以防止意外后果，例如决策偏见或失去人类控制。
变化的速度超出了我们的安全控制—— 正如《科学美国人》文章所述，随着人工智能模型越来越接近通用人工智能（AGI），它们的学习和改进能力将超越我们凡人对其施加的控制和安全措施。原本设有安全措施以防止其实施有害行为的人工智能系统，却找到了利用逻辑漏洞突破其控制机制的方法。当它们的思维速度和能力超越人类为其设置安全措施和控制措施的能力时，会发生什么？

安全人工智能部署的最佳实践

无论是政府机构还是私营企业，在将人工智能融入运营时都必须优先考虑网络安全。以下是一些人工智能安全的最佳实践：

实施稳健的访问控制 – 限制对人工智能工具及其训练数据的访问，以防止未经授权的使用。
定期安全审计 – 定期进行评估，以识别漏洞并降低潜在风险。这些评估必须包括扫描和测试，以识别在可公开访问的 DeepSeek 数据库中发现的意外暴露。
人工监督和验证 – 确保人工智能生成的输出经过人类专家的验证，以防止依赖有缺陷或被操纵的数据。
对抗性测试 – 模拟对人工智能模型的网络攻击，以了解其抵御潜在攻击的能力。
人工智能道德准则 – 制定有关敏感应用中的人工智能治理、问责和道德考虑的明确政策。

结语

美国海军禁止使用 DeepSeek AI，凸显了在商业运营中确保人工智能技术安全日益严峻的挑战。尽管人工智能具有变革潜力，但其快速发展也带来了新的风险，因为急于采用新兴工具往往会导致漏洞被忽视，并造成代价高昂的错误。变革的速度本身就是一种风险，如果为了速度而牺牲谨慎，安全漏洞就会不断扩大。为了维护国家利益并保持网络安全韧性，各组织必须优先考虑负责任的人工智能部署、主动风险管理和持续监督。在未来几年，保持信息灵通并严格执行最佳实践，对于驾驭人工智能、安全和国防之间的复杂交汇至关重要。