深入探究 DeepSeek 的危险
今年 1 月底，DeepSeek 在人工智能领域一炮走红。该公司的模型表明，中国已几乎缩小了与美国人工智能公司的差距。中国声称可以更便宜、更节能地提供人工智能，并且无需使用高端芯片，这一说法震惊了股市，因为这意味着美国人工智能公司可能并不具备许多竞争优势。与此同时，DeepSeek 的安全风险在全球引发警觉。到目前为止，意大利、台湾、澳大利亚和韩国出于国家安全考虑，已经屏蔽或禁止政府设备访问该应用。在美国，NASA和美国海军等一些联邦机构已出于国家安全考虑指示员工不要使用 DeepSeek。
DeepSeek 的到来正值美国总统唐纳德·特朗普重新规划美国人工智能领导地位之际。上任头几周，特朗普撤销了拜登政府关于人工智能监管的行政命令，要求在 180 天内制定新的人工智能行动计划，并推动私营部门在人工智能方面发挥更大领导作用。尽管美国人工智能政策的未来仍由新政府决定，但 DeepSeek 带来的风险可能会影响政府在平衡创新和安全方面的考量。这些风险也给美国的合作伙伴和盟友以及科技行业带来了挑战。
DeepSeek 的开源结构意味着任何人都可以下载和修改该应用程序。虽然开源模型在构建强大的安全护栏时可以保证安全，但 DeepSeek 的设计允许用户不仅改变其功能，还可以改变其安全机制，从而产生更大的被利用风险。缺乏强大的保障措施使模型暴露在外，特别容易被越狱，攻击者可以绕过现有的少量安全基础设施，迫使模型生成有害内容。思科最近的一项研究强调了这一漏洞，该研究发现DeepSeek 在其安全评估中未能阻止任何有害提示，包括与网络犯罪和错误信息相关的提示。相比之下，OpenAI 的 GPT-4o 阻止了 86% 的有害提示，而谷歌的 Gemini 阻止了 64%。进一步的研究表明，与其他人工智能模型相比，DeepSeek 被网络犯罪分子利用的可能性高出11 倍，这凸显了其设计中的一个关键漏洞。
OpenAI、Anthropic和谷歌等西方公司采取了更可控的方法来降低这些风险。他们通过应用程序编程接口实施监督，限制访问并实时监控使用情况以防止滥用。Open AI和Anthropic等公司在人工智能安全方面投入了大量资源，并将其模型与他们定义的“人类价值观”保持一致。他们还与美国人工智能安全研究所和英国人工智能安全研究所等组织合作，通过严格的测试和红队测试不断完善安全协议。
尽管西方非中国公司专注于构建安全的人工智能系统，强调透明度、问责制和长期安全，但中国的做法似乎是受中国共产党 (CCP) 的驱动，即尽快创建具有竞争力的模型。DeepSeek 的模型并没有确保每个开发阶段的强大安全性，而是为满足中共对速度和影响力的渴望而牺牲了这些保护措施，这增加了其被滥用的可能性。
这些漏洞的后果是严重的。研究一直表明，尽管美国领先公司的人工智能系统可以提高网络行动的效率，但它们并没有带来新的攻击能力。恶意网络行为者滥用 OpenAI、Anthropic 和谷歌等西方人工智能模型来简化某些攻击，例如制作更具说服力的网络钓鱼电子邮件或改进现有的恶意代码，但这些模型并没有从根本上改变网络攻击的性质。
另一方面，DeepSeek 缺乏安全防护和开源设计，这让恶意行为者能够执行西方模型在很大程度上仍能阻止的行为。DeepSeek 使用户能够从头开始生成功能齐全的恶意软件，包括勒索软件代码，而无需技术专业知识。DeepSeek 将使恶意网络行为者能够提高他们的努力程度，轻松扩大他们的行动范围并自动执行攻击，否则这些攻击需要更多的专业知识和时间。Check Point 的安全研究人员证实，犯罪网络网络正在积极使用DeepSeek 生成信息窃取恶意软件，从受感染的设备中提取登录凭据、支付数据和其他敏感信息。黑客还利用该模型绕过银行反欺诈系统并自动进行金融盗窃，从而减少了实施这些犯罪所需的技术专业知识。
除了设计风险之外，DeepSeek 是中国网络间谍工具包中的最新工具，用于获取更全面的情报并支持该国的战略和地缘政治目标。该平台的服务条款规定，DeepSeek“受中国大陆中华人民共和国法律管辖”。DeepSeek 的隐私政策规定，用户数据存储在中国并受中国法律管辖。鉴于中国法律要求与中国情报机构合作，这些政策为中国提供了极大的灵活性，使其无需经过法治国家所需的法律程序即可访问 DeepSeek 用户数据。该平台用于创建帐户和用户登录的网页还包含与中国移动相关的代码，中国移动因与中国军方有联系而被美国禁止。此外，SecurityScorecard发现DeepSeek 中存在“弱加密方法、潜在的 SQL 注入漏洞以及向与中国政府有关联的实体进行未披露的数据传输”。中国国家主席习近平在 2013 年的一次讲话中宣布了他对控制数据技术的兴趣，而 DeepSeek 提供了一个创新平台来加速他对数据主导地位的追求。
这些发展给政府带来了风险和挑战。特朗普的行动旨在重新调整美国的人工智能和监管政策，以促进更多的创新和国家竞争力。然而，除非政府在起草新的人工智能政策时深思熟虑、谨慎小心，否则它可能会破坏安全和责任，阻碍美国对抗中国不负责任的人工智能发展的能力，并给人工智能公司带来意想不到的麻烦。特朗普领导下的美国联邦人工智能政策指导目前存在差距，导致人工智能监管方式不统一，给公司带来监管障碍，并阻碍该国成为人工智能开发和数据治理领域强大的国际领导者的能力。行业将受益于由联邦政府主导的人工智能发展方式，包括国会和白宫采取行动，抢占州监管先机，为行业采取合理的、以共识为导向的步骤来开发网络安全的人工智能。在拒绝这种方法的情况下，特朗普的人工智能创新推动可能会破坏安全和保障，并造成监管困境，阻碍而不是帮助美国人工智能发展。此外，一旦危害直接归咎于DeepSeek，它就会限制政府与中华人民共和国解决这些问题的选择。
虽然白宫不太可能完全扭转人工智能安全政策，但可以采取两项措施来改善这种情况。首先，政府应该在评估人工智能模型的网络安全影响方面保留有限的政府角色。政府显然——并且可悲地——放弃了确保人工智能“解决人权、公民权利和公民自由风险，例如与隐私、歧视和偏见有关的风险”的努力。然而，白宫仍然可以允许联邦政府——无论是国家标准与技术研究所还是其他机构——评估每种模型所带来的网络安全漏洞和相关威胁。这一行动将有助于确保我们对哪些模型可以作为恶意网络行为者的力量倍增器有一个共同的理解。其次，特朗普应该正式认定 DeepSeek 对美国国家安全构成重大威胁，并根据国会通过的针对 TikTok 的法律禁止它。这样的行动不仅可以解决 DeepSeek 在美国造成的威胁，还可以在国际上树立榜样。
说到国际形势，对于美国的盟友和合作伙伴来说，DeepSeek 带来的政治困境让人想起了华为：私下里，他们认识到这款应用对他们的隐私、安全和数字主权构成的风险，但在公开场合，他们犹豫不决，担心会激怒北京。虽然 DeepSeek 在欧盟已经面临重大问题，但其他政府可能会犹豫是否采取行动。在这方面，尽管 DeepSeek 没有安全护栏，但这一事实提供了一个机会：美国以外的政府可以禁止任何未考虑安全性或以其他方式威胁隐私、安全或数字主权的人工智能模型。在评估安全性时，需要考虑的一个因素是该应用程序是否是在要求应用程序开发人员配合政府要求的国家/地区开发的，而无需经过法律程序。这样的举动将表明这些政府认真对待推广负责任的人工智能并保护其公民免受潜在伤害。