中国正在认真对待人工智能安全，美国也必须如此

(SeaPRwire) –   “中国不在乎人工智能安全——那我们为什么要关心？” 这种错误的逻辑充斥着美国的政策和科技界，为华盛顿在人工智能发展方面竞相超越北京的鲁莽竞争提供了掩护。

按照这种说法，监管人工智能会冒着在所谓的“竞赛”中落后的风险。而且，既然中国 якобы 不重视安全，那么即使是鲁莽地加速前进，也是更安全的长期赌注。这种说法不仅 ，而且很危险。

具有讽刺意味的是，中国领导人或许可以给美国的 AI 鼓吹者们上一课：真正的 需要控制。正如中国最高科技官员丁薛祥在 2025 年 1 月的达沃斯论坛上所说：“如果制动系统不受控制，你就不能放心地踩油门。” 对于中国领导人来说，安全不是一种限制，而是一种先决条件。

人工智能安全已经成为中国的政治 。今年 4 月，习近平主席主持了一次罕见的政治局 ，就人工智能发出“前所未有”的风险警告。中国 现在将人工智能安全与疫情和网络攻击并列。监管机构要求对生成式人工智能进行部署前安全评估，最近还从市场上撤下了超过 不合规的人工智能产品。仅在今年上半年，中国就 比过去三年加起来还要多。与此同时，过去一年中，中国国内关于前沿人工智能安全的技术论文数量也 超过了一倍。

但美中两国领导人上次会面讨论人工智能风险还是在 。今年 9 月，两国官员暗示将在“适当的时候” 。但在拜登政府领导下，没有举行任何会议，特朗普政府是否会接过接力棒，甚至存在更大的不确定性。这是一个错失的机会。

中国对合作持开放态度。2025 年 5 月，中国 与英国举行了双边人工智能对话。受人尊敬的中国科学家为主要的国际努力做出了贡献，例如 由 33 个国家和政府间组织（包括美国和中国）支持的 以及关于全球人工智能安全研究优先事项的 。

必要的第一步是恢复休眠的美中人工智能风险对话。如果没有正常运作的政府间渠道，协调的前景仍然渺茫。中国表示，它愿意在拜登政府卸任后继续对话。它已经产生了一项适度但具有象征意义的重要协议： 确认人为决策必须保持对核武器的控制。该渠道具有进一步取得进展的潜力。

展望未来，讨论应侧重于共同的、高风险的威胁。考虑一下 OpenAI 最近 对其最新的 ChatGPT Agent 已经超过了该公司自身 规定的生物领域的“高能力”阈值。这意味着该代理原则上至少可以为用户提供有意义的指导，从而可能促进危险生物威胁的产生。 和北京都有 阻止非国家行为者将此类工具武器化的 。一场人工智能辅助的 不会尊重国界。此外，来自西方和中国的领先专家和图灵奖得主 对先进的通用人工智能系统可能在人类控制之外运行，从而构成灾难性和生存风险表示担忧。

两国政府都已经承认了其中的一些风险。特朗普总统的 警告说，人工智能可能“在不久的将来构成新的国家安全风险”，特别是在网络安全以及化学、生物、放射性和核（CBRN）领域。同样，去年 9 月，中国主要的 AI 安全标准机构 了制定人工智能安全标准以应对网络安全、CBRN 和失控风险的必要性。

从那时起，双方可以采取实际步骤，在领先的标准组织之间建立技术信任，例如中国的全国信息安全标准化技术委员会 () 和美国的 National Institute of Standards and Technology ()。

此外，行业机构，例如中国人工智能产业发展联盟 (AIIA) 和美国的 Frontier Model Forum，可以分享风险管理框架方面的最佳实践。 AIIA 制定了“”，中国大多数领先的开发者都签署了该 。一个新的中国 ，完全侧重于包括网络滥用、生物滥用、大规模劝说和操纵以及失控场景在内的前沿风险，已在 期间发布，可以帮助两国保持一致。

随着信任的加深，各国政府和领先的实验室可以开始分享最先进模型的安全评估方法和结果。在 WAIC 上发布的 ，明确呼吁创建“相互认可的安全评估平台”。正如 Anthropic 联合创始人 ，最近的一项中国 AI 安全评估 与西方有相似的发现：前沿人工智能系统构成了一些非同寻常的 CBRN 风险，并且开始显示出自主自我复制和欺骗的早期预警信号。对模型漏洞以及如何测试这些漏洞的共同理解将为更广泛的安全合作奠定基础。

最后，双方可以建立事件报告渠道和应急响应协议。一旦发生与人工智能相关的事故或滥用，快速和透明的沟通至关重要。两国顶级人工智能官员之间现代版的“热线”可以确保在模型违反安全阈值或行为异常时发出实时警报。今年 4 月，习近平主席 了人工智能领域“监测、早期风险预警和应急响应”的必要性。在发生任何危险事件后，应制定一项预先商定的应对计划。

参与并非易事——政治和技术障碍是不可避免的。但人工智能风险是全球性的——因此治理应对也必须是全球性的。美国政策制定者和行业领导者不应以中国为借口，在国内人工智能监管方面无所作为，而应直接参与。人工智能风险不会等待。

“`