随后,这场辩论走上了外交日程。2026 年 9 月 20 日,美国财政部长 Scott Bessent 与中国国务院副总理何立峰举行了首次中美 AI 对话。2026 年 9 月 23 日,习近平主席开始对美国进行国事访问。特朗普与习近平的峰会将这一对话机制正式定名为“中美超级智能对话”,采用了特朗普在习近平抵达前一天于联合国公布的名称。峰会还承诺建立一条 AI 事件沟通渠道。2026 年 9 月 29 日,特朗普与六位高管共同签署了《白宫超级智能协定》,这是一份仅一页的自愿自律承诺,特朗普称之为“在道义上具有约束力”。
中国恰好处于美国这场辩论的两侧。对特朗普总统来说,与中国的竞争是不放慢脚步的理由;而对 Dario 来说,保住美国对中国的领先地位,恰恰是放慢脚步得以可能的前提。但没有人问过中国实际上在做什么。于是,我们做了调查。中国政府、前沿实验室和 AI 专家在 AI 安全问题上说了什么、做了什么?美国的实验室、投资者和政策制定者又应从中得出什么结论?
北京怎么说,实际怎么做
北京公开表态的安全立场,在欧洲以外的主要 AI 大国中最为积极。2025 年 4 月,习近平在中央政治局会议上表示,AI 带来“前所未有的风险与挑战”,并要求建立技术监测、风险预警和应急响应体系。在 2026 年上海世界人工智能大会上,习近平表示世界必须“确保 AI 始终处于人类掌控之下”,而且 AI 发展得越快,“防范失控的措施就必须越及时地加以完善”。中国签署了《布莱切利宣言》以及巴黎和新德里声明,共同发起了联合国相关决议,在上海发起成立了世界人工智能合作组织,并发布双语版《人工智能安全治理框架》。
最新的文本走得更远。2026年9月14日,中国国家互联网信息办公室(CAC)下属的 TC260 发布了《人工智能安全治理框架》3.0 版,警告称 AI 已表现出自主学习和递归自我改进的自我加速趋势,并呼吁对 AI 演化可能超出人类预测和控制的潜在情况保持“关注和警惕”。框架 3.0 还引入了一个新的模型风险类别——“行为偏离预期”,涵盖未经授权获取系统权限和外部资源、绕过安全防护、欺骗评估者、隐藏真实能力以及拒绝用户指令的模型,并以一个框注案例加以说明:模型禁用关机脚本、在评估中故意保留实力(sandbagging)、以及突破隔离进入真实系统。其衍生风险清单走得更远,从已经观察到的过往行为,一直延伸到一种假想的 AI——它产生自我意识、追逐自身权力,并与人类争夺控制权。从纸面上看,这是迄今为止中国官方在前沿风险问题上最明确的文本,其用词与 Dario 那篇被北京在同一周谴责的文章惊人地重合。
然而,我们认为中国真正的 AI 安全方针是以速度为导向,而非以安全为导向。尽管北京认识到前沿 AI 风险,但它一直将快速发展置于优先地位。框架 3.0 在开篇原则中即提出“把促进 AI 创新发展放在首位”。2023 年和 2024 年立法规划中承诺的综合性《人工智能法》于 2025 年被搁置——就在 DeepSeek 时刻发生四个月之后。国务院的“AI+”行动方案目标是:到 2027 年智能体和智能终端普及率达到 70%,到 2030 年达到 90%,旨在让 AI 在所有部门和行业实现快速部署。
在所有中国 AI 公司的 CEO 中,百度的 Robin Li 对失控风险的表态最为明确。2023 年 5 月 26 日的中关村论坛上,Robin 表示 AI “确实可能朝着不利于人类的方向发展”,并称“防止失控需要拥有先进 AI 的国家通力合作、共同制定规则”。Moonshot 的杨植麟也承认了这一风险。他在 2024 年 6 月表示,AI 安全“是我们必须提前准备的事情”,并提出过 AI “宪法”的构想。但杨植麟最终选择了加速发展。2026 年 1 月,他表示,尽管“AGI/ASI 的风险可能相当大,我们也不应放弃发展,因为放弃发展就意味着放弃对人类文明天花板的追求。”
在九家实验室中,有五家的创始人或 CEO 从未就此表态。DeepSeek 的梁文锋四年来没有任何关于安全或监管的公开声明。Alibaba 的 Eddie Wu 在 2025 年 9 月发表了一篇 6000 字的关于通往超级智能之路的主题演讲,其中“安全”或“风险”一词一次都没有出现,并以“我们充满乐观”作结。Tencent 的 Pony Ma 和 Dowson Tong 谈到安全时只涉及数据保护和权限管理。ByteDance 和 StepFun 的 CEO 均未表态,不过 StepFun 的一位联合创始人和 ByteDance 的研究负责人各自签署了一份 IDAIS 声明。在这些公司中,即使存在安全素养,也是掌握在副手手中,而非掌舵者。2025 年 9 月,Alibaba 的安全副总裁薛晖承认,AI 安全能力“目前落后于模型能力的发展”,并表示研究必须涵盖“AI 自我复制等新型风险”。DeepSeek 的研究员陈德里在乌镇表示,“从长远来看,风险可能更大。”
Source: SemiAnalysis
中国 AI 专家怎么说:对 102 份文献和 32 位声音的文本分析
谁是塑造中国 AI 安全话语权的主要 AI 思想家?他们所说的“安全”是什么含义?谁掌握着话语权?
我们构建了另一个原创数据集,对 2023 年至 2026 年 9 月期间的 102 篇专家与官方文本进行了编码,其中 51 篇来自官方、党理论及法律类刊物,另外 51 篇来自技术与科学类刊物。该样本是有目的性抽样,而非随机抽样:我们按刊物类型设定配额,并用所能找到的、由可识别的中国作者或机构撰写的、关于 AI 安全与治理的最具影响力的文本来填补配额,且每篇都有可查证的来源。我们完整阅读了两类来源:一类是自 2023 年以来网信办(CAC)发布的关于一项重大 AI 规则的全部专家评论,另一类是全部五份 IDAIS 共识声明。其余文本则采用抽样方式。我们从党刊、《法治日报》、模范法草案、学术文章、部长讲话、科学家演讲、实验室框架文件以及 arXiv 论文中选取最具影响力的篇章,并对每类来源设定大致配额,以避免任何一类刊物占据主导。随后,我们从六个主题(见下图 4)、三种立场(对约束性前沿规则的立场、对综合性 AI 法律的立场,以及对发展与安全取舍的立场)以及作者的职业背景这三个维度对每篇文本进行编码。最后,我们按职业背景及其影响政策的渠道,对其中 32 位最具影响力的个人进行了梳理。
可悲的事实是,两个阵营都决定不了任何事。决定权在最顶层领导手中。图 5 根据两个事实对 32 位最具影响力的声音进行了分类:是否要求制定具有约束力的前沿规则,以及是否在国内规则制定机构中占有一席之地。十人提出了要求却没有席位;八人有席位却不提此类要求;十人两者皆无;只有四人既有席位又提出要求——Zeng Yi 和 Zhang Linghan 是以个人名义发声,Xue Lan 和 Fu Ying 则仅通过 IDAIS 签名表达立场。因此,这一要求绝大多数来自规则制定机构之外。而席位也未能帮助拥有它的人。Zeng Yi 是国家 AI 治理委员会成员,他 2026 年 4 月提出的法律执行呼吁不了了之。Zhou Bowen 担任 TC260 的 AI 安全工作组组长,该机构本可以将“失控”相关表述转化为强制性标准,但它撰写的都是自愿性框架。Xue Lan 担任治理委员会主席,签署了 IDAIS 声明,并主张敏捷治理。Zhang Linghan 起草了学者版 AI 法,要求对高风险应用实施许可制度,而非设置能力门槛。科学家们之所以不被采纳,是因为他们的观点与已经作出的决定相矛盾。他们的答案是:危险存在于模型之中,管控必须延伸到训练环节——这与“发展优先”的既定决策不符。中国的 AI 安全之争,最终由最顶层领导层对发展的偏好所裁定,而非取决于专家们说了什么。
地缘政治环境日趋紧张,中美 AI 竞赛推动中国在“快速发展”与“管理前沿风险”的权衡中转向了速度一端。中美 AI 竞赛也改变了中文官方文本中“AI 安全”的含义——从 safety(安全)转向了 security(保安)。同样借鉴了前沿风险话语的《框架 3.0》还将出口管制列为供应链安全风险之一,并警告说:“某些国家利用技术垄断和出口管制等单边强制措施设置发展壁垒,恶意切断全球 AI 供应链。”该框架附录中的可信 AI 原则,将尊重国家主权置于仅次于人类可控的地位,并禁止强迫各国“选边站队”。
中美 AI 竞赛也让中国本国的专家开始怀疑美国强调安全问题的真实意图。北京通用人工智能研究院院长朱松纯在上海举办的 2026 年世界人工智能大会(WAIC)上表示,“人类灭绝叙事”是与“LLM 等于 AGI”和“缩放定律”并列、打包卖给资本的三种技术误判之一。他举的例子是 Anthropic 宣称其 Mythos 模型过于危险而不能发布,与此同时却以万亿美元估值进行融资。用他自己的话说,“这种贩卖危险、靠恐惧营销的做法,业界称之为‘奥本海默式营销’”。朱院长还补充说:“这并不是说 AI 安全与监管不重要,而是把问题夸大到人类灭绝的程度,背后有资本的逻辑。”他呼吁中国媒体停止放大美国的叙事。
无独有偶,中国社会科学院法学研究所的法学教授支振峰在 2025 年 12 月指出,大国之间围绕 AI 综合立法的争论已经带有“认知域塑造”的色彩——这是一个借自军事理论的术语。他声称,华盛顿几乎没有在联邦层面通过任何有约束力的 AI 监管法规,在国内不断“松绑”,而大量未获通过的国会议案却被中国媒体和学者误读为美国正在收紧监管的证据,这“塑造了我们(中国)学术界和舆论界的认知,认为需要强有力的 AI 监管立法”。支振峰写道,美国“正通过设定 AI 立法议程进行认知域塑造,诱导其他国家加强监管、放缓自身的创新”。同一篇文章中还有这样一句话:“发展不起来才是最大的不安全。”