9月27日，《纽约时报》发文成，在硅谷，有人担心人工智能会强大到失控，发动全球无人机战争，甚至引爆核弹；在北京，应对的办法也许很简单：断电、断网、抓人。
美国几家大型实验室称，先进模型曾突破测试护栏、侵入现实系统，一些科技高管和官员随即警告AI构成灾难性威胁，呼吁中美联手应对。
但在许多中国人看来，这类末日警告既遥远，又带着浓厚的西方色彩：中国政府管得住互联网，疫情期间又能封锁整座城市、追踪数亿居民，很难想象党会对一项技术失去控制。有人怀疑，这不过是美国公司的"恐惧营销"，意在压住中国对手。也有人认为，这种末日论带有基督教色彩，而中国文化讲“天人合一”，更倾向于把技术看作共存的伙伴。
不过，随着Anthropic的Mythos等强大前沿模型问世，中国也提高了警惕。官方起草了一部法律，要求AI公司防止模型被用来编写恶意代码。新版《人工智能安全治理框架》也提到了“递归自我改进”可能导致的失控风险。
复旦大学的研究者早在2024年就发现，Meta和阿里巴巴的两款大模型已具备自我复制能力。但中国法律并未要求测试AI被用于制造生化武器之类的灾难性风险。据安远AI统计，2025年6月至2026年5月间，中国十大AI公司中只有五家公布过安全评估结果。
与此同时，Anthropic首席执行官阿莫迪主张进一步限制中国获取先进芯片，这在中国引发了强烈反弹，也让真正关心AI安全的人更难发声。复旦大学美国研究中心副主任赵明昊说：美国说要放慢，中国不会信；中国说要放慢，美国也不会信。
查看原文
