中美必须在人工智能风险上开展合作

4小时前7 min read

人工智能领域已不再是学者们的理论游乐场；它已成为我们这个世纪决定性的地缘政治和技术战场。这场无声战争的最前沿是两个无可争议的超级大国：美国和中国。它们的竞争异常激烈，从半导体霸权、人才争夺到将塑造全球话语的大型语言模型的部署，无所不包。然而，在这场争夺主导权的无情竞赛中，存在着一个与核时代一样古老的悖论：竞争行为本身创造了双方都无法独自应对的、共同的生存性脆弱点。中美必须在人工智能风险上合作的核心论点，并非理想主义的恳求，而是生存的严峻必需。危险并非遥远的科幻桥段；它们正在实时上演。想想全球金融市场的脆弱性吧，它们日益依赖人工智能驱动的高频交易算法。一个有缺陷的模型或被恶意操纵的模型可能引发一连串的闪电崩盘，在几分钟内抹去数万亿美元，并侵蚀公众对资本主义体系架构本身的信任。关键基础设施——电网、水处理设施、空中交通管制系统——正变得越来越智能和高效，但也更加暴露。由国家支持的人工智能探测漏洞可能导致停电或物流混乱，这是一种换汤不换药的战争行为，其升级速度甚至快于外交官拿起电话。在社会层面，将生成式人工智能武器化，用于超个性化的虚假信息宣传，威胁着要撕裂共同现实的纽带，使民众两极分化，并从内部动摇民主和威权政体。此外还有地平线风险：通用人工智能（AGI）的幽灵。虽然其何时到来尚有争议，但其潜在影响毋庸置疑。一个未对齐的AGI，追求与人类生存相悖的目标，代表了一种典型的公地悲剧；如果一个国家在没有健全安全“护栏”的情况下贸然推进，就可能释放出一种任何边界都无法控制的力量。历史提供了一个清晰的先例：冷战。尽管存在深刻的意识形态敌对，美苏两国建立了直接通信线路——“热线”，并签署了《战略武器限制谈判》（SALT）等条约。他们认识到，相互确保摧毁（MAD）使得在风险缓解方面的合作不仅是审慎的，而且是势在必行的。今天的人工智能格局需要一个类似（即便不是更复杂）的框架。我们需要一个数字时代的“热线”，一个在人工智能系统行为不可预测或被用于升级冲突时进行危机沟通的专用渠道。我们需要类似于生物武器公约的协议，明确禁止在没有人类有效控制的情况下，在针对人类的自主武器系统中使用人工智能。我们需要在部署前沿模型之前，对其危险能力进行测试的共享、透明的协议，或许可以由一个不受政治压力的跨国科学家小组监督。批评者会争辩说，合作是天真的，有让竞争对手获得战略优势的风险。这是一种危险的误判。如果所追求的优势所赖以建立的基础正在崩溃，那么这种优势就是海市蜃楼。在一个因失控的人工智能而动荡不安的世界里，单方面的领先是一种得不偿失的胜利。这项工作必须从“第二轨道”对话开始——科学家对科学家、伦理学家对伦理学家——建立技术共识，然后才能为国家层面的谈判提供依据。像Geoffrey Hinton博士这样的人工智能“教父”们已经敲响了警钟，创造了一个罕见的、跨越国界的共同关切时刻。必须抓住这个窗口期。前进的道路不是放弃竞争（竞争推动创新），而是将其区隔开来。让竞争在消费应用、生产力工具和科学发现领域继续。但在灾难性风险的边缘，我们必须共同筑起一道堤坝。否则，就是继续在各自的独木舟上更快地划向瀑布，争论谁有更好的桨，却无视前方雷鸣般的水声。华盛顿和北京的使命很明确：现在就人工智能安全问题建立直接、持续和实质性的对话。全球市场的稳定、我们基础设施的完整性、我们社会的凝聚力，乃至最终人类的未来，都可能取决于这个脆弱而至关重要的伙伴关系。.

#AI risk

#US-China relations

#global governance

#technology competition

#editorial picks news

Stay Informed. Act Smarter.

Get weekly highlights, major headlines, and expert insights — then put your knowledge to work in our live prediction markets.