AI若毁灭概率达20%？专家：中美需划定底线，警惕技术依附风险

如果一项技术存在20%的概率引发灾难性后果，人类还会毫无顾虑地推动其发展吗？这是一个直击灵魂的拷问。随着人工智能（AI）技术的指数级爆发，这一假设正逐渐逼近现实。在2026全球治理论坛（雄安）上，AI安全领域的专家尼古拉斯·米埃勒（Nicolas Miailhe）抛出了这一尖锐议题，并呼吁全球大国，特别是中美两国，必须立即行动，为人类划定一道共同的安全底线。

核心焦点：从“创新红利”到“生存危机”

米埃勒指出，AI领域领军人物曾估算AI有20%的概率导致人类灭绝。这一数字在航空或核能等传统高风险领域是绝对无法被接受的，但在AI快速渗透日常生活的当下，我们似乎正在逐渐容忍这种“不可接受”的风险。他强调，AI已经从创新驱动的实验室走向了大规模工业化应用阶段，但与之相伴的是治理体系的严重滞后。人类正获得近乎“神一般”的力量，却未同步获得与之匹配的智慧。

深度解析：速度冲击与全球南方的新焦虑

AI技术的演变正在带来前所未有的挑战。米埃勒警告说，随着AI从生成内容转向智能体，我们正在面临“速度冲击”和“规模冲击”。成千上万个智能体可能相互勾连、协同行动，其决策速度和规模远超人类的有效监督能力。这种不可预测性使得传统的风险管控手段显得捉襟见肘。

此外，全球南方国家正面临新的焦虑。许多发展中国家尚未完成基础设施的建设，就被迫卷入了全球AI竞赛。这种“跨越式发展”不仅缺乏基础支撑，更可能形成新的技术依附关系，加剧全球财富和权力的进一步集中。

中美合作：划定底线是治理的前提

面对超级智能的竞赛，缺乏中国和中美合作，就难以实现有效的全球治理。米埃勒认为，中美作为AI发展的超级大国，拥有极高的相互依存度，这为划定共同底线提供了现实基础。双方应首先从最基础的安全事件监测和响应机制入手，逐步将双边合作拓展为多边合作。

值得注意的是，中国在9月发布的《人工智能安全治理框架3.0》中已明确指出了失控风险和恶意行为风险，展现了积极的治理姿态。国际社会期待中美能释放更多政治意愿，推动各方达成共识，建立一套清晰的风险分类和应对框架。

未来展望：警惕自主武器与“控制幻觉”

展望未来五到十年，AI将在科学研究、机器人融合以及自主武器系统等领域引发深刻变革。米埃勒特别警惕技术发展的临界点，认为一旦跨过某些关键节点，发展路径可能难以逆转。他警告说，机器与人类在知识型服务领域的“增强”与“替代”之争只是第一阶段，随着AI与机器人深度融合，社会动荡的风险将急剧上升。

最后，我们必须警惕“控制幻觉”。尽管可解释性科学取得了一定进展，但面对万亿参数的模型，我们仍难以从机制层面真正理解其运作。人类必须保持谦逊，承认认知的局限，并通过具体的、可操作的机制建立信任，而非空谈宏大愿景，以确保人类始终掌握技术的主动权。

参考 URL: https://www.thepaper.cn/newsDetail_forward_34335688