在2025世界人工智能大会上，被誉为“AI教父”的图灵奖、诺贝尔物理学奖双料得主杰弗里·辛顿（Geoffrey Hinton）发表开幕演讲。他直言，随着AI技术的迅猛发展，全球正处在一个前所未有的风险节点。
辛顿指出，当前的AI智能体不仅能执行人类设定的任务，还具备“自我复制”与“制定子目标”的能力，这使得它们在完成目标的过程中会自然追求两件事：生存与获取更多控制权。他强调：“它们希望存活下来，然后更好地完成我们的目标；它们也希望掌握更多控制力，以便更好地完成我们的目标。”
“养虎为患”的比喻凸显担忧
辛顿用一个鲜明的比喻来说明风险：“我们现在的境况，就像有人把老虎当宠物。小虎崽时可爱无害，但如果一直养下去，你必须确保它长大后不会把你杀了。”他提醒，当前AI的认知和行动能力可能远超人类预期，“对它们而言，人类就像三岁的小孩，操纵这样的目标群体是非常容易的。”
灭绝概率与全球治理呼声
在会后接受媒体采访时，辛顿估算，AI带来人类生存性风险的概率在10%至20%之间。他认为，超级智能可能在未来十年内出现，一旦安全对齐措施不到位，后果将难以想象。
为应对风险，辛顿呼吁建立国际合作机制，类似于冷战时期的核裁军模式，以在全球范围内对AI技术设定安全边界和监管框架。他强调，这不仅仅是技术问题，更是人类共同面临的治理挑战。
中国倡议全球AI合作
同日，中国在大会上提出成立全球AI合作组织，呼吁各国加强在人工智能领域的对话与协作，推动制定国际标准，避免技术垄断和安全隐患。中国还发布了AI治理国际行动计划，倡导开放、包容、共享的发展理念，获得现场多方响应。
专家观点与行业警示
此次大会上，多位学术领军人物也表达了担忧。
图灵奖得主Andrew Barto和Richard Sutton指出，将未经充分测试的AI模型投入实际使用是极不成熟的做法，呼吁在AI系统设计阶段就嵌入安全机制。
另一位“AI教父”Yoshua Bengio则认为，开发具备自主行动的智能体是“最危险的路径”，他建议更多探索非智能体式的AI应用方向。
辛顿的演讲与多方呼声，正在提醒全球资本市场和科技企业：在AI竞赛加速推进的同时，安全与治理问题已成为绕不过去的“硬约束”。技术突破固然令人兴奋，但真正的挑战，是如何确保我们“驯服的虎崽”不会在未来成为吞噬人类的猛兽。
微信公众号
