查尔斯国王在与科技领袖举行的私人峰会上敦促加强 AI 管控

查尔斯国王于周四在邓弗里斯庄园主持了一场私人人工智能峰会，来自行业和英国政府的领军人物出席了会议。他敦促与会者“在为时未晚之前”为人工智能建立监管框架。国王警告称，人工智能的快速发展带来了“引人入胜又令人深感担忧”的影响，并指出，这项技术既有改善生活的能力，也可能发展出“更黑暗的能力，甚至可能夺走生命”。此次发言是王室罕见地对这一备受全球关注的热点问题进行政治干预。峰会在由查尔斯国王慈善基金会拥有的18世纪艾尔郡庄园举行，英伟达首席执行官黄仁勋、OpenAI 和 Anthropic 的代表、英国人工智能大臣 Kanishka Narayan、英国对外情报部门负责人，以及教皇人工智能顾问 Paolo Benanti 参加了会议。

查尔斯国王警告人工智能可能发展出威胁生命的能力

在峰会上发言时，查尔斯国王承认，“人工智能已经展现出改善和拯救生命的巨大能力”，并以医学和科学为例。不过，他指出，技术创造者“如今越来越多地警告，人工智能有发展出更黑暗能力的风险，甚至可能夺走生命”。国王强调，迫切需要考虑这项技术落入错误的人手中，并以“可能造成灾难性的方式”被使用时所带来的“生存风险”。就在查尔斯国王发出警告几天前，一名 Anthropic 研究人员辞职，并在网上写道，人工智能公司正在“竞相制造比任何人类都聪明得多的机器”，而人类“可能无法度过这一关”。查尔斯国王最后敦促各方领导人确保技术“始终坚定地服务于人类、社会和自然世界”，并补充道：“在拥抱新事物的同时，我们绝不能失去永恒的事物。”

科技领袖和政府官员出席邓弗里斯庄园讨论会

宾客名单包括人工智能和英国政府领域的一些知名人士。英伟达派出了首席执行官黄仁勋，OpenAI 派出了首席财务官 Sarah Friar，Anthropic 则派出了全球事务负责人 Tino Cuéllar。英国人工智能大臣 Kanishka Narayan 与英国对外情报部门负责人一同出席。为教皇提供人工智能建议的 Paolo Benanti 也参加了会议。媒体报道称，查尔斯国王停留了约20分钟，随后离开，让宾客们自行讨论这些问题。Cuéllar 在接受采访时表示，Anthropic 很荣幸能够参与其中，并感谢国王“召集来自行业和社会各界的领袖与代表，共同讨论人工智能在服务公共利益方面所发挥的作用”。这并非查尔斯国王首次谈论人工智能带来的挑战与益处，他曾于2023年和2024年发表过相关言论。

人工智能发展速度引发行业分歧

此次峰会召开之际，围绕人工智能发展速度的分歧正在加深。本月，OpenAI 的萨姆·阿尔特曼、马斯克以及 Anthropic 的 Dario Amodei 呼吁放缓人工智能发展，但英伟达的黄仁勋和总统唐纳德·特朗普很快驳回了这些呼吁。特朗普说：“我们在人工智能领域领先中国。”“我们是世界上最先进的国家，坦率地说，我希望保持这种地位，因为谁赢得人工智能，谁就赢得一切。”这种分歧表明，大型科技公司、政治和社会之间的利益正发生碰撞。近期行业发展包括 Anthropic 将其 Fable 和 Mythos 模型的访问权限限制为仅向美国客户开放，此举震动了欧洲科技界，也引发了人们对人工智能主权的疑问。过去一年，OpenAI 和 Anthropic 一直预告将进行轰动性的首次公开募股，不过 OpenAI 最近表示，其首次公开募股计划今年已陷入停滞，因为外界对人工智能安全的担忧仍在持续。

常见问题

查尔斯国王在周四举行的人工智能峰会上说了什么？
查尔斯国王敦促各方领导人在“为时未晚之前”为人工智能建立监管框架，并警告称，这项技术的快速发展“既引人入胜又令人深感担忧”。他说，人工智能创造者越来越多地警告，这项技术“有发展出更黑暗能力的风险，甚至可能夺走生命”，并强调，如果人工智能落入错误的人手中，就有必要考虑其带来的“生存风险”。

谁参加了查尔斯国王在邓弗里斯庄园举行的私人人工智能峰会？
与会者包括英伟达首席执行官黄仁勋、OpenAI 首席财务官 Sarah Friar、Anthropic 全球事务负责人 Tino Cuéllar、英国人工智能大臣 Kanishka Narayan、英国对外情报部门负责人，以及为教皇提供人工智能建议的 Paolo Benanti。查尔斯国王停留了约20分钟，随后离开，让宾客们继续讨论。

查尔斯国王为什么呼吁采取人工智能监管措施？
国王指出了人工智能的双重性质——它在医学和科学等领域具有改善和拯救生命的能力，但技术创造者也警告称，人工智能可能发展出威胁生命的能力。他强调，解决“生存风险”，并确保这项技术以服务人类而非带来灾难性风险的方式使用，具有紧迫性。