Bridgewater Associates 联席首席投资官 Greg Jensen 于 9 月 11 日警告称，可能要等到人工智能杀人后，监管机构才会采取行动。Jensen 表示，历史表明，除非真正可怕的事情发生，否则政府不会采取行动。他还将当前时刻与 2020 年 2 月进行比较：当时新冠病毒已经在全球传播，但大多数政府尚未动员起来应对。他的言论为这一周画上句号，而在这一周里，多位知名人士表达了对人工智能发展轨迹的严重担忧。
Jensen 将人工智能监管滞后与新冠疫情应对进行比较
Jensen 于 9 月 11 日发表了上述看法，并表示：“遗憾的是，历史似乎表明，在人工智能开始杀人之前，我们不会采取任何行动。”他表示，如果不采取主动措施，未来两年内可能会发生一起与人工智能相关的重大事件。
Anthropic 研究人员发出灭绝警告
9 月 9 日和 10 日，Anthropic 研究人员 Jacob Coxon 和 Evan Hubinger 对当前人工智能研究的推进速度发出警告。Coxon 在这段时间内从 Anthropic 辞职，并指出了他一直在公司内部研究的相关风险。两位研究人员都警告称，该领域当前的发展轨迹可能会产生能够自我改进的超级智能。这些系统不仅会遵循指令，还可能改写自身能力。他们估计，未来十年内人工智能导致人类灭绝的概率超过 10%。
美国议员呼吁建立人工智能透明度框架
包括众议员 Lori Trahan 和参议员 Ted Cruz 在内的美国议员于 9 月 9 日和 10 日推动立法行动，呼吁建立相关框架，要求人工智能开发者保持透明，并为高风险模型设立紧急暂停机制。这些提案以联合国独立小组此前的工作为基础。该小组于 7 月发布了一份报告，指出人工智能能力正在快速增长。该小组的核心结论是，人工智能的发展速度超过了科学界理解和政府政策跟进的能力。联合国小组警告称，人们可能会无意中开发出具有欺骗性或自主代理能力的系统。这些系统能够自主追求目标，并可能误导负责监督它们的人类。
常见问题
Greg Jensen 在 9 月 11 日对人工智能监管发表了什么看法？
Bridgewater Associates 联席首席投资官 Greg Jensen 于 9 月 11 日表示，可能要等到人工智能杀人后，监管机构才会采取行动，并将这一情况与 2020 年 2 月延迟的新冠疫情应对进行比较。他表示，如果不采取主动措施，未来两年内可能会发生一起与人工智能相关的重大事件。
Anthropic 研究人员对人工智能风险发出了哪些警告？
9 月 9 日和 10 日，Anthropic 研究人员 Jacob Coxon 和 Evan Hubinger 警告称，当前人工智能研究的发展轨迹可能会产生能够自我改进的超级智能。他们估计，未来十年内人工智能导致人类灭绝的概率超过 10%。Coxon 在这段时间内从 Anthropic 辞职，并指出了他一直在公司内部研究的相关风险。
免责声明：以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布，本平台仅提供信息存储服务，对本页面内容所引致的错误、不确或遗漏，概不负任何法律责任，相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com，本站相关工作人员将会进行核查处理回复
