谷歌 DeepMind 推出安全 AGI 开发研究所

谷歌 DeepMind 已推出 DeepMind 研究院（DMI），这是一个致力于推进通用人工智能研究与洞见的专属平台。该倡议汇聚了来自谷歌 DeepMind、谷歌以及全球研究社区的研究人员，发布关于 AGI 发展的观点，并明确承认参与者并不总是意见一致，也可能会随着新证据的出现而修正观点。该研究院成立之际，当前的 AI 系统展现出令人印象深刻的能力，但仍缺乏真正 AGI 所需的一致性和创造力；DeepMind 预计这些差距将很快缩小，并将 AGI 描绘为可能是加速科学突破的终极工具，应用领域包括疾病治疗、清洁能源和经济繁荣。

DeepMind 研究院的使命与 AGI 愿景

DeepMind 研究院的定位，是回应 AGI 所蕴含的机遇与风险这一双重现实。根据公司的愿景，AGI——一种具备相当于人类完整认知能力范围的系统——可以开辟理解和治愈疾病、开发清洁能源以及推动经济繁荣的新路径，开启一个黄金发现时代，其成就远超没有 AGI 时人类所能实现的水平。与此同时，DeepMind 也以坦诚的风险评估来平衡这种乐观态度，指出日益强大的 AI 所带来的影响已经在网络安全和生物风险等领域显现，并警告未来具备自我改进能力的系统可能带来失控风险。DMI 被定位为一项协同努力，旨在推动跨学科研究、合作与辩论，以回答这个时代最关键的技术和社会问题。

DMI 的社会范围与治理重点

DMI 的范围远远超出技术工程领域。该研究院计划探讨：在人类进入 AGI 时代后，人类将重视什么，以及这类系统将如何重塑“成为人类”的含义；AGI 应如何安全地构建和治理，以及 AI 代理社区将如何运作；社会需要调整或彻底重新构想哪些机构和政策。该倡议的一个核心前提是，仅凭技术专家无法决定 AGI 应如何发展以及如何负责任地部署。DeepMind 认为，技术专长确立了开启新时代的可能性，但塑造这一时代的现实是全社会共同承担的责任——其中必须包括艺术界、人文学界和政府。在这一框架下，对未来挑战与机遇形成共识，需要广泛的思想讨论，而不是依赖单一权威声音。通过召集多元观点来识别关键挑战并辩论潜在解决方案，DMI 力求确保 AGI 带来的益处超过其风险，并改善每个人的生活。

常见问题

什么是 DeepMind 研究院？
DeepMind 研究院（DMI）是由谷歌 DeepMind 推出的专属平台，致力于推进通用人工智能研究与洞见。该倡议汇聚了来自谷歌 DeepMind、谷歌以及全球研究社区的研究人员，发布关于 AGI 发展的观点。

谷歌 DeepMind 为什么推出 DeepMind 研究院？
谷歌 DeepMind 推出 DMI，是为了推动回答有关 AGI 的关键技术和社会问题所需的跨学科研究、合作与辩论。该研究院旨在回应 AGI 在加速科学突破方面的潜力，以及其在网络安全和生物风险等领域显现的风险。

除了技术工程之外，DeepMind 研究院还关注什么？
DMI 的范围还包括：在人类进入 AGI 时代后，人类将重视什么；AGI 应如何安全地构建和治理；AI 代理社区将如何运作；以及社会需要调整或彻底重新构想哪些机构和政策。该研究院强调，塑造 AGI 的发展是全社会共同承担的责任，需要艺术界、人文学界和政府的参与。