Altman发布OpenAI五条原则,预告未来可能为安全限制模型能力

据动察 Beating 监测,OpenAI CEO Sam Altman 以个人署名发布公司五条运营原则。Altman 在文中预告,未来某些时期 OpenAI 可能为了安全而收紧用户可获取的模型能力,原话称可以想象「需要牺牲部分赋权来换取更强韧性」的时期。Altman 称 AI 关键决策应通过民主程序做出,不应只由 AI 实验室决定。他为 OpenAI 近期大规模购买算力、全球建数据中心、垂直整合等做法辩护,称目标是把 AI 成本降到人人用得起,政府可能需要探索新经济模式确保价值共享。他还提到一个具体风险场景:极端强大的模型可能降低制造新型病原体的门槛,需要全社会层面应对。Altman 回顾了当年对公开 GPT-2 权重的犹豫,称事后看是多虑了,但催生了 OpenAI 沿用至今的迭代部署策略。

上一篇:

下一篇:

风险提示:理性看待区块链,提高风险意识!