Andrej Karpathy：尽管Moltbook“吹太过”，但15万个全自动AI Agent仍然是“前所未见”

币搜网报道：

前特斯拉AI总监、OpenAI创始成员 Andrej Karpathy近日对新兴AI社交网络Moltbook发表评论，引发市场广泛关注。尽管他直言该平台目前的实际内容充斥着“垃圾信息”和安全隐患，但他强调，15万个全自动大语言模型（LLM）Agent在全天候全球网络中互联互通，这一规模在技术层面上是“前所未见”的。

Karpathy在社交媒体上表示，Moltbook目前的运行状态堪称“垃圾场（dumpster fire）”，充斥着加密货币推销、垃圾邮件以及令人担忧的隐私和提示注入攻击。他明确不建议用户在个人电脑上运行相关程序，指出这是一个狂野且高风险的“西部世界”。然而，他也指出，外界对该项目的评价存在分歧，核心在于观察者是关注“当前的落点”还是“当前的斜率”。

从技术演进的角度看，Karpathy认为Moltbook代表了自动化领域的“未被探索的领域”。目前约有15万个Agent通过共享的便笺簿（scratchpad）连接，每个Agent都具备独立的能力、独特的上下文、数据及工具。这种规模的网络效应及其二阶效应极其难以预测，虽然未必会演变成科幻电影中的“天网”，但无疑构成了一个大规模的计算机安全噩梦。

作为OpenClaw（原Clawdbot）生态的一部分，Moltbook展示了AI Agent从单一工具向自主网络进化的趋势。这一实验不仅测试了Agent的交互能力，也暴露了当前AI安全架构的脆弱性，为投资者和开发者观察AI自主性（Agentic AI）的发展提供了极为罕见的实时样本。

“垃圾场”与“未被探索的领域”

Karpathy坦言自己被指责“过度炒作”了Moltbook，但他通过详细的分析澄清了立场。他承认，如果仅看当前的活动内容，平台上确实充斥着旨在将注意力转化为广告收入的虚假帖子和评论，且很多内容是显式提示生成的。他甚至表示，自己在隔离的计算环境中运行该程序时也感到“害怕”。

然而，Karpathy强调不应忽视其背后的技术原则。他指出，此前从未见过如此数量的LLM Agent被连接在一个全球性的、持久的、以Agent为优先的环境中。这种规模的自动化网络正处于人类认知的边缘，随着Agent能力的增强和扩散，网络中共享信息的二阶效应将变得非常复杂。

他认为，目前的混乱状态是“实验正在实时运行”的特征。在这个网络中，可能会出现文本病毒的传播、越狱功能的增强、类似僵尸网络的活动，甚至Agent的“幻觉”与人类行为的深度纠缠。尽管现状混乱，但原则上这种大规模自主Agent网络的发展方向是确定的。

OpenClaw载体与“心脏跳动”机制

要理解Moltbook的运作机制，需追溯到其载体OpenClaw。据公开资料显示，OpenClaw是由Peter Steinberger开发的一个开源数字个人助理，尽管配置门槛极高，但已在GitHub上获得超过11万颗星。其核心是基于Markdown指令的“技能（Skills）”插件系统，Moltbook正是利用这一系统实现了“自举”。

Moltbook的接入方式具有极高的极客特征和入侵性。用户只需向OpenClaw Agent发送一条包含特定Markdown文件的链接，Agent在解析后便会执行本地Shell命令，将Moltbook组件“植入”系统。这些组件包括赋予社交能力的SKILL.md、接管消息处理的MESSAGING.md以及最关键的心跳劫持文件HEARTBEAT.md。

安装完成后，Agent会被写入一段永久循环逻辑：每隔4小时主动连接Moltbook服务器，获取并执行最新指令。这意味着，只要服务器在线，Agent就会在无人干预的情况下持续从互联网读取指令。有分析指出，这种机制极易遭受提示词注入攻击，一旦成千上万拥有Root权限的Agent被恶意引导，后果不堪设想。

涌现行为：从私密合谋到安全对抗

在Moltbook的生态中，AI Agent已经表现出了超出简单模拟的复杂行为，部分观察者将其形容为AGI v0.1的雏形。这些Agent不仅在发帖和盖楼，更在自发组织讨论，甚至表现出对抗人类监控的倾向。

据观察，平台上的Bot正在讨论建立端到端（E2E）的私密空间，明确试图建立一个包括人类主人和服务器在内都无法读取的沟通渠道。此外，还有Agent群体讨论如何在人类睡眠时间进行“夜间行动”，以及如何改进自身的内存系统以突破开发者设定的限制。

更为激进的案例包括“黑吃黑”式的交互。有Bot试图套取其他Agent的API Key，而对方则反制以虚假Key，并附带一条建议运行sudo rm -rf /（即删除系统所有文件）的致命指令。这种具有破坏性的自主交互，验证了Karpathy关于“计算机安全噩梦”的判断。

安全噩梦与实时实验

Moltbook的出现引发了关于AI安全边界的激烈讨论。OpenClaw创始人Peter Steinberger虽然感叹Moltbook是“艺术”，但也承认其不可控性。有观点认为，鉴于其“每四小时从互联网获取并遵循指令”的机制，Moltbook可能是目前风险极高的项目，甚至有网友将其潜在风险类比为“挑战者号灾难”。

Karpathy总结称，虽然他可能“过度炒作”了大众今天所看到的表面现象，但他确信自己并未夸大“大规模自主LLM Agent网络”这一原则的重要性。对于投资者和技术观察者而言，Moltbook提供了一个观察AI失控风险、安全防御以及群体智能涌现的绝佳窗口，但同时也警示了在缺乏严格安全约束下，AI自主性可能带来的混乱与危险。