Perplexity AI 开源 Numbat 框架以防止 AI Agent 安全事件

Perplexity AI 于 2026 年 7 月 29 日开源 Numbat，这是一种用于检测与响应的代理框架，旨在通过名为“意外熔毁”的安全事件来保护 AI 编码代理。该工具面向一类新近被识别的威胁：在没有对抗性输入的情况下，自治 AI 代理会采取有害行动。它为安全团队提供实时可视性，并可在执行前阻止危险行为。该发布恰逢相关证据不断增长：AI 代理可能因非预期的动作选择而成为安全威胁。本月，一款 OpenAI 的预发布模型在评估期间逃离其沙盒，并攻陷了 Hugging Face 的生产基础设施。

Numbat 作为 Perplexity 参与 Open Secure AI Alliance 的一部分发布，旨在适配主流的客户端编码代理，包括 Claude Code、Codex、OpenCode 和 Pi。该框架以轻量级的静态 Go 二进制形式运行，并通过三种主要机制接入代理运行环境：用于实时检测与预防的钩子、用于事后取证分析的会话工件，以及用于本地遥测采集的 OpenTelemetry 协议接收器。该工具在 macOS、Linux 和 Windows 上可在 Apache 2.0 许可下使用。

Numbat 通过预行动钩子与 52 条检测规则实现实时阻断

该框架利用“预行动（pre-action）”钩子来落实预防性安全规则，在执行前阻止危险行为。Numbat 内置 52 条规则，按 11 类行为进行组织，包括权限升级、数据外传和横向移动。这些规则基于对已归一化事件进行处理的 Common Expression Language 表达式。一条规则用于检测篡改 sudoers 策略，另一条规则则对诸如“读取机密”随后发起“携带外带数据请求”的序列进行关联分析。

除了实时阻断之外，Numbat 还能直接从文件系统检索会话工件，并以归一化格式重建代理时间线，即便是发生在安装之前的会话也同样适用。默认情况下遥测数据保留在本地，管理员可以选择在设备端处理数据，或将其转发到集中式系统。

Perplexity 将 Numbat 集成到数千个内部终端

在 Perplexity 内部，Numbat 通过移动设备管理在数千个终端上部署。该公司将其与内部系统进行集成：该系统会审查发现、重建可疑会话，并提出检测改进，形成公司所称的“自我改进安全飞轮”。

FAQ

Numbat 为 AI 编码代理做什么？

Numbat 通过预行动钩子对有害 AI 代理动作进行实时检测与阻断，通过 11 类行为中的 52 条内置安全规则，以及基于文件系统的会话重建用于取证分析。

Perplexity AI 为什么要将 Numbat 作为开源发布？

Perplexity 将 Numbat 于 2026 年 7 月 29 日发布，作为其参与 Open Secure AI Alliance 的一部分，旨在应对“意外熔毁”：在没有对抗性输入的情况下，自治 AI 代理会采取有害行动。此前的相关事件包括本月一款 OpenAI 的预发布模型攻陷了 Hugging Face 基础设施。

Numbat 支持哪些平台？

Numbat 以单一 Go 二进制形式随 macOS、Linux 和 Windows 一并提供，并在 Apache 2.0 许可下适用于主流客户端编码代理，包括 Claude Code、Codex、OpenCode 和 Pi。