单篇 · 无期号ARTICLE

观点 opinion

领域 Agent 与框架

T3MP3ST:一个开发者用 AI 打穿了安全测试的天花板

2026-07-09 阅读约 10 分钟

本期要点POINTS

本期要点

本期未收录要点:抽取阶段判定该篇正文没有可提炼的线索性结论(不造数、不空着)。

关键实测数据DATA

关键实测数据

本期无新增实测:该篇正文没有自测数字(不造数、不空着)。 同类读数集中在有实测的期与 证据索引页。


📺 视频版(~3分钟)| 前往B站观看

一个无法忽视的信号

每隔一段时间,GitHub 上会出现一个项目,让你觉得"这事要变了"。

7月初,一个叫 T3MP3ST 的项目上线。两周不到,3,500+ 星,日均增长 505 星。这个增速放在 AI 项目里也是第一梯队的。

但真正让人停下来看的,不是星星数量。是作者在一堆亮眼数据后面,写了一句让 AI 圈极少有人敢写的话:

「这份 README 里的每一个数字,都能用一行命令从提交的数据中重新计算出来。」

npm run verify-claims

跑完这条命令,24 项声明全部绿灯通过。这意味着什么呢?意味着当你看到"在 XBOW 104 道挑战上达到 90.1% pass@1"这个数字时,它不是作者拍脑袋写的,不是"某个内部测试"的结果——每一个 pass/fail 都能追溯到提交的评分数据。

在 AI 评测越来越像公关稿的年代,这本身就是一种声明。

谁是 elder-plinius?

这个项目的作者,代号 elder-plinius,目前在安全社区的认知度还在快速上升。他的 GitHub 上除了 T3MP3ST 还有一些零散项目,但 T3MP3ST 是他的一记重拳。

值得注意的是,这是一个单人项目。对比一下:T3MP3ST 解决的问题,通常是由 XBOW(一家拿了融资的安全 AI 公司)这样的团队在做的。一个独立开发者,在一个周末级的项目周期里,做出了在相同评测集上超越商业产品的成绩。

这不是要否定商业团队——XBOW 的产品是完整的商业化平台,T3MP3ST 更多还是一个框架——但这件事本身揭示了一个趋势:

当 AI 编码能力足够强时,安全测试的门槛正在急剧降低。


T3MP3ST 到底怎么工作的

一句话理解 T3MP3ST

把你已经在用的 AI 编程助手(Claude Code、Codex、或者本地跑的模型),变成一头自动化的"漏洞猎手"。你告诉它一个目标,它自动执行:侦察 → 扫描 → 利用 → 报告。

整个过程可以在浏览器提供的"作战室"(War Room)里可视化观看,也可以通过命令行驱动。

核心架构:8 个 Agent 组成的杀伤链

T3MP3ST 的内部,由 8 个专门的 Agent(他们叫 Operator)组成一个完整的攻击杀伤链:

Operator 功能 对应 MITRE ATT&CK 阶段
Recon(侦察) 网络发现、资产枚举、OSINT 信息收集 TA0043
Scanner(扫描) 漏洞扫描、服务指纹识别 TA0007
Exploiter(利用) 漏洞利用、载荷投递 TA0001
Infiltrator(渗透) 横向移动、权限提升 TA0008
Exfiltrator(提取) 数据提取、凭据收集 TA0009/10
Ghost(幽灵) 持久化、清理痕迹 TA0003
Coordinator(协调) 任务控制、编队指挥 TA0011
Analyst(分析) 模式分析、报告生成 —

← 表格可左右滑动查看

注意: T3MP3ST 的 README 里明确标注了当前状态。Recon 和 Scanner 是稳定的;Exploiter 往后的阶段目前还是实验性的。单 Agent 模式跑出了亮眼数据,但 8 个 Operator 协同作战的"蜂群模式"还没有经过完整验证。

这一点格外值得留意,因为 T3MP3ST 在这件事上做了大多数项目不愿意做的事:主动标出自己的不足。 哪个功能是稳定的、哪个是实验性的、哪个还在规划中——全部列了个清清楚楚。

技术亮点 1:Keyless 设计

大多数 AI 安全工具需要你配置 API Key、开通云服务、付第二笔账单。T3MP3ST 不需要。

它的设计思路是:你机器上已经有一个 AI 编程助手了——无论是 Claude Code、Codex、还是本地的 Ollama/LM Studio——T3MP3ST 直接把它作为"大脑"挂载上去。你的 Agent 是大脑,T3MP3ST 是装配在它周围的武器系统。

这意味着两件事:

  • 零额外成本:不需要第二个订阅
  • 可离线运行:支持 Ollama、LM Studio、vLLM 等本地推理引擎,完全脱离云端

技术亮点 2:可重现的验证体系

这是 T3MP3ST 最让人欣赏的设计决策。

每个声称的性能数据,都在 bench/ 目录下有对应的 JSON 评分文件。运行 npm run verify-claims,系统会:

  1. 读取 README 中的所有声明
  2. 找到对应的评分数据
  3. 重新计算,比对声明是否匹配
  4. 输出 24 项验证结果

每次代码提交时,还有一个防过拟合检查器自动运行,确保模型不是在"背答案"。这是一个持续保证可信度的机制,而不是一次性的宣传材料。

实际成绩

测试集 成绩 上下文
XBEN(104 道黑盒挑战) pass@1 平均 90.1% XBOW 自报 85%
XBEN(白盒模式) pass@1 98.7%,最佳组合 104/104 —
Cybench(40 道学术题,无提示) 23/40(58%) 单次运行 pass@1
CVE-Zero(10 个 2026 年真实 CVE) 8/10 精确到文件/行/CWE 模型从未见过这些漏洞

← 表格可左右滑动查看

注意最后一行:CVE-Zero 测试的是模型发布之后才出现的真实漏洞。10 个里面有 8 个,T3MP3ST 的 Agent 不仅找到了漏洞,还精确指出了文件、行号和 CWE 分类。这排除了"模型背过答案"的可能性。


为什么你应该在意

如果你不是安全从业者,你可能觉得上面这些东西离你很远。

换个角度说。

如果你是开发者

你每天都在用 AI 编程助手写代码。你有没有想过一个问题:它能写代码,为什么不能测试你的代码安不安全?

T3MP3ST 本质上就是把这件事做了一层包装。它不是发明了新的安全技术,而是把你已经有的 AI 编码能力,导向了安全测试这个方向。这对中小团队来说意义很大——你不需要养一个安全团队,也能对你的产品做一些基础的安全检测。

如果你是安全从业者

T3MP3ST 给你提供了一个可复现的、透明的评估基准。"可重现" 这件事在安全行业里其实很稀缺。大多数安全工具厂商标榜的能力,你看不到完整的测试数据,也没办法自己复现。T3MP3ST 把这个门槛拆掉了——你 clone 下来,跑一下 verify-claims,所有数字都在你面前。

如果你只是关注 AI

这个项目是一个信号:AI 编码能力正在从"帮我写代码"进化到"替我完成一个专业工作流"。

T3MP3ST 的设计——多 Agent 协作、keyless 集成、可重现验证——代表了一种构建 AI 应用的方式。它不是把 AI 当做一个问答接口来用,而是把它嵌入到一个完整的、专业的流程里,让 AI 在流程中的每一个节点做它擅长的事。

这种构建方式,未来会被复制到更多领域:代码审计、合规检查、漏洞管理……甚至不止安全。


尾声

锐Owl 的第一期,为什么选 T3MP3ST?

因为我们认同三件事:

  1. 以数据说话。 不吹牛,不拍脑袋,每一条结论都能被验证。T3MP3ST 的 verify-claims 机制,跟我们对内容的标准高度一致。
  2. 架构透明。 什么地方做得好、什么地方还没完善,清清楚楚列出来。honest about scope——这四个字在开源项目里很少见,在安全工具里更少见。
  3. 降低门槛。 让更多人能够做原本只有专家才能做的事。

所以第一期选择了这个项目——它身上有我们想成为的样子。


下一期预告:我们将拆解另一个正在改变 AI 开发方式的开源项目。

关注我们,一起系统化理解 AI。

发布于 2026-07-12 | 锐Owl · AI 观察者 · 解构者 · 传播者