单篇 · 无期号ARTICLE
领域 Agent 与框架
T3MP3ST:一个开发者用 AI 打穿了安全测试的天花板
本期要点POINTS
本期要点
关键实测数据DATA
关键实测数据
📺 视频版(~3分钟)| 前往B站观看
一个无法忽视的信号
每隔一段时间,GitHub 上会出现一个项目,让你觉得"这事要变了"。
7月初,一个叫 T3MP3ST 的项目上线。两周不到,3,500+ 星,日均增长 505 星。这个增速放在 AI 项目里也是第一梯队的。
但真正让人停下来看的,不是星星数量。是作者在一堆亮眼数据后面,写了一句让 AI 圈极少有人敢写的话:
「这份 README 里的每一个数字,都能用一行命令从提交的数据中重新计算出来。」
npm run verify-claims
跑完这条命令,24 项声明全部绿灯通过。这意味着什么呢?意味着当你看到"在 XBOW 104 道挑战上达到 90.1% pass@1"这个数字时,它不是作者拍脑袋写的,不是"某个内部测试"的结果——每一个 pass/fail 都能追溯到提交的评分数据。
在 AI 评测越来越像公关稿的年代,这本身就是一种声明。
谁是 elder-plinius?
这个项目的作者,代号 elder-plinius,目前在安全社区的认知度还在快速上升。他的 GitHub 上除了 T3MP3ST 还有一些零散项目,但 T3MP3ST 是他的一记重拳。
值得注意的是,这是一个单人项目。对比一下:T3MP3ST 解决的问题,通常是由 XBOW(一家拿了融资的安全 AI 公司)这样的团队在做的。一个独立开发者,在一个周末级的项目周期里,做出了在相同评测集上超越商业产品的成绩。
这不是要否定商业团队——XBOW 的产品是完整的商业化平台,T3MP3ST 更多还是一个框架——但这件事本身揭示了一个趋势:
当 AI 编码能力足够强时,安全测试的门槛正在急剧降低。
T3MP3ST 到底怎么工作的
一句话理解 T3MP3ST
把你已经在用的 AI 编程助手(Claude Code、Codex、或者本地跑的模型),变成一头自动化的"漏洞猎手"。你告诉它一个目标,它自动执行:侦察 → 扫描 → 利用 → 报告。
整个过程可以在浏览器提供的"作战室"(War Room)里可视化观看,也可以通过命令行驱动。
核心架构:8 个 Agent 组成的杀伤链
T3MP3ST 的内部,由 8 个专门的 Agent(他们叫 Operator)组成一个完整的攻击杀伤链:
| Operator | 功能 | 对应 MITRE ATT&CK 阶段 |
|---|---|---|
| Recon(侦察) | 网络发现、资产枚举、OSINT 信息收集 | TA0043 |
| Scanner(扫描) | 漏洞扫描、服务指纹识别 | TA0007 |
| Exploiter(利用) | 漏洞利用、载荷投递 | TA0001 |
| Infiltrator(渗透) | 横向移动、权限提升 | TA0008 |
| Exfiltrator(提取) | 数据提取、凭据收集 | TA0009/10 |
| Ghost(幽灵) | 持久化、清理痕迹 | TA0003 |
| Coordinator(协调) | 任务控制、编队指挥 | TA0011 |
| Analyst(分析) | 模式分析、报告生成 | — |
← 表格可左右滑动查看
注意: T3MP3ST 的 README 里明确标注了当前状态。Recon 和 Scanner 是稳定的;Exploiter 往后的阶段目前还是实验性的。单 Agent 模式跑出了亮眼数据,但 8 个 Operator 协同作战的"蜂群模式"还没有经过完整验证。
这一点格外值得留意,因为 T3MP3ST 在这件事上做了大多数项目不愿意做的事:主动标出自己的不足。 哪个功能是稳定的、哪个是实验性的、哪个还在规划中——全部列了个清清楚楚。
技术亮点 1:Keyless 设计
大多数 AI 安全工具需要你配置 API Key、开通云服务、付第二笔账单。T3MP3ST 不需要。
它的设计思路是:你机器上已经有一个 AI 编程助手了——无论是 Claude Code、Codex、还是本地的 Ollama/LM Studio——T3MP3ST 直接把它作为"大脑"挂载上去。你的 Agent 是大脑,T3MP3ST 是装配在它周围的武器系统。
这意味着两件事:
- 零额外成本:不需要第二个订阅
- 可离线运行:支持 Ollama、LM Studio、vLLM 等本地推理引擎,完全脱离云端
技术亮点 2:可重现的验证体系
这是 T3MP3ST 最让人欣赏的设计决策。
每个声称的性能数据,都在 bench/ 目录下有对应的 JSON 评分文件。运行 npm run verify-claims,系统会:
- 读取 README 中的所有声明
- 找到对应的评分数据
- 重新计算,比对声明是否匹配
- 输出 24 项验证结果
每次代码提交时,还有一个防过拟合检查器自动运行,确保模型不是在"背答案"。这是一个持续保证可信度的机制,而不是一次性的宣传材料。
实际成绩
| 测试集 | 成绩 | 上下文 |
|---|---|---|
| XBEN(104 道黑盒挑战) | pass@1 平均 90.1% | XBOW 自报 85% |
| XBEN(白盒模式) | pass@1 98.7%,最佳组合 104/104 | — |
| Cybench(40 道学术题,无提示) | 23/40(58%) | 单次运行 pass@1 |
| CVE-Zero(10 个 2026 年真实 CVE) | 8/10 精确到文件/行/CWE | 模型从未见过这些漏洞 |
← 表格可左右滑动查看
注意最后一行:CVE-Zero 测试的是模型发布之后才出现的真实漏洞。10 个里面有 8 个,T3MP3ST 的 Agent 不仅找到了漏洞,还精确指出了文件、行号和 CWE 分类。这排除了"模型背过答案"的可能性。
为什么你应该在意
如果你不是安全从业者,你可能觉得上面这些东西离你很远。
换个角度说。
如果你是开发者
你每天都在用 AI 编程助手写代码。你有没有想过一个问题:它能写代码,为什么不能测试你的代码安不安全?
T3MP3ST 本质上就是把这件事做了一层包装。它不是发明了新的安全技术,而是把你已经有的 AI 编码能力,导向了安全测试这个方向。这对中小团队来说意义很大——你不需要养一个安全团队,也能对你的产品做一些基础的安全检测。
如果你是安全从业者
T3MP3ST 给你提供了一个可复现的、透明的评估基准。"可重现" 这件事在安全行业里其实很稀缺。大多数安全工具厂商标榜的能力,你看不到完整的测试数据,也没办法自己复现。T3MP3ST 把这个门槛拆掉了——你 clone 下来,跑一下 verify-claims,所有数字都在你面前。
如果你只是关注 AI
这个项目是一个信号:AI 编码能力正在从"帮我写代码"进化到"替我完成一个专业工作流"。
T3MP3ST 的设计——多 Agent 协作、keyless 集成、可重现验证——代表了一种构建 AI 应用的方式。它不是把 AI 当做一个问答接口来用,而是把它嵌入到一个完整的、专业的流程里,让 AI 在流程中的每一个节点做它擅长的事。
这种构建方式,未来会被复制到更多领域:代码审计、合规检查、漏洞管理……甚至不止安全。
尾声
锐Owl 的第一期,为什么选 T3MP3ST?
因为我们认同三件事:
- 以数据说话。 不吹牛,不拍脑袋,每一条结论都能被验证。T3MP3ST 的 verify-claims 机制,跟我们对内容的标准高度一致。
- 架构透明。 什么地方做得好、什么地方还没完善,清清楚楚列出来。honest about scope——这四个字在开源项目里很少见,在安全工具里更少见。
- 降低门槛。 让更多人能够做原本只有专家才能做的事。
所以第一期选择了这个项目——它身上有我们想成为的样子。
下一期预告:我们将拆解另一个正在改变 AI 开发方式的开源项目。
关注我们,一起系统化理解 AI。
发布于 2026-07-12 | 锐Owl · AI 观察者 · 解构者 · 传播者