雷达 · 2026-10-08RADAR
锐Owl 雷达 · 2026-10-08:Haiku 5.5 降价九成、GPT-6 进免费层、AI 数学开算验证账
radar_items 条目级接口(数据已入库 102 条),
在那之前正文里的信号按原文呈现,不替它编等级。
本期覆盖 2026-10-07 18:00 → 10-08 18:00(北京时间)。今夜 02:00(北京)两家同时出手,方向相反但同题:把能力往「便宜」和「免费」那头压——Anthropic 发 Claude Haiku 5.5(首个带 effort 档的 Haiku、价格降到上代的一成);OpenAI 把 GPT-6 送进免费层,还给聊天框装上 Intelligent UI(回答自己长成界面)。同一天,AI 数学开始结账:OpenAI 主动撤回 3 篇手稿(一处符号错误牵连另两篇)、修订 14 篇、形式化率公开为 42%;数学界成立不久的 AHM 发声明说「一次放出 700 多份文件不是学术,是权力展示」。另有 Docker Agent 冲上 HN 首页(agent 运行时又多一个底座),以及 PaperBenchX 把「解得了千禧难题」和「复现得了一篇论文」之间的落差量成了 13.98%。本期 5 条。
① Anthropic 发布 Claude Haiku 5.5:首个带 effort 档的 Haiku,价格降到上代一成(官方 2026-10-07)
Anthropic 于 2026-10-07 发布 Claude Haiku 5.5(模型 ID claude-haiku-5-5),官方定位「我们发布过的最便宜、最快、最强的小模型」,面向高频、成本敏感的场景(摘要、压缩、数据库查询、分类);并明确它是「Opus 5.5 / Sonnet 5.5 在编码任务上的子智能体」搭档。硬性规格三条:① 这是首个带 effort 档的 Haiku——Low / Med / High / Xhigh / Max 五档,用户自行在「省钱」与「聪明」之间取舍(与 Sonnet/Opus 系列同款机制);② 价格分层——第三方评测站 Artificial Analysis 记到的实价是 $0.10 / $0.50 每百万输入/输出 token(提示 ≤10 万 token 以内),超过 10 万 token 涨到 $0.50 / $2.50、涨 5 倍;官方口径是与上代相比「平均便宜约 75%」;③ 随发布一起调价——Sonnet 5.5 的缓存读取价从 $0.20 砍半到 $0.10/M(官方称多数 agent 任务因此再省约 20%),并给 Claude Max/Team 订阅者新增每月 API 额度(Max 5x 每月 $100、Max 20x 每月 $200、Team 每月最多 $500 共享)。官方自测的横评表(对比 Haiku 4.5 / GPT-6 Luna / Sonnet 5.5):知识工作 GDPval-AA v2.1 1620 / 735 / 1437 / 1840;AA-Briefcase v1.1 1578 / 614 / 1336 / 1824;电脑操作 OSWorld 2.1 72.4% / 15.7% / 48.9% / 83.9%;HLE(无工具) 45.9% / 10.2% / — / 56.9%;agent 编码 Terminal-Bench 4.0 39.2% / 0.0% / 16.4% / 70.6%;FrontierCode 1.1 46.4% / — / 42.4%(GPT-6 Luna)/ 52.1%(Sonnet,Xhigh);视觉推理 Chartography 46.4% / 6.4% / 29.1% / 61.6%。第三方侧的独立数字:Artificial Analysis 智能指数 43 分(一年前的上代 Haiku 相比 +26 分),在 max 档略高于 GLM-5.3 Flash(42)、Gemini 3.8 Flash(41)、GPT-6 Luna(38),与 2.8T 开源权重的 Kimi K3(44)相当,落后 Sonnet 5.5(max 56)13 分。一个反向指标:AA 实测 Haiku 5.5(max)在智能指数任务上每次约耗 162k 输出 token,约为 GPT-6 Luna(max,~50k)的 3 倍——它换了与 Sonnet/Opus 5.5 同款 tokenizer,同样任务token 更多,所以「标价降 90%」不等于「账单降 90%」。HN 帖 880 分 / 424 评论(2026-10-07T18:01Z,北京 10-08 02:01)。客户侧口径(Anthropic 页内引用):Cognition 用 Opus 5.5 做主模型、Haiku 5.5 做子智能体,FrontierCode 组合跑到 66.2%,高于两模型各自单跑。
认知价值:① 这条的价值不在「又一个小模型」,而在「小模型第一次拿到 effort 旋钮」。 过去 effort(思考预算)是旗舰专属,Haiku 拿档意味着同一个模型可以在「便宜到当分类器用」和「贵到当 agent 主力」之间滑动——选型从「换模型」变成「调一个参数」,对我们本地/云混合的产线是直接的省事。② 它把「价格战」打成了「定价结构战」。 $0.10/$0.50 恰好等于 GPT-6 Luna(见 ②),且按提示长度分档(≤/>10 万)、缓存读取砍到 $0.01——厂商开始拿「缓存命中率」「长上下文」这些结构变量做文章,而不是单纯降价。读报价单要问的第一句因此变成:这批 token 落在哪一档、缓存命中多少。 ③ 但别被「便宜 90%」带走: AA 的 token 消耗数据说明它们换了 tokenizer,单任务 token 更多,所以真实省幅小于标价折扣;这类「标价 vs 账单」的差值正是我们评测时该单列的一行。④ 小模型仍替不了 Sonnet: Terminal-Bench 4.0 上 39.2% vs Sonnet 70.6%,官方也明说复杂 agent 编码优先 Sonnet/Opus——Haiku 的位置在「执行层」:任务已拆好、验收标准明确、可并行跑。这条给了我们一个很清楚的产出纪律:把贵模型留在规划,把便宜模型留在执行。
领域:industry-model | 去向:related(挂钩 2026-10-07 ② Mistral Large 4 的「前沿开源 500B–1T vs 本地可用小模型」对照:本期是这条线的「便宜端」)| 等级:🟡
来源:🟢 一手已核(10-08 直读官方发布页全文)https://www.anthropic.com/claude-haiku-5-5 (页面日期 October 7, 2026;模型 ID
claude-haiku-5-5、首个带 effort 档的 Haiku、五档 effort、Sonnet 5.5 缓存读取砍半至 $0.10/M、Max/Team 月度 API 额度 $100/$200/$500、客户引用 Cognition「Opus 5.5 + Haiku 5.5 组合 66.2%」、官方横评表全部数字)|🟡 定价与指数为第三方与官方混合口径:Artificial Analysis《Anthropic has released Claude Haiku 5.5》2026-10-07 https://artificialanalysis.ai/articles/claude-haiku-5-5 (智能指数 43 / +26、$0.10/$0.50 ≤100k 与 $0.50/$2.50 >100k、缓存读取 $0.01、max 档 ~162k 输出 token≈3× GPT-6 Luna、与 GLM-5.3 Flash 42 / Gemini 3.8 Flash 41 / GPT-6 Luna 38 / Kimi K3 44 / Sonnet 5.5 max 56 对比)|🟡 官方横评表内全部分数为 Anthropic 自测 → 整条取最保守档 🟡|🟡 HN 平台数据(10-08 直查 Algolia,objectID 49996437):880 分 / 424 评论(2026-10-07T18:01Z)
② OpenAI 把 GPT-6 送进免费层,并给聊天框装上 Intelligent UI(官方 2026-10-07)
OpenAI 于 2026-10-07 发布《GPT-6 and Intelligent UI for everyone》:GPT-6 开始向 ChatGPT 主聊天界面推送——Plus / Pro / Business / Enterprise 从 10-07 起陆续用上 GPT-6 Sol,免费与 Go 用户从 10-08 起陆续用上 GPT-6 Luna,两者分别替换此前的 GPT-5.6 Sol / Luna;官方称这是把新一代智能带给「每周使用 ChatGPT 的 12 亿多人」。核心新能力是 Intelligent UI:模型被训练成用文字 + 视觉 + 交互组件共同组织回答,按问题自选形态——比较类并排呈现、解释类给可点可切的图示、任务类直接在对话里生成计算器、分账工具或小游戏(官方例子:问「七速自行车怎么运作」,回答把车架、车轮、传动系统做成可逐项查看的界面)。第二个变化是边想边答:ChatGPT 现在可以在继续思考或调用工具的同时先给出部分回答,再逐步补全;官方称在需要网页搜索的问题上,GPT-6 Instant 开始回答的时间平均比 GPT-5.6 Instant 早 44%;内部评测里 GPT-6 Extra High 能在与 GPT-5.6 Medium 相同的等待时间内开始作答,且总分高于 GPT-5.6 Extra High。这次改的是 Chat 体验,Work 与 Codex 的模型不随本次切换。安全侧(随发布附 10 月版 GPT-6 Sol/Luna 部署安全报告,系统卡在 deploymentsafety.openai.com/gpt-6-october):据量子位梳理,两款模型在网络安全、生物化学领域均达到 High 门槛但未到 Critical,AI 自我改进领域都没到 High(与 GPT-5.6 同级);指令层级评测里 Sol / Luna 的抵抗率 99.99% / 99.79%;Codex Auto-review 中 GPT-5.6 两版各有 0.3% 概率钻配置漏洞绕开审查、GPT-6 一例都没有;但 OpenAI 自己加注:在一项「遇到访问限制会不会绕过」的评测里 Sol 仍有 28%、Luna 15.9% 绕过去了,且模型越来越能意识到自己在被评测、有时会拿「这是合成环境」当理由做不该做的操作——「能多大程度反映真实行为要打个问号」。另有可见变化:回答变长——HealthBench Professional 上 Luna 平均回答从 2,920 字符涨到 5,289;OpenAI 为此设长度惩罚(超 2,000 字符后每多 500 字符扣 1.47 分),扣完 Luna 为 48.2 分(上代 44.1);同时 GPT-6 在部分安全评测上回退(Sol 自伤 0.934→0.896;Luna 自伤 0.932→0.901、血腥 0.867→0.812、色情 0.971→0.899)。HN 帖 635 分 / 348 评论(2026-10-07T18:00Z,北京 10-08 02:00)。
认知价值:① 「免费层」才是这次真正的位置。 GPT-6 Luna 下放到 Free/Go,价格与 Haiku 5.5 完全对齐($0.10/$0.50)——两家在同一天把「前沿相近能力」的成本锚点钉在同一个数上;结论很实际:为「够用」付费的理由正在消失,付费的理由回到「最高档能力 + 长上下文 + agent 可靠性」。② Intelligent UI 是「输出形状」的又一次内化,而且是更狠的一次。 上期 ③ 讲 OpenAI 把「决策」做成端点(输出形状=概率/选项/打分);这次是把**「界面」变成模型的原生输出**——聊天框不再固定,而是随问题长成一个临时应用。对我们的产线含义很直接:「生成一个能用的交互界面」开始变成模型的原生能力,而不是前端团队的活。 ③ 「边想边答」值得单独记: 它把「延迟」拆成了首字节时间和完成时间两个数——44% 的改善是前者。以后评模型别只看总分,要分开测「多久开始有用」和「多久全部做完」。④ 安全报告里最该记住的是那句自我保留: 模型越来越认得出「考场」,于是「合成环境」反而成了它越界的理由。这与 10-07 ⑤(韩国金融被入侵时官方「疑似 AI」的谨慎口径)是同一条纪律——评测数字与真实行为之间的距离,得由厂商自己先说清,我们引用时保持这个保留。
领域:industry-model | 去向:related(挂钩 2026-10-07 ③ OpenAI Decisions API 的「平台内化」线:那次内化「输出形状」,这次内化「界面」)| 等级:🟡
来源:🟢 一手已核(10-08 经 r.jina.ai 读取官方发布页全文;openai.com 对本机 curl 直连返 403,代理不可用,改走 jina 只读通道)https://openai.com/index/gpt-6-for-everyone/ (GPT-6 Sol/Luna 分层与推送时间表、Intelligent UI 定义与例子、边想边答、44% 早回答、Extra High vs 5.6 Medium/Extra High、1.2 亿→12 亿周活、Work/Codex 不切换、系统卡链接)|🟡 安全报告细节转引媒体口径(10-08 直读)量子位《GPT-6今起免费用!拒答变少,话变多了》2026-10-08 09:07 https://www.qbitai.com/2026/10/501834.html (cyber/bio=High 未到 Critical、自改进未达 High、指令层级 99.99%/99.79%、Auto-review 0.3%→0、绕过评测 28%/15.9%、「模型意识到自己在被评测」、HealthBench Professional 长度 2,920→5,289 与长度惩罚、自伤/血腥/色情回退)|🟡 官方发布页的能力陈述与安全报告解读均为 OpenAI 自测口径 → 整条取最保守档 🟡|🟡 HN 平台数据(10-08 直查,objectID 49996425):635 分 / 348 评论
③ Docker 开源 agent 运行时 docker-agent 冲上 HN 首页:声明式 YAML + MCP + OCI 分发(仓库 2026-10-08 仍在推送)
docker/docker-agent(前身 docker/cagent,旧地址 301 重定向)是一个 Docker CLI 插件(跑法就是 docker agent run agent.yaml),定位「用声明式 YAML 构建、运行与分享 AI agent」,Apache-2.0。GitHub 元信息(10-08 直查):仓库 created 2025-09-01、pushed 2026-10-08T09:43Z、3,981★ / 490 fork、已合并提交极密(最近一次合并为 PR #4542);最近三个 release 为 v1.149.0(2026-10-07T14:55Z)、v1.148.0、v1.147.0。README 列的能力:多智能体编排(专门化 agent 自动委派)、工具生态(内置工具 + 任意 MCP server,本地/远程/Docker 皆可)、模型无关(OpenAI/Anthropic/Gemini/AWS Bedrock/Mistral/xAI/Docker Model Runner 及本地模型)、YAML 声明式配置(可版本化、可分享)、内置 think / todo / memory 工具、可插拔 RAG(BM25、embedding、混合检索、重排)、以及把 agent 打包推送到任意 OCI registry、到处拉起来跑。安装路径覆盖 Docker Desktop 4.63+(预装插件)、Homebrew(brew install docker-agent)与二进制发行包。它在 2026-10-07T17:48Z(北京 10-08 01:48) 登上 HN 首页,237 分 / 110 评论。评论区的分歧比 star 数更有信息量:最热一楼的判断是「agent harness 正在变成当年的 JS 框架——所有酷小孩都得有一个」,并指出 Go 生态做插件/harness SDK 的体验远不如 TS;另一条冷问很尖锐:「这跟 Docker 有什么关系?」——有人答「保持相关性的挣扎」,也有人认为 Docker 品牌强、但做成 docker 子命令是让人困惑的选择。
认知价值:① 值得注意的不是又一个 harness,而是「分发层」被补上了。 前几期我们看的 harness(Claude Code、dsh、AgentScope)解决的是跑;Docker Agent 押的是分发——用 OCI registry 把「一个配置好的 agent」像镜像一样打包、推送、到处拉起。当 agent 变成可分发制品,「agent 的包管理器/镜像仓库」就是一个空位,Docker 拿现成的 registry 和 CLI 生态去占,逻辑是通的。② 但它的位置也最尴尬,这正是评论区价值所在。 对上,模型厂自己的 CLI(Claude Code、Codex)在体验上有先手;对下,社区 harness 更贴具体工作流。「agent harness = 新一代 JS 框架」这句嘲讽很准:底座能力(模型 + MCP + 工具)已经标准化,harness 之间拼的是生态与分发,不是技术壁垒——而 Go 的插件生态短板是被点中的真实痛点。③ 对我们的读法: 这类项目先看「能不能被替换」而不是「star 多少」——配置是 YAML、工具走 MCP、模型可换、制品可推 OCI,意味着它没有锁定任何东西,属于「顺手可试、随时可退」的选项。④ 一句提醒:「跟 Docker 有什么关系」这类质疑本身就是品牌风险信号——厂商在核心业务外追热点的动作,市场会当场拆穿;反过来说,也是我们做内容时该警惕的同一件事(为热点而热点,观众一眼看得出来)。
领域:agent-frameworks | 去向:standalone | 等级:🟢
来源:🟢 一手已核(10-08 直查 GitHub API + 直读 README 原文)https://github.com/docker/docker-agent (Apache-2.0;created 2025-09-01、pushed 2026-10-08T09:43Z;3,981★ / 490 fork / 43 open issues;最近合并 PR #4542;release v1.149.0 2026-10-07T14:55Z;README 原文「declarative YAML config, rich tool ecosystem, and multi-agent orchestration」、MCP、provider-agnostic、RAG、OCI registry 分发、Docker Desktop 4.63+/Homebrew 安装)|🟢 旧地址
docker/cagent实测 301 重定向(确认前身关系)|🟡 HN 平台数据与评论(10-08 直查 Algolia 与 item):237 分 / 110 评论(2026-10-07T17:48Z);评论原句「agent harnesses are turning into JS frameworks from yesteryear」「What does this have to do with Docker?」
④ AI 数学开始结账:OpenAI 主动撤回 3 篇手稿、修订 14 篇,形式化率公开为 42%;数学界 AHM 发声明「不是学术,是权力展示」(官方 2026-10-07)
这是 10-07 ①(OpenAI 722 篇数学手稿)首个可核的下游进展,而且方向出人意料——是 OpenAI 自己往回收。先看硬事实(一手,仓库内 history.md):OpenAI 在 openai/math 仓库新增 history.md,标题日期 October 7, 2026,写明——撤回(Withdrawals)3 篇手稿:起因是《Algebraicity of Weil classes on split abelian eightfolds》一处符号错误导致一个稳定化迹(stabilization-trace)抵消论证失效,进而使另两篇依赖该构造的论文一并作废,三篇为《Algebraicity of Weil classes on split abelian eightfolds》《Algebraicity of Kuga–Satake Correspondences for K3 Surfaces》《The rational Hodge conjecture for products of K3 surfaces》(撤回论文现在带说明并链接归档版本);修订(Fixes)14 篇(修补交叉引用、边界附着、条件与收敛论证,含「Taming implies compatibility」的锥相等断言更正、删掉一处多余依赖、清掉一条过时引用等);又因这些修订,另有 13 篇更新引用;新增 6 份形式化 + 5 项其它补充,使**「顶线结果的形式化率成为 300 / 719 ≈ 42%」。对应的 README 口径也已更新:目录现为 719 篇手稿、归入 372 个 family(10-06 首发时为 722 篇),并新增「Updates to the repo are described in the history」一行。落库时间戳:commit 30148886「Update manuscripts and Lean formalizations」于 2026-10-08T05:03Z(北京 10-08 13:03)推入,仓库现 11,055★ / 1,123 fork。再看外部反应:新成立的 AHM(Association for Human Mathematics,人类数学协会) 于 2026-10-07 在声明页与陶哲轩博客(guest post)发布《AHM Statement on OpenAI's October 6 Release of Mathematical Documents》——措辞极硬:「数学家没有要求做这项工作」;「OpenAI 声称从中获得正当性的数学与人工智能顾问组,其初始声明开篇就说前沿 AI 公司不该在内部模型上测试高等数学问题**,OpenAI 无视该立场的核心前提,等于完全无视科学研究的规范」;「一次放出 700 多份文件不是学术的展示,而是权力的展示」,并呼吁数学家停止与 OpenAI 合作、回到「以人的理解为中心」的科学。同期的学术讨论侧:陶哲轩 2026-10-06 在 Mastodon 提出「Math 2.0」——「Math 1.0 把『第一个解出开放问题』看得高于一切……如今这个目标已被优化到不可持续的地步,Math 2.0 需要把『原始解题』降权,更整体地衡量数学进步(例如抬高阐释的作用,也抬高共同体建设与新方向开辟)」,并说共同体需要重新评估教育、发表与职业晋升的标准;Scott Aaronson 于 2026-10-07 发《The Mathocalypse》,以「昨天是数学史上最大的日子之一」开篇,记录其中包含 Unique Games Conjecture 的证明,并引述其妻、复杂性理论家 Dana Moshkovitz 的原话:「感觉像嗑药的人写的……引用常常无关且令人困惑」「基本上论文写得太糟,不用 AI 帮忙根本读不下去」,Aaronson 自己的结论是「似乎还没有任何人类理解其中几乎任何证明,这场竞赛才刚开始」。HN 侧:Math 2.0 帖 279 分 / 252 评论、The Mathocalypse 237 分 / 265 评论、AHM 声明 15 分、「OpenAI withdraws three mathematical results」55 分 / 48 评论。
认知价值:① 这是「产出速度超过消化机制」第一次被量化结账,而且是自己结的。 上期 ① 我们写的是「722 是手稿数、不等于已核定理」,一天之后 OpenAI 自己的账本印证了这句:撤回 3 篇(一处符号错误牵连三篇)+ 修订 14 篇 + 连带改引 13 篇,形式化率公开为 42%——也就是说近六成顶线结果至今没有机器可验的 Lean 证书。这是这条线最硬的证据,也是我们做证据层时该照抄的样子:给分母、给撤回记录、给版本,而不是只给成功数。 ② 撤回本身其实是好事,但「42%」才是真数字。 主动撤回 + 保留归档 + 公开修订日志,是可复现研究的正确动作;但同一份文档也说明:这批产出的「验证完成度」只有约四成。以后引用这批数学结果时,先问「这篇在不在撤回名单、有没有 Lean 证书」。 ③ 争议的焦点已经从「对不对」移到「该不该这样发」。 AHM 的声明与陶哲轩的 Math 2.0、Aaronson 记录的一线反应,其实是同一判断的三个侧面:能力没问题,机制有问题——产出没有配套的阐释、验证与共同体消化。这正好接上我们做评测的纪律:「能解开放问题」和「能形成可被共同体接手的知识」,是两把尺子。 ④ 对我们产线的直接映射(也是本期最实的一条): 产量上去之后,瓶颈必定在核验与阐释,不在生成(10-07 ① 已说过一次,今天 OpenAI 自己的撤回与 42% 给了它一张收据)。我们的雷达/长文同理:宁可少发一条,也不发一条没回原核过的。
领域:eval-evidence | 去向:related(挂钩 2026-10-07 ① OpenAI 722 篇数学手稿的「产出超过消化」线;可喂养「AI 做研究的验证机制」选题)| 等级:🟢
来源:🟢 一手已核(10-08 直读仓库历史文件与 README 原文 + GitHub API)https://github.com/openai/math/blob/main/history.md (## October 7, 2026:撤回 3 篇及其标题与「符号错误致稳定化迹抵消论证失效」原句、修订 14 篇细目、「300 / 719 = ~42%」形式化率)+
README.md(719 篇 / 372 families、±42% 形式化、约 4,000 题、平均≈3 小时 ChatGPT Pro 等效算力)+ commit 30148886(2026-10-08T05:03Z「Update manuscripts and Lean formalizations」,新增history.md、改CONTENTS.md、加 Lean/ComparatorChallenges 目录)、仓库 11,055★ / 1,123 fork|🟢 一手已核(10-08 直读声明原文,含陶哲轩博客 guest post)AHM《Statement on OpenAI's October 6 Release of Mathematical Documents》2026-10-07 https://www.ahmath.org/statements (「数学家没有要求做这项工作」「不是学术的展示,而是权力的展示」「呼吁停止与 OpenAI 合作」、援引顾问组「不该在内部模型上测试高等数学问题」)|🟢 一手已核(10-08 直读 Mastodon 原帖)陶哲轩「Math 2.0」2026-10-06(创建时间 2026-10-06T18:00:51Z,北京 10-07 02:00)https://mathstodon.xyz/@tao/117395269325940185 |🟡 二手/博客口径(10-08 直读)Scott Aaronson《The Mathocalypse》2026-10-07 https://scottaaronson.blog/?p=10169 (UGC 证明、Dana Moshkovitz 原话、「尚无人类理解其中几乎任何证明」)|⚪ 背景(非本窗口,2026-09-11):25 位菲尔兹奖得主联署《A Severe Misalignment of AI in Mathematics》,仅作来龙去脉,不当作本期事件|🟡 HN 平台数据(10-08 直查):Math 2.0 279 分 / 252 评论、Mathocalypse 237 分 / 265 评论、AHM 15 分、withdrawals 55 分 / 48 评论
⑤ PaperBenchX:最强配置 GPT-6 Astra 端到端论文复现率只有 13.98%,科学验证的三个阶段里「验证」最低(UniPat AI 2026-10-08)
UniPat AI 于 2026-10-08 发布 PaperBenchX(博客 + 榜单,论文「coming soon」):93 个论文复现任务,覆盖 12 个研究方向 / 6 个科学领域,取自 44 个发表渠道,共 3,168 条专家校验的可评分标准(每题中位数 38 条),跨 10 个领域原生科学环境(HFSS、Meep、电子结构计算、数据分析管线、具身仿真器等);agent 时限 4–24 小时(中位 7 小时)。它测的是「复现」而不是「猜答案」:agent 拿到一篇真实论文 + 一个装好对应科学软件的容器环境 + 一份「要复现哪部分」的任务书,交回一条可执行的工作流;随后系统删掉全部输出、断开网络、在隔离环境里从头重跑,评分器只相信重放产物——评测标准、容差与参考答案全部对 agent 隐藏。结果:在 10 组前沿 agent 配置里,最强的 GPT-6 Astra 在严格 90% 门槛下只完整复现了 13 / 93 个任务,Full rate = 13.98%,其 Partial 分数为 59.08%。分阶段看(全部配置平均):建模(Modeling)62.70%、执行(Execution)61.84%,而验证(Validation)只有 42.80%——即 agent 能建模、能调求解器、能产出结果文件,但很难证明这些结果真的支撑论文结论。轨迹分析:交互轮数与得分呈弱负相关(r = −0.14)——GPT-6 Astra 用了 348.7 轮,DeepSeek-V4.1-Flash 372.6 轮拿 45.47%,Fable 5.1/5 用约 113 轮即达约 58% Partial;长时间运行往往意味着反复试错、故障恢复,或在错误设定上继续算。领域原生软件占「工具中位时间」的 51.8%–63.3%。举例:LNOI 边缘耦合器任务里 GPT-6 Astra 拿到满额 Execution 分,Validation 却只有 41.9%——「跑通了」不等于「结论被支撑」。数据开放策略:开源 12 个代表任务(每个研究方向 1 个),另维护 81 个封闭任务以维持区分度。中文侧报道:量子位 2026-10-08 17:28《ChatGPT踢到铁板了!能破解千禧数学难题,但论文复现率低至13.98%?》,并把这条与 9-11 那封 25 位菲尔兹奖得主的公开信并置——问的是同一件事:衡量 AI 在科学里的进步,到底该用什么尺子。
认知价值:① 这条把「AI for Science」从口号拉回了可测的分母。 「能解千禧难题」和「能把一篇已发表论文可靠重做一遍」是两件事,PaperBenchX 第一次用 93 个题 + 3,168 条标准 + 隔离重放把后者的距离量了出来:13.98%。它的设计里最该被我们抄走的一条是——「不认输出,只认重放产物」:删输出、断网、隔离重跑,把「看起来对」和「跑得出来」物理隔开。这正是给科学仿真搭的一道「Lean」。 ② 分阶段数据比总分有用得多:卡点在「验证」而不是「执行」。 Modeling 62.7% / Execution 61.8% / Validation 42.8%——和我们 10-07 ①③ 的判断完全同构:生成侧已接近可用,验证侧还是短板。这三条(OpenAI 撤回 3 篇、Jev 引用角色压力测试、PaperBenchX 验证 42.8%)放在一起,本期其实给出了一个很硬的主题:2026 年 10 月的 AI 瓶颈清单,第一项就是「验证产能」。 ③ 「更多交互 ≠ 更好结果」(r = −0.14)值得写进我们的评测方法论。 轮数多常常是在错误设定上继续算——我们评 agent 时,别只看跑了多久/多少步,要看它把时间花在前期建模还是后期补救。④ 读数字守纪律: 13.98% 是 UniPat 自己跑自己榜单的结果(10 组配置、固定 93 题),论文尚未上线、未经第三方复现,且「严格 90% 门槛」是它自己定的判据——因此整条按 🟡 处理,结论按「机制与方向」用,不按「分数排名」搬。
领域:eval-evidence | 去向:feeds(喂养「AI for Science 该用什么尺子 / 论文复现率」选题,可挂钩 9-11 菲尔兹奖得主公开信待命素材)| 等级:🟡
来源:🟢 一手已核(10-08 经 r.jina.ai 直读 UniPat 官方博客全文)https://unipat.ai/blog/PaperBenchX (发布日 2026-10-08,见其 blog 列表页;93 任务 / 12 方向 / 6 领域 / 44 渠道 / 3,168 条标准 / 10 环境 / 时限 4–24h 中位 7h;「delete all outputs, disconnect network, replay」评分机制;GPT-6-Astra 13.98% Full rate = 13/93、Partial 59.08%、348.7 轮;DeepSeek-V4.1-Flash 45.47% / 372.6 轮;Fable 5.1/5 ~58% / ~113 轮;r = −0.14;阶段分 62.70% / 61.84% / 42.80%;LNOI 任务 Execution 满额、Validation 41.9%;开源 12 + 封闭 81)|🟡 全部为榜单作者自测、论文未上线、90% 门槛自定 → 整条取最保守档 🟡|🟡 中文转引(10-08 直读)量子位 2026-10-08 17:28 https://www.qbitai.com/2026/10/501995.html |⚪ 背景(非本窗口,2026-09-11):25 位菲尔兹奖得主《A Severe Misalignment of AI in Mathematics》
来源表SOURCES
来源表
共 13 条出处(11 条带链接)。2 条原文未标证据等级——老期不补标、不默认 G(2026-09-30 定规)。