雷达 · 2026-09-17RADAR
锐Owl 雷达 · 2026-09-15:字节级蒸馏把学习单位从 token 换成 byte、7 名博士生 3 个月从零训出 7B 模型 ZGCM-1、KnowBench 把临床 AI 指标换成「省下的工作量」
radar_items 条目级接口(数据已入库 102 条),
在那之前正文里的信号按原文呈现,不替它编等级。
今天这五条,有四条其实在说同一件事:AI 的进步正在被换一把尺子量。训练的学习单位从 token 换成 byte(预测空间小三个数量级);评测的锚从「像不像参考答案」换成「替医生省下多少工作量」;Agent 在研发里的贡献用 L1–L5 自主性分级逐项标注;长程研究的编排被沉淀成可复用「模式」并被商业平台吸收成标准件;算法搜索的账本改用「评估次数 + token 消耗」结算。当日信源另有一条值得留意的杂音:量子位站内出现两条标题被改成「Hacked by CoupDeGrace」的页面(其中一条已 404),引用当日内容时按原文逐一核对。本期 5 条。
① Meta FAIR 与华盛顿大学提出字节级蒸馏:把学习单位从 token 换成 byte,Scaling 外推下能力上限高出最多 4 个百分点(论文 9/11,量子位 9/15 报道)
论文《Breaking the Token Ceiling: Distilling Smaller, Stronger Byte Models》(arXiv:2609.12303,9 月 11 日提交)要解决的是「蒸馏时学生到底该学什么单位」。传统做法让学生学教师在十余万词表上的概率分布,而离线蒸馏存不下完整分布,通常只能 top-k 截断。团队给出两种把教师的token 概率分布转换到字节级别的方法:Marginalize-It(近似——按前缀聚合、已结束的候选不再追、剩余概率重新归一,只需教师一次前向)与 End-Of-Token(精确——在每个 token 末尾加一个结束符号,给「token 到此为止」一个明确的预测位置)。教师统一为 Llama 3-8B(词表 128,256),学生是层参数对齐的约 12.8 亿参数 Transformer,训练语料最多到约 1 万亿字节,共 8 项基准(选择题问答 / 语言生成 / 机器翻译)。结论:低 FLOP 区间 token 模型学得更快但很快进入平台期,字节模型起步更差却随计算量持续改善并反超,渐近上限更高——外推预测蒸馏版 End-Of-Token 比蒸馏版 Token 最多高 4 个百分点(量子位给出的三条渐近上限为 Token 48.4%、Marginalize-It 50.5%、End-Of-Token 52.4%),约在 6.33×10²² FLOPs 处追平 Token 蒸馏的上限。效率侧:只需约六分之一的训练文本即可追平,存储量在「token 只存 top-600、字节存完整分布」设定下约为五分之一。代价也写清楚了:End-Of-Token 每个 token 后多一个符号,处理同等文本的训练计算量比普通字节模型再高约 30.94%,且论文尚未完成等推理成本下的公平对比。
认知价值:被换掉的不是分词器,而是预测空间的粒度——从 12.8 万个候选压到 256 个,单步预测空间小三个数量级,代价是序列变长、算力多三成。所以这条路给出的不是「更省的模型」,而是「同一算力预算下更高的能力上限」,效率的记账单位随之从「每 token 成本」变成「每字节 / 每能力点成本」——比较对象换了,结论也就换了。另一条对做评测的人更重要:论文里出现了「BPB(每字节预测损失)早就更好、下游成绩反而更低」的组合,训练损失的代理指标不等于能力指标,这条坑我们在自建评测里也踩过。
来源:arXiv:2609.12303 https://arxiv.org/abs/2609.12303 ;量子位(9/15)https://www.qbitai.com/2026/09/489337.html
② 北京中关村学院 7 名博士生 3 个月从零训出 7B 模型 ZGCM-1:几百个 Agent 顶替大厂专项团队,并给出 Agent 研发自主性 L1–L5 评级(9/15)
7 名博士生(两位 AI 方向、两位网络方向,另三人来自化学、生物、网安)用一个暑假从零训练出 7B 模型 ZGCM-1,并把权重、各阶段数据配方、中间 checkpoint、训练代码与日志全部开放(GitHub zgcagi/ZGCM-1,MIT;9/15 实测 164 ★ / 21 fork,HuggingFace 权重 67 下载、数据集 971 下载)。人手不够,就给自己组了一支几百个 Agent 的团队,分数据、实验、评测子团队,自研 ZGent 平台把会议讨论、研发决策与 debug 经验沉淀为可复用 Skill。工程效率数据:局部注意力 + 全局注意力混合,训练中把上下文从 16K 扩到 64K、256K,256K 下吞吐约为全注意力方案的 3.94 倍、KV Cache 降至约六分之一;叠加 Muon 与 FP8、延迟缩放与 TWEO 抑制极端激活,16K 预训练达到相同 loss 的效率约为标准 BF16/AdamW 基线的 4.2 倍。评测侧自建 ACE 原子能力评测体系:18 类 / 183 项 / 2503 个探针,分布式一轮诊断约 2–3 分钟;14 项推理评测中在同规模模型里领先,部分搜索与工具调用任务可与更大模型比较。踩过的坑同样具体:一次 loss 正常下降、能力却明显退步,最后追到数据分片与 shuffle 导致实际投喂配比漂移;SFT 阶段更严的质量筛选把样本砍掉约 44.9%,整体评测反而提升(但并非每项能力都同步受益)。最值得记的是他们对研发过程 11 类任务的自主性评级(9 名核心参与者打分均值):实验监控与部署已达 L4(人给目标与约束后自主规划、执行并依反馈调整),模型架构与学习算法设计仍停在 L2(更多是实现已有方案、跑预设实验)。
认知价值:把「AI 能不能自己研发 AI」从印象变成了带分级的实测,结论也很干净——卡点不在执行,在选题与架构判断:有客观反馈信号的任务(监控、部署)能到 L4,没有明确评分函数的判断类工作停在 L2。第二条更该抄进任何训练流程:loss 下降不等于能力上升,只看 loss 的监控是无效监控,他们用 2503 个探针把「哪项能力退步」变成几分钟一次的例行检查。还有一句效率的正确读法——省卡时不是为了省钱,而是为了「同样的算力多验证几个假设」。(数字为团队自报口径,权重与日志已开放,可复现)
来源:量子位(9/15,获授权刊载)https://www.qbitai.com/2026/09/489227.html ;代码 https://github.com/zgcagi/ZGCM-1 ;技术报告 https://github.com/zgcagi/ZGCM-1/blob/main/zgcm-1-tech-report.pdf
③ Knowtex 提出 KnowBench:把临床 AI 的评测指标换成「省下的工作量」,13 个专科、超 100 万次接诊的总体 ER 自报 97.99%(arXiv 9/14)
论文指出,临床 AI 一直在用为研究环境造的仪器来评测:参考答案相似度指标与专家评分表,量的是「和研究产物像不像」,而不是「负担减了多少」。KnowBench 的统一定义只有一条——Effort Reduction(ER):系统生成的工作产出被责任医生接受的比例。同一个定义在行政工作负载上逐项实例化:病历文书、诊断与计费编码、医嘱、EHR 病历摘要、患者就诊后小结、临床决策支持。构造方式处处相同:医生的复核与签署事件就是 ground truth,被接受的每一单位是系统完成的工作,每一次修改是退回给医生的剩余工作量。论文的主要贡献是这个基准本身:指标、它的退化情形,以及一套让 ER 声明可审计、可跨系统比较的报告协议。首个测量来自文书实例:生产窗口超过 6 个月、超过 100 万次已签署接诊、13 个专科,Knowtex 自研微调临床基础模型在闭环反馈架构下取得总体 ER 97.99%,各专科在 96.8%–98.9% 之间。论文明确说明本次只部分公开报告清单,并写明哪些配套统计被扣留。
认知价值:这个指标设计的价值在于给出了一个能被审计的分母——「被签字人签收的产出占比」——而不是「生成得像不像」。它同时也埋着自己承认的坑:ER 高不等于能力强,系统只挑低风险文书、或医生懒得改,ER 都会系统性偏高,所以作者把退化情形与报告协议一并发表,并自报「哪些数字没给」——这种自曝口径限制的做法,比 97.99% 这个分数更值得学。对任何做 AI 工作流的人,顺序应该是:先定义「谁签字、签的是什么」,再谈提效;否则你的效率数字没有审计轨迹,也就无法比较。
来源:arXiv:2609.15794(9/14 提交,Knowtex)https://arxiv.org/abs/2609.15794
④ Stellar Colosseum:面向数学与理论 CS 长程研究的「多 Agent Harness」,已作为 Long Proof 模式集成进 Google Antigravity 的 Teamwork 框架(arXiv 9/14)
作者名单包含长期在 Google 研究体系的 David P. Woodruff、Vahab Mirrokni 等。面向的问题是:语言模型能写出看似合理的短证明,但在长程研究里不可靠——进展取决于一串不确定且互相依赖的决策。Colosseum 的做法是先探索备选路线再开始证明构造,用「就绪闸门」判断一条路线是否成熟到可以拆解,把证明计划表示为互相依赖的分节子问题,并把验证器的发现路由回论证中受影响的那一部分;各阶段并行生成候选、用定向证伪逐个攻击,最终通过重叠随机采样树聚合,把候选及其批评合并成单一研究产物。论文称该工作流已被集成进 Google Antigravity 的 Teamwork 框架,作为 Long Proof 模式。结果:搭配 Gemini 3.1 Pro 与 3.7 Flash,在 TCS-Bench(取自 FOCS / STOC / SODA 论文的研究级证明题)上取得 71.0% 准确率;另一组 Codeforces 评测中,带执行反馈的证明式流水线用 Gemini 3.1 Pro 解出 222 题中的 218 题;团队称用该流程解决了来自 FOCS、JMLR 论文的开放问题。
认知价值:它的定位不是「更强的模型」,而是把研究过程写成可复用的编排模式,并且直接以「模式」的形态被产品化的 Agent 平台吸收成标准件(Antigravity 的 Teamwork / Long Proof)。这提示能力分发的方式可能不只靠权重更新,也靠流程模板流通。可迁移的构件有三个:路线前置探索、成熟度闸门、验证发现到局部论证的回流路由——这三件事都可以在普通的多 Agent 工作流里复刻。引用时要留意口径:71.0% 是被验证的准确率,「222 题解出 218 题」是可行性/完成率,两个数字不能混着说。
来源:arXiv:2609.15983 https://arxiv.org/abs/2609.15983
⑤ 香港城大与华为诺亚提出 AlgoEvo:把算法发现改成会积累经验的 Agent 搜索,六项基准追平或超过专用方法且评估次数与 token 消耗更低(arXiv 9/14)
现有自动化算法发现框架普遍把模型锁在预定义控制流的固定搜索流水线里,限制了自适应推理、阻碍跨范式迁移,也把执行反馈浪费掉了。AlgoEvo 做三件事:让自主 Agent 依据运行时反馈动态检查、诊断并修改代码;用一个「设计技能中心」把范式相关知识从发现引擎里解耦,使同一套流程能处理单目标、多目标与多组件设计;用分层经验机制把搜索轨迹组织成任务级树来引导探索,并把跨任务规律固化成可复用 Skill。结果:六项代表性基准上追平或超过专用方法,且评估次数与 token 消耗显著更低;在 TSP 与 CVRP 的单启发式设计上取得最优训练与测试质量,比最强的 LLM-AHD 基线高 4–7%,TSP 上比最近邻启发式高 12.3%,论文强调优势不是靠加预算换来的——经验逐步累积的过程中成本反而下降,Agent 在预算耗尽之前就达到最终质量。
认知价值:这条与 9/14 的 PyroDash、9 月初的 MetaRSI 是同一根线:「经验沉淀为可复用 Skill」正在从工程技巧变成被量化的性能来源,而「成本随经验累积单调下降」是自进化系统里少见的干净性质。可搬的构件是那句解耦——把范式知识与搜索主循环拆开,同一套引擎才能跨任务复用,这也是「框架级方案」比「单点工具」更耐用的原因。看它的分数时也要守住口径:报「更少评估次数」必须同时给质量门槛,否则省评估可以靠提前早停刷出来。
来源:arXiv:2609.15820(香港城市大学 + 华为诺亚方舟实验室)https://arxiv.org/abs/2609.15820
素材覆盖说明(非正文):量子位当日 RSS 全量条目 + 原文精读 8 篇(489337 / 489227 / 489288 / 488933 / 489037 / 485555 / 488380 / 488447),其中 489337(字节级蒸馏)、489227(ZGCM-1)为今日两条重点原文通读;机器之心首页已改为「数据服务」SPA 壳(约 3.3KB 并重定向至 /data-service),文章库索引显示今日三条(「1 位菲尔兹奖得主 + 12 位博士…」/「GPT-6 Astra 杀疯了…」/「不会写代码的人,在 B 站造出百万用户产品」),其中 Mostik 一条经核对已于本专栏 9/9 第②条覆盖,今日不重复;其正文获取改用搜索索引快照 + 新浪/搜狐转载交叉核对。arXiv 官方 API 本轮仍 429 限流,改用 cs.AI / cs.CL 列表页 + abs/html 页逐篇核验(2609.12303 标题与提交日期、2609.15794 摘要全文、2609.15983 作者与结果、2609.15820 结果段落)。HuggingFace trending 经 hf-mirror API 实测:无 9/14–15 新上榜模型,榜首仍为 DeepSeek-V4.1-Flash(28.8 万下载 / 2459 赞)、Edge0-35B-A3B-preview(9/8 创建,2056 赞)。GitHub API 与 HF API 实测 ZGCM-1 仓库与权重(164★/21 fork、67 下载 / 971 下载,9/15)。⚠️ 当日信源健康度:量子位出现两条标题被篡改页面(/489371 标题「Hacked by CoupDeGrace」、/489365 已 404),引用当日量子位内容时按原文与域名逐一核对。已扫未采用、留作备选:生数 Motus2 具身世界模型闭环自进化(9/14,真机任务成功率 65%→75%,自报)、元空智能 Boxer 端侧模型与惠普商务机预装(9/14,主打 Peak Data 叙事,偏公司口径)、arXiv 2609.15989「计划注入规避思维链监控」(CoT 监控有效性,方向有意思但需更多核验)、Liam Fedus 回应陶哲轩(9/15,观点类,9/7–9/8 已覆盖陶哲轩声明)。⚠️ 本轮 V2rayU 代理(127.0.0.1:1087/1080)无响应,HF 走 hf-mirror 直连、WIRED 原文走 web_extract 成功,未做代理依赖的抓取。
来源表SOURCES
来源表
| # | 来源 | 日期 | 等级 |
|---|---|---|---|
| 1 | arXiv:2609.12303 | 2026-09-15 | 未标 |
| 2 | 量子位(9/15,获授权刊载) | 2026-09-15 | 未标 |
| 3 | arXiv:2609.15794(9/14 提交,Knowtex) | 2026-09-14 | 未标 |
| 4 | arXiv:2609.15983 | 2026-09-30 | 未标 |
| 5 | arXiv:2609.15820(香港城市大学 + 华为诺亚方舟实验室) | 2026-09-30 | 未标 |
共 5 条出处(5 条带链接)。5 条原文未标证据等级——老期不补标、不默认 G(2026-09-30 定规)。