我们怎么做METHOD
方法论
测什么 · 不测什么 · 怎么测 · 来源与数据红线
本页与每期「来源表」、「实测与复现」互为一体: 口径写在这里,逐条证据落在那些页面。
这一页说明我们怎么做(不是内容本身):测什么、不测什么、怎么测、数字从哪来、以及品牌口径的边界。 它是需求
R-08 来源与口径的落点,与每期「来源表」和「实测与复现」页互为一体。
测什么
- 效率:能跑、跑多久、跑几次、错在哪 —— 效率是衡量标准,不是模型榜单排名。
- 可复现:被测对象得能重跑(有环境、有原始输出),否则不进证据层。
- 框架与协议层:Agent 框架、工具协议、上下文与权限边界这类工程上会咬人的地方。
- 诚实边界:我们自己也说不清的地方,写清「不知道 / 没验证」,而不是补一句场面话。
不测什么
- 不做二手搬运:论文与厂商数字只作为「来源」出现,不冒充我们的实测。
- 不做跑分堆砌:不追榜单名次,不拿第三方榜单代替自己的判断。
- 不做前提不统一的对比:工具对决统一底层模型;跨厂商比行为要求同日同协议,不比速度。
- 不造数据:拿不到原始记录就不给结论;早期条目本地没有留存原始文件的,页面老实写「未收录」。
- 不做流量化选题:不效仿泛流量号的做法 —— 效仿即失去本真。
怎么测
- 先定判据再跑:判据预注册在前,照着判据跑;跑完不为好看而改判据。
- 判据改了要留痕:加强判据只作用于已采集数据,方向是更严(例:某项判据由 v1.0 加强为 v1.1)。
- 一轮两遍:对局类按 A-B-B-A 各跑两轮,两轮都留,不挑好看的那次。
- 原始记录落盘并公开:脚本、逐次运行记录、日志、状态文件都留,公开到 cnopens/ruiowl-evidence;链接为带 commit SHA 的固定链接(防漂移)。
- 本地与云不混评:每条读数都标运行环境,两边的数字不放在一起比。
- 先自评、再联审:结论先过自评,再与人联审;额度先预告,冻结跑完不再改判据。
来源与数据红线
来源表口径:一行 = 一个可核出处;无链接者(本地源码路径 / 内部原始记录)同属一手。
| 等级 | 含义 |
|---|---|
| 🟢 一手已核 | 我们自己跑过,或读过源码能指到具体位置 |
| 🟡 厂商口径 | 官方文档、发布说明、厂商自述 |
| 🔴 第三方 | 他方统计、转述、未复核的数字 |
← 表格可左右滑动查看
红线:非自有数据必标来源;不编链接、不造文件、不补标等级(老期原文没标的留空);公司数据与代码、任何密钥、机器绝对路径、内网地址一律不外发。
品牌口径
锐Owl,观察者,解构者,传播者。
定位:AI 科技 / 深度学习 / 框架评测 —— 源码证据 + 机制拆解 + 诚实边界。
内容单位是「一期一页」:一期内 长文 + 关键实测数据 + 一手来源 同页呈现;视频只给 B站 外链,站内不自托管片源。
合作与联系
合作、供稿、勘误与转载,走下面三条官方渠道(都是官方,不含任何第三方转述渠道):
| 渠道 | 状态 | 说明 |
|---|---|---|
| 官网邮箱 | 可用 | ruiowl_ai@163.com(合作 / 供稿 / 勘误 / 转载) |
| 平台私信 | 可用 | B站 官方账号 @锐Owl 私信 —— space.bilibili.com/3707026152623050 |
| 官网微信二维码 | 待上传 | 二维码图片就位后贴在下方 |
← 表格可左右滑动查看
邮箱已开通(见上)。官网微信二维码待上传 —— 没开通的不写成「已开通」。