单篇 · 无期号ARTICLE
7款本地大模型编程能力横评：谁才是苹果芯片上的编码之王？
本期要点POINTS
本期要点
关键实测数据DATA
关键实测数据
| 被测项 | 指标 | 值 | 实测日期 | 原始记录 |
|---|---|---|---|---|
| Qwen3-Coder-30B（MLX，LM Studio） | 生成速度 | 42.33 tok/s | 2026-07-13 | 未收录 |
| Qwen3.6-35B-a3b（GGUF，Ollama） | 生成速度 | 29.46 tok/s | 2026-07-13 | 未收录 |
| Qwen3.6-27B-MLX（Ollama） | 生成速度 | 15.03 tok/s | 2026-07-13 | 未收录 |
| Magistral-Small-2509 (24B) | 推理 token 浪费占比 | 99.8 % | 2026-07-13 | 未收录 |
| Gemma-4-26B-a4b | 推理 token 浪费占比 | 99.3 % | 2026-07-13 | 未收录 |
| Qwen3.6-35B-a3b（MLX，LM Studio） | 运行状态 | 崩溃（内存不足） | 2026-07-13 | 未收录 |
口径：本地与云不混评（每条读数标了运行环境，两边数字不放在一起比）； 一行 = 一条可核读数；论文与第三方数字不进本表（见上方来源表）。 「原始记录」指向公开仓 cnopens/ruiowl-evidence 的固定链接（带 commit SHA，防漂移）；标「未收录」者为本地从未留存原始数据文件，不补造。
数据来源
本次评测数据来自真实环境下的实际测试，非理论推算。完整的测试脚本、日志和原始数据均已存档。
测试方法
- 测试题：实现带 TTL 的线程安全 LRU Cache（标准编程题）
- max_tokens：512
- 测试设备：MacBook Pro M5（48GB RAM）
- 推理后端：LM Studio 0.8.x（MLX 引擎） + Ollama 0.30.x（GGUF/MLX 双引擎）
- 度量指标：生成速度（tok/s）、推理开销占比、有效代码输出质量
排名总览
| 排名 | 模型 | 格式/后端 | 速度 | 推理浪费 | 编码质量 |
|---|---|---|---|---|---|
| 🥇 | Qwen3-Coder-30B (MLX) | LM Studio | 42.33 tok/s | 0% | ⭐⭐⭐⭐⭐ |
| 🥈 | Qwen3.6-35B-a3b (GGUF) | Ollama | 29.46 tok/s | 低 | ⭐⭐⭐⭐⭐ |
| 🥉 | Qwen3.6-27B-MLX | Ollama | 15.03 tok/s | 高 | ⭐⭐ |
| 4 | GPT-OSS-20B | LM Studio | ~10-15 tok/s | 低 | ⭐⭐⭐ |
| 5 | Magistral-Small-2509 (24B) | LM Studio | ~14.3 tok/s | 99.8% | ❌ |
| 6 | Gemma-4-26B-a4b | LM Studio | ~75* (虚高) | 99.3% | ❌ |
| 7 | Qwen3.6-35B-a3b (MLX) | LM Studio | 崩溃 | — | 内存不足 |
← 表格可左右滑动查看
冠军：Qwen3-Coder-30B
30B 参数、MLX 格式、LM Studio 运行。42 tok/s 的生成速度，零推理 token 浪费，输出完整可运行的代码。
在本次评测的 5 道编码题中，它是唯一一个全部一次性通过的模型，不需要任何提示词工程。
适合场景：日常编码辅助、代码审查、重构、脚手架生成。
亚军：Qwen3.6-35B-a3b（GGUF）
35B 总参数、MoE 架构（仅激活 3B）、GGUF Q4 量化、Ollama 运行。29 tok/s，接近冠军的速度。
与冠军的差距主要不在能力，而在格式——GGUF 的 decode 速度为 58 tok/s，而 MLX Int4 可到 134 tok/s，差了 2 倍以上。
适合场景：全能型助手，编码之外还适合通用对话、分析、写作。
大坑：Reasoning 模型不适合交互编程
评测中最意外的发现：Gemma-4-26B-a4b 和 Magistral-Small-2509（均为 2026 年新推出的推理模型）在编程题上完全不可用。
它们的共同问题是：99%+ 的 token 都消耗在内部推理链条上，留给实际代码输出的空间几乎为零。Gemma-4 生成 75 tok/s 的高速实际是虚高——因为它在疯狂输出思考过程而非代码。
启示：推理模型（reasoning model）适合复杂逻辑题、数学题等需要深层思考的任务，但不适合需要即时响应的交互式编程。如果你的场景是写代码，不要选 reasoning 模型。
MLX 不是银弹
测试中还发现一个反直觉的结果：Qwen3.6-35B-a3b 的 MLX 版本在 48GB 的 M5 上直接崩溃——MLX 推理需要一次性加载全部 35B 参数到显存，而 GGUF 量化版通过 MoE 架构和 Q4 量化，实际仅消耗约 24GB。
结论：对大参数模型（30B+），GGUF + MoE 结构在 Apple Silicon 上比 MLX 更加内存友好。
实用建议
| 使用场景 | 推荐模型 | 推荐理由 |
|---|---|---|
| 日常编码 | Qwen3-Coder-30B (LM Studio) | 42 tok/s，零推理浪费 |
| 通用助手 | Qwen3.6-35B-a3b (Ollama) | 29 tok/s，全场景覆盖 |
| 轻量场景 | GPT-OSS-20B | 够用，资源占用低 |
| 复杂推理 | Gemma-4（保留但不用于编程） | 推理链条长，适合难题 |
← 表格可左右滑动查看
发布于 2026-07-13 | 锐Owl · AI 观察者 · 解构者 · 传播者