漫谈基模

年轻人随便写写。

大就是好

大模型的灵性，进而给人的震撼感是难以想象的。

灵性是 "在信息不完整时提出正确假设的命中率"，"长上下文中保持意图一致性的程度"

一些看起来理应做成多阶段的任务，更大模型可以直接 oneshot 完成。

在有些实际业务场景 7B 和 300B 在跑分上的差距几乎可以忽略不计，但实际上往往是评测的难度，甚至是业务的难度限制了大模型的发挥空间，或者说很多业务根本不需要那么大的模型。我测试后者的时候甚至有点核弹眩晕瘫坐的感受，难以想象这真的是能 oneshot 端到端做的非常漂亮的任务。

另一个影响灵性的因素是训练数据质量

MiMoV2.6 发布之前，我试用过两周（用于真实生产任务），我给的最大的反馈就是：整体完成任务的能力和 opus5 相差无几，但能明显感受到灵性远不如 opus5。

什么是灵性，举个例子，面对某些 bug，opus5 将周边代码上下文装载进去后直接意识到了错误，v2.6-pro 组织了实验，抓去日志并将错误分析了出来。

另外我认为 opus5>opus4.6>opus4.8>opus4.7，Musk 爆料说 opus4.6 是 5T 的，业内有传闻说是 opus4.8 和 opus4.7 都在规模上缩水了，opus5 恢复了 opus4.6 的规模。我使用中就明显感觉到较小的模型，以至于实际体感不如 opus4.6。

现在（2026.10.31）比较常用的 frontier-models 有 opus5.5，6astra 和 6.1sol，先说 astra，我是从 opus5 换到 astra 的，opus5 一个非常大的毛病就是喜欢瞎写注释，代码注释，文档里过度辩护，考古，过度解释。我觉得这种行为是污染上下文，非常不利于长期维护。

用上 astra 之后感觉这个毛病少了不少，astra 整体的灵性相较于 opus5 还更胜一筹。但是 astra 行事非常保守（可能和数学方面的训练有关），走一步验证三步，实际上大部分工作连一步的验证都不需要。另一个很震撼的点就是 computer use for daily work 的能力，查资料报表这种，做旅游攻略，真的能有效落实到生活助手上。不过我试了试用 astra+gemini 做 l2d，失败了，这个关键能力瓶颈确实没跨过去。

opus5.5 可能是我用过的体验最好的模型，不亚于我第一次从 cursor 的 composer 换成 opus4.5 的那种飞跃质变体验。它真正能从我的 CLAUDE.md 和我提示词风格，repo 组织方案，上下文布局方案里理解我的 taste，有一点相见恨晚的感觉。往往是我等它工作的时候输入 prompt，才发现它给我的简报中已经说明它已经处理好我 prompt 中提到的潜在问题。过度辩护、过度解释的毛病都没了，考古也克制很多，并且已经可以用提示词压住考古，它考古的内容都是真的后续潜在有用的。相比 astra 的又一个飞跃。

唯一的缺点是我的大部分工作会被 frontier-llm 到 opus5 去。

我还没试过用用 opus5.5 做视频，看网上的 case 确实很震撼。

6.1sol 感觉定位有点像个大号 deepseek，或者我感觉它的能力可能和即将发布的 deepseek-v4.1-pro 接近，它的灵性相比 astra 和 opus5.5 弱了太多，但是基本的许愿式编程，运维这些能力都还过得去。优秀的牛马模型，能get work done。但是在整体大局观上和前两位差距不小。

灵性好和干活靠谱其实不算一种能力，后者主要还是靠后训练上去，知道什么时候该干什么，灵性更像是智力。绝对部分的日常工作不需要太高的智力。有点像一个顶尖的竞赛选手来下围棋，他即使简单学习一段时间也大概率下不过普通的爱好者。

DeepSeek-v4.1-Flash，MiMo-2.6-Pro 就是那个爱好者。能干活，但是交流起来明显感觉智力和顶级模型有差距。

Fable5 用过一段时间（frontier-llm 很头疼），Fable5.1 没关注过。

为什么做基模

要回答“你们小米做基模干什么？”

先考虑基模可以用来干什么？

首先可以用来工作，ClaudeCode，Codex Desktop，WorkBuddy，协助人类完成日常工作（不只是开发）

其次可以用来嵌入到业务中，这个问题在知乎的 "qwen3-0.6B 这种小模型有什么实际意义和用途吗？"，有非常详尽的解答。

最后，基模是下一代产业的工业母机。

谈到工业母机的问题，要先聊一下所谓全模态。

人类现有获知信息的手段，有且仅有各种形态的传感器。

我理解的全模态不局限于听觉和视觉，而应该是对广义的波形信号都能有理解。

举例来说：

• 一维波形 \(s(t)\)，例如温度压力。
• 多通道一维波形 \(\bold{s}(t)=[s_1(t),s_2(t),…,s_C(t)]\)，例如麦克风阵列，三轴磁力计。
• 波形场 \(P(x,y,t)\)，例如热成像。

早在 StableDiffusion 阶段，图片理解能力对图片生成能力的促进作用就初见端倪。这些更广阔的模态能力很可能有巨大的潜力可以发掘。

现在，合成数据已经大规模的加入到了基模的训练中，而基模又可以合成数据，也就是其实可以用基模来改进基模（当然离不开人类少量参与在整个过程中加以监督，例如系统性验证数据质量）。

在上面这些全模态数据上做好充分训练后，在下游制造业，就有难以想象的应用空间了（制造业流程的数据也就上面提到的那些）。

深度学习技术早已工业化成熟，大量场景现在做不到自动化数字化本质是缺少数据，真正的全模态基模一个重要用途就是辅助合成下游数据。

甚至与 AGI 结合，把从合成数据到产出工业软件的流程也能大幅简化。

工业场景的核心壁垒是场景碎片化。

如果有一个能初步理解工业数据的基模，结合成熟的深度学习方案，少量专业行业人员往往就可以把这个门类所需的大量工业软件实现出来。

我认为 astra 和 opus5.5 是 AGI。

所谓工业化其实就是有稳定的 SOP 操作流程，人本身也是流程的一部分，AGI 只是一定程度把人替代掉。

为什么只有开源模型，或者只有基模而没有训练它的团队是不够的（训好了把人全开了）？

至少在目前看来，一个真正意义上的基模团队才能协助下游工业的专家们理解好大模型在这些领域的想象空间。

生成理解统一，训练基模的过程也是理解基模能力边界的过程，是 Know How，Know Why 的过程。基模团队才能测绘好模型的能力边界。

RSI 也好，下游工业化也好，没有基模团队的参与，是很难跑通的。

小米集团本身有充分的下游制造业支撑，大模型 For 制造业这个流转过程很可能在小米这里首先完成。

基模为什么能 Work 至今没人讲得明白，我说的 How 和 Why 都是更具体的一些问题。

Agent 自进化尝试

闲聊一些实践感受。

我觉得这个是在 opus5.5 出来之后才是一个性价比足够高的尝试（astra 勉强能跑通但是我没啥感觉），其实这个也和灵性有关。

其实核心也就 2 个 SKILL，自我反思（reflect），工作区资产整理（consolidate）。配套一些 harness，用于辅助抽取会话内容，工具调用内容。

自我反思的流程主要是强模型对前一段时间的会话进行审视，检查其中的 trial and error，以及过长的流程，前者更新或者引入 SKILL，后者改进工作基础设施，基本都是自动完成并自动验收，初步看上去效果不错。

工作区资产整理的流程就是对之前调试运行或者性能优化，特性实现过程中产出的目录进行整理，归纳知识性和方向性事实性的结论，下次类似工作时省略重复探索，另外就是保持工作区作为上下文环境的干净。

说到这里，人一定要多用 frontier-models，多探索和了解前沿的新质生产力。