互联网文本烧完了,他们改去烧实验:1,300 张卡把开源模型的 2.7% 后训到 55.3%,压过十万张卡训出来的前沿模型
Nature Is Our Learning Environment
9 月 15 日,一家叫 Periodic Labs 的公司同时放出三篇博客,中心是一个叫 Periodic Neon 的模型:一万亿参数,底座是开源的 Kimi K2.6,用自家实验室产出的数据做中训练和强化学习,训完直接放回实验室里干活。它干的活很窄——读 X 射线衍射图谱,判断刚烧出来的那炉粉末里到底有哪些晶相、各占多少——但结论不窄:在他们自己最难的那套评测上,底座模型只做对 2.7%,后训完是 55.3%,而且在「每次分析花多少钱」这条轴上压过了 GPT-6 Astra 和 Claude Fable 5.1。这次最终训练的峰值用了 1,300 张 H200。
值得读的不是这个成绩,是它背后那条路线。Periodic 的官网把理由写得很直白:互联网上的文本大约 10 万亿 token,前沿模型已经把它吃干了;要再有新数据,就得去做实验——「nature is the RL environment」,自然就是那个强化学习环境。这句话听着像口号,但这三篇博客把它拆成了可执行的东西:门洛帕克的高通量实验室 24 小时跑,产出的数据喂模型,模型回头决定下一批实验做什么。这是本栏第 1 篇「苦涩的教训」那条线的延长——算力和搜索终将赢过人的巧思,只不过这一次要搜索的空间不在棋盘和代码里,在合成炉和衍射仪里。它也正好站在第 86 篇的对面:那篇用公开基准测出六个最强模型在真实验室任务上只过 45.3%,这篇的潜台词是,那是因为还没人拿实验室数据训过它们。
一张衍射图谱,为什么专家要看几个小时
先把这件活说具体。做材料合成,你挑好目标物、前驱体、温度和气氛,烧出来的东西却几乎不会是纯的:里面有目标相、没反应完的前驱体,还有意外的副产物。要决定下一步怎么改,必须先知道这一炉到底生成了什么、比例如何。粉末 X 射线衍射(XRD)就是干这个的主要手段——拿 X 射线照粉末,看它怎么散射;晶体里原子周期性排列,每一种晶相都会给出一组特征峰,峰的位置对应晶格间距与对称性,强度取决于有哪些原子、坐在什么位置、这一相占多少。难点在于多相混合时峰会叠在一起,而把它们拆开靠的不是算得更准,是判断:这个样品在空气里烧过,所以氧化物说得通;它可能接触过潮气,所以氢氧化物才值得考虑。Periodic 自己点出了关键一句:现成的 XRD 软件很强,但它好用的前提是科学家已经把搜索范围缩小了,而在材料发现里,缩小范围本身才是难的那一步。他们这套 FrontierXRD 评测收的就是这种硬样品:134 个来自自家实验室的图谱,被接受的解平均含 5 个晶相,专家处理一张要几个小时。
没有标准答案的任务,奖励从哪儿来
这里有个绕不过去的问题:强化学习要有奖励信号,而 XRD 分析没有标准答案。原文一句话点中要害:科学是可证伪的,却不是能便宜地核验的。只看「拟合得好不好」不够——数学上吻合、化学上讲不通的解很常见。他们的做法是把专家判断本身做成奖励:先写一套细则,请一批材料相关专业的博士给几千张图谱打质量标签,每张三个人独立打;再用两个 agent 式大模型组成裁判集成(LLM-judge,即用模型给模型的输出打分)去打同一批,然后比一致率。结果是,人类专家之间一致 77.2%,裁判与单个专家一致 74.6%,裁判与专家共识一致 84%。这组数字的意思不是「裁判找到了真相」,而是「裁判的噪声已经降到跟人类分歧同一个量级」——在既没有金标准、拟合又不够用的任务上,这就够拿来当训练信号了。这跟本栏第 59 篇配着读最好:那篇讲把标注员的分歧抹平成一个不存在的共识有多危险,这篇的处理正好反过来,拿人与人的一致率当天花板去标定机器。
1,300 张卡压过十万张卡,但这笔账得算清
成绩单上最抓眼的是两个对比。一是性能与成本:在同一套脚手架下,Neon 在 FrontierXRD 上既比 GPT-6 Astra 和 Claude Fable 5.1 做得对,单次分析还更便宜(外部模型按 API 标价、且假设跨轮完美缓存来估算,自家模型按 H200 每小时 2.5 美元折算)。二是算力:最终训练峰值 1,300 张 H200,而 Astra 公开报道的预训练规模是十万张以上 Blackwell。但第二个对比并不对等——它比的是后训练和预训练,而 Neon 那一万亿参数的底座是别人烧钱训出来的。这篇站得住的说法是另一句:在一个窄而难的任务上,开源前沿底座加一份别人拿不到的数据,足以把通用前沿模型挤出成本-性能前沿。另有两个细节值得记:他们另做了一组泛化测试,198 个测量来自训练中被完全剔除的化学体系,Neon 同样赢过前沿模型(但这套比 FrontierXRD 简单);中训练(midtraining,在预训练之后、强化学习之前用领域语料继续训)的语料里只有一小部分跟 XRD 有关,却能让之后的强化学习涨得更高——而这份专有语料目前每个月翻一倍。
同一个模型,换副脚手架差 3.8 倍
最该被工程师抄走的是脚手架那一节。他们拿同一个模型(Claude Opus 5,高推理档)跑两套环境:一套是 Periodic 自建的——内置实验室上下文、自家的晶体结构与模拟数据库、专业 XRD 分析软件;另一套是 Claude Code 加开源家当(COD、Materials Project、BGMN),也就是一个典型科学家的工具箱。成本相近,自家脚手架的成功率是对照组的 3.8 倍。换句话说,在这类任务上你测到的「模型能力」,很大一部分其实是在测它有什么工具和数据权限——这跟第 53 篇(换一副脚手架多拿 10 分)、第 55 篇(给 agent 十个单元测试,它写出比专家更快的算子)是同一件事的第三次出现。配套那篇基础设施博客也值得翻:科学强化学习的形状跟代码强化学习不一样,一次 rollout 可能一边推理一边调工具跑一个多小时,而训练步只要几分钟,于是他们把生成和训练放到不同 GPU 上异步跑,在 Megatron 之上做到 4.1 倍训练吞吐,给 SGLang 提的改动让自家场景推理快 2.5 倍,又把吃资源的科学工具关进自建沙箱 pbox,顺手把检查点转换从 30 分钟压到 1 分钟,集群利用率保持在 95% 以上。而他们自己也写出了在物理世界里做强化学习最硬的那个约束:agent 数量没法弹性扩张——多跑并行实验要加电、加设备、加工程师,每个实验要几天,结果还经常是模糊的。所以这套方法真正的瓶颈不在 GPU,在实验室的吞吐。
本文为 AKL AI Club 原创撰写的导读,不是原文翻译;著作权归原文作者所有。 篇目由编辑独立选取,来源均经人工核实。