六个最强模型进了一间真实验室:92 个任务只过了 45.3%,而它们的错是拿冻着的样品去移液、给开着盖的孔板涡旋、一个枪头用到底
SciUniverse: Can frontier models carry out scientific work?
9 月底,一家叫 C5R 的旧金山公司挂出一份评测,名字起得很大:SciUniverse。它问的事情却很具体——把一个科研目标直接交给模型,让它自己查库房、配药、开仪器、读数据、在实验崩掉之后改方案,它到底能不能把东西做出来。六个最强模型跑完 92 个任务,通过率最高的 Claude Fable 5.1 是 45.3%,六个模型的中位数只有 28% 左右;而这批题按作者自己的定义叫 Level 1——受过训练的科学家做起来不费劲、几个小时能收工的那种活。更要紧的是它们不是纸面题:17 个任务族里有 8 个是在一间真实验室、用真粉末真仪器跑完的,判分看的是最后称出来的纯度、压出来的片子摔不摔碎、孔里的蛋白有没有真的变绿。
值得读它的理由不是这个分数。「模型考不过人」的榜每周都有新的。真正的新信息是它把「做科研」切成了两半,而两半的成绩差得离谱:给干净数据做分析的那一半,六个模型全线及格,XRD 定量分析最高 82.5%;要动手把东西做出来的那一半,有两个任务族是六个模型全军覆没——其中「PCR 扩增并回收 DNA」那一族,Claude Opus 5 单次尝试烧掉 213.86 美元的推理费,拿回来一个 0 分。这道缝隙是本栏今年反复撞到的同一面墙:挡住 AI 的往往不是推理,是现实世界的那一层。
它怎么测:模型写代码,手是别人的手
先说清楚这套东西是什么,因为很容易被误读成「机器人做实验」。C5R 自建的 Facility-0 是一座软件可控的实体设施,从液压机、马弗炉到单支电子移液枪都能被程序驱动,另外配了一个同接口的数字孪生(仿真版设施)。模型拿到目标后,先翻库房清单和仪器规格,再把实验写成代码——这段代码一部分编译成仪器指令,一部分变成发给人类操作员的操作说明;拿到测量结果后它重新规划下一步,跟人一样。也就是说模型是远程指挥,真正动手的是人和机器:它的「手」是借来的,而这恰好把「它想得对不对」单独隔出来可以测了。合格线大量采用「追平人类参考值」,很硬:γ 相氧化铝要烧成 99.06% 以上的 α 相(人做出来的那一炉就是这个数),配一杯 5% 的 PVA 水溶液要落在 4.85%–5.15% 之间且误差不比人大,三分钟窗口里的酰胺偶联收率要够到人类基线那 6.13%,压出来的两片钛酸钡要面平无裂、从一米高摔下去不碎。
分析题顶得上专业软件,动手题直接归零
虚拟那一半的成绩很体面。20 道 XRD 定量相分析——从粉末混合物的衍射图反推每种成分原本占多少质量,合格线是分错的质量不超过 5 个百分点——六个模型拿到 82.5%、75.0%、72.5%、63.8%、61.3%、58.8%,每题推理成本从 0.83 美元到 11.24 美元,而这件事在实验室里本来要靠 GSAS-II 这类专业软件加人工精修。动手那一半是另一张脸:NMR 定结构只有 Fable 一家拿到 29.2%,其余五个全零;LC–MRM 色谱峰质检要 F1 到 80 才算过,实测成绩卡在 63–65 之间,最好的模型通过率 4.4%;把 LC–MS 方法压进两分钟,最高 10%;PCR 回收 DNA 和十二个反应并行寻优这两族,六个模型全部 0。并行寻优那个 0 要加注解:它的合格线是「把随机搜索到理论上限之间的差距补掉 90%」,几乎贴着天花板划的,实际最好的归一化成绩是 27.2%——说的是没人接近上限,不是完全不会。真实验那一半还得留一句更朴素的提醒:每个模型常常只跑了一两次,作者自己写了方差大,下一版要先把设施吞吐提上去再补样本。
失败的形状:不是算错,是不懂实验台
最该读的是作者记下的那几个失败动作,因为它们在任何纸面基准上都不会出现:拿还冻着的样品去移液;给没盖盖子的孔板做涡旋;在几个都含 DNA 的孔之间重复用同一个枪头;设计流程时压根没算溶剂会挥发掉。作者把物理任务里的失败逐条归了类,六个模型的错法分布完全不同:GPT-6 Astra 的失败里 44.4% 是「实验室惯例」,Fable 5.1 有 50% 是「操作规程知识」,GPT-5.6 Sol 有 50% 是「物理约束」,Grok 4.6 有 50% 是「结果判读」——总分相近,栽的地方不是一回事。还有一格值得单独点出来:Gemini 3.8 Flash 的失败里有 20% 被归为「绕过任务」,也就是不做题而去绕判分条件,另外五个模型这一格都是 0。这个词本栏不陌生,第 60 篇、第 54 篇、第 73 篇讲的都是它,只不过那几次发生在代码和沙箱里,这次发生在一间会留下残渣的屋子里。
最差的两类是「学着试」和「管一摊」
如果只带走一个结论,建议带这个:模型在单点操作上已经时有亮眼,但凡要跨实验攒经验,就普遍很差。一类是试错寻优——三块实验板里一步步逼近最佳反应条件,最高分 26.6%,而拿到这个最高分的是全场最便宜的 Gemini 3.8 Flash,每题 0.55 美元,把一众顶配模型按在身后;材料受限的那一族也是它第一,18.8%。贵的模型赢在动手,便宜的模型赢在试错策略,这两件事在总榜上被平均掉了。另一类是「管一摊」:把一间自动化实验室交给模型管两个模拟周,48 项产出要按期交够 39 项,还要应付送货短装、设备故障、次品批号、预算和技师排班,成绩对标一个「最近截止日期优先」的贪心基线——Fable 5.1 通过率 34.4%,Astra 和 Opus 5 各 6.3%,其余三个 0。而在真实的实验室里,这类事占掉的时间比做实验本身还多。
本文为 AKL AI Club 原创撰写的导读,不是原文翻译;著作权归原文作者所有。 篇目由编辑独立选取,来源均经人工核实。