header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP
Partnered With:

ARC竞赛第一团队现身:Mostik给大小模型搭桥,省掉大模型生成成本

动察 Beating AI 快讯,ARC-AGI-3 Kaggle 竞赛暂列第一的 CSTL,就是刚刚公开的 AI 创业公司 Mostik,目前成绩 7.51%。团队共 15 人,包括 12 名博士和一位菲尔兹奖得主。不过比赛还没结束,第二次 Milestone 要到 9 月 30 日截榜,最终提交 11 月 2 日截止。


Mostik 做的是让不同 AI 模型直接交换内部状态。普通多 Agent 主要靠文字传话,它则在两个模型之间训练一个 bridge,把一个模型的 hidden states 转成另一个模型能理解的表示,两边模型本身都不用微调。


他们公开的实验用了 753B 的 GLM-5.2 和 4B 的 Qwen3.5,可以近似理解为大模型负责 prefill,小模型负责 decode。GLM-5.2 只读题,不生成 Token;内部状态直接交给 4B 小模型生成答案。Mostik 称,这样能把两者的性能差距缩小约一半;与达到相同准确率的中型单模型相比,计算量只有约 40%。不过最终效果仍然低于 753B 大模型本身。


Mostik 尚未公布 7.51% 的成绩到底用了什么模型和 Harness,上面的 753B+4B 只是另一组技术演示,不能当成夺榜配置。ARC-AGI-3 竞赛本身比的也是整套 Agent 系统,之前的阶段冠军只用了 Qwen 3.6 27B,却靠 Harness、工具和上下文管理拿到第一。


另一方面,这套技术要求读取模型 hidden states,Claude、GPT 这类云端模型目前用不了;Google DeepMind 工程师 Susan Zhang 也质疑,既然已经能控制模型内部状态,冻结两个模型再单独训练一座「桥」,是否真是最划算的工程方案。

AI 解读
Mostik登上ARC-AGI-3竞赛暂列第一,其技术路线是用bridge直接转换模型hidden states,让753B的GLM-5.2只做prefill不生成token,由4B小模型负责decode。上一阶段冠军用27B模型靠harness取胜的路径不同,这条路线明显指向推理成本的结构性压缩——省掉大模型逐token生成的开销。

值得注意的有两点。其一,Mostik披露的成绩7.51%并未公布具体配置,753B+4B只是技术演示,夺榜配置存疑。其二,这套方案依赖读取模型内部状态,意味着Claude、GPT此类云端模型无法接入,实际部署会受制于开源模型的开放程度,DeepMind工程师的质疑也指向了工程性价比问题。ARC竞赛冠军的Agent方案越来越像模型架构层面的博弈,而不只是外层框架的堆叠。
展开

全球市场热点不用到处刷,消息送到你眼前

加入律动飞书频道
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成