动察 Beating AI 快讯,Thinking Machines 刚开源的 Inkling 2 Small 有 5940 亿参数,运行至少需要 500GB 显存。不少开发者嫌它太大,Thinking Machines 于是推出更小的 Inkling 2 Mini,总参数降至 264 亿,每次生成 Token 激活 34 亿个不同参数,终于能在普通笔记本上运行。
Mini 采用和 GPT-6 Astra 一样的循环 Transformer 架构。模型只有 24 层网络,但中间 12 层会重复运行 3 次。相当于每生成一个 Token,都要经过 48 层计算,却只需要存储 24 层的权重。通过重复使用同一组参数,让模型不用继续扩大体积,也能进行更复杂的推理。
Artificial Analysis 综合评分达到 20.1 分,与 Qwen3.8-27B 持平,但单项评测成本约为后者的六分之一,耗时约为四分之一。Thinking Machines 公布的测试结果显示,DeepSWE v1.1 编程任务通过率达到 48.2%,超过 Qwen 的 42.2%;但在 AutomationBench-AA 办公自动化任务测试中,得分为 41.8%,仍低于 Qwen 的 48.2%。
循环架构也带来一个问题:模型可以在内部完成更多推理,不必把每一步思考都写出来,外界可能更难检查它的推理过程。Thinking Machines 专门训练了一个可以调整循环次数的研究模型。实验发现,循环次数越多,模型不依赖文字推理就能完成的任务越复杂,但暂时没有发现思维链的可监控性明显下降。
Inkling 2 Mini 已开放完整权重,采用 Apache 2.0 许可证。官方版本约占 20GB,可在 32GB 内存的 Mac 上离线运行。Unsloth 也推出了低比特量化版本,16GB 内存设备就能运行。