header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP

144M参数就能做Agent决策,Julia-1连安卓平板都能跑

动察 Beating AI 快讯,AI 实验室 Supersonic Labs 发布一款只有 1.443 亿参数的轻量决策模型 Julia-1。它不生成长文本,而是接收上下文、问题和 2 到 20 个候选答案,直接完成分类、打分和是非判断,可以给 Agent 选工具、做路由或决定下一步动作。


Julia-1 基于多语言编码模型 mmBERT-small 开发,模型权重约 550MB,主打低硬件门槛。官方已经在 Apple M4、Intel i5-1235U 和三星 Android 平板上完成测试。M4 单次决策中位延迟约 33ms;三星平板只用 CPU 运行时约 203ms,进程峰值内存约 393MB。


在官方公布的 4 组 Jev 对比测试中,Julia-1 赢了 3 组。Typed Decisions 为 73.15%,Jev 参考成绩为 72.70%;AG News 为 94% 对 91%;情绪分类为 86% 对 48%。但在包含 72 个类别的 Banking77 上,Julia-1 只有 64%,明显低于 Jev 的 87%。官方称,候选类别太多且彼此相似时,目前的分组筛选可能提前丢掉正确答案。


Julia-1 的云端 GPU 训练和实验总成本只有约 104 美元。模型权重、运行代码、完整评测和来源记录均已开放,采用 Apache 2.0 许可。官方还在开发 API,计划按每百万输入 token 0.025 美元收费;由于模型只做判断、不生成长文本,输出 token 不收费。

AI 解读
Jev 带火决策模型后,开源侧一周内已有 2.8MB 填表、8B、4B 同类模型卡位。Supersonic Labs 的 Julia-1 更极端:1.443 亿参数、权重约 550MB,安卓平板纯 CPU 约 203ms、峰值内存约 393MB;Apache 2.0 开放,训练与实验成本约 104 美元,API 输出免费、输入每百万 token 收 0.025 美元。

不过 Banking77 的 72 类仅 64%,Jev 为 87%;官方承认候选多且相似时,分组筛选可能提前丢答案。工具路由恰是数十相似选项,小模型先要解决候选集膨胀,而非延迟。
展开
举报 纠错/举报
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成