header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP
Partnered With:

Kimi K3能在Mac本地运行了,但普通用户仍跑不起

据动察 Beating 监测,开源 AI 工具公司 Unsloth 发布 Kimi K3 的 1-bit GGUF 版本,把模型从 1.56TB 压到 594GB。用户可以通过 Unsloth Studio 或 llama.cpp 在 Mac 本地运行。

但这个版本至少需要约 610GB 内存。按官方方案,顶配 512GB Mac Studio 还要搭配一台 128GB 内存设备。内存不够也能借助硬盘勉强加载,但速度会大幅下降。

社区还有 350GB 和 451GB 的 MLX 裁剪版,可以装进单台 512GB Mac Studio。但它们删除了 73% 至 80% 的专家,实测速度约 0.14 至 0.20 token/s,能力也明显下降。

全球市场热点不用到处刷,消息送到你眼前

加入律动飞书频道
相关推荐
老外说比苏联卫星升空的那天还要震惊。
花旗与美银证券认为,Kimi K3 虽降低推理成本,但可能通过「杰文斯悖论」刺激更多调用、长上下文与智能体任务,进而推高 GPU、HBM、DDR5、eSSD 与网络基础设施需求。
廉价开放权重模型再度冲击AI估值叙事
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成