header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP
Partnered With:

#llama.cpp

共 0 篇文章、6 条快讯
动察 Beating AI 快讯,伯克利、MIT 等研究者开源 FreeToken。这是一个专门为本地设备设计的 MoE(混合专家模型)推理引擎,主要解决超大模型显存装不下的问题。它会把部分权重放在系统内存,并让 CPU 和 GPU 一起参与推理。FreeToken 会把模型的大量专家权重放在系统内存,只把一部分缓存在
动察 Beating AI 快讯,AI 语音输入工具 Superwhisper 发布首个开源模型 S1-mini。它只有约 6 亿参数,基于 Qwen3-0.6B 微调,专门负责整理语音转写出来的草稿,可以完全在本地设备运行。S1-mini 本身不负责听音频。Whisper、Parakeet 等语音识别模型先把声音转成
据动察 Beating 监测,Liquid AI 发布视觉语言模型 LFM2.5-VL-3B,只有 31 亿参数,主打手机、电脑等本地设备。它能看懂网页和 App 界面、文档和多张图片,还新增了视觉工具调用能力。官方在 28 项视觉评测中测得平均分 69.4。8B 参数的 Gemma-4-E4B 只有 59.7,5.1
据动察 Beating 监测,英伟达发布开源模型 Nemotron 3.5 Lightning,专门给长时间运行的 Agent 干「执行活」。模型总参数 300 亿,每个 Token 只激活 30 亿,主要负责工具调用、结果检查和子 Agent 调度等高频任务。英伟达的思路是把 Agent 分工做得更彻底。复杂规划交给
据动察 Beating 监测,开源 AI 工具公司 Unsloth 发布 Kimi K3 的 1-bit GGUF 版本,把模型从 1.56TB 压到 594GB。用户可以通过 Unsloth Studio 或 llama.cpp 在 Mac 本地运行。但这个版本至少需要约 610GB 内存。按官方方案,顶配 512G
据动察 Beating 监测,Unsloth AI 宣布通过动态量化技术将智谱 AI 的 753B 参数大模型 GLM-5.2 体积压缩 80% 以上,并发布支持 Mac 本地部署的 GGUF 格式版本。通过动态 1-bit 和 2-bit 量化,原本高达 1.51 TB 的模型能够缩减至 217 GB(1-bit 变
24H热门精选
下载 BlockBeats
home-down-code