首页
快讯
深度
数据
BlockBeats Pro
TradingBeats
New
更多
融资信息
专题
链上生态
词条
播客
活动
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
个人中心
退出登录
扫码下载APP
Partnered With:
邮箱快捷登录
验证码
获取验证码
加入
忘记密码
密码登录
/
注册
#RTX PRO 6000
共 0 篇文章、1 条快讯
快讯 1
FreeToken开源:一张5090跑DeepSeek-V4-Flash,最高25 Token/s
动察 Beating AI 快讯,伯克利、MIT 等研究者开源 FreeToken。这是一个专门为本地设备设计的 MoE(混合专家模型)推理引擎,主要解决超大模型显存装不下的问题。它会把部分权重放在系统内存,并让 CPU 和 GPU 一起参与推理。FreeToken 会把模型的大量专家权重放在系统内存,只把一部分缓存在
24H
热门精选
下载 BlockBeats
iOS
Android