header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP
Partnered With:

Coinbase已将AI支出削减近半,尝试将GLM 5.2、Kimi 2.7等开放权重模型设为默认选项

BlockBeats 消息,6 月 27 日,Coinbase CEO Brian Armstrong 发文表示,若想在 token 使用量指数级增长的同时保持 AI 支出稳定,关键不在于设置使用摩擦或支出提醒,而在于更好的默认模型、路由和缓存机制。Coinbase 正在通过 LLM 网关尝试默认使用 GLM 5.2、Kimi 2.7 等开放权重模型,同时仍鼓励工程师根据任务选择合适模型。其称,91% 的员工从未触及使用上限,因此公司没有选择降低额度并增加提醒,而是转向更低成本的默认模型。


在模型路由方面,Coinbase 会在自定义流程中预处理提示词,并根据缓存命中率和模型定价,将任务路由至最合适模型。例如,规划阶段可能需要前沿模型,但执行阶段使用前沿模型可能过度。其认为,未来不应由人类选择模型,AI 可以自动完成该任务。


Armstrong 还表示,缓存未命中是推高成本最容易的方式。Coinbase 的请求均具备缓存感知能力,以便尽可能复用热缓存。例如,在正确实现缓存后,LibreChat 的缓存命中率已从 5% 提升至 60%。此外,Coinbase 也要求工程师保持上下文精简,包括切换任务时开启新会话、缩小文件上下文范围、断开未使用工具等。目标不是压制 AI 使用量,而是构建可支撑指数级增长的基础设施。通过上述实践,Coinbase 已将 AI 支出削减近一半,同时 token 使用量仍在继续增长。

本条资讯由Gate联合呈现 Gate Money,一站式提供Crypto、股票、支付与资管服务
AI 解读
Coinbase将GLM 5.2、Kimi 2.7等开放权重模型设为内部默认选项,是其控制AI运营成本策略的延续。关键在于通过智能路由与缓存机制,而非限制员工使用,来支撑token消耗的指数增长。

这一实践表明,头部加密企业在AI应用层正从单纯采购闭源API转向混合模型策略,核心是成本控制与基础设施化。其缓存命中率从5%提升至60%的细节,揭示了在模型调用量激增的背景下,工程优化带来的效率跃升可能比模型本身降价更具财务意义。

这指向一个更广泛的趋势:AI作为生产工具,其价值正从模型性能竞赛,转向企业级部署中的总拥有成本(TCO)优化。Coinbase的案例为其他面临类似成本压力的科技公司提供了可复用的技术框架。
展开

全球市场热点不用到处刷,消息送到你眼前

加入律动飞书频道
相关推荐
Coinbase上线的token一年后,91%落后于以太坊,70%落后于比特币。
Coinbase股价创18个月新高,Binance与美国监管机构达成和解后,Coinbase会面临什么?
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成