动察 Beating AI 快讯,谷歌的 Gemini 4 Neon 编程能力获得不少开发者好评,配套编程工具 Antigravity 却因 Token 消耗异常遭到集中投诉。
11 月 21 日凌晨,Antigravity 负责人 Varun Mohan 承认,Neon 的缓存命中率偏低,尤其是模型两次调用间隔较长时,缓存容易被清除。谷歌正在大幅扩大缓存池,预计将命中率提高约 4%,让用户在相同配额内至少多完成 20% 的工作。完成后还将重置用户额度。
编程智能体每次调用模型时,都需要让模型获得此前的对话、代码和工具执行结果。缓存能让模型直接复用已经处理过的内容,不必重复计算。一旦缓存失效,几十万 Token 的历史内容就可能被重新处理,导致额度消耗大幅增加。