header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP

阿里云百炼负责人:日耗亿Token用户数以万计,自建GPU没必要

1M AI News 监测,阿里云百炼技术负责人于文渊在播客「十字路口」中透露,百炼平台上每天消耗超过 1 亿 Token 的用户已「数以万计」,Token 消耗基本以月翻倍的速度增长。他称 Qwen 3.5 在除夕当天发布后,仅两周多峰值请求量就跃升至「历史上所有文本模型都未曾见过的高度」,而「现在仅仅是一个开始」。

于文渊发表自称「暴论」的观点:没有任何场景需要企业自建 GPU。他认为企业自建的三个常见理由(成本可控、数据安全、灵活性),恰恰是应该使用 MaaS(模型即服务)的理由:推理优化迭代快,自养 Infra 工程师持续跟进很难;自持 GPU 利用率难保证;模型架构变化不确定,而 MaaS 用户只需面对一个 API。安全方面,阿里云在推行「机密计算」,用户的模型文件和请求内容端到端加密,密钥掌握在用户自己手里。

他还给出一个反直觉判断:AI 最先替代的不是前端工程师,而是写操作系统内核、数据库内核、文件系统的系统工程师。理由是这些领域代码库质量高、测试用例清晰、问题像「可以被精准定义的数学题」;而与产品和用户交互紧密的岗位,需要难以形式化的 know-how,反而更难替代。他引用了存储会议 FAST 上的一篇论文:只要规范写得够清楚,32B 模型就能写出文件系统级别的代码。

于文渊还对 AI 编程提出警告:把「AI 生成代码比例」当 KPI「非常危险」,AI 代码用于原型没问题,但用于生产环境「还差一点」。他建议计算机专业学生少用 AI 写代码,先建立自己的判断力,「努力成为能识别出 AI 做不到的那 1% 的人」。

举报 纠错/举报
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成