header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP
Partnered With:

英伟达Blackwell登顶首个智能体硬件基准:能效超H200达20倍,力压AMD

据动察 Beating 监测,评测机构 Artificial Analysis 发布行业首个智能体(Agent)硬件基准 AA-AgentPerf。传统评测如同单次问答「短跑」,只看响应速度;智能体任务则像「接力跑」,AI 需自主拆解目标,在读写文件、改写代码、运行测试中反复流转。频繁交互对服务器内存容量和调度效率挑战极高。基准通过重放真实编程轨迹,以「每兆瓦功耗支持并发智能体规模」为核心能效指标,直击数据中心电力与资金瓶颈。

首期测试运行 1.6 万亿参数开源模型 DeepSeek V4 Pro。结果显示,英伟达 Blackwell 液冷整柜系统 GB300 NVL72 每兆瓦功耗可承载 6.14 万个并发智能体,而上一代 Hopper HGX H200 仅能支持 2600 个,能效提升超 20 倍。单显卡并发容量也提升了 41 倍。这使得在同等电力预算下,数据中心可多承载 20 倍智能体并发规模,大幅拉低自动编程和客服等应用落地成本。

首批成绩中,AMD Instinct MI355X 暂时落后。评测机构指出,AMD 与 H200 配置均使用通用开源 vLLM 框架搭建,未作深度优化;随着服务框架与内核算子适配跟进,AMD 性能仍有提升空间。目前,Together AI 等推理商已率先在 Blackwell 部署 DeepSeek V4 Pro,为智能体编程工具 Cursor 提供实时推理支持。

全球市场热点不用到处刷,消息送到你眼前

加入律动飞书频道
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成