动察 Beating AI 快讯,马斯克披露,孟菲斯超级计算集群Colossus 2计划在年底前部署约120万块英伟达Blackwell GPU。接下来还有两座设施投运:Gun Range预计11月底上线22万块GB300,用于模型训练;Spam 由一座原本存放午餐肉等食品的仓库改造而来,计划部署约20万块GB300,专门用于AI推理。
目前,Macrohard配有11万块GB200和22万块GB300,Macroharder、Minihard各有22万块GB300。加上接下来计划新增的42万块,五个集群合计约119万块。
训练和推理对网络的要求也不同。Macroharder、Minihard 和 Gun Range 均采用 800Gbps 网卡,而 Spam 的推理任务不需要同等规模的高速互联。马斯克称,其网络配置更简单,所需光纤不到训练设施的一半。
SpaceXAI的Colossus 1在2024年9月还是10万块H100,两年出头,Colossus 2的Blackwell盘子已推到约120万块,五个集群合计119万。Macrohard、Macroharder、Minihard已成型,11月底Gun Range上线22万块GB300跑训练,Spam再补20万块GB300专跑推理。9月口径还是GPU总量将达100万、半年后领跑;时间表未到,量已超前。
最该留意Spam:食品仓库改造,20万块GB300只做推理,用不上800Gbps网卡,光纤不到训练设施一半。推理在物理层与训练正式分家——互联规格降级、场地复用,说明推理负载被规划到与训练同量级,成本锚点也从每GPU转向每token。4月Colossus 2已同时训练7个模型、最大10万亿参数;5月有分析师指其用力过猛、产能外溢给对手,这批推理集群可视为对闲置质疑的回应:把冗余算力换成token产出。