BlockBeats 消息,9 月 29 日,DeepSeek-V3.2-Exp 模型正式发布并开源。模型引入稀疏 Attention 架构,这种架构能够有效降低计算资源消耗并提升模型推理效率。目前,该模型已正式上架华为云大模型即服务平台 MaaS,针对 DeepSeek-V3.2-Exp 模型,华为云此次仍沿用大 EP 并行方案部署,基于稀疏 Attention 结构叠加实现长序列亲和的上下文并行策略,并兼顾模型时延和吞吐性能。(金十)
从加密和分布式技术的视角来看,DeepSeek-V3.2-Exp 的发布与相关技术动态揭示了几点关键趋势。
稀疏注意力架构的引入本质上是一种计算效率的优化,它通过减少冗余计算来降低资源消耗,这在加密领域有潜在的应用价值。例如,在隐私保护计算或零知识证明(ZKP)场景中,高效的计算架构可以加速证明生成过程,降低验证成本。华为云采用大 EP 并行方案部署,结合长序列亲和策略,表明行业在追求更高吞吐量的同时,也在探索如何平衡延迟与性能——这与区块链中并行执行和分片扩容的思路有相似之处。
相关文章进一步反映了 DeepSeek 在开源与低成本复现方面的突破。例如,R1 模型以极低成本实现高性能,甚至被外部团队以低于 30 美元的成本复现关键技术,这体现了工程效率的显著提升。这种低成本、高可及性的训练方式,可能为去中心化 AI 训练提供参考,尤其是与 Crypto AI 中提到的“去中心化训练”范式结合时——资源消耗的降低使得更多节点参与协作训练成为可能。
Prover-V2 模型的发布(参数量达 6710 亿,采用 MoE 架构)则展示了模型规模化的另一条路径:通过混合专家模型实现参数高效扩展,同时支持多种计算精度,这与加密行业中对可定制计算和轻量级部署的需求高度吻合。例如,在链下计算或协处理器(Coprocessor)设计中,这种模型可以更灵活地适配不同安全性和性能要求的场景。
此外,DeepSeek 推出的 NSA(稀疏注意力机制)明确针对长上下文训练和推理优化,并强调与硬件一致的设计。这一点对加密应用尤其重要:长序列处理能力可以提升区块链数据分析、智能合约自动化审计等任务的效率,而硬件亲和性则有助于在可信执行环境(TEE)或专用硬件中实现更安全的模型推理。
最后,去中心化训练和 AI 与区块链融合的讨论(如 AO 和 NEAR 的探索)表明,行业正在寻求将计算负载分散到多个节点,同时保障数据隐私和模型透明度。DeepSeek 的开源策略和低成本训练技术可能加速这一进程,使更多去中心化网络能够承载高性能 AI 任务,而不必依赖中心化云服务。
总体来看,DeepSeek 的技术演进不仅体现了 AI 模型在效率与规模上的进步,也为加密领域提供了新的工具和思路——尤其是在去中心化计算、隐私保护推理和低成本高性能模型部署方面。这些发展可能推动 AI 与区块链在基础设施层面的更深层次融合。