搜索: "稀疏激活"

共找到 1 篇相关文章

突破摩尔定律限制!英伟达软件让性能激增2.8倍无需更换GPU

突破摩尔定律限制!英伟达软件让性能激增2.8倍无需更换GPU

新智元报道MoE模型的稀疏激活原本是一项显著的优势,但往往面临通信瓶颈的问题。NVIDIA通过软件创新,在三个月内成功将GB200单GPU吞吐量提升了2.8倍,充分发挥了Blackwell硬件的实力。2026年1月8日,NVIDIA再次以硬核数据刷新了AI推理的性能上限。英伟达官网透露:基于Blackwell架构的推理软件栈升级,使混合专家模型(MoE)在效率上实现了突破性进展——单GPU吞吐量显

科技2 阅读