英伟达发布Nemotron-Labs-TwoTower扩散语言模型

2026年7月2日,英伟达正式推出Nemotron-Labs-TwoTower双塔架构扩散语言模型,旨在突破大模型Token生成速度瓶颈。该模型总参数60B,由30B自回归上下文塔与30B去噪塔组成,各激活3B子模型及128个可路由专家。上下文塔冻结以维持AR上下文,去噪塔专注噪声块重建,两塔通过逐层交叉注意力协同。模型已在Hugging Face以NVIDIA Nemotron开放许可协议开源。基准测试显示其质量保留98.7%,生成吞吐量达传统自回归模型的2.42倍。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

上一篇:

下一篇: