RND1-Base

RND1-Base是由Radical Numerics开发的开源扩散语言模型，总参数量达300亿，采用稀疏专家混合架构，每次推理仅激活30亿参数，在多项基准测试中表现优异。

AI编程 └ AI编程助手免费使用 #AI大模型、AI编程助手、AI学习资源

工具介绍

功能：RND1-Base是一种扩散语言模型，用于文本生成，将生成过程建模为序列去噪，支持并行处理，适用于逻辑推理、代码生成和复杂语言任务。

特色：基于Qwen3-30B模型迁移，引入双向掩码和分层学习率策略，在500B token数据上预训练；采用稀疏激活设计，推理高效；全面开源模型权重、训练细节和推理代码。

适用人群：AI研究人员、机器学习工程师、开发者，以及对高效文本生成和扩散模型感兴趣的用户。

价格说明：该模型完全开源免费，遵循相关开源协议，可用于学术研究、商业部署和个人项目。