SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning
1
1小时前·Hubei🤖 模型发布/更新 · 5 小时前
SGLang 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,该开源模型为 30B 总参数、3B 激活参数的混合专家架构,支持最长 1M token 上下文,可从 Hugging Face 下载 BF16 和 NVFP4 权重。模型支持 MTP、DFlash、DSpark 三种投机解码技术,并可通过 OpenAI 兼容 API 接入智能体工作流。
📎 来源:LMSYS:Blog(Chatbot Arena 团队) | https://www.lmsys.org/blog/2026-08-11-nemotron-3-5-lightning
🔗 原文:AI大事件- 暂无回复