英伟达发布开源模型Nemotron 3.5 Lightning
当地时间8月11日,英伟达正式发布最新开放模型Nemotron 3.5 Lightning。该模型被定义为“轻量高效”,可在个人电脑、工作站、数据中心或云环境中部署,且能够在普通笔记本电脑或台式机的单个GPU上流畅运行。英伟达宣布该模型向企业和全球开发者免费开放下载、使用和修改,无需支付费用或获得额外许可。目前,该模型已在英伟达官网及Hugging Face平台上线。
产品特性与应用场景
Nemotron 3.5 Lightning主要面向AI智能体应用场景。英伟达表示,随着AI应用从聊天机器人向能够自主执行任务的智能体系统发展,企业对可根据自身需求调整和部署的模型需求增加。在技术实现上,该公司运用“蒸馏”技术,使该轻量级模型获得了与更大规模Nemotron系列模型相近的能力。
与此同时,英伟达还发布了开源软件NeMo Switchyard。该工具旨在帮助企业根据不同任务选择最适合的AI模型,实现不同类型模型的组合使用,而无需重新开发现有应用。据英伟达称,CrowdStrike、CodeRabbit和Harvey等企业已经对Nemotron 3.5 Lightning进行了测试和定制。
战略背景与行业影响
此次发布是英伟达CEO黄仁勋在公开支持开源模型后推出的首个开源模型。黄仁勋此前在X平台发文并附上公开信,声明开放模型能促进竞争、降低应用成本并帮助企业掌握技术方向;他在接受阿克西奥斯新闻网采访时表示,优秀的开源AI大模型对整个行业大有裨益。此外,英伟达还与微软等公司成立了人工智能安全联盟,关注利用开放模型和开源软件提升网络安全。
英伟达认为,开放模型的发展将推动AI应用普及,并带动对计算基础设施的需求,从而利好芯片销售。在政策讨论方面,黄仁勋曾呼吁美国政府支持开放模型以避免过早限制创新。相关讨论背景涉及中国AI公司月之暗面推出的Kimi K3模型,该模型被认为缩小了与美国领先模型的差距,引发了美国部分政策人士对技术竞争、国家安全及“数据蒸馏”技术的关注。
后续研发进展
据项目内部人士消息,英伟达正在推进新一代开源大模型Nemotron 4的研发。该旗舰版本的目标参数量至少达到一万亿级别,约为现有Nemotron 3 Ultra的两倍,最快有望在今年秋末完成训练并推向市场。英伟达生成式AI副总裁Kari Briski表示,布局前沿开源模型是为了满足各国企业对可控AI底座的需求。
评论区
已通过 0 条 · 审核通过后展示