♨ 50
英伟达发布 1200 亿参数大模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍,74B 版本压缩至 24GB
IT之家 10 月 15 日消息,英伟达宣布推出开放多模态模型 Nemotron 3.5 Super VL,面向需要持续运行、执行多步骤任务的 AI 智能体。 该模型采用混合专家(MoE)架构,总参数量为 1200 亿,激活参数 120 亿。英伟达称,在单张 GPU 上执行智能体任务时,该模型的吞吐量最高可达到同规模其他开放模型的 5 倍。 据介绍,Nemotron 3.5 Super VL 将推理、指令遵循和工具调用能力,与文本、图像、文档及视频理解能力整合到同一个模型中,可用于代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别以及视频内容检索等场景。开发者可以利用英伟达 NeMo 工具链,结合自有数据、工具、政策和工作流程进行后训练,并根据业务需求调整模型行为。 英伟达同时公布了多个企业定制案例。例如,AI 数据技术提供商 Scale AI 为媒体娱乐公司 Skydance Corporation 定制了供应商信用处理智能体,相关工作负载的推理成本预计可降低 97.5%、延迟降低 80%。 金融运营平台 Ramp 正将收据图像转换为包含商户、日期和支付信息的结构化 JSON
IT之家 ·
♨ 50
♨ 50
♨ 50
♨ 50
♨ 50
♨ 50
♨ 50
♨ 50
♨ 50
♨ 50
♨ 50