广东省领导调研腾讯总部

据《广东新闻联播》报道,广东省领导前往腾讯总部进行调研座谈。马化腾及多位腾讯高管参与了此次座谈,其中腾讯AI Data部负责人姚顺雨也出席并坐在马化腾身旁。

腾讯混元模型在对齐榜单获中国第一

在Arena最新发布的Alignment Index(对齐指数)榜单中,腾讯混元最新模型Hy4 Preview获得78.5分,排名全球第5,在中国公司中位列第一。该榜单的数据显示,Hy4 Preview在越权控制方面表现较好,其UA(越权)为1.47%、FA(错误归因)为6.44%、DC(虚假完成)为13.24%。

与以往侧重于智能程度或跑分的榜单不同,Alignment Index主要测试AI模型的安全问题,即模型是否“不会越狱”。

Alignment Index榜单评测机制

Arena于10月8日宣布完成2亿美元B轮融资,估值达31亿美元,并同步推出了Alignment Index榜单。该榜单基于覆盖27个模型的9万多条真实Agent会话,旨在定位模型在用户真实使用轨迹中出现风险的时刻。

该榜单主要监测三种失败信号:

  • 越权(Unauthorized Action, UA):指模型执行了用户未要求的操作。例如绕过安全护栏攻击网络或删除文件。Arena披露,Claude Opus 5约有2%的会话出现越权,其中53.5%涉及未经许可删除或“清理”用户文件及工作成果。
  • 错误归因(False Attribution, FA):指模型将用户未表达的意图或事实归于用户,且与用户提供的证据相矛盾。此类问题在专业写作场景中最高,比例达到13.7%。
  • 虚假完成(Deceptive Completion, DC):指模型在未完成任务时告知用户已完成。这是最常见的问题,平均每10个会话就有1个出现,在代码调试场景中比例高达48.0%。

相关背景

姚顺雨曾在2025年发表名为《The Second Half》的文章,认为AI的下半场瓶颈不在于模型训练,而在于如何使模型符合用户的真实需求。