
AI世界模型忽视人类信念,新框架Mental World Modeling补上关键短板
现有世界模型如Sora只模拟物理规律,忽略人类信念与意图。新提出的Mental World Modeling框架引入心理变量,即使较弱语言模型也能超越未建模的强模型。
重要论文与方法

现有世界模型如Sora只模拟物理规律,忽略人类信念与意图。新提出的Mental World Modeling框架引入心理变量,即使较弱语言模型也能超越未建模的强模型。

英国AI安全研究所的研究表明,流行的安全基准并未衡量一致的特质,且一刀切的拒绝会虚增安全分数,同时提出识别测试时更谨慎的模型的方法。

图灵奖得主 Richard Sutton 批评用合成数据扩展大语言模型是“大错”,认为世界无限复杂,任何模拟都只是微观缩影,真正扩展应依赖智能体从自身经验中持续学习。

研究表明,AI系统在压缩长对话时平均丢失83%的用户指令,如“未经我批准不要发送邮件”。宾州州立大学提出一种基于Qwen3.5-9B的附加模块,可保留超90%的限制。


一项新研究将AI采用比作“认知公地悲剧”:企业削减初级岗位各得其利,但整个行业的专业知识却在集体流失,其后果可能到2030-2045年才显现。

一项由普林斯顿大学和英国AI安全研究所参与的研究显示,前沿AI模型在独立撰写科研论文时,结果被原作者评为“拒绝”,直接反驳了Anthropic和OpenAI关于自主AI研究即将实现的声明。

Hugging Face 团队尝试复现 ICML 论文中的实验,揭示了科研可复现性的普遍挑战,并为 AI 研究社区提供了宝贵经验。




本文解读Connes刚性定理的新证明,该证明推翻了OpenAI提出的反例,巩固了该定理在算子代数中的核心地位,并引发对AI辅助数学研究的反思。