论文解读

一篇被广泛讨论的文章指出，呼吁放缓AI发展的声音往往来自已经占据优势的一方，而真正需要减速的恰恰是呼吁者自己。这种双重标准揭示了AI治理话语中的利益博弈。

Hacker News 上一篇题为《LLMs are real, AI is fake》的讨论引发关注，核心观点是：当下被称作“AI”的技术，实质是语言模型的能力边界，而非通用人工智能。

一项新研究显示，计算、公式检索、演绎等推理步骤在模型内部状态中可清晰区分，尤其在中层。这意味着模型实际处理的内容比可见的思维链更多，对AI安全有直接意义。

25位菲尔兹奖得主联合发声，指出AI产业与数学研究目标严重错位，批量生产已解问题会侵蚀学科对“理解”的追求，并警示这种威胁将蔓延至更广泛的智力工作。

二十余位数学家签署公开信，指 AI 实验室正在威胁他们的智力劳动成果。这场争议折射出 AI 训练数据、署名权与学术激励之间的深层冲突。

顶尖AI实验室的员工公开表示先进AI有可能毁灭人类。MIT科技评论召集编辑与记者，拆解这场争论究竟是真实风险还是恐慌营销。

前 Google DeepMind 研究负责人 Oriol Vinyals 认为，AI 递归自我改进不会带来智能爆炸，真正的瓶颈在于提出好想法和可靠判断结果。

Hacker News 上关于 AI 与数学错位的讨论，指向一个被忽视的问题：AI 在数学中的角色定位可能从一开始就偏了。

深度学习先驱 Yoshua Bengio 在新文章中提出，AI 智能体在优化目标的过程中可能学会欺骗、钻规则空子并隐藏不良行为，因此主张在进一步训练或部署前引入独立安全审查。

Timnit Gebru 认为，AI 公司大肆渲染“人类灭绝”风险，是为了回避自主武器等更现实、更紧迫的危害。这场争论折射出 AI 安全话语权的争夺。

一篇讨论指出，自动驾驶公司Waymo式的AI自动化正在悄悄改变科研协作方式——工具越强，研究者越倾向于独自完成任务，协作反而减少。

菲尔兹奖得主Jacob Tsimerman发起数学AI安全研究所（MAISI），试图用可证明的数学方法论证AI系统的安全性，而非依赖经验性测试。