
AI 真会毁灭人类吗?前 Anthropic 研究员的末日警告与本周三件大事
WIRED 播客《Uncanny Valley》本周聚焦前 Anthropic 研究员的 AI 末日警告、苹果新品升级,以及一份声称特朗普赢得 2020 年大选的普查报告,折射出 AI 风险讨论与数据可信度的双重焦虑。
重要论文与方法

WIRED 播客《Uncanny Valley》本周聚焦前 Anthropic 研究员的 AI 末日警告、苹果新品升级,以及一份声称特朗普赢得 2020 年大选的普查报告,折射出 AI 风险讨论与数据可信度的双重焦虑。

一批数学家公开要求OpenAI说明其模型是否使用了他们的研究成果,并拿出可验证的证据。这场争议的核心不是又一次版权口水战,而是“证明用过”与“证明没用过”在技术上几乎无法完成。

Hacker News 上出现一篇讨论 AI 对齐的帖子,作者从“规格博弈”(specification gaming)现象出发,提出一个自称“愚蠢”的对齐思路,引发社区对目标错位问题的再思考。

一篇在 Hacker News 引发讨论的文章指出,用 AI 设计出毁灭性超级病毒的门槛被严重高估,围绕 AI 生物风险的恐慌叙事需要更冷静的技术审视。


OpenAI 公布了一份由 AI 生成的 Navier–Stokes 千禧年大奖难题的解决方案,包含论文和 Lean 形式化证明。



Google Research 推出 WikiSkill 框架,让 AI 智能体将每次运行的成败经验结构化记录,形成持久知识库,从而持续改进性能,小模型也能借此逼近大模型表现。



普林斯顿与加州大学圣迭戈分校的研究发现,AI Agent 的“技能”主要通过结构化工作流提升性能,而非知识本身;但技能库过大会增加选择负担,导致性能下降。