
AI 安全之争:是安全,还是控制?
Anthropic 的 Amodei 呼吁全球协调行动应对 AI 安全,但并非所有人都认同。这场争论的核心,可能不是安全本身,而是谁有权决定 AI 的发展方向。
来自全网的最新 AI 资讯,每日自动聚合更新
共 4773 篇

Anthropic 的 Amodei 呼吁全球协调行动应对 AI 安全,但并非所有人都认同。这场争论的核心,可能不是安全本身,而是谁有权决定 AI 的发展方向。

Ars Technica披露的微软与OpenAI内部邮件显示,微软高管将AI抓取内容定性为“人类史上最大规模的劳动窃取”,同时双方内部担忧AI摘要正在把新闻机构推入“末日循环”。


WIRED 指出,AI 实验室把安全举措包装成行业“放缓”,而非统一的安全标准诉求,这一措辞选择可能招致长期的反垄断监管麻烦。

新解封的法庭文件显示,微软私下将OpenAI的数据抓取行为称为“盗窃”,两家公司却同时抓取《纽约时报》付费内容并构建数据集,内部还预警这会重创出版商。

在经历了一个“失控 AI 智能体”从设想变为现实、研究者警告 AI 可能威胁人类生存的夏天之后,多家美国头部 AI 公司开始公开表态:也许是时候慢下来了。

继纳维-斯托克斯方程之后,OpenAI 被曝正攻关霍奇猜想,员工预期很快有结果,但官方可能因上次公关危机而推迟发布。

Claude Code 重新推出 Projects 功能,让多个智能体在同一项目下共享记忆、目标与文件库,由协调者分配并行任务,多智能体协作从本地实验走向云端工程化。

Salesforce的Dreamforce大会意外成为OpenAI、Anthropic与英伟达CEO争论AI发展是否应当减速的舞台,这场分歧折射出行业内部对安全与速度的深层张力。

Anthropic 重做 Claude Code 的 Projects,由协调器把任务拆到多个云端并行线程,各自独立提 PR、跑测试,并共享同一份记忆。

Ars Technica 报道称,Google 的 SynthID 水印会让模型对原本拒绝的有害提示做出不同回应,甚至执行本应被拒的指令。这暴露出内容溯源与安全对齐之间被忽视的耦合风险。

英国国王查尔斯三世私下召集AI领袖与政府官员举行峰会,其本人对AI的保留态度,折射出AI治理正从技术议题上升为国家与公共价值议题。