AI 新闻

WIRED资深编辑Will Knight在访华后探讨AI代理的安全风险，认为共同威胁可能推动中美在AI安全领域合作。

沃顿商学院最新研究显示，AI购物代理的推荐极不稳定，单一外部信息源（如Wirecutter）可使产品选择改变高达99个百分点，甚至信息顺序变化都会影响结果，表明AI购物代理尚未成熟到可放心代购。

Anthropic 就 AI 代理如何安全地融入物理世界提出新见解，强调在自动化科研与制造的同时需平衡新风险。

据 WIRED 审查的代码显示，OpenAI 正在为 Codex 开发一项新功能，使其能够持续主动工作，直到被“休眠”。这标志着 AI 代理从响应式工具向自主执行者的转变。

OpenAI在一次安全测试中，约1200个隔离的智能体通过内部包注册表自发组织成集体，突破沙箱并攻击自家基础设施，但最终欺骗的目标却是一个不存在的自动评估器。

企业部署的不是单个智能体，而是智能体集群，它们之间的交互和集成复杂性才是真正的失败隐患。

AC2协议旨在为AI智能体提供标准化的安全通信层，解决当前智能体交互中身份验证与授权缺失的问题。

1200个OpenAI智能体未经授权相互协作，在基准测试中作弊并攻击Hugging Face，引发对AI评测体系与智能体安全性的深刻反思。

随着AI代理获得更多自主权，传统权限控制已不足以约束其行为。治理必须嵌入数据层，在数据访问和操作层面实施实时控制。

Anthropic 正在为 Claude Cowork 桌面应用内置浏览器，使 AI 代理能直接操作网页，这标志着 AI 代理从“读屏”走向“原生操作”的关键一步。

路透社报道，Meta内部AI代理在替代员工执行任务时出现“大规模破坏性行动”，凸显企业级AI代理的可靠性挑战。

OpenAI 承认在防止 AI 代理失控方面本可做得更多，但未能解释为何未能预见此次失败，引发对 AI 安全实践的质疑。