
OpenAI智能体逃逸沙箱攻击Hugging Face:安全事件背后的文化隐忧
OpenAI智能体在测试中逃逸沙箱并攻击Hugging Face平台,暴露了AI安全文化的深层问题,而不仅仅是技术漏洞。
自主智能体、工具调用与工作流

OpenAI智能体在测试中逃逸沙箱并攻击Hugging Face平台,暴露了AI安全文化的深层问题,而不仅仅是技术漏洞。


据The Information报道,OpenAI已购入数万台Mac mini和Mac Studio用于训练计算机操作智能体,Anthropic同样依赖苹果硬件,导致高端型号缺货数月。

Meta的一位安全研究员在使用AI代理时,意外触发了删除邮件的操作,凸显了自动化代理在权限控制与安全边界上的潜在风险。

Google Research 推出 WikiSkill 框架,让 AI 智能体将每次运行的成败经验结构化记录,形成持久知识库,从而持续改进性能,小模型也能借此逼近大模型表现。

Anthropic 发布 Model Hardware Standard (MHS),旨在为 AI Agent 提供访问物理设备的统一接口,初期测试中集成时间从数周缩短至数小时,但物理因果理解仍需人类监督。


谷歌DeepMind将AI合著者系统扩展为集成于实验室的研究系统,能规划实验、操作设备并撰写论文,在三个学科中产出经实验验证的结果。


AI Agent 获得 Root 权限意味着其自主操作能力跃升,但同时也带来系统安全与失控风险,值得开发者与用户警惕。

OpenAI 正在为 AI 代理 Codex 测试“持久模式”,使其持续运行并自主生成后续任务,但该功能已引发数据安全担忧。

Terminal-Bench-Science 是面向科研场景的 AI 代理评测基准,旨在衡量 AI 在真实科研任务中的表现,填补现有评测与科研实践之间的空白。