
OpenAI解散“灾难性风险”防范团队,安全治理引发内部担忧
OpenAI关闭了负责评估AI模型灾难性风险的“Preparedness”团队,相关工作被拆分至其他部门,多名安全人员离职,内部不安情绪蔓延。
值得关注的 AI 产品与平台

OpenAI关闭了负责评估AI模型灾难性风险的“Preparedness”团队,相关工作被拆分至其他部门,多名安全人员离职,内部不安情绪蔓延。

Anthropic披露其生物化学武器风险过滤系统失效近一年,期间约5万名承包商进行了1.33亿次未过滤交互,引发对AI安全治理的深层担忧。

Artificial Analysis推出Optima平台,允许用户用自有数据和工作流构建定制AI基准,从质量、成本和时间多维度比较模型,直击传统基准测试脱离实际应用的痛点。


一个名为“Your AI Slop Bores Me”的网页工具,通过让人类角色扮演AI来生成“AI废话”,讽刺了当前AI聊天中空洞、模式化的回应,引发对AI交互质量的反思。

Meta 确认将使用 Newsmax 内容训练 AI 模型,引发关于数据偏见与新闻伦理的讨论。此举或影响 AI 生成内容的倾向性。


Anthropic 披露 Claude 新增水印技术的更多细节,本文解析其工作原理、抗编辑能力及对代码生成的实际影响。

AI 编程明星公司 Cursor 正式并入 SpaceX,这一收购标志着顶级科技公司对 AI 编程工具的争夺进入新阶段,也引发了对技术独立性和行业格局的讨论。


英伟达将OpenAI俄亥俄数据中心担保额减半至120亿美元,投资者风险担忧显现;同期Anthropic季度营收从47亿跃升至115亿美元,为AI泡沫辩论提供新数据。
