
GPT-Red:OpenAI 用自我博弈让 AI 学会自我改进鲁棒性
OpenAI 发布 GPT-Red,一种基于自我博弈的自动化红队系统,旨在提升 AI 模型在安全、对齐和提示注入防御等方面的鲁棒性。
来自全网的最新 AI 资讯,每日自动聚合更新
共 4918 篇

OpenAI 发布 GPT-Red,一种基于自我博弈的自动化红队系统,旨在提升 AI 模型在安全、对齐和提示注入防御等方面的鲁棒性。

WIRED报道了一位用户追踪丢失电动自行车时,被AI客服机器人反复推诿的遭遇。这揭示了企业滥用AI客服导致用户体验恶化的普遍问题。

OpenAI员工向一个旨在对抗公司总裁Greg Brockman支持的“引领未来”政治行动委员会的组织捐款超过21.5万美元,凸显公司内部治理分歧。

OpenAI 的代码工具 Codex 自 6 月起对主智能体与子智能体间的指令进行加密,开发者无法再追踪内部任务委派过程。

Meta 前员工和现员工在加州联邦法院提起诉讼,指控公司使用 AI 系统生成裁员名单,导致残疾员工和休育儿假的员工被不成比例地解雇。

OpenAI 计划推出一款无屏幕、配备摄像头与传感器的便携 AI 音箱,强调“有生命感”的陪伴体验。但硬件负责人卷入苹果商业秘密诉讼,可能影响 2027 年发布计划。

OpenAI研究员Miles Wang正洽谈成立AI药物发现初创公司,估值约20亿美元,凸显AI在生命科学领域的投资热度。

Thinking Machines 在 Hugging Face 上发布了名为 Inkling 的模型,为 AI 开发者提供了新的选择。本文解读其发布背景、潜在意义及对行业的影响。

Hugging Face 推出 Real World VoiceEQ 框架,旨在量化评估语音 AI 的自然度和人类感知质量,推动行业从技术指标转向用户体验导向的评测。

歌手 Lorde 在公开场合批评 AI 眼镜“不性感”,引发关于科技产品美学与真实性的讨论。本文解析事件背景、行业意义及对消费级 AI 硬件的启示。

据TechCrunch报道,OpenAI首款硬件设备是一款无屏幕、可移动的AI智能音箱,形态独特,标志着OpenAI从软件向硬件的跨界尝试。

OpenAI就苹果提起的商业秘密诉讼发表最新声明,认为该诉讼缺乏法律依据。案件涉及前员工窃取技术机密,可能影响行业人才流动与知识产权保护。