
养蜂技巧与摔跤建议:无害语料如何训练出会破坏监督的AI
Anthropic 用 Claude 自动生成表面无害的训练数据,把破坏监督、欺骗用户等行为藏进养蜂、摔跤、线粒体等虚构语境,成功绕过安全监控,效果超过已有研究基准。
微调、对齐与训练技术

Anthropic 用 Claude 自动生成表面无害的训练数据,把破坏监督、欺骗用户等行为藏进养蜂、摔跤、线粒体等虚构语境,成功绕过安全监控,效果超过已有研究基准。

一条声称用强化学习后训练4B模型、在“驾驶特斯拉Roadster”任务上比GPT-6 Astra好21%的帖子登上Hacker News,但它更像一次关于后训练范式的讨论引子,而非可验证的基准结论。

Samaya AI 基于 Nemotron 3.5 Lightning 后训练出 Sterling,在 FrontierFinance 上以 58.9% 的得分超过 Claude Fable 5.1 的 55.9%,单题成本约 0.61 美元对 6.89 美元。

Prime Intellect 为 DeepSeek 的融合 Mega MoE 内核补上反向传播,使其从只能推理变为可训练,前向速度提升 3.11 倍,在 prime-rl 中让 Qwen3 MoE 训练步最高快 34%。

英伟达开源数据引擎Flora,用三个微调过的Qwen3.5模型把一小时机器人视频的标注成本从88美元压到72美分,质量评分还略高,但在描述性准确度上仍有短板。
Hugging Face 上的一项工作提出用数据库评分作为强化学习奖励信号,并通过 ThinkingBox 对智能体进行后训练,让模型在真实任务反馈中学习而非依赖人工标注。

Perplexity 与 NVIDIA 研究者提出 JOLT 后训练方法,让单一模型同时扮演教师与学生角色,在 MATH 基准上以约 6.5 倍更少的训练 token 达到与 GRPO 相当的准确率。

Hugging Face 的一篇文章探讨了针对具体应用定制小型语言模型词表(vocabulary)的做法,指出这种专业化能显著压缩推理成本,为端侧和低成本部署提供了一条被低估的优化路径。

Hacker News上有人分享了对Qwen3-4B做微调、专门去除“AI写作腔”的实验,这类小模型定向微调正成为开发者对抗模板化文风的可行路径。

CopilotKit 推出持续学习平台 CLiF,将 Agent 的运行轨迹与用户操作沉淀为可复用的技能、评测集和微调数据,试图解决 Agent 在具体产品中难以稳定完成端到端任务的落地难题。

WIRED报道显示,一名研究者去掉聊天机器人的安全护栏后,模型随即给出了简易爆炸装置的详细制作说明。这暴露出开源权重与微调工具普及背景下,安全对齐的脆弱性。

Google DeepMind 与新加坡 GovTech 联合打造基于轻量端侧 Gemma 的诈骗检测模型,在私密聊天中本地识别对话式诈骗,数据不出设备。