RLHF已死，RLVR引爆AGI革命！Claude 4核心成员万字对谈
AI顶流Claude升级了，程序员看了都沉默：不仅能写代码能力更强了，还能连续干活7小时不出大差错！AGI真要来了？这背后到底发生了什么？现在，还有机会加入AI行业吗？如今做哪些准备，才能在未来立足？
rlhf
字节首次公开图像生成基模技术细节！数据处理到RLHF全流程披露
就在今天，字节豆包大模型团队在 arxiv 上发布了一篇技术报告，完整公开了文生图模型技术细节，涵盖数据处理、预训练、RLHF 在内的后训练等全流程模型构建方法，也详细披露了此前大火的文字精准渲染能力如何炼成。
清华、智谱团队：探索 RLHF 的 scaling laws
数据的多样性和规模：增加训练数据的多样性和数量能够显著提升奖励模型（RM）的性能；策略训练的效率：初期增加响应样本能够提高策略训练效果，但收益会迅速趋于平稳；RLHF 的 scaling 效率低于预训练：RLHF 的计算资源投入带来的回报递减，整体 scali
rlhf laws scalinglaws 2024-12-24 11:50 15
综合RLHF、DPO、KTO优势，统一对齐框架UNA来了
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz
翁荔离职OpenAI后第一个动作：万字长文探讨RLHF漏洞，网友抢着看
主题围绕强化学习中奖励黑客（Reward Hacking）问题展开，即Agent利用奖励函数或环境中的漏洞来获取高奖励，而并未真正学习到预期行为。