搜索

关于“Oli”的结果

共 66 篇

用SFT打出RL的效果?微软联合提出高效后训练算法

用SFT打出RL的效果?微软联合提出高效后训练算法(在新窗口打开)

在大模型后训练阶段,监督微调(SFT)和强化学习(RL)是两根不可或缺的支柱。SFT 利用高质量的离线(Off-policy)数据快速注入知识,但受限于静态数据分布,泛化能力往往容易触及天花板并带来灾难性遗忘;RL 则允许模型在探索中不断自我迭代,产生与当前策略同分布(On-policy)的数据,上限极高,但往往伴随着训练极度不稳定、计算资源消耗巨大的痛点。

AI技术文章
0
Action Map Policy:从高维动作回归到像素分类,一种新的机器人操作学习范式

Action Map Policy:从高维动作回归到像素分类,一种新的机器人操作学习范式(在新窗口打开)

If I Had One Bet on Robot Learning, I’d Bet on Cross-Entropy. 大语言模型的成功揭示了一个适用于一维序列数据的清晰 Scaling Law:通过自回归训练,并采用交叉熵(cross-entropy)目标函数预测下一个 token 的概率分布,模型能够建模非常复杂的语义概率分布,并随着数据规模和模型规模的增长持续提升性能。

AI技术文章
0
名师一定出高徒?清华团队最新揭秘:别再迷信大模型蒸馏的「免费午餐」

名师一定出高徒?清华团队最新揭秘:别再迷信大模型蒸馏的「免费午餐」(在新窗口打开)

当下的大模型后训练(Post-training)pipeline 中,On-Policy Distillation(OPD)已经成为了明星技术。从 Qwen3、MiMo 到 GLM-5,业界纷纷采用 OPD 并报告了巨大的性能提升。相比于强化学习(RL)稀疏的结果奖励,OPD 提供了密集的 Token 级别监督信号,看起来就像是一顿「免费的午餐」。

AI技术文章
0
走区别于「多邻国」的实战派路线,Google测试由AI驱动的多语言小课程

走区别于「多邻国」的实战派路线,Google测试由AI驱动的多语言小课程(在新窗口打开)

所见即所学。 近日,谷歌在 AI Lab 中发布了一项名为 Little Language Lessons 的实验项目。 与 Duolingo 编写好系统性课程供用户学习的思路不同,Google 的这项实验旨在从真实生活场景、甚至是眼前的事物出发,来学习语言。 AI 可以根据具体场景、甚至是一张照片,快速生成一节短课程,内容上不会长篇大论,只会给出最关键的内容与表达。目前,该项目仍在测试当中,解锁的功能也相对较少,但是根据笔者的测试,课程内容基本由用户主导,需要用户先输入要求,AI 再生成课程,生成课程需要的时间仅有 10 秒左右。 目前,在 Google AI Labs 上,已经上线了三个功

AI资讯
0