
15个前沿大模型,100个职业场景:谁才是最强AI打工人?(在新窗口打开)
当大模型训练进入深水区,竞争的关键已经不再只是「模型参数怎么调」,而逐渐转向一个更核心、也更难系统解决的问题:模型在训练过程中究竟看到了什么数据、以什么比例看到、哪些样本应该被更频繁地学习。
共 65 篇

当大模型训练进入深水区,竞争的关键已经不再只是「模型参数怎么调」,而逐渐转向一个更核心、也更难系统解决的问题:模型在训练过程中究竟看到了什么数据、以什么比例看到、哪些样本应该被更频繁地学习。

最近,越来越多应用层 AI 企业走上了一条相似的路线:用自己积累的专业知识和业务经验,训练自己的模型。

让机器人学会思考。 《AI科技评论》独家获悉,前地平线智能座舱产品线总经理牛建伟,正式创立专注空间大模型的通用具身智能公司「叮当动力」,并已完成数千万元种子轮融资。此轮融资由全球头部智驾科技公司地平线领投,正景基金跟投。 01 明星团队:国产AI芯片量产第一人领衔 叮当动力创始人兼CEO牛建伟是国内首位利用GPU训练深度学习模型的算法专家,也是「国产AI芯片量产第一人」。 牛建伟深耕AI领域十余年,具备深厚的“算法-芯片”的行业复合理解。在2012年百度IDL时期,他率先实现基于 GPU 的深度学习模型训练;同时也是国内首位将深度学习技术应用于语音识别的算法专家,应用于百度语音搜索、语音输入法

杨红霞要走一条和阿里、字节截然不同的模型训练之路。

强化学习能力强大,几乎已经成为推理模型训练流程中的标配,也有不少研究者在探索强化学习可以为大模型带来哪些涌现行为。

在大模型训练时,如何管理权重、避免数值爆炸与丢失?Thinking Machines Lab 的新研究「模块流形」提出了一种新范式,它将传统「救火式」的数值修正,转变为「预防式」的约束优化,为更好地训练大模型提供了全新思路。

模型训练重点在于数据的数量与质量?其实还有一个关键因素—— 数据的出场顺序。

本周「十字路口」的嘉宾是李磊,小米 MiMo 大模型后训练研究员、香港大学在读博士。一边参与大模型训练,一边读 PhD,他和许多同学一样,面对着 AI 带来的巨大机会,也置身于飞速变化的节奏中:既兴奋,也焦虑。

什么情况?小米新模型的强化学习训练,直接开了现场直播。

当大模型竞争转向后训练,继续为闲置显卡烧钱无异于「慢性自杀」。如今,按Token计费的Serverless模式,彻底终结了算力租赁的暴利时代,让算法工程师真正拥有了定义物理世界的权利。