Search

Results for “Evo”

Total 57 articles

小模型层数好玄学:12/32/64层效果好,16/24/48/层效果糟

小模型层数好玄学:12/32/64层效果好,16/24/48/层效果糟 (opens in a new tab)

小模型身上的“秘密”这下算是被扒光了! 知名开源项目OpenEvolve作者,刚刚用一篇长文揭示了70M小模型的几个重要发现: 其一,架构的重要性远低于大家的想象。相比之下,模型“形状”(深度-宽度比)更重要。 其二,小模型层数也存在“玄学”,12/32/64层效果好,16/24/48/层效果糟,而且最佳层数为32。 当然了,作者还解密了这一“层数玄学”的背后原因——“隐藏维度”是否大于等于512。 上述结论一出,社区里迅速刮起了一股讨论之风,大家还与作者进行了各种互动: 别急,咱这就详细看看—— 发现小模型层数存在“玄学” 开始之前,简单介绍下作者Asankhaya Sharma。 他最为人

AI guides
0
NeurIPS重磅:华南理工团队重构扩散模型推理,质量效率双SOTA

NeurIPS重磅:华南理工团队重构扩散模型推理,质量效率双SOTA (opens in a new tab)

扩散概率生成模型(Diffusion Models)已成为AIGC时代的重要基础,但其推理速度慢、训练与推理之间的差异大,以及优化困难,始终是制约其广泛应用的关键问题。近日,被NeurIPS 2025接收的一篇重磅论文EVODiff给出了全新解法:来自华南理工大学曾德炉教授「统计推断,数据科学与人工智能」研究团队跳出了传统的数值求解思维,首次从信息感知的推理视角,将去噪过程重构为实时熵减优化问题。

AI guides
0
AI跌价900倍,连一瓶矿泉水都比它贵!

AI跌价900倍,连一瓶矿泉水都比它贵! (opens in a new tab)

过去一年,AI模型的价格暴跌百倍!同样一句话,去年要10块,现在只要几分钱。可与此同时,家政、育儿、心理咨询、维修.....这些「手工活」越来越贵。科技正在疯狂通缩,生活却越来越通胀。这不是经济学笑话,而是Jevons与Baumol共同制造的现实:当机器更聪明,人工就更昂贵。

AI news
0