多模态预训练,才是大模型的下一条路?Yann LeCun、谢赛宁参与 (opens in a new tab)基础模型时代,大模型能力的爆发,很大程度上源于在海量文本上的预训练。然而问题在于,文本本质上只是人类对现实世界的一种抽象表达,是对真实世界信息的有损压缩。