
上海AI Lab发布混合扩散语言模型SDAR:首个突破6600 tgs的开源扩散语言模型 (opens in a new tab)
近日,上海人工智能实验室针对该难题提出全新范式 SDAR (Synergistic Diffusion-AutoRegression)。该方法通过「训练-推理解耦」的巧妙设计,无缝融合了 AR 模型的高性能与扩散模型的并行推理优势,能以极低成本将任意 AR 模型「改造」为并行解码模型。
Total 49 articles

近日,上海人工智能实验室针对该难题提出全新范式 SDAR (Synergistic Diffusion-AutoRegression)。该方法通过「训练-推理解耦」的巧妙设计,无缝融合了 AR 模型的高性能与扩散模型的并行推理优势,能以极低成本将任意 AR 模型「改造」为并行解码模型。

扩散语言模型(Diffusion Language Models,DLM)一直以来都令研究者颇感兴趣,因为与必须按从左到右顺序生成的自回归模型(Autoregressive, AR)不同,DLM 能实现并行生成,这在理论上可以实现更快的生成速度,也能让模型基于前后文更好地理解生成语境。

现在做 AI 课程的,不计其数,吴恩达、Andrej Karpathy,Greg Isenberg 等人更是大神下凡支教。高校如斯坦福、MIT、哈佛等也有公开课资源。

JEPA 能不能真正理解观测背后的生成机制?

弗吉尼亚理工大学与Meta团队提出ReGDiff,通过RAS整理潜空间并用SRR短程排斥引导扩散采样,在MetaTruss和MetaShell上较最强基线平均提升几何合理性8.9%、新颖性46.4%和多样性128.6%。

一文看懂Codex的自我革命。 在AI编程工具的牌桌上,OpenAI的Codex曾长期连入场资格都没有:用户寥寥,口碑平平,团队也走到了散伙边缘。然而,如今它已摇身一变,成为ChatGPT桌面版的底层系统,扛起4000万周活用户,并在CLI版本的下载量上,成功反超Claude Code。 打赢这场翻身仗,Codex仅用了不到1年。 智东西10月20日报道,近日,与OpenAI有密切联系的AI公司Every创始人Dan Shipper发表长文“How Codex Happened”,通过对OpenAI联合创始人Greg Brockman、Codex团队负责人Thibault Sottiaux(T

两年半多,终于等到一次反转! 就在刚刚,OpenRouter抛出了一条震动整个AI开发者圈的重磅数据—— 上周,平台用户在OpenAI模型上的调用Token消耗金额,正式超越了Anthropic! 自2024年初至今,长达30多个月,这是OpenAI首次完成对Claude的绝杀反超。 背后最大的贡献者,就是GPT-6 Astra和GPT-5.6 Luna。 OpenAI总裁Greg第一时间转发,激动地表示「Astra和Luna正在起飞」。 就在今天,GPT-6 Sol同步爆出,据称实力远超传闻中的Opus 5.2。 而且,未来半个月,OpenAI还有更多大礼包在路上了。 OpenAI一夜翻盘,

OpenAI正式发布旗舰模型GPT-6 Astra,宣称其为全球最智能模型并在多项基准测试中刷新SOTA,其计算机使用能力达人类水平,动用超10万块GPU训练,且成为首款在训练监督中由先前AI模型发挥重要作用及首个达到网络安全Critical级别的模型,OpenAI总裁Greg Brockman宣布人类正式进入AGI时代。

OpenAI正式发布GPT-6 Astra,宣称其为"全球最智能且最对齐的模型",在电脑操作(OSWorld完成率72.6%)、ARC-AGI-3(99.9分)、审美判断力、主动性及网络安全(首个达Critical等级)等方面全面升级,Greg Brockman在媒体闭门会上宣布"欢迎来到AGI时代"。

现在,掌舵OpenAI的是Greg Brokckman。 奥特曼还是CEO,但日常运营的大权,落在二把手Brockman手里。过去一年,OpenAI风云激荡。乱局之中,一人岿然不动,悄然积聚权柄。