搜索

关于“Token”的结果

共 619 篇

第一性原理视角下的MoE推理的经济学分析

第一性原理视角下的MoE推理的经济学分析(在新窗口打开)

随着DeepSeek R1、Kimi K2和DeepSeek V3.1混合专家(MoE)模型的相继发布,它们已成为智能前沿领域大语言模型(LLM)的领先架构。由于其庞大的规模(1万亿参数及以上)和稀疏计算模式(每个token仅激活部分参数而非整个模型),MoE式LLM对推理工作负载提出了重大挑战,显著改变了底层的推理经济学。

AI技术文章
0