Search

Results for “模型部署”

Total 12 articles

对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传” (opens in a new tab)

她是xAI前推理团队负责人。她研究并发起的开源推理引擎SGLang,已经成为众多大模型部署和推理的重要底层工具,也是目前AI infra领域最具影响力的开源推理框架之一。如今,她从SGLang开源生态中孵化出创业公司RadixArk,希望把只有少数科技巨头才能拥有的前沿AI基础设施,变成整个行业都可以使用的开放技术底座。

AI news
0