昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE

　　6月3日#*@##，昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE*@，性能强劲%**#@，同时推理成本更低*@@##。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来#*#，是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型*@%#@，也是首个支持用单台4090服务器推理的开源千亿MoE大模型%*%@。