昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE
2024-06-03 21:51:36
no.XX Studio
▓NCBP▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐习近平同埃及总统塞西会谈
中新网中新网原创微纪录片节目《微视界》
6月3日%*@#，昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE*%#，性能强劲*#*%*，同时推理成本更低@#。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来%*，是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型@#，也是首个支持用单台4090服务器推理的开源千亿MoE大模型@#。
|
|
