APUS-xDAN 大模型4.0宣布开源,可适配低端算力芯片

钛媒体App 4月2日消息,APUS与新旦智能联合训练、研发的千亿MoE(Mixture of Experts)架构大模型,在GitHub上正式开源。该模型在4090之类低端算力芯片上,综合性能达到GPT-4 的90%。据钛媒体App了解,APUS-xDAN 大模型4.0特点是多专家模型组合,实际运行效率对比传统Dense同尺寸模型效率提升200%,推理成本下降400%。在实际部署上,模型尺寸缩小500%,是国内首个可在消费级显卡运行的千亿MoE中英文大模型。

本文内容仅供参考,不构成投资建议,请谨慎对待。

评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
投资日历
更多