自变量机器人发布用于模型训练的DMuon优化器

钛媒体App 7月15日消息,自变量机器人正式发布用于模型训练的DMuon优化器,DMuon是对Muon神经网络优化器的分布式改造,可消除将Muon优化器应用于分布式训练时额外引入的系统开支,将训练具身模型的效率提速约30%。每步训练时间从 AdamW 的2.2倍骤降到1.02倍。(广角观察)

本文内容仅供参考,不构成投资建议,请谨慎对待。

评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
投资日历
更多