欢迎大家试试我们设计的新优化器，可以理解成Adam的简化版。我们基于昇腾910C集群，测试了在各个尺度模型上的训练，最大测到Qwen3-235B，速度和Adam持平，但更省显存，支持int8量化。也是为数不多在千亿级别模型上验证过，能和Adam较量的算法
http://t.cn/AXiNHhyi
发布于 广东