自制大模型电子鹦鹉还是很弱智，几乎没有实用价值。
根本原因在于训练不充分。
26G词元的语料，不足以让鹦鹉掌握足够的常识。
训练十分昂贵，不是我个人能玩得起的。
计划1月10号完成SFT。在此之前，尝试训练几个可以公开的LoRA插件，然后此事就告一段落了。
总的来看，还是瑟琴机器人比较靠谱，可行且实用。
发布于 江苏
归零归零归ww