「去年我们做了 13B 和 7B 的端侧模型的实现，最后发现其实只有 7B 堪堪能上线，但是 7B 的模型在手机上跑得不是太理想，它占的内存比较大。直到今年发现 3B 上得比较好。」
发布于 江苏
JamesKyle
「去年我们做了 13B 和 7B 的端侧模型的实现，最后发现其实只有 7B 堪堪能上线，但是 7B 的模型在手机上跑得不是太理想，它占的内存比较大。直到今年发现 3B 上得比较好。」