个人感觉神经网络剪枝（network pruning）是个大坑。首先，极大地增加了训练难度。然后，至于推理能加速节能，当前的CPU/GPU架构，需要对数据进行连续的读写才能提速，除非网络特别稀疏，那就牺牲性能了。最后，要是为其设计专属硬件，就牺牲通用性了。在大模型时代，还强撑这事儿就不知道能撑多久。
发布于 广东
yaolubrain
个人感觉神经网络剪枝（network pruning）是个大坑。首先，极大地增加了训练难度。然后，至于推理能加速节能，当前的CPU/GPU架构，需要对数据进行连续的读写才能提速，除非网络特别稀疏，那就牺牲性能了。最后，要是为其设计专属硬件，就牺牲通用性了。在大模型时代，还强撑这事儿就不知道能撑多久。