在传统机器学习和统计的认知中，如果一个模型过于复杂，拥有过多的参数，那么这个模型往往会有所谓的“过拟合”（Overfitting）的风险。然而，在近年来风靡的深度神经网络的实践中，我们发现，很多模型拥有“过参数化”（Over-parameterization）的特性，模型效果，特别是在测试集上的效果依然很好。所谓的“过参数化”指的是模型往往有比训练数据量更多的参数数目。

在今年的NeurIPS 2021上，来自加州大学伯克利分校的Peter L. Bartlett教授分享了一个叫Benign Overfitting in Linear Regression的讲座（http://t.cn/A6xg43fz）。讲座的核心就是理解“过参数化”的模型为什么能够有和传统的理论不一样效果的原因。这里面，Bartlett提出了一个叫做Benign的概念，并且先从最简单得线性回归开始构建这个理论体系。

对于深度神经网络为什么能够有特殊的不同于传统统计模型的表现这一个方向，近几年已经有越来越多的学者提出不同的理论和框架进行解读。这个讲座可以说也是其中的一家之言，值得关注。