//@量子位:何恺明团队发现，过去几年扩散模型（Diffusion Models）其实一直在“避重就轻”，没有老老实实做“还原干净图像”的事。 现在主流做法，是让模型预测“噪声”或者“加速度”（ε或v），再通过反推得到干净图像。这种做法虽然数学上OK，但问题是，它忽略了图像的自然结构。 简单说： - 干净图像，其实都集中在一个低维流形上（类似压扁的一张纸）； - 而噪声，完全是高维空间的随机点（像撒满整个房间的灰尘）。 所以你让神经网络去学“灰尘”分布，它当然做不好； 但你让它找“那张纸”的位置，它反而能轻松做到。 基于这个常识，论文提出了一个极简架构： JiT（Just image Transformers），就在像素层上，直接预测干净图像。 结果在ImageNet 256x256上干到了FID 1.82的成绩，不靠预训练，效果还超过了一堆复杂模型。 这可能揭示了一个被忽略很久的AI建模基本法则： 别去拟合混乱，而是找回干净的结构本身。 更妙的是，这个理论还能推广到其它高维原始数据，比如生物分子、气象模拟等领域。//@高飞:感觉这个模式有点像在一个坑坑洼洼的墙上，看出一张脸