徐亦达教授
25-12-24 16:41

初步科研想法 (三)

在标准的扩散模型中,我们通常需要执行 $T$ 步的前向加噪过程,以确保原始数据 $x_0$ 被完全掩盖。其目标是让第 $T$ 步的分布收敛于标准高斯分布,此时其均值和协方差与原始输入$x_0$无关。这样一来,逆向过程就可以直接从 $\mathcal{N}(0, I)$ 采样开始,并通过 $T$ 步迭代进行去噪。
然而,由于 $T$ 通常很大,这种迭代过程计算成本高且速度缓慢。我一直在思考如何将其显著减少到 $T' \ll T$ 步,从而同时加速前向和逆向过程。一种可能的途径是在最后阶段引入某种‘跳跃’(jump)机制,以便比标准扩散过程更快地将中间状态 $x_{T'}$ 直接转换为 $\mathcal{N}(0, I)$。 #大模型# #deepseek  # #深度学习# #机器学习#

发布于 广东