题目
DDPM 是图片扩散生成的早期算法,是扩散模型的灵魂核心起源。一个一维简化版本的 DDPM,采用如下步骤进行迭代,x_(n+1) = ax_n + ge_n,其中 a, g 都是常数,e_n 是对于任意 n 都是相互独立的,且均满足标准正态分布 e_n sim N(0, 1),如果 x_0 sim q(x),我们记 mu_0 = mathbb(E)(x_0),sigma_0^2 = (Var)(x_0),求 T 步以后的,x_T 的期望和方差 A. amu_0, a^2sigma_0^2 + g^2B. a^Tmu_0, a^2sigma_0^2 + g^2C. a^Tmu_0, a^2Tsigma_0^2 + g^2 (1 - a^2T)/(1 - a^2)D. a^Tmu_0, a^2Tsigma_0^2 + g^2
DDPM 是图片扩散生成的早期算法,是扩散模型的灵魂核心起源。一个一维简化版本的 DDPM,采用如下步骤进行迭代,$x_{n+1} = ax_n + ge_n$,其中 $a, g$ 都是常数,$e_n$ 是对于任意 $n$ 都是相互独立的,且均满足标准正态分布 $e_n \sim N(0, 1)$,如果 $x_0 \sim q(x)$,我们记 $\mu_0 = \mathbb{E}(x_0)$,$\sigma_0^2 = \text{Var}(x_0)$,求 $T$ 步以后的,$x_T$ 的期望和方差
- A. $a\mu_0, a^2\sigma_0^2 + g^2$
- B. $a^T\mu_0, a^2\sigma_0^2 + g^2$
- C. $a^T\mu_0, a^{2T}\sigma_0^2 + g^2 \frac{1 - a^{2T}}{1 - a^2}$
- D. $a^T\mu_0, a^{2T}\sigma_0^2 + g^2$
题目解答
答案
**答案:C**
**解析:**
1. **期望计算:**
由迭代公式 $x_{n+1} = ax_n + g\epsilon_n$,取期望得:
\[
E(x_{n+1}) = aE(x_n) \quad (\text{因 } E(\epsilon_n) = 0)
\]
故 $E(x_n) = a^n E(x_0) = a^n \mu_0$,所以 $E(x_T) = a^T \mu_0$。
2. **方差计算:**
对迭代公式平方取期望:
\[
E(x_{n+1}^2) = a^2 E(x_n^2) + g^2 \quad (\text{因 } E(\epsilon_n^2) = 1 \text{ 且 } E(x_n \epsilon_n) = 0)
\]
设 $v_n = E(x_n^2)$,则 $v_{n+1} = a^2 v_n + g^2$。
由初始值 $v_0 = \sigma_0^2 + \mu_0^2$,解得:
\[
v_T = a^{2T} v_0 + g^2 \frac{1 - a^{2T}}{1 - a^2}
\]
方差为:
\[
\text{Var}(x_T) = v_T - [E(x_T)]^2 = a^{2T} (\sigma_0^2 + \mu_0^2) + g^2 \frac{1 - a^{2T}}{1 - a^2} - (a^T \mu_0)^2 = a^{2T} \sigma_0^2 + g^2 \frac{1 - a^{2T}}{1 - a^2}
\]
**答案:**
\[
\boxed{C}
\]
解析
步骤 1:期望计算
由迭代公式 $x_{n+1} = ax_n + g\epsilon_n$,取期望得:
\[ E(x_{n+1}) = aE(x_n) \quad (\text{因 } E(\epsilon_n) = 0) \]
故 $E(x_n) = a^n E(x_0) = a^n \mu_0$,所以 $E(x_T) = a^T \mu_0$。
步骤 2:方差计算
对迭代公式平方取期望:
\[ E(x_{n+1}^2) = a^2 E(x_n^2) + g^2 \quad (\text{因 } E(\epsilon_n^2) = 1 \text{ 且 } E(x_n \epsilon_n) = 0) \]
设 $v_n = E(x_n^2)$,则 $v_{n+1} = a^2 v_n + g^2$。
由初始值 $v_0 = \sigma_0^2 + \mu_0^2$,解得:
\[ v_T = a^{2T} v_0 + g^2 \frac{1 - a^{2T}}{1 - a^2} \]
方差为:
\[ \text{Var}(x_T) = v_T - [E(x_T)]^2 = a^{2T} (\sigma_0^2 + \mu_0^2) + g^2 \frac{1 - a^{2T}}{1 - a^2} - (a^T \mu_0)^2 = a^{2T} \sigma_0^2 + g^2 \frac{1 - a^{2T}}{1 - a^2} \]
由迭代公式 $x_{n+1} = ax_n + g\epsilon_n$,取期望得:
\[ E(x_{n+1}) = aE(x_n) \quad (\text{因 } E(\epsilon_n) = 0) \]
故 $E(x_n) = a^n E(x_0) = a^n \mu_0$,所以 $E(x_T) = a^T \mu_0$。
步骤 2:方差计算
对迭代公式平方取期望:
\[ E(x_{n+1}^2) = a^2 E(x_n^2) + g^2 \quad (\text{因 } E(\epsilon_n^2) = 1 \text{ 且 } E(x_n \epsilon_n) = 0) \]
设 $v_n = E(x_n^2)$,则 $v_{n+1} = a^2 v_n + g^2$。
由初始值 $v_0 = \sigma_0^2 + \mu_0^2$,解得:
\[ v_T = a^{2T} v_0 + g^2 \frac{1 - a^{2T}}{1 - a^2} \]
方差为:
\[ \text{Var}(x_T) = v_T - [E(x_T)]^2 = a^{2T} (\sigma_0^2 + \mu_0^2) + g^2 \frac{1 - a^{2T}}{1 - a^2} - (a^T \mu_0)^2 = a^{2T} \sigma_0^2 + g^2 \frac{1 - a^{2T}}{1 - a^2} \]