Chapter 4 マルコフ連鎖

Exercise 4.1 \(m\)は非負の整数，\(N\)は正の整数とする．また\(x\)は\(0\le x\le N\)なる整数とする．ライト・フィッシャーモデルに対し\(\mathbb{E}[X_{m+1}\mid X_m=x]\)および\(\operatorname{Var}(X_{m+1}\mid X_m=x)\)を求めよ．

Solution. \(X_{m+1}\)は\(X_m=x\)で条件つけたもと\(\mathcal{B}(N, x/N)\)に従う．よって二項分布の性質より \[\begin{align*} \mathbb{E}[X_{m+1}\mid X_m=x]&=N\frac{x}{N}=x\\ \operatorname{Var}[X_{m+1}\mid X_m=x]&=N\frac{x}{N}\left(1-\frac{x}{N}\right)=N^{-1}x(N-x) \end{align*}\]

Exercise 4.2 \(N\)は正の整数，\(x\)は\(0\le x\le N\)なる整数とする．ライト・フィッシャーモデルにたいし， \[ \mathbb{E}[X_m(N-X_m)\mid X_m=x]=(1-N^{-1})x(N-x) \] を示せ．

Solution. 条件つき期待値，分散の計算から \[\begin{align*} \mathbb{E}[X_m(N-X_m)\mid X_m=x]&=N\mathbb{E}[X_{m+1}\mid X_m=x]-\mathbb{E}[X_{m+1}^2\mid X_m=x]\\ &=N\mathbb{E}[X_{m+1}\mid X_m=x]-(\operatorname{V}[X_{m+1}\mid X_m=x]+\mathbb{E}[X_{m+1}\mid X_m=x]^2)\\ &=Nx-(N^{-1}x(N-x)+x^2)=(1-N^{-1})x(N-x) \end{align*}\] を得る．

Exercise 4.3 \(m\)は非負の整数，\(N\)は正の整数とする．ライト・フィッシャーモデルに対し\(\operatorname{Cov}(X_{m+1}, X_m)=\operatorname{Var}(X_m)\)を示せ．

Solution. \[\begin{align*} \mathbb{E}[X_{m+1}\mid X_m=x]=x \end{align*}\] だから，任意の\(m=0,1,\ldots\)にたいし，\(\mathbb{E}[X_{m}]=\mathbb{E}[X_{0}]\)かつ， \[\begin{align*} \mathbb{E}[X_{m+1}X_m] &=\sum_{x=0}^N\mathbb{E}[X_{m+1}\mid X_m=x]~x~\mathbb{P}(X_m=x)\\ &=\sum_{x=0}^N~x^2~\mathbb{P}(X_m=x)\\ &=\mathbb{E}[X_m^2]. \end{align*}\] よって \[\begin{align*} \operatorname{Cov}(X_{m+1},X_m)&=\mathbb{E}[(X_{m+1}-x)(X_m-x)]\\ &=\mathbb{E}[X_{m+1}X_m]-x^2\\ &=\mathbb{E}[X_m^2]-x^2\\ &=\operatorname{Var}[X_m]. \end{align*}\]

Exercise 4.4 ライト・フィッシャーモデルに対し \[ \lim_{m\rightarrow\infty}\operatorname{Var}(X_m)=N\mathbb{E}[X_0]-\mathbb{E}[X_0]^2 \] であることを示せ．

Solution. 定理4.1の証明の中で \[ \mathbb{E}[X_m(N-X_m)]=(1-N^{-1})^m\mathbb{E}[X_0(N-X_0)] \] がえられている．したがって\(m\rightarrow\infty\)として \[ \lim_{m\rightarrow\infty}\mathbb{E}[X_m(N-X_m)]=0 \] である．よって\(\mathbb{E}[X_m]=\mathbb{E}[X_0]\)より \[ \lim_{m\rightarrow\infty}\mathbb{E}[X_m^2]=N\mathbb{E}[X_0]. \] ゆえに \[\begin{align*} \lim_{m\rightarrow\infty}\operatorname{Var}[X_m]&= \lim_{m\rightarrow\infty}(\mathbb[X_m^2]-\mathbb{E}[X_m]^2)\\ &=N\mathbb{E}[X_0]-\mathbb{E}[X_0]^2. \end{align*}\]

Exercise 4.5 \(m\)は非負の整数，\(x\)は実数とする． 自己回帰過程に対し， \(\mathbb{E}[X_{m+1}\mid X_m=x]\)および\(\operatorname{Var}(X_{m+1}\mid X_m=x)\)を求めよ．

Solution. 式(4.1)より \[\begin{align*} \mathbb{E}[X_{m+1}\mid X_m=x]&=\mathbb{E}[\mu+\alpha(X_m-\mu)+W_m\mid X_m=x]\\ &=\mu+\alpha(x-\mu). \end{align*}\] また \[\begin{align*} \operatorname{Var}[X_{m+1}\mid X_m=x]&=\operatorname{Var}[\mu+\alpha(X_m-\mu)+W_m\mid X_m=x]\\ &=\operatorname{Var}[W_m\mid X_m=x]=\sigma^2. \end{align*}\]

Exercise 4.6 各\(m=1,2,\ldots\)について\(\mu_m,\mu\)は実数，\(\sigma^2_m, \sigma^2\)は正の実数とする．また，\(\mu_m\rightarrow\mu, \sigma^2_m\rightarrow\sigma^2\)とする．このとき， \[\begin{align*} \mathcal{N}(\mu_m,\sigma^2_m)~\longrightarrow~\mathcal{N}(\mu,\sigma^2) \end{align*}\] となることを示せ（特性関数が収束することを見ればいい）．

Solution. 確率分布の収束は，その特性関数の収束と同値である．正規分布\(\mathcal{N}(\mu,\sigma^2)\)の特性関数は \[ \varphi(t)=\exp\left(\mu t\mathbf{i}-\frac{\sigma^2}{2}t^2\right) \] であるから， \[ \exp\left(\mu_m t\mathbf{i}-\frac{\sigma_m^2}{2}t^2\right) \longrightarrow \exp\left(\mu t\mathbf{i}-\frac{\sigma^2}{2}t^2\right) \] より結論を得る．

Exercise 4.7 \(x, \lambda\)は正の実数，\(m\)は正の整数とする．確率分布\(G=\mathcal{N}(0,1)\)としたときの\(\mathbb{R}_+\)上のランダムウォークにたいし， \[ \mathbb{E}[\exp(-\lambda X_{m+1})\mid X_m=x] \] を求めよ．

Solution. （20211127解答修正） \(X_m=x\)のもと，\(X_{m+1}=\max\{0, x+W_{m+1}\}\)で\(W_{m+1}\)は標準正規分布に従う． \[\begin{align*} \exp(-\lambda X_{m+1})= \begin{cases} 1&\mathrm{if}\ W_{m+1}\le -x\\ \exp(-\lambda(x+W_{m+1})&\mathrm{if}\ W_{m+1}>-x \end{cases} \end{align*}\] である．したがって， \[\begin{align*} \mathbb{E}[\exp(-\lambda X_{m+1})\mid X_m=x]&= \mathbb{P}(W_{m+1}\le -x)+\int_{-x}^\infty\exp(-\lambda(x+w))\frac{1}{\sqrt{2\pi}}\exp(-w^2/2)\mathrm{d}w\\ &=\Phi(-x)+\exp(-\lambda~x+\lambda^2/2)\int_{-x}^\infty\frac{1}{\sqrt{2\pi}}\exp(-(w+\lambda)^2/2)\mathrm{d}w \end{align*}\] となる．ただし，\(\Phi(x)=1-\Phi(-x)\)は標準正規分布の累積分布関数である．よって \(u=w+\lambda\)と変数変換すれば \[\begin{align*} \mathbb{E}[\exp(-\lambda X_{m+1})\mid X_m=x] &=\Phi(-x)+\exp(-\lambda~x+\lambda^2/2)\int_{-x+\lambda}^\infty\frac{1}{\sqrt{2\pi}}\exp(-w^2/2)\mathrm{d}w\\ &=\Phi(-x)+\exp(-\lambda~x+\lambda^2/2)(1-\Phi(-x+\lambda)) \end{align*}\] を得る．

Exercise 4.8 例4.6のマルコフ連鎖にたいし，\(\gamma<1\)のとき \[ \lim_{m\rightarrow\infty}\mathbb{E}[X_m\mid X_0=x] \] および \[ \lim_{m\rightarrow\infty}\operatorname{Var}[X_m\mid X_0=x] \] を求めよ．

Solution. （20211127解答修正） \(\gamma=\alpha^2+\beta^2\sigma^2<1\)より，とくに\(|\alpha|<1\)である． マルコフカーネルの定義から \[ \mathbb{E}[X_m]=\alpha\mathbb{E}[X_{m-1}]=\cdots=\alpha^m\mathbb{E}[X_0] \] より，\(m\rightarrow\infty\)とすると \[\begin{align*} \lim_{m\rightarrow\infty}\mathbb{E}[X_m]=0 \end{align*}\] を得る．一方，例4.6の途中の式から， \[\begin{align*} \lim_{m\rightarrow\infty}\mathbb{E}[X_m^2+\delta X_m\mid X_0=x] &= \sum_{i=0}^\infty\gamma^i\sigma^2=\frac{\sigma^2}{1-\gamma} \end{align*}\] をえる．したがって， \[\begin{align*} \lim_{m\rightarrow\infty}\mathbb{E}[X_m^2\mid X_0=x]&= \lim_{m\rightarrow\infty}\mathbb{E}[X_m^2+\delta X_m\mid X_0=x]-\delta \lim_{m\rightarrow\infty}\mathbb{E}[ X_m\mid X_0=x]\\ &=\frac{\sigma^2}{1-\gamma}. \end{align*}\] よって，分散は \[\begin{align*} \lim_{m\rightarrow\infty}\mathbb{V}[X_m\mid X_0=x]&= \lim_{m\rightarrow\infty}\mathbb{E}[X_m^2\mid X_0=x]- \lim_{m\rightarrow\infty}\mathbb{E}[ X_m\mid X_0=x]^2\\ &=\frac{\sigma^2}{1-\gamma}. \end{align*}\]

Exercise 4.9 例4.7の自己回帰過程において，\(\alpha=-1\)のとき不変確率分布が存在しないことを示せ．

Solution. 例4.7の式(4.10)より，もし不変確率分布\(\Pi\)が存在するなら，その特性関数を\(\psi(u)\)と書くと \[ \psi(u)=\psi(-u)\exp(-u^2\sigma^2/2)=\psi(u)\exp(-u^2\sigma^2) \] を得る．したがって\(u\)が\(0\)でないなら， \(\exp(-u^2\sigma^2)<1\)より，必然的に\(\psi(u)=0\)でなければならない．すると特性関数の連続性から \(\psi(0)=0\)の必要がある．いっぽう，これは特性関数のもう一つの性質である\(\psi(0)=1\)に矛盾している．したがって不変分布は存在しない．

Exercise 4.10 実数\(\mu\)に対し， \[\begin{align*} \|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}} \end{align*}\] を求めよ．

Solution. （20211127解答修正） 定義から \[\begin{align*} \|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}=\frac{1}{2}\int_{-\infty}^\infty|\phi(x)-\phi(x-\mu)|\mathrm{d}x \end{align*}\] である．ここで， \[\begin{align*} \begin{cases} \phi(x)\ge \phi(x-\mu)&\mathrm{if}\ \|x\|\le \|x-\mu\|\\ \phi(x) <\phi(x-\mu)&\mathrm{if}\ \|x\|> \|x-\mu\| \end{cases} \end{align*}\] だから， \[\begin{align*} \|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}=\frac{1}{2}\int_{\|x\|\le \|x-\mu\|}(\phi(x)-\phi(x-\mu))\mathrm{d}x + \frac{1}{2}\int_{\|x\|> \|x-\mu\|}(\phi(x-\mu)-\phi(x))\mathrm{d}x \end{align*}\] となる．この２つの積分を計算して足し合わせればよいが，じつはこの２つの積分は同じ値になる．なぜなら，これらが図4.7の青い領域，緑の領域それぞれを表すからだ．だから，２つの積分のうち，片方を求めて二倍すればよい．したがって求める値は\(\mu\ge 0\)のとき \[\begin{align*} \int_{\|x\|\le \|x-\mu\|}(\phi(x)-\phi(x-\mu))\mathrm{d}x&= \int_{-\infty}^{\mu/2}(\phi(x)-\phi(x-\mu))\mathrm{d}x\\ &=\Phi(\mu/2)-\Phi(-\mu/2). \end{align*}\] 同様の計算を\(\mu<0\)の場合に施すことにより，結局一般の\(\mu\)について，求める値は \[ |\Phi(\mu/2)-\Phi(-\mu/2)|=1-2\Phi(-|\mu|/2). \]

Exercise 4.11 実数\(\sigma^2>1\)に対し， \[\begin{align*} \|\mathcal{N}(0,1)-\mathcal{N}(0,\sigma^2)\|_{\mathrm{TV}} \end{align*}\] を求めよ．

Solution. 前の問題と同じように，定義から \[\begin{align*} \|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}=\frac{1}{2}\int_{-\infty}^\infty|\phi(x)-\sigma^{-1}\phi(x/\sigma)|\mathrm{d}x \end{align*}\] である．ここで \[\begin{align*} \phi(x)\ge \sigma^{-1}\phi(x/\sigma)\Longleftrightarrow 2\left(1-\sigma^{-2}\right)^{-1}\log \sigma\ge x^2 \end{align*}\] となる．実数\(\eta=\left(2\left(1-\sigma^{-2}\right)^{-1}\right)^{1/2}\)とすると，前の問題と同じ議論により， \[\begin{align*} \|\mathcal{N}(0,1)-\mathcal{N}(\mu,1)\|_{\mathrm{TV}}&=\frac{1}{2}\int_{\|x\|\le \eta}\left(\phi(x)-\sigma^{-1}\phi(x/\sigma)\right)\mathrm{d}x + \frac{1}{2}\int_{\|x\|> \eta}\left(\sigma^{-1}\phi(x/\sigma)-\phi(x)\right)\mathrm{d}x\\ &= \int_{\|x\|\le \eta}\left(\phi(x)-\sigma^{-1}\phi(x/\sigma)\right)\mathrm{d}x\\ &= \Phi(\eta)-\Phi(-\eta)-\Phi(\eta/\sigma)+\Phi(\eta/\sigma). \end{align*}\]

Exercise 4.12 \(P, Q\)が確率関数\(p(x), q(x)\)を持つとき， \[ \sum_{x\in E}\min\{p(x), q(x)\}>0 \] なら，\(P, Q\)は互いに特異ではない．とくに，\(p(x)>0, q(x)>0\)なる\(x\)があれば\(P, Q\)は互いに特異ではないことを示せ．

Solution. 仮定は，ある\(x^*\)があって，\(\min\{p(x^*),q(x^*)\}>0\)となるということである．いっぽう，もし\(P, Q\)が特異なら，ある集合\(A\)があって， \(P(A)=Q(A^c)=0\)となる．もし\(x^*\)が\(A\)に含まれるなら， \[ P(A)\ge p(x^*)>0 \] となり矛盾するし，もし\(A^c\)に含まれるなら \[ Q(A)\ge q(x^*)>0 \] となりやはり矛盾する．だから，\(P, Q\)は互いに特異ではない．