1 積分の期待値表示
命題 1.2. ( Ω , F , P ) (\Omega,\mathcal F,P) ( Ω , F , P ) を確率空間、( E , E , ρ ) (E,\mathcal E,\rho) ( E , E , ρ ) を測度空間とし、p : E → [ 0 , ∞ ) p\colon E\to[0,\infty) p : E → [ 0 , ∞ ) を∫ E p d ρ = 1 \int_Ep\,d\rho=1 ∫ E p d ρ = 1 を満たす可測関数とする。可測写像X : ( Ω , F ) → ( E , E ) X\colon(\Omega,\mathcal F)\to(E,\mathcal E) X : ( Ω , F ) → ( E , E ) が、任意のB ∈ E B\in\mathcal E B ∈ E に対して
P ( X ∈ B ) = ∫ B p d ρ P(X\in B)=\int_Bp\,d\rho P ( X ∈ B ) = ∫ B p d ρ を満たすとする。h : E → R h\colon E\to\R h : E → R を∫ E ∣ h ∣ p d ρ < ∞ \int_E|h|p\,d\rho<\infty ∫ E ∣ h ∣ p d ρ < ∞ を満たす可測関数とする。このときh ( X ) h(X) h ( X ) は可積分であり、
E [ h ( X ) ] = ∫ E h p d ρ , E [ h ( X ) 2 ] = ∫ E h 2 p d ρ E[h(X)]=\int_Ehp\,d\rho,\qquad E[h(X)^2]=\int_Eh^2p\,d\rho E [ h ( X )] = ∫ E h p d ρ , E [ h ( X ) 2 ] = ∫ E h 2 p d ρ が成り立つ。第二の等式は[ 0 , ∞ ] [0,\infty] [ 0 , ∞ ] における等式である。
証明. X X X の法則をμ \mu μ と書く。仮定により、任意のB ∈ E B\in\mathcal E B ∈ E に対してμ ( B ) = ∫ B p d ρ \mu(B)=\int_Bp\,d\rho μ ( B ) = ∫ B p d ρ である。§E9.15 命題 4.3 をg = p g=p g = p として適用すると、任意の可測関数k : E → [ 0 , ∞ ] k\colon E\to[0,\infty] k : E → [ 0 , ∞ ] に対して
∫ E k d μ = ∫ E k p d ρ \int_Ek\,d\mu=\int_Ekp\,d\rho ∫ E k d μ = ∫ E k p d ρ が成り立つ。k = ∣ h ∣ k=|h| k = ∣ h ∣ とすると∫ E ∣ h ∣ d μ = ∫ E ∣ h ∣ p d ρ < ∞ \int_E|h|\,d\mu=\int_E|h|p\,d\rho<\infty ∫ E ∣ h ∣ d μ = ∫ E ∣ h ∣ p d ρ < ∞ であるから、h h h はμ \mu μ に関して可積分である。§E9.6 定理 5.3 (2) をT = X T=X T = X に適用すると、h ( X ) = h ∘ X h(X)=h\circ X h ( X ) = h ∘ X は可積分であり、E [ h ( X ) ] = ∫ E h d μ E[h(X)]=\int_Eh\,d\mu E [ h ( X )] = ∫ E h d μ である。p ≥ 0 p\ge0 p ≥ 0 であるから( h p ) + = h + p (hp)^+=h^+p ( h p ) + = h + p 、( h p ) − = h − p (hp)^-=h^-p ( h p ) − = h − p であり、上の等式をk = h + k=h^+ k = h + とk = h − k=h^- k = h − に適用すると、いずれの積分も∫ E ∣ h ∣ p d ρ \int_E|h|p\,d\rho ∫ E ∣ h ∣ p d ρ 以下の有限値であって
∫ E h d μ = ∫ E h + p d ρ − ∫ E h − p d ρ = ∫ E h p d ρ \int_Eh\,d\mu=\int_Eh^+p\,d\rho-\int_Eh^-p\,d\rho=\int_Ehp\,d\rho ∫ E h d μ = ∫ E h + p d ρ − ∫ E h − p d ρ = ∫ E h p d ρ を得る。最後に、§E9.6 定理 5.3 (1) をT = X T=X T = X と非負関数h 2 h^2 h 2 に適用し、上の等式をk = h 2 k=h^2 k = h 2 に適用すると、E [ h ( X ) 2 ] = ∫ E h 2 d μ = ∫ E h 2 p d ρ E[h(X)^2]=\int_Eh^2\,d\mu=\int_Eh^2p\,d\rho E [ h ( X ) 2 ] = ∫ E h 2 d μ = ∫ E h 2 p d ρ を得る。▨
証明. D D D に含まれる Lebesgue 可測集合全体をL D \mathcal L_D L D 、その上へのλ \lambda λ の制限をλ D \lambda_D λ D とし、( D , A ) (D,\mathcal A) ( D , A ) 上の測度ρ \rho ρ をρ ( A ) : = λ ( A ) \rho(A):=\lambda(A) ρ ( A ) := λ ( A ) で定める。A ⊂ L D \mathcal A\subset\mathcal L_D A ⊂ L D であるから包含写像ι : ( D , L D ) → ( D , A ) \iota\colon(D,\mathcal L_D)\to(D,\mathcal A) ι : ( D , L D ) → ( D , A ) は可測であり、ι − 1 ( A ) = A \iota^{-1}(A)=A ι − 1 ( A ) = A からι # λ D = ρ \iota_{\#}\lambda_D=\rho ι # λ D = ρ である。したがって§E9.6 定理 5.3 (1) と§E9.6 定理 5.3 (2) をT = ι T=\iota T = ι に適用すると、A \mathcal A A に関して可測な関数k : D → [ 0 , ∞ ] k\colon D\to[0,\infty] k : D → [ 0 , ∞ ] とρ \rho ρ に関して可積分な関数k : D → R k\colon D\to\R k : D → R に対して
∫ D k d ρ = ∫ D k d λ \int_Dk\,d\rho=\int_Dk\,d\lambda ∫ D k d ρ = ∫ D k d λ が成り立つ。
p ≡ λ ( D ) − 1 p\equiv\lambda(D)^{-1} p ≡ λ ( D ) − 1 、h : = λ ( D ) f h:=\lambda(D)f h := λ ( D ) f と置く。∫ D p d ρ = ρ ( D ) / λ ( D ) = 1 \int_Dp\,d\rho=\rho(D)/\lambda(D)=1 ∫ D p d ρ = ρ ( D ) / λ ( D ) = 1 であり、任意のA ∈ A A\in\mathcal A A ∈ A に対してP ( U ∈ A ) = λ ( A ) / λ ( D ) = ∫ A p d ρ P(U\in A)=\lambda(A)/\lambda(D)=\int_Ap\,d\rho P ( U ∈ A ) = λ ( A ) / λ ( D ) = ∫ A p d ρ である。さらに∫ D ∣ h ∣ p d ρ = ∫ D ∣ f ∣ d λ < ∞ \int_D|h|p\,d\rho=\int_D|f|\,d\lambda<\infty ∫ D ∣ h ∣ p d ρ = ∫ D ∣ f ∣ d λ < ∞ である。命題 1.2 を( E , E , ρ ) = ( D , A , ρ ) (E,\mathcal E,\rho)=(D,\mathcal A,\rho) ( E , E , ρ ) = ( D , A , ρ ) 、X = U X=U X = U に適用すると、Y = h ( U ) Y=h(U) Y = h ( U ) は可積分であり、
E [ Y ] = ∫ D f d ρ = ∫ D f d λ , E [ Y 2 ] = λ ( D ) ∫ D f 2 d ρ = λ ( D ) ∫ D f 2 d λ E[Y]=\int_Df\,d\rho=\int_Df\,d\lambda,\qquad E[Y^2]=\lambda(D)\int_Df^2\,d\rho=\lambda(D)\int_Df^2\,d\lambda E [ Y ] = ∫ D f d ρ = ∫ D f d λ , E [ Y 2 ] = λ ( D ) ∫ D f 2 d ρ = λ ( D ) ∫ D f 2 d λ を得る。Y ∈ L 2 ( P ) Y\in L^2(P) Y ∈ L 2 ( P ) ならば、§E11.4 命題 2.3 のVar ( Y ) = E [ Y 2 ] − E [ Y ] 2 \operatorname{Var}(Y)=E[Y^2]-E[Y]^2 Var ( Y ) = E [ Y 2 ] − E [ Y ] 2 に代入して分散の式を得る。▨
2 Monte Carlo 推定量と平均二乗誤差
定義 2.1 (Monte Carlo 推定量). ( Ω , F , P ) (\Omega,\mathcal F,P) ( Ω , F , P ) を確率空間とし、Y 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … を独立同分布な実確率変数列とする。n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 に対して
I n : = 1 n ∑ i = 1 n Y i I_n:=\frac1n\sum_{i=1}^nY_i I n := n 1 i = 1 ∑ n Y i と置き、I n I_n I n を Monte Carlo 推定量 (Monte Carlo estimator ) 、各Y i Y_i Y i を 出力 (output ) 、n n n を 標本数 (sample size ) という。Y 1 Y_1 Y 1 が可積分であるときI : = E [ Y 1 ] I:=E[Y_1] I := E [ Y 1 ] と置く。Y 1 ∈ L 2 ( P ) Y_1\in L^2(P) Y 1 ∈ L 2 ( P ) であるとき、E [ ( I n − I ) 2 ] E[(I_n-I)^2] E [( I n − I ) 2 ] をI n I_n I n の 平均二乗誤差 (mean squared error ) 、その非負の平方根を 二乗平均平方根誤差 (root mean squared error ) という。
命題 2.2. ( Ω , F , P ) (\Omega,\mathcal F,P) ( Ω , F , P ) を確率空間、( E , E ) (E,\mathcal E) ( E , E ) を可測空間とし、X 1 , X 2 , … : Ω → E X_1,X_2,\ldots\colon\Omega\to E X 1 , X 2 , … : Ω → E を可測写像とする。σ ( X i ) : = { X i − 1 ( B ) ∣ B ∈ E } \sigma(X_i):=\{X_i^{-1}(B)\mid B\in\mathcal E\} σ ( X i ) := { X i − 1 ( B ) ∣ B ∈ E } と置き、部分シグマ加法族の族( σ ( X i ) ) i ∈ N ≥ 1 (\sigma(X_i))_{i\in\NN} ( σ ( X i ) ) i ∈ N ≥ 1 は相互独立であり、すべてのi ∈ N ≥ 1 i\in\NN i ∈ N ≥ 1 でX i X_i X i の法則は同じ確率測度μ \mu μ であるとする。h : E → R h\colon E\to\R h : E → R を可測関数とし、Y i : = h ( X i ) Y_i:=h(X_i) Y i := h ( X i ) と置く。このときY 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … は独立同分布な実確率変数列である。h h h がμ \mu μ に関して可積分ならば、E [ Y 1 ] = ∫ E h d μ E[Y_1]=\int_Eh\,d\mu E [ Y 1 ] = ∫ E h d μ である。
証明. B ⊂ R B\subset\R B ⊂ R を Borel 集合とする。h − 1 ( B ) ∈ E h^{-1}(B)\in\mathcal E h − 1 ( B ) ∈ E であるからY i − 1 ( B ) = X i − 1 ( h − 1 ( B ) ) ∈ σ ( X i ) Y_i^{-1}(B)=X_i^{-1}(h^{-1}(B))\in\sigma(X_i) Y i − 1 ( B ) = X i − 1 ( h − 1 ( B )) ∈ σ ( X i ) であり、P ( Y i ∈ B ) = μ ( h − 1 ( B ) ) P(Y_i\in B)=\mu(h^{-1}(B)) P ( Y i ∈ B ) = μ ( h − 1 ( B )) はi i i によらない。よってσ ( Y i ) ⊂ σ ( X i ) \sigma(Y_i)\subset\sigma(X_i) σ ( Y i ) ⊂ σ ( X i ) である。相異なるi 1 , … , i k ∈ N ≥ 1 i_1,\ldots,i_k\in\NN i 1 , … , i k ∈ N ≥ 1 とA r ∈ σ ( Y i r ) A_r\in\sigma(Y_{i_r}) A r ∈ σ ( Y i r ) に対してA r ∈ σ ( X i r ) A_r\in\sigma(X_{i_r}) A r ∈ σ ( X i r ) であるから、( σ ( X i ) ) i ∈ N ≥ 1 (\sigma(X_i))_{i\in\NN} ( σ ( X i ) ) i ∈ N ≥ 1 の相互独立性によりP ( ⋂ r = 1 k A r ) = ∏ r = 1 k P ( A r ) P\bigl(\bigcap_{r=1}^kA_r\bigr)=\prod_{r=1}^kP(A_r) P ( ⋂ r = 1 k A r ) = ∏ r = 1 k P ( A r ) が成り立つ。§E11.7 定義 1.1 によりY 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … は相互独立である。最後の等式は、命題 1.2 をρ = μ \rho=\mu ρ = μ 、p ≡ 1 p\equiv1 p ≡ 1 、X = X 1 X=X_1 X = X 1 に適用して得られる。▨
補題 2.3. ( Ω , F , P ) (\Omega,\mathcal F,P) ( Ω , F , P ) を確率空間とする。Z ∈ L 2 ( P ) Z\in L^2(P) Z ∈ L 2 ( P ) とc ∈ R c\in\R c ∈ R に対して
E [ ( Z − c ) 2 ] = Var ( Z ) + ( E [ Z ] − c ) 2 E[(Z-c)^2]=\operatorname{Var}(Z)+(E[Z]-c)^2 E [( Z − c ) 2 ] = Var ( Z ) + ( E [ Z ] − c ) 2 が成り立つ。
証明. 定数関数c c c はL 2 ( P ) L^2(P) L 2 ( P ) に属するからZ − c ∈ L 2 ( P ) Z-c\in L^2(P) Z − c ∈ L 2 ( P ) であり、§E11.4 命題 1.2 によりE [ Z − c ] = E [ Z ] − c E[Z-c]=E[Z]-c E [ Z − c ] = E [ Z ] − c である。§E11.4 命題 2.3 によりVar ( Z − c ) = E [ ( Z − c ) 2 ] − ( E [ Z ] − c ) 2 \operatorname{Var}(Z-c)=E[(Z-c)^2]-(E[Z]-c)^2 Var ( Z − c ) = E [( Z − c ) 2 ] − ( E [ Z ] − c ) 2 かつVar ( Z − c ) = Var ( Z ) \operatorname{Var}(Z-c)=\operatorname{Var}(Z) Var ( Z − c ) = Var ( Z ) であるから、主張の等式を得る。▨
定理 2.4. Y 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … を独立同分布な実確率変数列とし、n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 に対してI n : = n − 1 ∑ i = 1 n Y i I_n:=n^{-1}\sum_{i=1}^nY_i I n := n − 1 ∑ i = 1 n Y i と置く。
Y 1 Y_1 Y 1 が可積分でありI : = E [ Y 1 ] I:=E[Y_1] I := E [ Y 1 ] ならば、任意のn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 に対してE [ I n ] = I E[I_n]=I E [ I n ] = I である。
Y 1 ∈ L 2 ( P ) Y_1\in L^2(P) Y 1 ∈ L 2 ( P ) でありI : = E [ Y 1 ] I:=E[Y_1] I := E [ Y 1 ] 、σ 2 : = Var ( Y 1 ) \sigma^2:=\operatorname{Var}(Y_1) σ 2 := Var ( Y 1 ) ならば、任意のn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 に対して
Var ( I n ) = σ 2 n , E [ ( I n − I ) 2 ] = σ 2 n , ( E [ ( I n − I ) 2 ] ) 1 / 2 = σ n \operatorname{Var}(I_n)=\frac{\sigma^2}n,\qquad E[(I_n-I)^2]=\frac{\sigma^2}n,\qquad \bigl(E[(I_n-I)^2]\bigr)^{1/2}=\frac{\sigma}{\sqrt n} Var ( I n ) = n σ 2 , E [( I n − I ) 2 ] = n σ 2 , ( E [( I n − I ) 2 ] ) 1/2 = n σ
が成り立つ。ここでσ : = ( σ 2 ) 1 / 2 \sigma:=(\sigma^2)^{1/2} σ := ( σ 2 ) 1/2 であり、σ 2 = 0 \sigma^2=0 σ 2 = 0 の場合も含む。
Y 1 Y_1 Y 1 が可積分でありI : = E [ Y 1 ] I:=E[Y_1] I := E [ Y 1 ] ならば、任意のε > 0 \ep>0 ε > 0 に対してP ( ∣ I n − I ∣ > ε ) → 0 P(|I_n-I|>\ep)\to0 P ( ∣ I n − I ∣ > ε ) → 0 ( n → ∞ ) (n\to\infty) ( n → ∞ ) である。
証明. (1) とVar ( I n ) = σ 2 / n \operatorname{Var}(I_n)=\sigma^2/n Var ( I n ) = σ 2 / n は、§E14.2 命題 1.5 をY 1 , … , Y n Y_1,\ldots,Y_n Y 1 , … , Y n に適用して得られる。I n I_n I n はL 2 ( P ) L^2(P) L 2 ( P ) の元の有限一次結合であるからI n ∈ L 2 ( P ) I_n\in L^2(P) I n ∈ L 2 ( P ) であり、補題 2.3 をZ = I n Z=I_n Z = I n 、c = I c=I c = I に適用すると、E [ I n ] = I E[I_n]=I E [ I n ] = I からE [ ( I n − I ) 2 ] = Var ( I n ) = σ 2 / n E[(I_n-I)^2]=\operatorname{Var}(I_n)=\sigma^2/n E [( I n − I ) 2 ] = Var ( I n ) = σ 2 / n である。その非負の平方根はσ / n \sigma/\sqrt n σ / n である。(3) は§E14.2 定理 4.1 をY 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … に適用して得られる。▨
命題 2.5. Y ~ 1 , Y ~ 2 , … \tilde Y_1,\tilde Y_2,\ldots Y ~ 1 , Y ~ 2 , … を独立同分布なL 2 ( P ) L^2(P) L 2 ( P ) 確率変数列とし、I ~ : = E [ Y ~ 1 ] \tilde I:=E[\tilde Y_1] I ~ := E [ Y ~ 1 ] 、σ ~ 2 : = Var ( Y ~ 1 ) \tilde\sigma^2:=\operatorname{Var}(\tilde Y_1) σ ~ 2 := Var ( Y ~ 1 ) 、I ~ n : = n − 1 ∑ i = 1 n Y ~ i \tilde I_n:=n^{-1}\sum_{i=1}^n\tilde Y_i I ~ n := n − 1 ∑ i = 1 n Y ~ i と置く。I ∈ R I\in\R I ∈ R とする。
任意のn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 に対して
E [ ( I ~ n − I ) 2 ] = σ ~ 2 n + ( I ~ − I ) 2 E[(\tilde I_n-I)^2]=\frac{\tilde\sigma^2}n+(\tilde I-I)^2 E [( I ~ n − I ) 2 ] = n σ ~ 2 + ( I ~ − I ) 2
が成り立つ。特にE [ ( I ~ n − I ) 2 ] E[(\tilde I_n-I)^2] E [( I ~ n − I ) 2 ] はn n n について単調非増加であり、n → ∞ n\to\infty n → ∞ のとき( I ~ − I ) 2 (\tilde I-I)^2 ( I ~ − I ) 2 に収束する。
ε > 0 \ep>0 ε > 0 とn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 に対して、E [ ( I ~ n − I ) 2 ] ≤ ε 2 E[(\tilde I_n-I)^2]\le\ep^2 E [( I ~ n − I ) 2 ] ≤ ε 2 であることはσ ~ 2 ≤ n ( ε 2 − ( I ~ − I ) 2 ) \tilde\sigma^2\le n\bigl(\ep^2-(\tilde I-I)^2\bigr) σ ~ 2 ≤ n ( ε 2 − ( I ~ − I ) 2 ) と同値である。
証明. 定理 2.4 (1) と定理 2.4 (2) をY ~ 1 , Y ~ 2 , … \tilde Y_1,\tilde Y_2,\ldots Y ~ 1 , Y ~ 2 , … に適用するとE [ I ~ n ] = I ~ E[\tilde I_n]=\tilde I E [ I ~ n ] = I ~ 、Var ( I ~ n ) = σ ~ 2 / n \operatorname{Var}(\tilde I_n)=\tilde\sigma^2/n Var ( I ~ n ) = σ ~ 2 / n である。補題 2.3 をZ = I ~ n Z=\tilde I_n Z = I ~ n 、c = I c=I c = I に適用すると(1) の等式を得る。σ ~ 2 / n \tilde\sigma^2/n σ ~ 2 / n はn n n について単調非増加で0 0 0 に収束するから、残りの主張も従う。(2) は、(1) の等式の両辺にn > 0 n>0 n > 0 を掛けて移項して得られる。▨
3 有限標本の確率上界
定理 3.1. Y 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … を独立同分布なL 2 ( P ) L^2(P) L 2 ( P ) 確率変数列とし、I : = E [ Y 1 ] I:=E[Y_1] I := E [ Y 1 ] 、σ 2 : = Var ( Y 1 ) \sigma^2:=\operatorname{Var}(Y_1) σ 2 := Var ( Y 1 ) 、I n : = n − 1 ∑ i = 1 n Y i I_n:=n^{-1}\sum_{i=1}^nY_i I n := n − 1 ∑ i = 1 n Y i と置く。実数v v v はv ≥ σ 2 v\ge\sigma^2 v ≥ σ 2 を満たすとする。
任意のn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 とε > 0 \ep>0 ε > 0 に対して
P ( ∣ I n − I ∣ ≥ ε ) ≤ σ 2 n ε 2 ≤ v n ε 2 P(|I_n-I|\ge\ep)\le\frac{\sigma^2}{n\ep^2}\le\frac v{n\ep^2} P ( ∣ I n − I ∣ ≥ ε ) ≤ n ε 2 σ 2 ≤ n ε 2 v
が成り立つ。
ε > 0 \ep>0 ε > 0 、0 < δ < 1 0<\delta<1 0 < δ < 1 とし、n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 はn ≥ v / ( δ ε 2 ) n\ge v/(\delta\ep^2) n ≥ v / ( δ ε 2 ) を満たすとする。このときP ( ∣ I n − I ∣ ≥ ε ) ≤ δ P(|I_n-I|\ge\ep)\le\delta P ( ∣ I n − I ∣ ≥ ε ) ≤ δ である。この条件を満たす最小のn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 はmax { 1 , ⌈ v / ( δ ε 2 ) ⌉ } \max\{1,\lceil v/(\delta\ep^2)\rceil\} max { 1 , ⌈ v / ( δ ε 2 )⌉} である。v = 0 v=0 v = 0 ならば、任意のn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 に対してP ( ∣ I n − I ∣ ≥ ε ) = 0 P(|I_n-I|\ge\ep)=0 P ( ∣ I n − I ∣ ≥ ε ) = 0 である。
証明. (1) を示す。I n ∈ L 2 ( P ) I_n\in L^2(P) I n ∈ L 2 ( P ) であり、定理 2.4 によりE [ I n ] = I E[I_n]=I E [ I n ] = I 、Var ( I n ) = σ 2 / n \operatorname{Var}(I_n)=\sigma^2/n Var ( I n ) = σ 2 / n である。§E11.4 系 3.2 をX = I n X=I_n X = I n 、t = ε t=\ep t = ε に適用すると第一の不等式を得る。σ 2 ≤ v \sigma^2\le v σ 2 ≤ v から第二の不等式を得る。
(2) を示す。n ≥ v / ( δ ε 2 ) n\ge v/(\delta\ep^2) n ≥ v / ( δ ε 2 ) ならばv / ( n ε 2 ) ≤ δ v/(n\ep^2)\le\delta v / ( n ε 2 ) ≤ δ であるから、(1) によりP ( ∣ I n − I ∣ ≥ ε ) ≤ δ P(|I_n-I|\ge\ep)\le\delta P ( ∣ I n − I ∣ ≥ ε ) ≤ δ である。n ≥ v / ( δ ε 2 ) n\ge v/(\delta\ep^2) n ≥ v / ( δ ε 2 ) を満たすn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 の全体はn ≥ max { 1 , ⌈ v / ( δ ε 2 ) ⌉ } n\ge\max\{1,\lceil v/(\delta\ep^2)\rceil\} n ≥ max { 1 , ⌈ v / ( δ ε 2 )⌉} を満たす整数の全体である。v = 0 v=0 v = 0 ならば(1) の右辺は0 0 0 である。▨
定理 3.2. Y 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … を独立同分布な実確率変数列とし、実数ℓ ≤ u \ell\le u ℓ ≤ u はP ( ℓ ≤ Y 1 ≤ u ) = 1 P(\ell\le Y_1\le u)=1 P ( ℓ ≤ Y 1 ≤ u ) = 1 を満たすとする。I : = E [ Y 1 ] I:=E[Y_1] I := E [ Y 1 ] 、I n : = n − 1 ∑ i = 1 n Y i I_n:=n^{-1}\sum_{i=1}^nY_i I n := n − 1 ∑ i = 1 n Y i と置く。
ℓ < u \ell<u ℓ < u ならば、任意のn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 とε > 0 \ep>0 ε > 0 に対して
P ( ∣ I n − I ∣ ≥ ε ) ≤ 2 exp ( − 2 n ε 2 ( u − ℓ ) 2 ) P(|I_n-I|\ge\ep)\le2\exp\!\left(-\frac{2n\ep^2}{(u-\ell)^2}\right) P ( ∣ I n − I ∣ ≥ ε ) ≤ 2 exp ( − ( u − ℓ ) 2 2 n ε 2 )
が成り立つ。
ℓ < u \ell<u ℓ < u 、ε > 0 \ep>0 ε > 0 、0 < δ < 1 0<\delta<1 0 < δ < 1 とし、n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 は
n ≥ ( u − ℓ ) 2 2 ε 2 log 2 δ n\ge\frac{(u-\ell)^2}{2\ep^2}\log\frac2\delta n ≥ 2 ε 2 ( u − ℓ ) 2 log δ 2
を満たすとする。このときP ( ∣ I n − I ∣ ≥ ε ) ≤ δ P(|I_n-I|\ge\ep)\le\delta P ( ∣ I n − I ∣ ≥ ε ) ≤ δ である。
ℓ = u \ell=u ℓ = u ならば、任意のn ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 に対してP ( I n = I ) = 1 P(I_n=I)=1 P ( I n = I ) = 1 である。
証明. Y 1 Y_1 Y 1 はほとんど確実に有界であるから可積分であり、I I I は定まる。各Y i Y_i Y i の法則はY 1 Y_1 Y 1 の法則に等しいからP ( ℓ ≤ Y i ≤ u ) = 1 P(\ell\le Y_i\le u)=1 P ( ℓ ≤ Y i ≤ u ) = 1 である。n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 を固定し、§E11.18 定理 3.1 を独立なY 1 , … , Y n Y_1,\ldots,Y_n Y 1 , … , Y n とa i = ℓ a_i=\ell a i = ℓ 、b i = u b_i=u b i = u に適用する。このときV = n ( u − ℓ ) 2 V=n(u-\ell)^2 V = n ( u − ℓ ) 2 であり、T n = ∑ i = 1 n ( Y i − E [ Y i ] ) = n ( I n − I ) T_n=\sum_{i=1}^n(Y_i-E[Y_i])=n(I_n-I) T n = ∑ i = 1 n ( Y i − E [ Y i ]) = n ( I n − I ) である。
(1) を示す。ℓ < u \ell<u ℓ < u ならばV > 0 V>0 V > 0 であり、{ ∣ I n − I ∣ ≥ ε } = { ∣ T n ∣ ≥ n ε } \{|I_n-I|\ge\ep\}=\{|T_n|\ge n\ep\} { ∣ I n − I ∣ ≥ ε } = { ∣ T n ∣ ≥ n ε } に両側の評価を適用すると
P ( ∣ I n − I ∣ ≥ ε ) ≤ 2 exp ( − 2 n 2 ε 2 n ( u − ℓ ) 2 ) = 2 exp ( − 2 n ε 2 ( u − ℓ ) 2 ) P(|I_n-I|\ge\ep)\le2\exp\!\left(-\frac{2n^2\ep^2}{n(u-\ell)^2}\right)=2\exp\!\left(-\frac{2n\ep^2}{(u-\ell)^2}\right) P ( ∣ I n − I ∣ ≥ ε ) ≤ 2 exp ( − n ( u − ℓ ) 2 2 n 2 ε 2 ) = 2 exp ( − ( u − ℓ ) 2 2 n ε 2 ) を得る。
(2) を示す。n n n に関する仮定は2 n ε 2 / ( u − ℓ ) 2 ≥ log ( 2 / δ ) 2n\ep^2/(u-\ell)^2\ge\log(2/\delta) 2 n ε 2 / ( u − ℓ ) 2 ≥ log ( 2/ δ ) と同値であるから、(1) の右辺は2 exp ( − log ( 2 / δ ) ) = δ 2\exp(-\log(2/\delta))=\delta 2 exp ( − log ( 2/ δ )) = δ 以下である。
(3) を示す。ℓ = u \ell=u ℓ = u ならばV = 0 V=0 V = 0 であるから、T n = 0 T_n=0 T n = 0 、すなわちI n = I I_n=I I n = I がほとんど確実に成り立つ。▨
補題 3.3. ( Ω , F , P ) (\Omega,\mathcal F,P) ( Ω , F , P ) を確率空間とし、実数ℓ ≤ u \ell\le u ℓ ≤ u と実確率変数Y Y Y がP ( ℓ ≤ Y ≤ u ) = 1 P(\ell\le Y\le u)=1 P ( ℓ ≤ Y ≤ u ) = 1 を満たすとする。このときY ∈ L 2 ( P ) Y\in L^2(P) Y ∈ L 2 ( P ) であり、Var ( Y ) ≤ ( u − ℓ ) 2 / 4 \operatorname{Var}(Y)\le(u-\ell)^2/4 Var ( Y ) ≤ ( u − ℓ ) 2 /4 である。
例 3.4. Y 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … を独立同分布な実確率変数列とし、P ( 0 ≤ Y 1 ≤ 1 ) = 1 P(0\le Y_1\le1)=1 P ( 0 ≤ Y 1 ≤ 1 ) = 1 とする。I : = E [ Y 1 ] I:=E[Y_1] I := E [ Y 1 ] 、I n : = n − 1 ∑ i = 1 n Y i I_n:=n^{-1}\sum_{i=1}^nY_i I n := n − 1 ∑ i = 1 n Y i と置き、ε > 0 \ep>0 ε > 0 、0 < δ < 1 0<\delta<1 0 < δ < 1 とする。
補題 3.3 によりVar ( Y 1 ) ≤ 1 / 4 \operatorname{Var}(Y_1)\le1/4 Var ( Y 1 ) ≤ 1/4 であるから、定理 3.1 (2) をv = 1 / 4 v=1/4 v = 1/4 として適用すると、n ≥ 1 / ( 4 δ ε 2 ) n\ge1/(4\delta\ep^2) n ≥ 1/ ( 4 δ ε 2 ) ならばP ( ∣ I n − I ∣ ≥ ε ) ≤ δ P(|I_n-I|\ge\ep)\le\delta P ( ∣ I n − I ∣ ≥ ε ) ≤ δ である。定理 3.2 (2) をℓ = 0 \ell=0 ℓ = 0 、u = 1 u=1 u = 1 として適用すると、n ≥ log ( 2 / δ ) / ( 2 ε 2 ) n\ge\log(2/\delta)/(2\ep^2) n ≥ log ( 2/ δ ) / ( 2 ε 2 ) ならば同じ不等式が成り立つ。二つの十分条件の右辺の比は
log ( 2 / δ ) / ( 2 ε 2 ) 1 / ( 4 δ ε 2 ) = 2 δ log 2 δ \frac{\log(2/\delta)/(2\ep^2)}{1/(4\delta\ep^2)}=2\delta\log\frac2\delta 1/ ( 4 δ ε 2 ) log ( 2/ δ ) / ( 2 ε 2 ) = 2 δ log δ 2
である。δ = 0.05 \delta=0.05 δ = 0.05 のときこの比は約0.369 0.369 0.369 であり、ε = 0.01 \ep=0.01 ε = 0.01 に対して十分条件は Chebyshev 評価でn ≥ 50000 n\ge50000 n ≥ 50000 、Hoeffding 評価でn ≥ 18445 n\ge18445 n ≥ 18445 である。δ = 0.5 \delta=0.5 δ = 0.5 のときこの比は約1.386 1.386 1.386 であり、ε = 0.01 \ep=0.01 ε = 0.01 に対して十分条件は Chebyshev 評価でn ≥ 5000 n\ge5000 n ≥ 5000 、Hoeffding 評価でn ≥ 6932 n\ge6932 n ≥ 6932 である。
分散の上界v = 0.01 v=0.01 v = 0.01 が別に分かっているとき、定理 3.1 (2) により、δ = 0.05 \delta=0.05 δ = 0.05 、ε = 0.01 \ep=0.01 ε = 0.01 に対してn ≥ 2000 n\ge2000 n ≥ 2000 でP ( ∣ I n − I ∣ ≥ ε ) ≤ δ P(|I_n-I|\ge\ep)\le\delta P ( ∣ I n − I ∣ ≥ ε ) ≤ δ である。この十分条件は、値域[ 0 , 1 ] [0,1] [ 0 , 1 ] だけを用いた(1) のいずれの十分条件よりも小さい。
4 標本分散による漸近区間
定理 4.1. Y 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … を独立同分布なL 2 ( P ) L^2(P) L 2 ( P ) 確率変数列とし、I : = E [ Y 1 ] I:=E[Y_1] I := E [ Y 1 ] 、σ 2 : = Var ( Y 1 ) \sigma^2:=\operatorname{Var}(Y_1) σ 2 := Var ( Y 1 ) 、I n : = n − 1 ∑ i = 1 n Y i I_n:=n^{-1}\sum_{i=1}^nY_i I n := n − 1 ∑ i = 1 n Y i と置く。整数n ≥ 2 n\ge2 n ≥ 2 に対して
S n 2 : = 1 n − 1 ∑ i = 1 n ( Y i − I n ) 2 , S n : = ( S n 2 ) 1 / 2 S_n^2:=\frac1{n-1}\sum_{i=1}^n(Y_i-I_n)^2,\qquad S_n:=(S_n^2)^{1/2} S n 2 := n − 1 1 i = 1 ∑ n ( Y i − I n ) 2 , S n := ( S n 2 ) 1/2 と置く。Φ \Phi Φ を標準正規分布の分布関数とし、0 < δ < 1 0<\delta<1 0 < δ < 1 に対してz ∈ R z\in\R z ∈ R をΦ ( z ) = 1 − δ / 2 \Phi(z)=1-\delta/2 Φ ( z ) = 1 − δ /2 を満たす実数とする。整数n ≥ 2 n\ge2 n ≥ 2 に対して閉区間
C n : = [ I n − z S n n , I n + z S n n ] C_n:=\Bigl[I_n-\frac{zS_n}{\sqrt n},\ I_n+\frac{zS_n}{\sqrt n}\Bigr] C n := [ I n − n z S n , I n + n z S n ] を定める。
任意の整数n ≥ 2 n\ge2 n ≥ 2 に対してE [ S n 2 ] = σ 2 E[S_n^2]=\sigma^2 E [ S n 2 ] = σ 2 であり、n → ∞ n\to\infty n → ∞ のときS n 2 → P σ 2 S_n^2\xrightarrow{P}\sigma^2 S n 2 P σ 2 である。
σ 2 > 0 \sigma^2>0 σ 2 > 0 ならば、n → ∞ n\to\infty n → ∞ のときP ( I ∈ C n ) → 1 − δ P(I\in C_n)\to1-\delta P ( I ∈ C n ) → 1 − δ である。
σ 2 = 0 \sigma^2=0 σ 2 = 0 ならば、任意の整数n ≥ 2 n\ge2 n ≥ 2 に対してP ( I ∈ C n ) = 1 P(I\in C_n)=1 P ( I ∈ C n ) = 1 である。
証明. 標準正規分布の密度x ↦ ( 2 π ) − 1 / 2 e − x 2 / 2 x\mapsto(2\pi)^{-1/2}e^{-x^2/2} x ↦ ( 2 π ) − 1/2 e − x 2 /2 は正値かつ偶関数であるから、Φ \Phi Φ は連続かつ狭義単調増加であり、すべてのx ∈ R x\in\R x ∈ R でΦ ( − x ) = 1 − Φ ( x ) \Phi(-x)=1-\Phi(x) Φ ( − x ) = 1 − Φ ( x ) を満たす。したがってz z z はただ一つ定まる。
(1) を示す。§E14.2 命題 1.6 と§E14.2 命題 5.3 をY 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … に適用すると主張を得る。
(2) を示す。σ 2 > 0 \sigma^2>0 σ 2 > 0 とする。整数n ≥ 2 n\ge2 n ≥ 2 に対して、S n > 0 S_n>0 S n > 0 の事象上でR n : = n ( I n − I ) / S n R_n:=\sqrt n(I_n-I)/S_n R n := n ( I n − I ) / S n 、S n = 0 S_n=0 S n = 0 の事象上でR n : = 0 R_n:=0 R n := 0 と置く。§E14.2 命題 5.3 によりR n → d N ( 0 , 1 ) R_n\xrightarrow{d}N(0,1) R n d N ( 0 , 1 ) である。Φ \Phi Φ はすべての点で連続であるから、任意のx ∈ R x\in\R x ∈ R に対してP ( R n ≤ x ) → Φ ( x ) P(R_n\le x)\to\Phi(x) P ( R n ≤ x ) → Φ ( x ) である。η > 0 \eta>0 η > 0 に対して
P ( R n ≤ − z − η ) ≤ P ( R n < − z ) ≤ P ( R n ≤ − z ) P(R_n\le-z-\eta)\le P(R_n<-z)\le P(R_n\le-z) P ( R n ≤ − z − η ) ≤ P ( R n < − z ) ≤ P ( R n ≤ − z ) であるから、Φ ( − z − η ) ≤ lim inf n P ( R n < − z ) ≤ lim sup n P ( R n < − z ) ≤ Φ ( − z ) \Phi(-z-\eta)\le\liminf_nP(R_n<-z)\le\limsup_nP(R_n<-z)\le\Phi(-z) Φ ( − z − η ) ≤ lim inf n P ( R n < − z ) ≤ lim sup n P ( R n < − z ) ≤ Φ ( − z ) であり、η ↓ 0 \eta\downarrow0 η ↓ 0 としてΦ \Phi Φ の連続性からP ( R n < − z ) → Φ ( − z ) P(R_n<-z)\to\Phi(-z) P ( R n < − z ) → Φ ( − z ) を得る。したがって
P ( ∣ R n ∣ ≤ z ) = P ( R n ≤ z ) − P ( R n < − z ) → Φ ( z ) − Φ ( − z ) = 2 Φ ( z ) − 1 = 1 − δ P(|R_n|\le z)=P(R_n\le z)-P(R_n<-z)\to\Phi(z)-\Phi(-z)=2\Phi(z)-1=1-\delta P ( ∣ R n ∣ ≤ z ) = P ( R n ≤ z ) − P ( R n < − z ) → Φ ( z ) − Φ ( − z ) = 2Φ ( z ) − 1 = 1 − δ である。S n > 0 S_n>0 S n > 0 の事象上では、I ∈ C n I\in C_n I ∈ C n であることは∣ I n − I ∣ ≤ z S n / n |I_n-I|\le zS_n/\sqrt n ∣ I n − I ∣ ≤ z S n / n 、すなわち∣ R n ∣ ≤ z |R_n|\le z ∣ R n ∣ ≤ z と同値である。よって事象{ I ∈ C n } \{I\in C_n\} { I ∈ C n } と{ ∣ R n ∣ ≤ z } \{|R_n|\le z\} { ∣ R n ∣ ≤ z } は{ S n = 0 } \{S_n=0\} { S n = 0 } の外で一致し、
∣ P ( I ∈ C n ) − P ( ∣ R n ∣ ≤ z ) ∣ ≤ P ( S n = 0 ) \bigl|P(I\in C_n)-P(|R_n|\le z)\bigr|\le P(S_n=0) P ( I ∈ C n ) − P ( ∣ R n ∣ ≤ z ) ≤ P ( S n = 0 ) である。{ S n = 0 } ⊂ { ∣ S n 2 − σ 2 ∣ > σ 2 / 2 } \{S_n=0\}\subset\{|S_n^2-\sigma^2|>\sigma^2/2\} { S n = 0 } ⊂ { ∣ S n 2 − σ 2 ∣ > σ 2 /2 } であり、(1) により右辺の事象の確率は0 0 0 に収束する。したがってP ( I ∈ C n ) → 1 − δ P(I\in C_n)\to1-\delta P ( I ∈ C n ) → 1 − δ である。
(3) を示す。σ 2 = 0 \sigma^2=0 σ 2 = 0 とする。各i i i についてY i Y_i Y i の法則はY 1 Y_1 Y 1 の法則に等しいからVar ( Y i ) = 0 \operatorname{Var}(Y_i)=0 Var ( Y i ) = 0 であり、§E11.4 系 3.2 により任意のk ∈ N ≥ 1 k\in\NN k ∈ N ≥ 1 に対してP ( ∣ Y i − I ∣ ≥ 1 / k ) = 0 P(|Y_i-I|\ge1/k)=0 P ( ∣ Y i − I ∣ ≥ 1/ k ) = 0 である。k k k について和事象をとるとP ( Y i ≠ I ) = 0 P(Y_i\ne I)=0 P ( Y i = I ) = 0 である。よってI n = I I_n=I I n = I がほとんど確実に成り立つ。z S n / n ≥ 0 zS_n/\sqrt n\ge0 z S n / n ≥ 0 であるからI n ∈ C n I_n\in C_n I n ∈ C n であり、P ( I ∈ C n ) = 1 P(I\in C_n)=1 P ( I ∈ C n ) = 1 を得る。▨
5 希少事象
例 5.1. d ∈ N ≥ 1 d\in\NN d ∈ N ≥ 1 とし、D ⊂ R d D\subset\R^d D ⊂ R d を0 < λ ( D ) < ∞ 0<\lambda(D)<\infty 0 < λ ( D ) < ∞ を満たす Lebesgue 可測集合、A \mathcal A A をD D D に含まれる Lebesgue 可測集合だけからなるD D D 上のシグマ加法族とする。U 1 , U 2 , … : Ω → D U_1,U_2,\ldots\colon\Omega\to D U 1 , U 2 , … : Ω → D はそれぞれA \mathcal A A に関してD D D 上の一様分布に従い、( σ ( U i ) ) i ∈ N ≥ 1 (\sigma(U_i))_{i\in\NN} ( σ ( U i ) ) i ∈ N ≥ 1 は相互独立であるとする。ここでσ ( U i ) : = { U i − 1 ( A ) ∣ A ∈ A } \sigma(U_i):=\{U_i^{-1}(A)\mid A\in\mathcal A\} σ ( U i ) := { U i − 1 ( A ) ∣ A ∈ A } である。A ∈ A A\in\mathcal A A ∈ A と0 < p < 1 0<p<1 0 < p < 1 はλ ( A ) = p λ ( D ) \lambda(A)=p\lambda(D) λ ( A ) = p λ ( D ) を満たすとし、Y i : = 1 A ( U i ) Y_i:=\mathbf 1_A(U_i) Y i := 1 A ( U i ) 、I n : = n − 1 ∑ i = 1 n Y i I_n:=n^{-1}\sum_{i=1}^nY_i I n := n − 1 ∑ i = 1 n Y i と置き、整数n ≥ 2 n\ge2 n ≥ 2 に対してS n S_n S n を定理 4.1 と同じく定める。たとえばD = ( 0 , 1 ] d D=(0,1]^d D = ( 0 , 1 ] d 、A = ( 0 , a ] d A=(0,a]^d A = ( 0 , a ] d (0 < a < 1 0<a<1 0 < a < 1 )とするとp = a d p=a^d p = a d である。
すべてのU i U_i U i の法則はA ′ ↦ λ ( A ′ ) / λ ( D ) A'\mapsto\lambda(A')/\lambda(D) A ′ ↦ λ ( A ′ ) / λ ( D ) ( A ′ ∈ A ) (A'\in\mathcal A) ( A ′ ∈ A ) に等しいから、命題 2.2 によりY 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … は独立同分布である。P ( Y 1 = 1 ) = P ( U 1 ∈ A ) = p P(Y_1=1)=P(U_1\in A)=p P ( Y 1 = 1 ) = P ( U 1 ∈ A ) = p 、P ( Y 1 = 0 ) = 1 − p P(Y_1=0)=1-p P ( Y 1 = 0 ) = 1 − p であり、Y 1 2 = Y 1 Y_1^2=Y_1 Y 1 2 = Y 1 からE [ Y 1 ] = E [ Y 1 2 ] = p E[Y_1]=E[Y_1^2]=p E [ Y 1 ] = E [ Y 1 2 ] = p 、§E11.4 命題 2.3 によりVar ( Y 1 ) = p ( 1 − p ) \operatorname{Var}(Y_1)=p(1-p) Var ( Y 1 ) = p ( 1 − p ) である。定理 2.4 (2) により
E [ ( I n − p ) 2 ] = p ( 1 − p ) n , E [ ( I n − p ) 2 ] p 2 = 1 − p n p E[(I_n-p)^2]=\frac{p(1-p)}n,\qquad\frac{E[(I_n-p)^2]}{p^2}=\frac{1-p}{np} E [( I n − p ) 2 ] = n p ( 1 − p ) , p 2 E [( I n − p ) 2 ] = n p 1 − p
である。相対的な二乗平均平方根誤差( E [ ( I n − p ) 2 ] ) 1 / 2 / p \bigl(E[(I_n-p)^2]\bigr)^{1/2}/p ( E [( I n − p ) 2 ] ) 1/2 / p がr > 0 r>0 r > 0 以下であることはn ≥ ( 1 − p ) / ( p r 2 ) n\ge(1-p)/(pr^2) n ≥ ( 1 − p ) / ( p r 2 ) と同値である。p = 10 − 6 p=10^{-6} p = 1 0 − 6 、r = 0.1 r=0.1 r = 0.1 では、この条件はn ≥ 10 8 − 100 n\ge10^8-100 n ≥ 1 0 8 − 100 である。
事象E 0 : = { Y 1 = ⋯ = Y n = 0 } E_0:=\{Y_1=\cdots=Y_n=0\} E 0 := { Y 1 = ⋯ = Y n = 0 } の確率は、{ Y i = 0 } ∈ σ ( Y i ) \{Y_i=0\}\in\sigma(Y_i) { Y i = 0 } ∈ σ ( Y i ) と相互独立性から( 1 − p ) n (1-p)^n ( 1 − p ) n である。E 0 E_0 E 0 上ではI n = 0 I_n=0 I n = 0 であり、n ≥ 2 n\ge2 n ≥ 2 ならばS n = 0 S_n=0 S n = 0 である。E 0 E_0 E 0 上で相対誤差∣ I n − p ∣ / p |I_n-p|/p ∣ I n − p ∣/ p は1 1 1 に等しい。0 < y 0<y 0 < y に対するlog y ≤ y − 1 \log y\le y-1 log y ≤ y − 1 をy = 1 − p y=1-p y = 1 − p とy = 1 / ( 1 − p ) y=1/(1-p) y = 1/ ( 1 − p ) に適用すると− p / ( 1 − p ) ≤ log ( 1 − p ) ≤ − p -p/(1-p)\le\log(1-p)\le-p − p / ( 1 − p ) ≤ log ( 1 − p ) ≤ − p であるから、
e − n p / ( 1 − p ) ≤ ( 1 − p ) n ≤ e − n p e^{-np/(1-p)}\le(1-p)^n\le e^{-np} e − n p / ( 1 − p ) ≤ ( 1 − p ) n ≤ e − n p
である。p = 10 − 6 p=10^{-6} p = 1 0 − 6 、n = 10 6 n=10^6 n = 1 0 6 ではこの確率はe − 1 / ( 1 − 10 − 6 ) e^{-1/(1-10^{-6})} e − 1/ ( 1 − 1 0 − 6 ) 以上e − 1 e^{-1} e − 1 以下であり、約0.368 0.368 0.368 である。
命題 5.2. 0 < p < 1 0<p<1 0 < p < 1 とし、Y 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … を独立同分布な実確率変数列でP ( Y 1 = 1 ) = p P(Y_1=1)=p P ( Y 1 = 1 ) = p 、P ( Y 1 = 0 ) = 1 − p P(Y_1=0)=1-p P ( Y 1 = 0 ) = 1 − p を満たすものとする。整数n ≥ 2 n\ge2 n ≥ 2 に対してI n I_n I n 、S n S_n S n を定理 4.1 のとおりに定め、0 < δ < 1 0<\delta<1 0 < δ < 1 とする。
任意の実数c ≥ 0 c\ge0 c ≥ 0 に対して
P ( p ∈ [ I n − c S n , I n + c S n ] ) ≤ 1 − ( 1 − p ) n P\bigl(p\in[I_n-cS_n,\ I_n+cS_n]\bigr)\le1-(1-p)^n P ( p ∈ [ I n − c S n , I n + c S n ] ) ≤ 1 − ( 1 − p ) n
が成り立つ。特にp < 1 − δ 1 / n p<1-\delta^{1/n} p < 1 − δ 1/ n ならば、左辺は1 − δ 1-\delta 1 − δ より小さい。
実数v > 0 v>0 v > 0 がv ≥ p ( 1 − p ) v\ge p(1-p) v ≥ p ( 1 − p ) を満たすならば、
P ( p ∈ [ I n − v δ n , I n + v δ n ] ) ≥ 1 − δ P\Bigl(p\in\Bigl[I_n-\sqrt{\frac v{\delta n}},\ I_n+\sqrt{\frac v{\delta n}}\Bigr]\Bigr)\ge1-\delta P ( p ∈ [ I n − δ n v , I n + δ n v ] ) ≥ 1 − δ
が成り立つ。
証明. (1) を示す。E 0 : = { Y 1 = ⋯ = Y n = 0 } E_0:=\{Y_1=\cdots=Y_n=0\} E 0 := { Y 1 = ⋯ = Y n = 0 } と置く。例 5.1 (2) と同じく、P ( E 0 ) = ( 1 − p ) n P(E_0)=(1-p)^n P ( E 0 ) = ( 1 − p ) n であり、E 0 E_0 E 0 上ではI n = 0 I_n=0 I n = 0 、S n = 0 S_n=0 S n = 0 であるから区間[ I n − c S n , I n + c S n ] [I_n-cS_n,I_n+cS_n] [ I n − c S n , I n + c S n ] は{ 0 } \{0\} { 0 } に等しい。p ≠ 0 p\ne0 p = 0 であるからE 0 ⊂ { p ∉ [ I n − c S n , I n + c S n ] } E_0\subset\{p\notin[I_n-cS_n,I_n+cS_n]\} E 0 ⊂ { p ∈ / [ I n − c S n , I n + c S n ]} であり、主張の不等式を得る。p < 1 − δ 1 / n p<1-\delta^{1/n} p < 1 − δ 1/ n ならば( 1 − p ) n > δ (1-p)^n>\delta ( 1 − p ) n > δ であるから、右辺は1 − δ 1-\delta 1 − δ より小さい。
(2) を示す。Var ( Y 1 ) = p ( 1 − p ) ≤ v \operatorname{Var}(Y_1)=p(1-p)\le v Var ( Y 1 ) = p ( 1 − p ) ≤ v である。ε : = v / ( δ n ) \ep:=\sqrt{v/(\delta n)} ε := v / ( δ n ) と置くとn = v / ( δ ε 2 ) n=v/(\delta\ep^2) n = v / ( δ ε 2 ) であるから、定理 3.1 (2) によりP ( ∣ I n − p ∣ ≥ ε ) ≤ δ P(|I_n-p|\ge\ep)\le\delta P ( ∣ I n − p ∣ ≥ ε ) ≤ δ である。{ ∣ I n − p ∣ < ε } \{|I_n-p|<\ep\} { ∣ I n − p ∣ < ε } はp p p が主張の閉区間に属する事象に含まれるから、主張を得る。▨
6 標本生成を含む費用
命題 6.1. n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 とし、c 0 , c f , c a ≥ 0 c_0,c_f,c_a\ge0 c 0 , c f , c a ≥ 0 を実数とする。I n I_n I n の計算は、前処理を1回、出力の元になる標本の生成をn n n 個、関数h h h の評価をn n n 回、n − 1 n-1 n − 1 回の加算と1回の除算を行うものとし、前処理の費用をc 0 c_0 c 0 、h h h の評価1回の費用をc f c_f c f 、加算または除算1回の費用をc a c_a c a とする。
標本1個の生成費用が定数c s ≥ 0 c_s\ge0 c s ≥ 0 であるとき、I n I_n I n の計算費用はc 0 + n ( c s + c f + c a ) c_0+n(c_s+c_f+c_a) c 0 + n ( c s + c f + c a ) である。
d ∈ N ≥ 1 d\in\NN d ∈ N ≥ 1 とし、q , g : R d → [ 0 , ∞ ) q,g\colon\R^d\to[0,\infty) q , g : R d → [ 0 , ∞ ) 、M > 0 M>0 M > 0 、確率ベクトルZ k Z_k Z k と確率変数V k V_k V k ( k ∈ N ≥ 1 ) (k\in\NN) ( k ∈ N ≥ 1 ) は、§E20.34 定理 2.2 のf , g , M , Y k , V k f,g,M,Y_k,V_k f , g , M , Y k , V k に対する仮定をf = q f=q f = q 、Y k = Z k Y_k=Z_k Y k = Z k として満たすとし、同定理のT s T_s T s 、X s X_s X s ( s ∈ N ≥ 1 ) (s\in\NN) ( s ∈ N ≥ 1 ) を用いる。h : R d → R h\colon\R^d\to\R h : R d → R は Borel 可測であり∫ R d ∣ h ( x ) ∣ q ( x ) d x < ∞ \int_{\R^d}|h(x)|q(x)\,dx<\infty ∫ R d ∣ h ( x ) ∣ q ( x ) d x < ∞ を満たすとする。このときh ( X 1 ) , h ( X 2 ) , … h(X_1),h(X_2),\ldots h ( X 1 ) , h ( X 2 ) , … は独立同分布であり、E [ h ( X 1 ) ] = ∫ R d h ( x ) q ( x ) d x E[h(X_1)]=\int_{\R^d}h(x)q(x)\,dx E [ h ( X 1 )] = ∫ R d h ( x ) q ( x ) d x である。試行1回の費用が定数c ≥ 0 c\ge0 c ≥ 0 であるとき、h ( X 1 ) , … , h ( X n ) h(X_1),\ldots,h(X_n) h ( X 1 ) , … , h ( X n ) からI n I_n I n を計算する費用W n : = c 0 + c T n + n ( c f + c a ) W_n:=c_0+cT_n+n(c_f+c_a) W n := c 0 + c T n + n ( c f + c a ) は確率変数であり、
E [ W n ] = c 0 + n M c + n ( c f + c a ) E[W_n]=c_0+nMc+n(c_f+c_a) E [ W n ] = c 0 + n M c + n ( c f + c a )
が成り立つ。
(2) の設定でM > 1 M>1 M > 1 、c > 0 c>0 c > 0 ならば、任意の実数w w w に対してP ( W n > w ) > 0 P(W_n>w)>0 P ( W n > w ) > 0 である。
証明. (1) を示す。費用は前処理のc 0 c_0 c 0 、生成のn c s nc_s n c s 、評価のn c f nc_f n c f 、加算と除算の( n − 1 ) c a + c a (n-1)c_a+c_a ( n − 1 ) c a + c a の和である。
(2) を示す。§E20.34 定理 2.2 (3) により、各r ∈ N ≥ 1 r\in\NN r ∈ N ≥ 1 に対してσ ( X 1 ) , … , σ ( X r ) \sigma(X_1),\ldots,\sigma(X_r) σ ( X 1 ) , … , σ ( X r ) は相互独立であり、各X s X_s X s は密度q q q をもつ。相異なる有限個の添字はある{ 1 , … , r } \{1,\ldots,r\} { 1 , … , r } に含まれるから、§E11.7 定義 1.1 により( σ ( X s ) ) s ∈ N ≥ 1 (\sigma(X_s))_{s\in\NN} ( σ ( X s ) ) s ∈ N ≥ 1 は相互独立である。各X s X_s X s の法則は Borel 集合B B B に∫ B q ( x ) d x \int_Bq(x)\,dx ∫ B q ( x ) d x を対応させる確率測度μ \mu μ である。命題 2.2 によりh ( X 1 ) , h ( X 2 ) , … h(X_1),h(X_2),\ldots h ( X 1 ) , h ( X 2 ) , … は独立同分布である。命題 1.2 をR d \R^d R d の Borel 集合族上の Lebesgue 測度ρ \rho ρ 、p = q p=q p = q 、X = X 1 X=X_1 X = X 1 に適用すると、E [ h ( X 1 ) ] = ∫ R d h ( x ) q ( x ) d x E[h(X_1)]=\int_{\R^d}h(x)q(x)\,dx E [ h ( X 1 )] = ∫ R d h ( x ) q ( x ) d x である。§E20.34 定理 2.2 (2) によりT n T_n T n は確率変数であり、W n W_n W n も確率変数である。§E20.34 定理 2.2 (4) によりE [ T n ] = n M E[T_n]=nM E [ T n ] = n M であるから、§E11.4 命題 1.2 によりE [ W n ] = c 0 + n M c + n ( c f + c a ) E[W_n]=c_0+nMc+n(c_f+c_a) E [ W n ] = c 0 + n M c + n ( c f + c a ) である。
(3) を示す。k ∈ N ≥ 1 k\in\NN k ∈ N ≥ 1 とする。§E20.34 定理 2.2 (2) をr = 1 r=1 r = 1 、B 1 = R d B_1=\R^d B 1 = R d として適用すると、j ∈ N ≥ 1 j\in\NN j ∈ N ≥ 1 に対してP ( T 1 = j ) = ( 1 − 1 / M ) j − 1 M − 1 P(T_1=j)=(1-1/M)^{j-1}M^{-1} P ( T 1 = j ) = ( 1 − 1/ M ) j − 1 M − 1 であるから
P ( T 1 > k ) = ∑ j = k + 1 ∞ ( 1 − 1 M ) j − 1 1 M = ( 1 − 1 M ) k > 0 P(T_1>k)=\sum_{j=k+1}^\infty\Bigl(1-\frac1M\Bigr)^{j-1}\frac1M=\Bigl(1-\frac1M\Bigr)^k>0 P ( T 1 > k ) = j = k + 1 ∑ ∞ ( 1 − M 1 ) j − 1 M 1 = ( 1 − M 1 ) k > 0 である。T 1 , T 2 , … T_1,T_2,\ldots T 1 , T 2 , … の定義に用いた集合K ( ω ) K(\omega) K ( ω ) が無限集合となる事象は確率1 1 1 であり(§E20.34 定理 2.2 (2) )、その事象上ではT n ≥ T 1 T_n\ge T_1 T n ≥ T 1 である。よってP ( T n > k ) ≥ P ( T 1 > k ) > 0 P(T_n>k)\ge P(T_1>k)>0 P ( T n > k ) ≥ P ( T 1 > k ) > 0 である。実数w w w に対してk ∈ N ≥ 1 k\in\NN k ∈ N ≥ 1 をc k ≥ w − c 0 − n ( c f + c a ) ck\ge w-c_0-n(c_f+c_a) c k ≥ w − c 0 − n ( c f + c a ) を満たすようにとると、{ T n > k } ⊂ { W n > w } \{T_n>k\}\subset\{W_n>w\} { T n > k } ⊂ { W n > w } であるからP ( W n > w ) > 0 P(W_n>w)>0 P ( W n > w ) > 0 である。▨
7 次元と求積との比較
補題 7.1. d ∈ N ≥ 1 d\in\NN d ∈ N ≥ 1 とし、V 1 , … , V d V_1,\ldots,V_d V 1 , … , V d を実確率変数とする。σ ( V 1 ) , … , σ ( V d ) \sigma(V_1),\ldots,\sigma(V_d) σ ( V 1 ) , … , σ ( V d ) は相互独立であり、各V j V_j V j はU [ 0 , 1 ] U[0,1] U [ 0 , 1 ] に従う、すなわち任意のt ∈ R t\in\R t ∈ R に対してP ( V j ≤ t ) = min { max { t , 0 } , 1 } P(V_j\le t)=\min\{\max\{t,0\},1\} P ( V j ≤ t ) = min { max { t , 0 } , 1 } を満たすとする。V : = ( V 1 , … , V d ) V:=(V_1,\ldots,V_d) V := ( V 1 , … , V d ) と置く。
V V V は確率ベクトルであり、任意の Borel 集合B ⊂ R d B\subset\R^d B ⊂ R d に対してP ( V ∈ B ) = λ ( B ∩ ( 0 , 1 ] d ) P(V\in B)=\lambda(B\cap(0,1]^d) P ( V ∈ B ) = λ ( B ∩ ( 0 , 1 ] d ) が成り立つ。
λ ( [ 0 , 1 ] d ∖ ( 0 , 1 ] d ) = 0 \lambda([0,1]^d\setminus(0,1]^d)=0 λ ([ 0 , 1 ] d ∖ ( 0 , 1 ] d ) = 0 である。Borel 可測関数h : R d → R h\colon\R^d\to\R h : R d → R が∫ [ 0 , 1 ] d ∣ h ∣ d λ < ∞ \int_{[0,1]^d}|h|\,d\lambda<\infty ∫ [ 0 , 1 ] d ∣ h ∣ d λ < ∞ を満たすならば、h ( V ) h(V) h ( V ) は可積分であり、
E [ h ( V ) ] = ∫ [ 0 , 1 ] d h d λ , E [ h ( V ) 2 ] = ∫ [ 0 , 1 ] d h 2 d λ E[h(V)]=\int_{[0,1]^d}h\,d\lambda,\qquad E[h(V)^2]=\int_{[0,1]^d}h^2\,d\lambda E [ h ( V )] = ∫ [ 0 , 1 ] d h d λ , E [ h ( V ) 2 ] = ∫ [ 0 , 1 ] d h 2 d λ
が成り立つ。第二の等式は[ 0 , ∞ ] [0,\infty] [ 0 , ∞ ] における等式である。
証明. (1) を示す。半開直方体Q = ∏ j = 1 d ( a j , b j ] Q=\prod_{j=1}^d(a_j,b_j] Q = ∏ j = 1 d ( a j , b j ] に対してV − 1 ( Q ) = ⋂ j = 1 d { a j < V j ≤ b j } ∈ F V^{-1}(Q)=\bigcap_{j=1}^d\{a_j<V_j\le b_j\}\in\mathcal F V − 1 ( Q ) = ⋂ j = 1 d { a j < V j ≤ b j } ∈ F である。V − 1 ( B ) ∈ F V^{-1}(B)\in\mathcal F V − 1 ( B ) ∈ F を満たす Borel 集合B B B の全体はシグマ加法族であり、半開直方体をすべて含むから、半開直方体の有限非交和の全体R d \mathcal R_d R d を含む。§E9.4 定理 3.3 により、このシグマ加法族はB ( R d ) \mathcal B(\R^d) B ( R d ) に等しく、V V V は確率ベクトルである。
Borel 集合B B B に対してμ ( B ) : = P ( V ∈ B ) \mu(B):=P(V\in B) μ ( B ) := P ( V ∈ B ) 、ν ( B ) : = λ ( B ∩ ( 0 , 1 ] d ) \nu(B):=\lambda(B\cap(0,1]^d) ν ( B ) := λ ( B ∩ ( 0 , 1 ] d ) と置く。λ \lambda λ は§E9.4 定理 3.4 のλ d B \lambda_d^B λ d B の完備化であり Borel 集合上でλ d B \lambda_d^B λ d B に一致するから、ν \nu ν はB ( R d ) \mathcal B(\R^d) B ( R d ) 上の測度であり、ν ( R d ) = 1 \nu(\R^d)=1 ν ( R d ) = 1 である。F ( t ) : = min { max { t , 0 } , 1 } F(t):=\min\{\max\{t,0\},1\} F ( t ) := min { max { t , 0 } , 1 } と置くと、a < b a<b a < b に対してF ( b ) − F ( a ) = max { min { b , 1 } − max { a , 0 } , 0 } F(b)-F(a)=\max\{\min\{b,1\}-\max\{a,0\},0\} F ( b ) − F ( a ) = max { min { b , 1 } − max { a , 0 } , 0 } である。半開直方体Q = ∏ j = 1 d ( a j , b j ] Q=\prod_{j=1}^d(a_j,b_j] Q = ∏ j = 1 d ( a j , b j ] に対して、σ ( V 1 ) , … , σ ( V d ) \sigma(V_1),\ldots,\sigma(V_d) σ ( V 1 ) , … , σ ( V d ) の相互独立性から
μ ( Q ) = ∏ j = 1 d P ( a j < V j ≤ b j ) = ∏ j = 1 d ( F ( b j ) − F ( a j ) ) \mu(Q)=\prod_{j=1}^dP(a_j<V_j\le b_j)=\prod_{j=1}^d\bigl(F(b_j)-F(a_j)\bigr) μ ( Q ) = j = 1 ∏ d P ( a j < V j ≤ b j ) = j = 1 ∏ d ( F ( b j ) − F ( a j ) ) である。Q ∩ ( 0 , 1 ] d Q\cap(0,1]^d Q ∩ ( 0 , 1 ] d は、すべてのj j j でmax { a j , 0 } < min { b j , 1 } \max\{a_j,0\}<\min\{b_j,1\} max { a j , 0 } < min { b j , 1 } ならば半開直方体∏ j = 1 d ( max { a j , 0 } , min { b j , 1 } ] \prod_{j=1}^d(\max\{a_j,0\},\min\{b_j,1\}] ∏ j = 1 d ( max { a j , 0 } , min { b j , 1 }] であり、そうでなければ空集合であるから、§E9.4 定理 3.4 によりν ( Q ) = ∏ j = 1 d max { min { b j , 1 } − max { a j , 0 } , 0 } = μ ( Q ) \nu(Q)=\prod_{j=1}^d\max\{\min\{b_j,1\}-\max\{a_j,0\},0\}=\mu(Q) ν ( Q ) = ∏ j = 1 d max { min { b j , 1 } − max { a j , 0 } , 0 } = μ ( Q ) である。半開直方体と空集合からなる族P \mathcal P P は、二つの半開直方体の共通部分が半開直方体または空集合であるから π 系である。μ \mu μ とν \nu ν はともに全質量1 1 1 の測度であるから、μ ( B ) = ν ( B ) \mu(B)=\nu(B) μ ( B ) = ν ( B ) を満たす Borel 集合B B B の全体D \mathcal D D は Dynkin 系であり、P ⊂ D \mathcal P\subset\mathcal D P ⊂ D である。§E9.1 定理 4.8 によりσ ( P ) ⊂ D \sigma(\mathcal P)\subset\mathcal D σ ( P ) ⊂ D であり、P ⊂ R d ⊂ σ ( P ) \mathcal P\subset\mathcal R_d\subset\sigma(\mathcal P) P ⊂ R d ⊂ σ ( P ) と§E9.4 定理 3.3 によりσ ( P ) = B ( R d ) \sigma(\mathcal P)=\mathcal B(\R^d) σ ( P ) = B ( R d ) である。よってμ = ν \mu=\nu μ = ν である。
(2) を示す。任意のη > 0 \eta>0 η > 0 に対して( 0 , 1 ] d ⊂ [ 0 , 1 ] d ⊂ ( − η , 1 ] d (0,1]^d\subset[0,1]^d\subset(-\eta,1]^d ( 0 , 1 ] d ⊂ [ 0 , 1 ] d ⊂ ( − η , 1 ] d であるから、§E9.4 定理 3.4 により1 ≤ λ ( [ 0 , 1 ] d ) ≤ ( 1 + η ) d 1\le\lambda([0,1]^d)\le(1+\eta)^d 1 ≤ λ ([ 0 , 1 ] d ) ≤ ( 1 + η ) d である。η > 0 \eta>0 η > 0 は任意であるからλ ( [ 0 , 1 ] d ) = 1 = λ ( ( 0 , 1 ] d ) \lambda([0,1]^d)=1=\lambda((0,1]^d) λ ([ 0 , 1 ] d ) = 1 = λ (( 0 , 1 ] d ) であり、λ ( [ 0 , 1 ] d ∖ ( 0 , 1 ] d ) = 0 \lambda([0,1]^d\setminus(0,1]^d)=0 λ ([ 0 , 1 ] d ∖ ( 0 , 1 ] d ) = 0 である。L d \mathcal L_d L d を Lebesgue 可測集合全体、ρ \rho ρ をλ \lambda λ のB ( R d ) \mathcal B(\R^d) B ( R d ) への制限とすると、恒等写像( R d , L d ) → ( R d , B ( R d ) ) (\R^d,\mathcal L_d)\to(\R^d,\mathcal B(\R^d)) ( R d , L d ) → ( R d , B ( R d )) は可測でありλ \lambda λ をρ \rho ρ に写す。§E9.6 定理 5.3 (1) と§E9.6 定理 5.3 (2) により、Borel 可測関数のρ \rho ρ に関する積分とλ \lambda λ に関する積分は、非負の場合と可積分な場合に一致する。p : = 1 ( 0 , 1 ] d p:=\mathbf 1_{(0,1]^d} p := 1 ( 0 , 1 ] d と置くと、(1) により任意の Borel 集合B B B に対してP ( V ∈ B ) = ∫ B p d ρ P(V\in B)=\int_Bp\,d\rho P ( V ∈ B ) = ∫ B p d ρ であり、λ ( [ 0 , 1 ] d ∖ ( 0 , 1 ] d ) = 0 \lambda([0,1]^d\setminus(0,1]^d)=0 λ ([ 0 , 1 ] d ∖ ( 0 , 1 ] d ) = 0 から∫ R d ∣ h ∣ p d ρ = ∫ [ 0 , 1 ] d ∣ h ∣ d λ < ∞ \int_{\R^d}|h|p\,d\rho=\int_{[0,1]^d}|h|\,d\lambda<\infty ∫ R d ∣ h ∣ p d ρ = ∫ [ 0 , 1 ] d ∣ h ∣ d λ < ∞ である。命題 1.2 を適用すると、主張の二つの等式を得る。▨
例 7.2. d ∈ N ≥ 1 d\in\NN d ∈ N ≥ 1 とする。実確率変数V i , j V_{i,j} V i , j ( i ∈ N ≥ 1 , 1 ≤ j ≤ d ) (i\in\NN,\ 1\le j\le d) ( i ∈ N ≥ 1 , 1 ≤ j ≤ d ) について、( σ ( V i , j ) ) ( i , j ) ∈ N ≥ 1 × { 1 , … , d } (\sigma(V_{i,j}))_{(i,j)\in\NN\times\{1,\ldots,d\}} ( σ ( V i , j ) ) ( i , j ) ∈ N ≥ 1 × { 1 , … , d } は相互独立であり、各V i , j V_{i,j} V i , j はU [ 0 , 1 ] U[0,1] U [ 0 , 1 ] に従うとする。V i : = ( V i , 1 , … , V i , d ) V_i:=(V_{i,1},\ldots,V_{i,d}) V i := ( V i , 1 , … , V i , d ) 、Y i : = V i , 1 V i , 2 ⋯ V i , d Y_i:=V_{i,1}V_{i,2}\cdots V_{i,d} Y i := V i , 1 V i , 2 ⋯ V i , d 、I n : = n − 1 ∑ i = 1 n Y i I_n:=n^{-1}\sum_{i=1}^nY_i I n := n − 1 ∑ i = 1 n Y i と置く。
§E20.34 命題 2.1 (2) を添字の組{ ( i , 1 ) , … , ( i , d ) } \{(i,1),\ldots,(i,d)\} {( i , 1 ) , … , ( i , d )} ( i ∈ N ≥ 1 ) (i\in\NN) ( i ∈ N ≥ 1 ) と恒等写像に適用すると、( σ ( V i ) ) i ∈ N ≥ 1 (\sigma(V_i))_{i\in\NN} ( σ ( V i ) ) i ∈ N ≥ 1 は相互独立である。補題 7.1 (1) により、すべてのV i V_i V i の法則はB ↦ λ ( B ∩ ( 0 , 1 ] d ) B\mapsto\lambda(B\cap(0,1]^d) B ↦ λ ( B ∩ ( 0 , 1 ] d ) に等しい。命題 2.2 を Borel 可測関数x ↦ x 1 ⋯ x d x\mapsto x_1\cdots x_d x ↦ x 1 ⋯ x d に適用するとY 1 , Y 2 , … Y_1,Y_2,\ldots Y 1 , Y 2 , … は独立同分布であり、補題 7.1 (2) により
I : = E [ Y 1 ] = ∫ [ 0 , 1 ] d x 1 ⋯ x d d x , E [ Y 1 2 ] = ∫ [ 0 , 1 ] d x 1 2 ⋯ x d 2 d x I:=E[Y_1]=\int_{[0,1]^d}x_1\cdots x_d\,dx,\qquad E[Y_1^2]=\int_{[0,1]^d}x_1^2\cdots x_d^2\,dx I := E [ Y 1 ] = ∫ [ 0 , 1 ] d x 1 ⋯ x d d x , E [ Y 1 2 ] = ∫ [ 0 , 1 ] d x 1 2 ⋯ x d 2 d x
である。補題 7.1 (2) をd = 1 d=1 d = 1 として適用すると、E [ V 1 , j ] = ∫ [ 0 , 1 ] t d t = 1 / 2 E[V_{1,j}]=\int_{[0,1]}t\,dt=1/2 E [ V 1 , j ] = ∫ [ 0 , 1 ] t d t = 1/2 、E [ V 1 , j 2 ] = ∫ [ 0 , 1 ] t 2 d t = 1 / 3 E[V_{1,j}^2]=\int_{[0,1]}t^2\,dt=1/3 E [ V 1 , j 2 ] = ∫ [ 0 , 1 ] t 2 d t = 1/3 である。2 ≤ k ≤ d 2\le k\le d 2 ≤ k ≤ d に対して§E20.34 命題 2.1 (2) を添字の組{ ( 1 , 1 ) , … , ( 1 , k − 1 ) } \{(1,1),\ldots,(1,k-1)\} {( 1 , 1 ) , … , ( 1 , k − 1 )} と{ ( 1 , k ) } \{(1,k)\} {( 1 , k )} および Borel 可測写像( x 1 , … , x k − 1 ) ↦ x 1 ⋯ x k − 1 (x_1,\ldots,x_{k-1})\mapsto x_1\cdots x_{k-1} ( x 1 , … , x k − 1 ) ↦ x 1 ⋯ x k − 1 と恒等写像に適用すると、V 1 , 1 ⋯ V 1 , k − 1 V_{1,1}\cdots V_{1,k-1} V 1 , 1 ⋯ V 1 , k − 1 とV 1 , k V_{1,k} V 1 , k は独立である。どちらもほとんど確実に[ 0 , 1 ] [0,1] [ 0 , 1 ] に値をとるから可積分であり、§E11.7 定理 3.1 をk = 2 , … , d k=2,\ldots,d k = 2 , … , d の順に適用するとI = 2 − d I=2^{-d} I = 2 − d である。写像を( x 1 , … , x k − 1 ) ↦ x 1 2 ⋯ x k − 1 2 (x_1,\ldots,x_{k-1})\mapsto x_1^2\cdots x_{k-1}^2 ( x 1 , … , x k − 1 ) ↦ x 1 2 ⋯ x k − 1 2 とx ↦ x 2 x\mapsto x^2 x ↦ x 2 に替えて同じく適用すると、E [ Y 1 2 ] = 3 − d E[Y_1^2]=3^{-d} E [ Y 1 2 ] = 3 − d である。§E11.4 命題 2.3 によりVar ( Y 1 ) = 3 − d − 4 − d \operatorname{Var}(Y_1)=3^{-d}-4^{-d} Var ( Y 1 ) = 3 − d − 4 − d である。
定理 2.4 (2) により
E [ ( I n − 2 − d ) 2 ] = 3 − d − 4 − d n , E [ ( I n − 2 − d ) 2 ] 4 − d = ( 4 / 3 ) d − 1 n E[(I_n-2^{-d})^2]=\frac{3^{-d}-4^{-d}}n,\qquad\frac{E[(I_n-2^{-d})^2]}{4^{-d}}=\frac{(4/3)^d-1}n E [( I n − 2 − d ) 2 ] = n 3 − d − 4 − d , 4 − d E [( I n − 2 − d ) 2 ] = n ( 4/3 ) d − 1
である。相対的な二乗平均平方根誤差をr > 0 r>0 r > 0 以下にする条件はn ≥ ( ( 4 / 3 ) d − 1 ) / r 2 n\ge((4/3)^d-1)/r^2 n ≥ (( 4/3 ) d − 1 ) / r 2 である。r = 0.1 r=0.1 r = 0.1 のとき、この右辺はd = 1 d=1 d = 1 で約33.3 33.3 33.3 、d = 10 d=10 d = 10 で約1675.8 1675.8 1675.8 、d = 50 d=50 d = 50 で約1.766 × 10 8 1.766\times10^8 1.766 × 1 0 8 である。
出力1個の計算はU [ 0 , 1 ] U[0,1] U [ 0 , 1 ] に従う値d d d 個の生成とd − 1 d-1 d − 1 回の乗算からなる。値1個の生成費用をc u c_u c u 、乗算・加算・除算1回の費用をc a c_a c a とすると、命題 6.1 (1) においてc s + c f = d c u + ( d − 1 ) c a c_s+c_f=dc_u+(d-1)c_a c s + c f = d c u + ( d − 1 ) c a であり、前処理のないI n I_n I n の計算費用はn d ( c u + c a ) nd(c_u+c_a) n d ( c u + c a ) である。
8 演習
解答. c : = ( ℓ + u ) / 2 c:=(\ell+u)/2 c := ( ℓ + u ) /2 と置く。P ( ℓ ≤ Y ≤ u ) = 1 P(\ell\le Y\le u)=1 P ( ℓ ≤ Y ≤ u ) = 1 から、∣ Y − c ∣ ≤ ( u − ℓ ) / 2 |Y-c|\le(u-\ell)/2 ∣ Y − c ∣ ≤ ( u − ℓ ) /2 がほとんど確実に成り立つ。したがって∣ Y ∣ ≤ max { ∣ ℓ ∣ , ∣ u ∣ } |Y|\le\max\{|\ell|,|u|\} ∣ Y ∣ ≤ max { ∣ ℓ ∣ , ∣ u ∣ } がほとんど確実に成り立ち、E [ Y 2 ] ≤ max { ∣ ℓ ∣ , ∣ u ∣ } 2 < ∞ E[Y^2]\le\max\{|\ell|,|u|\}^2<\infty E [ Y 2 ] ≤ max { ∣ ℓ ∣ , ∣ u ∣ } 2 < ∞ であるからY ∈ L 2 ( P ) Y\in L^2(P) Y ∈ L 2 ( P ) である。補題 2.3 をZ = Y Z=Y Z = Y とc c c に適用すると
Var ( Y ) = E [ ( Y − c ) 2 ] − ( E [ Y ] − c ) 2 ≤ E [ ( Y − c ) 2 ] ≤ ( u − ℓ ) 2 4 \operatorname{Var}(Y)=E[(Y-c)^2]-(E[Y]-c)^2\le E[(Y-c)^2]\le\frac{(u-\ell)^2}4 Var ( Y ) = E [( Y − c ) 2 ] − ( E [ Y ] − c ) 2 ≤ E [( Y − c ) 2 ] ≤ 4 ( u − ℓ ) 2 を得る。▨
問題 8.2. 例 5.1 の設定でp ≤ 1 / 2 p\le1/2 p ≤ 1/2 とする。n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 がn p ≤ 1 np\le1 n p ≤ 1 を満たすならばP ( ∣ I n − p ∣ ≥ p ) ≥ e − 2 P(|I_n-p|\ge p)\ge e^{-2} P ( ∣ I n − p ∣ ≥ p ) ≥ e − 2 であることを示せ。
解答. 事象E 0 : = { Y 1 = ⋯ = Y n = 0 } E_0:=\{Y_1=\cdots=Y_n=0\} E 0 := { Y 1 = ⋯ = Y n = 0 } 上ではI n = 0 I_n=0 I n = 0 であるから∣ I n − p ∣ = p |I_n-p|=p ∣ I n − p ∣ = p であり、E 0 ⊂ { ∣ I n − p ∣ ≥ p } E_0\subset\{|I_n-p|\ge p\} E 0 ⊂ { ∣ I n − p ∣ ≥ p } である。例 5.1 (2) によりP ( E 0 ) = ( 1 − p ) n ≥ e − n p / ( 1 − p ) P(E_0)=(1-p)^n\ge e^{-np/(1-p)} P ( E 0 ) = ( 1 − p ) n ≥ e − n p / ( 1 − p ) である。p ≤ 1 / 2 p\le1/2 p ≤ 1/2 から1 / ( 1 − p ) ≤ 2 1/(1-p)\le2 1/ ( 1 − p ) ≤ 2 であり、n p ≤ 1 np\le1 n p ≤ 1 からn p / ( 1 − p ) ≤ 2 np/(1-p)\le2 n p / ( 1 − p ) ≤ 2 である。したがってP ( ∣ I n − p ∣ ≥ p ) ≥ P ( E 0 ) ≥ e − 2 P(|I_n-p|\ge p)\ge P(E_0)\ge e^{-2} P ( ∣ I n − p ∣ ≥ p ) ≥ P ( E 0 ) ≥ e − 2 である。▨