1 仮説と検定関数 定義 1.1. 可測空間( X , A ) (\mathcal X,\mathcal A) ( X , A ) ( P θ ) θ ∈ Θ (P_\theta)_{\theta\in\Theta} ( P θ ) θ ∈ Θ Θ \Theta Θ Θ 0 , Θ 1 \Theta_0,\Theta_1 Θ 0 , Θ 1
H 0 : θ ∈ Θ 0 , H 1 : θ ∈ Θ 1 H_0:\theta\in\Theta_0,
\qquad
H_1:\theta\in\Theta_1 H 0 : θ ∈ Θ 0 , H 1 : θ ∈ Θ 1 を、それぞれ帰無仮説 (null hypothesis )対立仮説 (alternative hypothesis )
検定 (hypothesis test )
φ : X ⟶ [ 0 , 1 ] \varphi:\mathcal X\longrightarrow[0,1] φ : X ⟶ [ 0 , 1 ] である。観測値がx x x φ ( x ) \varphi(x) φ ( x ) H 0 H_0 H 0 φ \varphi φ 0 0 0 1 1 1 R ∈ A R\in\mathcal A R ∈ A φ = 1 R \varphi=\mathbf 1_R φ = 1 R R R R 棄却域 (rejection region )X ∈ R X\in R X ∈ R H 0 H_0 H 0 X ∉ R X\notin R X ∈ / R H 0 H_0 H 0 R R R H 0 H_0 H 0
i ∈ { 0 , 1 } i\in\{0,1\} i ∈ { 0 , 1 } H i H_i H i { P θ : θ ∈ Θ i } \{P_\theta:\theta\in\Theta_i\} { P θ : θ ∈ Θ i } H i H_i H i 単純仮説 (simple hypothesis )H i H_i H i 複合仮説 (composite hypothesis )
検定統計量T : X → R T:\mathcal X\to\R T : X → R C ⊂ R C\subset\R C ⊂ R R = { x : T ( x ) ∈ C } R=\{x:T(x)\in C\} R = { x : T ( x ) ∈ C }
命題 1.2. ( X , A , ( P θ ) θ ∈ Θ ) (\mathcal X,\mathcal A,(P_\theta)_{\theta\in\Theta}) ( X , A , ( P θ ) θ ∈ Θ ) φ : X → [ 0 , 1 ] \varphi:\mathcal X\to[0,1] φ : X → [ 0 , 1 ] P θ P_\theta P θ ( 0 , 1 ) (0,1) ( 0 , 1 ) X X X U ∼ Unif ( 0 , 1 ) U\sim\operatorname{Unif}(0,1) U ∼ Unif ( 0 , 1 )
U ≤ φ ( X ) U\leq\varphi(X) U ≤ φ ( X ) のとき、かつそのときに限りH 0 H_0 H 0 X = x X=x X = x φ ( x ) \varphi(x) φ ( x ) θ \theta θ E θ [ φ ( X ) ] E_\theta[\varphi(X)] E θ [ φ ( X )]
証明. x ∈ X x\in\mathcal X x ∈ X
P ( U ≤ φ ( x ) ) = φ ( x ) P\bigl(U\leq\varphi(x)\bigr)=\varphi(x) P ( U ≤ φ ( x ) ) = φ ( x ) を得る。積測度に関する Tonelli の定理を指示関数1 { u ≤ φ ( x ) } \mathbf 1_{\{u\leq\varphi(x)\}} 1 { u ≤ φ ( x )}
( P θ ⊗ Unif ) ( U ≤ φ ( X ) ) = ∫ X ( ∫ 0 1 1 { u ≤ φ ( x ) } d u ) P θ ( d x ) = E θ [ φ ( X ) ] (P_\theta\otimes\operatorname{Unif})\bigl(U\leq\varphi(X)\bigr)
=\int_{\mathcal X}\!\left(\int_0^1\mathbf 1_{\{u\leq\varphi(x)\}}\,du\right)P_\theta(dx)
=E_\theta[\varphi(X)] ( P θ ⊗ Unif ) ( U ≤ φ ( X ) ) = ∫ X ( ∫ 0 1 1 { u ≤ φ ( x )} d u ) P θ ( d x ) = E θ [ φ ( X )] となる。▨
2 過誤と検出力 定義 2.1. ( X , A , ( P θ ) θ ∈ Θ ) (\mathcal X,\mathcal A,(P_\theta)_{\theta\in\Theta}) ( X , A , ( P θ ) θ ∈ Θ ) Θ = Θ 0 ⊔ Θ 1 \Theta=\Theta_0\sqcup\Theta_1 Θ = Θ 0 ⊔ Θ 1 φ : X → [ 0 , 1 ] \varphi:\mathcal X\to[0,1] φ : X → [ 0 , 1 ]
θ ∈ Θ 0 \theta\in\Theta_0 θ ∈ Θ 0 H 0 H_0 H 0 第 I 種過誤 (type I error )E θ [ φ ( X ) ] E_\theta[\varphi(X)] E θ [ φ ( X )] θ ∈ Θ 1 \theta\in\Theta_1 θ ∈ Θ 1 H 0 H_0 H 0 第 II 種過誤 (type II error )1 − E θ [ φ ( X ) ] 1-E_\theta[\varphi(X)] 1 − E θ [ φ ( X )] 検定φ \varphi φ サイズ (size of a test )
sup θ ∈ Θ 0 E θ [ φ ( X ) ] \sup_{\theta\in\Theta_0}E_\theta[\varphi(X)] θ ∈ Θ 0 sup E θ [ φ ( X )] と定める。サイズがα \alpha α φ \varphi φ 有意水準α \alpha α (significance level alpha )α \alpha α α \alpha α
定義 2.2. ( X , A , ( P θ ) θ ∈ Θ ) (\mathcal X,\mathcal A,(P_\theta)_{\theta\in\Theta}) ( X , A , ( P θ ) θ ∈ Θ ) φ : X → [ 0 , 1 ] \varphi:\mathcal X\to[0,1] φ : X → [ 0 , 1 ] φ \varphi φ 検出力関数 (power function )
β φ ( θ ) = E θ [ φ ( X ) ] ( θ ∈ Θ ) \beta_\varphi(\theta)=E_\theta[\varphi(X)]
\qquad(\theta\in\Theta) β φ ( θ ) = E θ [ φ ( X )] ( θ ∈ Θ ) と定める。θ ∈ Θ 1 \theta\in\Theta_1 θ ∈ Θ 1 β φ ( θ ) \beta_\varphi(\theta) β φ ( θ ) 検出力 (power )θ ∈ Θ 0 \theta\in\Theta_0 θ ∈ Θ 0 β φ ( θ ) \beta_\varphi(\theta) β φ ( θ ) sup θ ∈ Θ 0 β φ ( θ ) \sup_{\theta\in\Theta_0}\beta_\varphi(\theta) sup θ ∈ Θ 0 β φ ( θ ) θ ∈ Θ 1 \theta\in\Theta_1 θ ∈ Θ 1 1 − β φ ( θ ) 1-\beta_\varphi(\theta) 1 − β φ ( θ )
3 p 値 定義 3.1. ( X , A , ( P θ ) θ ∈ Θ ) (\mathcal X,\mathcal A,(P_\theta)_{\theta\in\Theta}) ( X , A , ( P θ ) θ ∈ Θ ) Θ = Θ 0 ⊔ Θ 1 \Theta=\Theta_0\sqcup\Theta_1 Θ = Θ 0 ⊔ Θ 1 T : X → R T:\mathcal X\to\R T : X → R H 0 H_0 H 0 θ ∈ Θ 0 \theta\in\Theta_0 θ ∈ Θ 0 t ∈ R t\in\R t ∈ R
q θ ( t ) = P θ ( T ( X ) ≥ t ) q_\theta(t)=P_\theta(T(X)\geq t) q θ ( t ) = P θ ( T ( X ) ≥ t ) とおく。観測値x x x p 値 (p-value )
p ( x ) = sup θ ∈ Θ 0 q θ ( T ( x ) ) p(x)=\sup_{\theta\in\Theta_0}q_\theta(T(x)) p ( x ) = θ ∈ Θ 0 sup q θ ( T ( x )) で定める。各q θ q_\theta q θ p p p H 0 : θ = θ 0 H_0:\theta=\theta_0 H 0 : θ = θ 0 p ( x ) = P θ 0 ( T ( X ) ≥ T ( x ) ) p(x)=P_{\theta_0}(T(X)\geq T(x)) p ( x ) = P θ 0 ( T ( X ) ≥ T ( x ))
任意のa ∈ [ 0 , 1 ] a\in[0,1] a ∈ [ 0 , 1 ] θ ∈ Θ 0 \theta\in\Theta_0 θ ∈ Θ 0 P θ ( p ( X ) ≤ a ) ≤ a P_\theta(p(X)\leq a)\leq a P θ ( p ( X ) ≤ a ) ≤ a p ( X ) ≤ α p(X)\leq\alpha p ( X ) ≤ α H 0 H_0 H 0 α \alpha α
帰無仮説が単純であり、その母数の下でT ( X ) T(X) T ( X ) p ( X ) p(X) p ( X ) ( 0 , 1 ) (0,1) ( 0 , 1 )
証明. θ ∈ Θ 0 \theta\in\Theta_0 θ ∈ Θ 0 q ( t ) = q θ ( t ) q(t)=q_\theta(t) q ( t ) = q θ ( t ) a ∈ [ 0 , 1 ] a\in[0,1] a ∈ [ 0 , 1 ] A a = { t ∈ R : q ( t ) ≤ a } A_a=\{t\in\R:q(t)\leq a\} A a = { t ∈ R : q ( t ) ≤ a } q q q A a A_a A a R \R R [ c , ∞ ) [c,\infty) [ c , ∞ ) ( c , ∞ ) (c,\infty) ( c , ∞ ) A a = [ c , ∞ ) A_a=[c,\infty) A a = [ c , ∞ )
P θ ( T ( X ) ∈ A a ) = q ( c ) ≤ a P_\theta(T(X)\in A_a)=q(c)\leq a P θ ( T ( X ) ∈ A a ) = q ( c ) ≤ a である。A a = ( c , ∞ ) A_a=(c,\infty) A a = ( c , ∞ ) t k ∈ A a t_k\in A_a t k ∈ A a t k ↓ c t_k\downarrow c t k ↓ c
P θ ( T ( X ) ∈ A a ) = lim k → ∞ P θ ( T ( X ) ≥ t k ) = lim k → ∞ q ( t k ) ≤ a P_\theta(T(X)\in A_a)
=\lim_{k\to\infty}P_\theta(T(X)\geq t_k)
=\lim_{k\to\infty}q(t_k)
\leq a P θ ( T ( X ) ∈ A a ) = k → ∞ lim P θ ( T ( X ) ≥ t k ) = k → ∞ lim q ( t k ) ≤ a となる。空集合とR \R R
P θ ( q ( T ( X ) ) ≤ a ) ≤ a P_\theta(q(T(X))\leq a)\leq a P θ ( q ( T ( X )) ≤ a ) ≤ a である。p ( x ) ≥ q θ ( T ( x ) ) p(x)\geq q_\theta(T(x)) p ( x ) ≥ q θ ( T ( x )) { p ( X ) ≤ a } ⊂ { q θ ( T ( X ) ) ≤ a } \{p(X)\leq a\}\subset\{q_\theta(T(X))\leq a\} { p ( X ) ≤ a } ⊂ { q θ ( T ( X )) ≤ a } (1) を得る。
帰無仮説をH 0 : θ = θ 0 H_0:\theta=\theta_0 H 0 : θ = θ 0 T ( X ) T(X) T ( X ) P θ 0 P_{\theta_0} P θ 0 F F F F F F P θ 0 ( T ( X ) = t ) = 0 P_{\theta_0}(T(X)=t)=0 P θ 0 ( T ( X ) = t ) = 0
p ( X ) = 1 − F ( T ( X ) ) p(X)=1-F(T(X)) p ( X ) = 1 − F ( T ( X )) である。u ∈ ( 0 , 1 ) u\in(0,1) u ∈ ( 0 , 1 ) b u = sup { t ∈ R : F ( t ) ≤ u } b_u=\sup\{t\in\R:F(t)\leq u\} b u = sup { t ∈ R : F ( t ) ≤ u } b u ∈ R b_u\in\R b u ∈ R F ( b u ) = u F(b_u)=u F ( b u ) = u
{ T ( X ) < b u } ⊂ { F ( T ( X ) ) ≤ u } ⊂ { T ( X ) ≤ b u } \{T(X)<b_u\}\subset\{F(T(X))\leq u\}\subset\{T(X)\leq b_u\} { T ( X ) < b u } ⊂ { F ( T ( X )) ≤ u } ⊂ { T ( X ) ≤ b u } であり、両辺の確率はいずれもu u u F ( T ( X ) ) F(T(X)) F ( T ( X )) ( 0 , 1 ) (0,1) ( 0 , 1 ) 1 − F ( T ( X ) ) = p ( X ) 1-F(T(X))=p(X) 1 − F ( T ( X )) = p ( X ) (2) は示された。▨
原子をもつ帰無分布では、(1) の不等号が真に小さくなることがある。ある境界原子をすべて棄却すると水準を超える場合、決定的検定はその原子を棄却域から除くため、サイズが水準を下回りうる。境界無作為化は、除いた原子の一部を棄却することによってサイズを水準まで調整する。
例 3.2. 単純帰無仮説の下でX ∼ Bernoulli ( 1 / 2 ) X\sim\operatorname{Bernoulli}(1/2) X ∼ Bernoulli ( 1/2 ) T = X T=X T = X 定義 3.1 から
p ( 0 ) = 1 , p ( 1 ) = 1 2 p(0)=1,\qquad p(1)=\frac12 p ( 0 ) = 1 , p ( 1 ) = 2 1 を得る。水準1 / 4 1/4 1/4 p ( X ) ≤ 1 / 4 p(X)\leq1/4 p ( X ) ≤ 1/4 0 0 0
φ ( x ) = 1 2 1 { 1 } ( x ) \varphi(x)=\frac12\mathbf 1_{\{1\}}(x) φ ( x ) = 2 1 1 { 1 } ( x ) とおくと、E 0 [ φ ( X ) ] = 1 / 4 E_0[\varphi(X)]=1/4 E 0 [ φ ( X )] = 1/4 φ \varphi φ 1 / 4 1/4 1/4 { X = 1 } \{X=1\} { X = 1 } 1 / 2 1/2 1/2 P 0 ( T ( X ) > T ( x ) ) P_0(T(X)>T(x)) P 0 ( T ( X ) > T ( x )) x = 1 x=1 x = 1 0 0 0 1 / 4 1/4 1/4 X = 1 X=1 X = 1 1 / 2 1/2 1/2
4 正規平均の検出力と標本サイズ 命題 4.1. n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 X 1 , … , X n X_1,\ldots,X_n X 1 , … , X n σ 2 \sigma^2 σ 2 N ( μ , σ 2 ) N(\mu,\sigma^2) N ( μ , σ 2 ) 0 < α < 1 0<\alpha<1 0 < α < 1 z α z_\alpha z α Z Z Z α \alpha α P ( Z > z α ) = α P(Z>z_\alpha)=\alpha P ( Z > z α ) = α H 0 : μ = μ 0 H_0:\mu=\mu_0 H 0 : μ = μ 0
n ( X ˉ − μ 0 ) σ > z α \frac{\sqrt n(\bar X-\mu_0)}{\sigma}>z_\alpha σ n ( X ˉ − μ 0 ) > z α のときH 0 H_0 H 0 μ ∈ R \mu\in\R μ ∈ R
β ( μ ) = Φ ( n ( μ − μ 0 ) σ − z α ) \beta(\mu)=\Phi\!\left(\frac{\sqrt n(\mu-\mu_0)}{\sigma}-z_\alpha\right) β ( μ ) = Φ ( σ n ( μ − μ 0 ) − z α ) である。ただし、Φ \Phi Φ
δ > 0 \delta>0 δ > 0 0 < β 0 < 1 0<\beta_0<1 0 < β 0 < 1 μ = μ 0 + δ \mu=\mu_0+\delta μ = μ 0 + δ 1 − β 0 1-\beta_0 1 − β 0
n δ σ ≥ z α + z β 0 \frac{\sqrt n\,\delta}{\sigma}\geq z_\alpha+z_{\beta_0} σ n δ ≥ z α + z β 0 である。したがって、条件を満たす最小の正の整数標本サイズは
n min = max { 1 , ⌈ ( max { z α + z β 0 , 0 } σ δ ) 2 ⌉ } n_{\min}
=\max\left\{1,
\left\lceil
\left(\frac{\max\{z_\alpha+z_{\beta_0},0\}\,\sigma}{\delta}\right)^2
\right\rceil\right\} n m i n = max { 1 , ⌈ ( δ max { z α + z β 0 , 0 } σ ) 2 ⌉ } である。特にz α + z β 0 > 0 z_\alpha+z_{\beta_0}>0 z α + z β 0 > 0
n ≥ ( ( z α + z β 0 ) σ δ ) 2 n\geq\left(\frac{(z_\alpha+z_{\beta_0})\sigma}{\delta}\right)^2 n ≥ ( δ ( z α + z β 0 ) σ ) 2 と書くことができる。
証明. Z i = ( X i − μ ) / σ Z_i=(X_i-\mu)/\sigma Z i = ( X i − μ ) / σ x = μ + σ z x=\mu+\sigma z x = μ + σ z Z i Z_i Z i ( Z 1 , … , Z n ) ⊤ (Z_1,\ldots,Z_n)^\top ( Z 1 , … , Z n ) ⊤ u = ( 1 / n , … , 1 / n ) ⊤ u=(1/\sqrt n,\ldots,1/\sqrt n)^\top u = ( 1/ n , … , 1/ n ) ⊤ ∥ u ∥ = 1 \lVert u\rVert=1 ∥ u ∥ = 1 §E11.10 補題 3.3 により
n ( X ˉ − μ ) σ = u ⊤ ( Z 1 , … , Z n ) ⊤ ∼ N ( 0 , 1 ) \frac{\sqrt n(\bar X-\mu)}{\sigma}=u^\top(Z_1,\ldots,Z_n)^\top\sim N(0,1) σ n ( X ˉ − μ ) = u ⊤ ( Z 1 , … , Z n ) ⊤ ∼ N ( 0 , 1 ) である。したがって、標準正規分布の対称性から
β ( μ ) = P μ ( n ( X ˉ − μ 0 ) σ > z α ) = P μ ( n ( X ˉ − μ ) σ > z α − n ( μ − μ 0 ) σ ) = Φ ( n ( μ − μ 0 ) σ − z α ) \begin{aligned}
\beta(\mu)
&=P_\mu\!\left(\frac{\sqrt n(\bar X-\mu_0)}{\sigma}>z_\alpha\right)\\
&=P_\mu\!\left(\frac{\sqrt n(\bar X-\mu)}{\sigma}>z_\alpha-\frac{\sqrt n(\mu-\mu_0)}{\sigma}\right)\\
&=\Phi\!\left(\frac{\sqrt n(\mu-\mu_0)}{\sigma}-z_\alpha\right)
\end{aligned} β ( μ ) = P μ ( σ n ( X ˉ − μ 0 ) > z α ) = P μ ( σ n ( X ˉ − μ ) > z α − σ n ( μ − μ 0 ) ) = Φ ( σ n ( μ − μ 0 ) − z α ) を得る。
μ = μ 0 + δ \mu=\mu_0+\delta μ = μ 0 + δ Φ \Phi Φ Φ ( z β 0 ) = 1 − β 0 \Phi(z_{\beta_0})=1-\beta_0 Φ ( z β 0 ) = 1 − β 0
β ( μ 0 + δ ) ≥ 1 − β 0 ⟺ n δ σ − z α ≥ z β 0 . \beta(\mu_0+\delta)\geq1-\beta_0
\quad\Longleftrightarrow\quad
\frac{\sqrt n\,\delta}{\sigma}-z_\alpha\geq z_{\beta_0}. β ( μ 0 + δ ) ≥ 1 − β 0 ⟺ σ n δ − z α ≥ z β 0 . δ / σ > 0 \delta/\sigma>0 δ / σ > 0 n ≥ 1 n\geq1 n ≥ 1 ▨
例 4.2 (必要標本サイズの数値検算). 片側検定の水準をα = 0.05 \alpha=0.05 α = 0.05 1 − β 0 = 0.80 1-\beta_0=0.80 1 − β 0 = 0.80 δ / σ = 0.5 \delta/\sigma=0.5 δ / σ = 0.5 z 0.05 = 1.6449 z_{0.05}=1.6449 z 0.05 = 1.6449 z 0.20 = 0.8416 z_{0.20}=0.8416 z 0.20 = 0.8416 命題 4.1 により
n ≥ ( 1.6449 + 0.8416 0.5 ) 2 = 4.9730 2 = 24.73 n\geq
\left(\frac{1.6449+0.8416}{0.5}\right)^2
=4.9730^2
=24.73 n ≥ ( 0.5 1.6449 + 0.8416 ) 2 = 4.973 0 2 = 24.73 であるため、必要な最小標本サイズはn = 25 n=25 n = 25
n = 25 n=25 n = 25
Φ ( 25 × 0.5 − 1.6449 ) = Φ ( 0.8551 ) = 0.8038 ≥ 0.80 \Phi(\sqrt{25}\times0.5-1.6449)
=\Phi(0.8551)
=0.8038
\geq0.80 Φ ( 25 × 0.5 − 1.6449 ) = Φ ( 0.8551 ) = 0.8038 ≥ 0.80 である。一方、n = 24 n=24 n = 24
Φ ( 24 × 0.5 − 1.6449 ) = Φ ( 0.8046 ) = 0.7895 < 0.80 \Phi(\sqrt{24}\times0.5-1.6449)
=\Phi(0.8046)
=0.7895
<0.80 Φ ( 24 × 0.5 − 1.6449 ) = Φ ( 0.8046 ) = 0.7895 < 0.80 なので、25 25 25 z α + z β 0 z_\alpha+z_{\beta_0} z α + z β 0 δ 2 \delta^2 δ 2 0.5 0.5 0.5 0.25 0.25 0.25 24.73 24.73 24.73 98.92 98.92 98.92 25 25 25 99 99 99