確率空間と確率モデル | 確率論入門

1 確率空間・事象・零事象

定義 1.1. 三つ組 $(\Omega,\mathcal F,P)$ が確率空間 (probability space) であるとは、次の条件が成り立つことをいう。

$\Omega$ は集合であり、標本空間 (sample space) という。
$\mathcal F$ は $\Omega$ 上のシグマ加法族である。 $\mathcal F$ の元を事象 (event) という。
$P:\mathcal F\to[0,\infty]$ は測度であり、 $P(\Omega)=1$ を満たす。 $P$ を確率測度 (probability measure) という。

標本点 $\omega\in\Omega$ は一回の試行で得られる結果を表し、事象 $A\in\mathcal F$ は結果について判定することができる条件を表す。 $\mathcal F$ を指定せずに、任意の部分集合へ確率を割り当てるとは限らない。

定義 1.2. 事象 $N\in\mathcal F$ が $P(N)=0$ を満たすとき、 $N$ を零事象 (null event) という。

$\omega\in\Omega$ に関する命題 $\mathsf Q(\omega)$ について、ある零事象 $N\in\mathcal F$ が存在し、すべての $\omega\in\Omega\setminus N$ で $\mathsf Q(\omega)$ が成り立つとき、 $\mathsf Q$ はほとんど確実に成り立つ (hold almost surely) という。命題が成り立つ点の集合 $E=\{\omega\in\Omega\mid\mathsf Q(\omega)\}$ 自体が可測である場合には、この条件は $P(E)=1$ と同値である。

零事象は空集合とは限らない。ほとんど確実に成り立つ命題は、すべての標本点で成り立つ命題とも異なる。この区別は、連続モデルで一点の確率が $0$ になる例に現れる。

2 確率測度の基本性質

命題 2.1. $(\Omega,\mathcal F,P)$ を確率空間とし、 $A,B,A_1,A_2,\ldots\in\mathcal F$ とする。このとき、次の性質が成り立つ。

$P(\emptyset)=0$ であり、 $0\leq P(A)\leq1$ である。
$P(\Omega\setminus A)=1-P(A)$ である。
$A\subseteq B$ ならば $P(A)\leq P(B)$ である。
$A\subseteq B$ ならば $P(B\setminus A)=P(B)-P(A)$ である。
$P(A\cup B)=P(A)+P(B)-P(A\cap B)$ である。
可算劣加法性 $P\left(\bigcup_{n=1}^{\infty}A_n\right) \leq\sum_{n=1}^{\infty}P(A_n)$ が成り立つ。右辺は $\infty$ を許す。
$A_1\subseteq A_2\subseteq\cdots$ ならば、 $P\left(\bigcup_{n=1}^{\infty}A_n\right)=\lim_{n\to\infty}P(A_n)$ が成り立つ。下からの連続性には有限性の仮定を要しない。
$A_1\supseteq A_2\supseteq\cdots$ かつ $P(A_1)<\infty$ ならば、 $P\left(\bigcap_{n=1}^{\infty}A_n\right)=\lim_{n\to\infty}P(A_n)$ が成り立つ。確率空間では $P(A_1)\leq1$ なので有限性の仮定は自動的に満たされる。

証明.(1)を示す。 $P$ は測度なので $P(\emptyset)=0$ である。最初に有限加法性を測度の可算加法性から導く。二つずつ交わらない有限列 $E_1,\ldots,E_m\in\mathcal F$ に対して、 $n>m$ では $E_n=\emptyset$ と定める。測度の可算加法性と $P(\emptyset)=0$ から

P\left(\bigsqcup_{n=1}^{m}E_n\right) =P\left(\bigsqcup_{n=1}^{\infty}E_n\right) =\sum_{n=1}^{\infty}P(E_n) =\sum_{n=1}^{m}P(E_n)

である。

(2)を示す。 $\Omega=A\sqcup(\Omega\setminus A)$ と、上で導いた有限加法性から

1=P(\Omega)=P(A)+P(\Omega\setminus A)

であり、主張を得る。(3)と(4)を示す。 $A\subseteq B$ ならば $B=A\sqcup(B\setminus A)$ なので

P(B)=P(A)+P(B\setminus A)\geq P(A)

である。最初の主張を得て、同じ等式から、すべての項が有限であるため後の主張も得られる。 $P$ の値は非負であり、 $A\subseteq\Omega$ であるから、(3)により $0\leq P(A)\leq P(\Omega)=1$ となり、(1)の残りも得られる。

(5)を示す。 $A\cup B=A\sqcup(B\setminus A)$ と $B=(A\cap B)\sqcup(B\setminus A)$ から

P(A\cup B)=P(A)+P(B\setminus A) =P(A)+P(B)-P(A\cap B)

であり、主張を得る。

(6)を示す。可算劣加法性を示すため、

C_1=A_1,\qquad C_n=A_n\setminus\bigcup_{k=1}^{n-1}A_k\quad(n\geq2)

とおく。 $C_n$ は二つずつ交わらず、 $C_n\subseteq A_n$ であり、 $\bigcup_nC_n=\bigcup_nA_n$ である。可算加法性と単調性から

P\left(\bigcup_nA_n\right)=\sum_nP(C_n)\leq\sum_nP(A_n)

を得る。非負級数どうしの比較なので、右辺が無限大の場合も成立する。

(7)を示す。 $A_n$ が増加するとする。 $C_1=A_1$ 、 $C_n=A_n\setminus A_{n-1}$ とおけば、 $C_n$ は二つずつ交わらず、

A_n=\bigsqcup_{k=1}^{n}C_k, \qquad \bigcup_nA_n=\bigsqcup_{k=1}^{\infty}C_k

である。したがって、

P\left(\bigcup_nA_n\right)=\sum_{k=1}^{\infty}P(C_k) =\lim_{n\to\infty}\sum_{k=1}^{n}P(C_k) =\lim_{n\to\infty}P(A_n)

である。この証明には、いずれかの $P(A_n)$ が有限であるという仮定を用いていない。

(8)を示す。 $A_n$ が減少し $P(A_1)<\infty$ とする。 $B_n=A_1\setminus A_n$ とおくと $B_n$ は増加し、

\bigcup_nB_n=A_1\setminus\bigcap_nA_n

である。(7)と(4)を用いると、

\begin{aligned} P(A_1)-P\left(\bigcap_nA_n\right) &=P\left(A_1\setminus\bigcap_nA_n\right)\\ &=\lim_{n\to\infty}P(B_n) =\lim_{n\to\infty}\bigl(P(A_1)-P(A_n)\bigr) \end{aligned}

となる。 $P(A_1)<\infty$ なので有限な値を両辺から引くことができ、上からの連続性を得る。▨

上からの連続性で有限性が必要になる向きに注意する。一般の測度空間では、例えば数え上げ測度と $A_n=\{n,n+1,\ldots\}$ に対して $A_n\downarrow\emptyset$ であるにもかかわらず、すべての $n$ で $\mu(A_n)=\infty$ となる。確率空間では全体の測度が $1$ なので、この障害は生じない。

3 有限標本空間のモデル

例 3.1 (有限標本空間上の重み付き確率). $\Omega=\{\omega_1,\ldots,\omega_m\}$ とし、 $p_i\geq0$ および $\sum_{i=1}^{m}p_i=1$ を仮定する。 $\mathcal F=\mathcal P(\Omega)$ とし、

P(A)=\sum_{\omega_i\in A}p_i

と定める。空集合に対する和は $0$ である。互いに交わらない事象列では各標本点が高々一つの事象にしか現れず、標本点は有限個しかないため、和の順序を入れ替えると

P\left(\bigsqcup_{n=1}^{\infty}A_n\right) =\sum_{n=1}^{\infty}P(A_n)

を得る。また、 $P(\Omega)=\sum_ip_i=1$ である。したがって、これは確率空間である。

$p_i=1/m$ の場合には

P(A)=\frac{|A|}{|\Omega|}

となる。「同様に確からしい」という条件は、標本点へ等しい重みを置くというモデルの選択に相当する。

4 連続標本空間のモデル

例 4.1 (有限区間上の一様確率). $a<b$ とし、 $\mathcal L([a,b])$ を $[a,b]$ の Lebesgue 可測集合族、 $\lambda$ を Lebesgue 測度とする。

P(A)=\frac{\lambda(A)}{b-a} \qquad(A\in\mathcal L([a,b]))

と定める。Lebesgue 測度の可算加法性を正の定数 $1/(b-a)$ 倍しているので $P$ は測度であり、

P([a,b])=\frac{b-a}{b-a}=1

である。したがって、 $([a,b],\mathcal L([a,b]),P)$ は確率空間である。

$a\leq c\leq d\leq b$ ならば

P([c,d])=\frac{d-c}{b-a}

である。一方、各 $x\in[a,b]$ について $\lambda(\{x\})=0$ なので $P(\{x\})=0$ である。それでも $P([a,b])=1$ であり、可算加法性は非可算個の一点集合の和に直接適用されないため矛盾しない。

有限一様モデルでは各標本点の確率が正であるが、連続一様モデルでは各一点が零事象である。両者は同じ確率空間の定義を満たすものの、異なる標本空間と確率測度を選んだ異なるモデルである。有限モデルではすべての部分集合を可測とし、連続モデルでは完備な Lebesgue 可測集合族を用いたため、いずれのモデルでも零事象の任意の部分集合が可測である。

5 生成族上の値による確率測度の一意性

確率モデルでは、すべての事象の確率を個別に指定する代わりに、半直線や直方体などの生成族上で値を指定することが多い。次の定理は、生成族上で一致する二つの確率測度が全事象上でも一致することを保証する。

定理 5.1. $\mathcal C$ を $\Omega$ を含む π 系とし、 $\mathcal F=\sigma(\mathcal C)$ とする。 $P_1,P_2$ を $(\Omega,\mathcal F)$ 上の確率測度とする。すべての $C\in\mathcal C$ について $P_1(C)=P_2(C)$ が成り立つならば、すべての $A\in\mathcal F$ について $P_1(A)=P_2(A)$ が成り立つ。

証明. 二つの測度が一致する集合の族を

\mathcal D=\{A\in\mathcal F\mid P_1(A)=P_2(A)\}

とおく。確率測度であるから $P_1(\Omega)=P_2(\Omega)=1$ であり、 $\Omega\in\mathcal D$ である。 $A\in\mathcal D$ ならば

P_1(\Omega\setminus A)=1-P_1(A)=1-P_2(A)=P_2(\Omega\setminus A)

なので、 $\Omega\setminus A\in\mathcal D$ である。二つずつ交わらない $A_1,A_2,\ldots\in\mathcal D$ に対して、可算加法性から

P_1\left(\bigcup_nA_n\right)=\sum_nP_1(A_n) =\sum_nP_2(A_n)=P_2\left(\bigcup_nA_n\right)

であり、 $\bigcup_nA_n\in\mathcal D$ である。したがって、 $\mathcal D$ は Dynkin 系である。

仮定から $\mathcal C\subseteq\mathcal D$ である。π–λ 定理§E9.1 定理 4.8により、 $\mathcal C$ を含む最小の Dynkin 系は $\sigma(\mathcal C)=\mathcal F$ である。ゆえに $\mathcal F\subseteq\mathcal D$ であり、 $P_1=P_2$ を得る。▨

6 演習

問題 6.1.

$A_1,A_2,\ldots$ が互いに交わらない事象であるとき、 $P(\bigcup_{k=n}^{\infty}A_k)\to0$ であることを、上からの連続性を用いて証明せよ。
$\Omega=\{1,2,3,4\}$ とし、 $P(\{i\})=ci$ とする。 $c$ を求め、事象 $A=\{2,4\}$ の確率を計算せよ。また、このモデルが一様モデルでない理由を述べよ。
$[0,1]$ 上の一様確率について、 $A_n=(0,1/n)$ が $A_n\downarrow\emptyset$ を満たし、 $P(A_n)\to0$ となることを確認せよ。減少列の共通部分に $0$ が入らない理由も述べよ。
定理 5.1の証明で、確率測度であることを補集合に対する閉性の証明にどのように用いたかを述べよ。有限測度 $\mu_1,\mu_2$ へ同じ証明を拡張するために、全体の測度について追加すべき仮定を示せ。

7 本記事の境界と次の課題

本記事では、確率空間を固定して事象の確率を扱った。正の確率をもつ事象の内部で確率測度を正規化すると条件付き確率が得られる。標本点を実数へ写して分布を作るためには、可測写像としての確率変数を導入する。本単元後半の記事「確率変数の収束概念」は、確率変数列の収束概念を定義する。その次の記事「Borel–Cantelli の補題と零一法則」は、事象列の上極限・下極限を定義し、無限回発生を判定する補題を証明する。

§E11.1確率空間と確率モデル