1 事象列の上極限と下極限
(Ω,F,P)を確率空間とし、A1,A2,…∈Fとする。
定義 1.1. 事象列(An)の 上極限 (limit superior of events) と 下極限 (limit inferior of events) を、それぞれ
n→∞limsupAn=N=1⋂∞n=N⋃∞An,n→∞liminfAn=N=1⋃∞n=N⋂∞Anと定める。
ω∈limsupnAnであることは、ωが無限個のAnに属することと同値である。ω∈liminfnAnであることは、ある番号以降のすべてのAnにωが属することと同値である。可算和と可算共通部分に対する閉性により、上極限と下極限はいずれもFに属する。
命題 1.2. 任意の事象列(An)に対して
Ω∖(n→∞limsupAn)=n→∞liminf(Ω∖An),Ω∖(n→∞liminfAn)=n→∞limsup(Ω∖An)が成り立つ。
証明. 上極限の定義とド・モルガン則から
Ω∖(N=1⋂∞n=N⋃∞An)=N=1⋃∞n=N⋂∞(Ω∖An)を得る。表示したド・モルガン則による等式が第一の等式である。第二の等式も、下極限の定義へ同じ操作を適用して得られる。▨
例 1.3 (交互に現れる二つの事象).A,B∈Fとし、A2n=A、A2n−1=Bと置く。ωがAまたはBに属すれば、ωは無限個のAnに属するため、
nlimsupAn=A∪Bである。一方、ある番号以降のすべてのAnに属するためにはAとBの両方に属する必要があるので、
nliminfAn=A∩Bである。
2 Borel–Cantelli の補題
第一補題は独立性を仮定しない。証明では、無限回起こる事象を任意の尾部の和事象に含め、確率の級数の尾部によって上から評価する。
定理 2.1 (第一 Borel–Cantelli の補題). 事象列(An)が
n=1∑∞P(An)<∞を満たすならば、
P(n→∞limsupAn)=0である。
証明. 任意のN≥1に対して
n→∞limsupAn⊆n=N⋃∞Anである。確率測度の単調性と可算劣加法性により、
P(n→∞limsupAn)≤P(n=N⋃∞An)≤n=N∑∞P(An)を得る。収束する非負級数の尾部はN→∞で0に収束するため、左辺は0である。▨
第二補題で用いる独立性と、補事象を取る操作との関係を先に確認する。
定義 2.2. 事象族(Ai)i∈Iが 独立 (independent family of events) であるとは、相異なる任意の有限個の添字i1,…,irに対して
P(Ai1∩⋯∩Air)=j=1∏rP(Aij)が成り立つことをいう。
部分シグマ加法族の族(Gi)i∈Iが 独立 (independent family of sigma-algebras) であるとは、相異なる任意の有限個の添字i1,…,irと任意のBj∈Gijに対して
P(B1∩⋯∩Br)=j=1∏rP(Bj)が成り立つことをいう。
補題 2.3.(Ai)i∈Iを独立な事象族とする。相異なる有限個の添字i1,…,irを取り、各jについてBj=AijまたはBj=Ω∖Aijとする。このとき
P(B1∩⋯∩Br)=j=1∏rP(Bj)が成り立つ。したがって、(σ(Ai))i∈Iは独立なシグマ加法族の族である。
証明. 補事象として選んだBjの個数に関する帰納法を用いる。補事象が一つもなければ、等式は事象族の独立性の定義そのものである。少なくとも一つある場合にBr=Ω∖Airとしてよい。C=B1∩⋯∩Br−1と置く。帰納法の仮定を、Cと、C∩Airを表す二つの積に適用すると、
P(C∩(Ω∖Air))=P(C)−P(C∩Air)=j=1∏r−1P(Bj)−P(Air)j=1∏r−1P(Bj)=P(Ω∖Air)j=1∏r−1P(Bj)を得る。上の積の等式によって帰納法が閉じる。
σ(Ai)={∅,Ω,Ai,Ω∖Ai}である。各シグマ加法族から選んだ事象に∅が含まれる場合は両辺が0であり、それ以外は上で示した等式またはΩの因子を除いた等式になる。したがって、(σ(Ai))i∈Iは独立である。▨
第二補題の証明方針は、ある番号以降に一度もAnが起こらない確率を有限積で評価することである。独立性によって有限積へ分解し、確率の級数の発散によってその積を0へ収束させる。
定理 2.4 (第二 Borel–Cantelli の補題). 事象列(An)が独立であり、
n=1∑∞P(An)=∞を満たすならば、
P(n→∞limsupAn)=1である。
証明.N≤Mに対して、補題 2.3から
P(n=N⋂M(Ω∖An))=n=N∏M(1−P(An))である。x≥0に対して1−x≤e−xである。実際、h(x)=e−x−(1−x)と置けばh(0)=0かつh′(x)=1−e−x≥0である。したがって、
P(n=N⋂M(Ω∖An))≤exp(−n=N∑MP(An)).仮定した級数は発散するため、固定したNに対して右辺はM→∞で0に収束する。
事象⋂n=NM(Ω∖An)はMについて減少し、その共通部分は⋂n=N∞(Ω∖An)である。確率測度は有限測度なので、測度の上からの連続性§E9.2 定理 4.1を適用して
P(n=N⋂∞(Ω∖An))=0を得る。上極限の補集合は
Ω∖(n→∞limsupAn)=N=1⋃∞n=N⋂∞(Ω∖An)である。右辺は確率零の事象の可算和であるから、その確率は0である。ゆえに上極限の確率は1である。▨
独立性を除くと第二補題は成立しない。
例 2.5 (独立性を欠く事象列).0<P(A)<1である一つの事象を取り、すべてのnについてAn=Aと置けば、∑nP(An)=∞であるが、P(limsupnAn)=P(A)<1である。
例 2.6 (Lebesgue 確率空間上の独立な二進事象).Ω=[0,1)に Lebesgue 確率測度を入れ、n≥1に対して
An=k=0⋃2n−1−1[2n2k+1,2n2k+2)と置く。二進有理数では、有限二進展開の後を0で埋める表現を採用する。この規約の下で、Anは二進展開の第n桁が1である点に対応し、P(An)=1/2である。
n1<⋯<nrとする。長さ2−nrの半開区間による[0,1)の分割を考えると、指定したr個の桁がすべて1である区間は2nr−r個ある。したがって、
P(An1∩⋯∩Anr)=2nr−r2−nr=2−r=j=1∏rP(Anj)であり、(An)は独立である。∑nP(An)=∞なので、第二 Borel–Cantelli の補題により、
Lebesgue ほとんどすべてのx∈[0,1)について二進展開の桁1が無限回現れる。
3 確率収束からほとんど確実な収束部分列を取る
第一 Borel–Cantelli の補題は、確率収束に含まれる確率評価を、適切に選んだ部分列上で標本点ごとの収束へ変換する。
定理 3.1.XnPXならば、狭義単調増加する正の整数列(nk)が存在して
Xnka.s.Xとなる。
証明. 確率収束の定義§E11.12 定義 1.2により、各k≥1について十分大きなnでは
P(∣Xn−X∣>1/k)≤2−kである。n0=0とし、この不等式を満たすn>nk−1のうち最小のものをnkと定める。すると、
k=1∑∞P(∣Xnk−X∣>1/k)≤k=1∑∞2−k<∞である。第一 Borel–Cantelli の補題を事象Bk={∣Xnk−X∣>1/k}に適用すると、確率1の集合上でBkが起こるのは有限回だけである。したがって、その集合の各ωについて、十分大きなkでは
∣Xnk(ω)−X(ω)∣≤1/kである。ゆえにXnk(ω)→X(ω)であり、主張を得る。▨
4 独立な有限ブロック
Kolmogorov の零一法則を証明するには、個々のシグマ加法族の独立性から、それらを有限個ずつまとめて生成したシグマ加法族の独立性を導く必要がある。生成後の任意の事象へ等式を拡張するため、π–λ 定理を各ブロックへ順に適用する。
シグマ加法族の族(Gi)i∈IとJ⊆Iに対して、
i∈J⋁Gi=σ(i∈J⋃Gi)
と書く。
補題 4.1.(Gi)i∈Iを独立なシグマ加法族の族とする。I1,…,Ir⊆Iを、二つずつ交わらない空でない有限集合とする。このとき、
Hj=i∈Ij⋁Gi(1≤j≤r)によって定まる(Hj)1≤j≤rは独立である。
証明. 各jについて
Pj=⎩⎨⎧i∈Ij⋂BiBi∈Gi⎭⎬⎫と置く。各PjはΩを含む π 系である。また、一つのBi以外をすべてΩと選ぶことによりGi⊆Pjとなるので、σ(Pj)=Hjである。
Cj=⋂i∈IjBi∈Pjとする。元のシグマ加法族の族の独立性とIjの互いに素なことから、
P(j=1⋂rCj)=j=1∏ri∈Ij∏P(Bi)=j=1∏rP(Cj)が成り立つ。ここから各CjをHjの任意の事象へ順に拡張する。
最初のk−1個の座標ではHjの任意の事象を許し、残りの座標ではPjの事象を取る場合に積公式が成り立つと仮定する。最初はk=1であり、上の計算がこの仮定を与える。D1∈H1,…,Dk−1∈Hk−1とCk+1∈Pk+1,…,Cr∈Prを固定し、積公式が成り立つB∈Hk全体をLkとする。
帰納法の仮定をB=Ω∈Pkに適用するとΩ∈Lkである。B∈Lkならば、Bの場合の等式をΩの場合の等式から引くことにより、Ω∖B∈Lkを得る。二つずつ交わらないB1,B2,…∈Lkに対しては、確率測度の可算加法性を両辺へ適用することにより⋃nBn∈Lkを得る。したがってLkは Dynkin 系である。帰納法の仮定からPk⊆Lkであるため、
π–λ 定理§E9.1 定理 4.8によりHk⊆Lkとなる。
この操作をk=1,…,rの順に繰り返すと、任意のDj∈Hjに対して
P(D1∩⋯∩Dr)=j=1∏rP(Dj)を得る。したがって(Hj)1≤j≤rは独立である。▨
5 末尾シグマ加法族と Kolmogorov の零一法則
(Gn)n≥1を独立な部分シグマ加法族列とする。m≥1に対して
Fm=n=1⋁mGn,Hm=n=m⋁∞Gn
と置く。
定義 5.1.
T=m=1⋂∞Hmを(Gn)の 末尾シグマ加法族 (tail sigma-algebra) という。A∈Tである事象を 末尾事象 (tail event) という。
末尾事象は、どの有限個の初項を除いても残りのシグマ加法族だけで判定することができる事象である。
補題 5.2. 任意のm≥1に対して、FmとHm+1は独立である。したがって、末尾シグマ加法族TとFmも独立である。
証明.
P>m=⎩⎨⎧j∈J⋂BjJ⊆{m+1,m+2,…} は有限, Bj∈Gj⎭⎬⎫と置き、J=∅のときの共通部分をΩとする。P>mは π 系であり、各Gjを含む。実際、二つの有限共通部分を交わすと、添字集合の和集合上で同じ添字に属する二事象を交わした有限共通部分になる。したがって、σ(P>m)=Hm+1である。
C∈P>mを固定し、Cに現れる添字全体をJとする。J=∅の場合にはC=Ωなので、任意のB∈Fmに対してP(B∩C)=P(B)=P(B)P(C)である。J=∅の場合、補題 4.1を有限ブロック{1,…,m}とJに適用すると、任意のB∈Fmに対して
P(B∩C)=P(B)P(C)を得る。
B∈Fmを固定し、上の等式を満たすC∈Hm+1全体をLBとする。P(B∩Ω)=P(B)であるからΩ∈LBである。補集合については
P(B∩(Ω∖C))=P(B)−P(B∩C)=P(B)(1−P(C))であり、二つずつ交わらない可算和については可算加法性を用いることができる。したがってLBは Dynkin 系である。上の有限ブロックの議論からP>m⊆LBなので、π–λ 定理によりHm+1⊆LBである。ゆえにFmとHm+1は独立である。
T⊆Hm+1であるため、Tから選んだ事象についても同じ積公式が成り立つ。したがってTとFmは独立である。▨
零一法則の証明方針は、末尾事象Aを固定し、Aと独立である事象全体が Dynkin 系をなすことを用いることである。その Dynkin 系はすべての有限初項側を含むため、全列が生成するシグマ加法族を含む。末尾事象自身もそのシグマ加法族に属するので、最後にAを自分自身と独立にする。
定理 5.3 (Kolmogorov の零一法則).(Gn)n≥1を独立な部分シグマ加法族列とし、Tをその末尾シグマ加法族とする。任意のA∈Tに対して
P(A)∈{0,1}である。
証明.
F∞=n=1⋁∞Gnと置き、A∈Tを固定する。補題 5.2により、任意のmとB∈Fmに対して
P(A∩B)=P(A)P(B)である。
上の等式を満たすB∈F∞全体をDAとする。前の補題の証明と同じく、Ω、補集合、および二つずつ交わらない可算和について等式を確認すると、DAは Dynkin 系である。(Fm)は増加列なので、⋃m≥1Fmは π 系であり、
σ(m≥1⋃Fm)=F∞である。有限初項側との独立性から⋃mFm⊆DAなので、π–λ 定理によりF∞⊆DAとなる。
A∈T⊆H1=F∞であるから、B=Aを上の等式へ代入することができる。したがって、
P(A)=P(A∩A)=P(A)2である。0≤P(A)≤1なので、P(A)=0またはP(A)=1である。▨
例 5.4 (無限回起こる事象は末尾事象である).An∈Gnとする。任意のmに対して
n→∞limsupAn=N=m⋂∞n=N⋃∞Anであるため、limsupnAn∈Hmである。したがって、limsupnAn∈Tであり、
Kolmogorov の零一法則からその確率は0または1である。事象列が独立ならば、Borel–Cantelli の二つの補題は、確率の級数の収束・発散に応じてこの二値のどちらであるかを決定する。
Kolmogorov の零一法則は独立なシグマ加法族列の末尾事象を対象とする。独立同分布列の置換に不変な事象を対象とする Hewitt–Savage の零一法則は、異なる対称性と追加の証明を必要とするため、本記事では扱わない。
6 演習
問題 6.1.
- 0<P(A)<1とし、An=Aと置く例について、第二 Borel–Cantelli の補題の証明のどの等式が成立しないかを特定せよ。
- XnPXから部分列を選ぶ証明で、閾値1/kと上界2−kを、それぞれ正の数列εk↓0と総和が有限な正の数列akに置き換えても証明が成立することを示せ。
- 補題 4.1の証明で、Lkが補集合について閉じていることと、二つずつ交わらない可算和について閉じていることを、積公式の両辺を明示して確認せよ。