1 離散分布
次の級数公式を計算に用いる。
補題 1.1.0≤q<1に対して、
k=0∑∞qk=1−q1,k=0∑∞kqk=(1−q)2q,k=0∑∞k2qk=(1−q)3q(1+q)が成り立つ。
証明. 冪級数∑k≥0qkは∣q∣<1で絶対収束し、その収束半径の内部では§D1.23 定理 4.3によって項別微分が成り立つ。1/(1−q)を一度微分してqを掛けると第二式を得る。第二式を微分して再びqを掛けると第三式を得る。▨
定義 1.2.p∈[0,1]とする。P(X=1)=p、P(X=0)=1−pである分布を Bernoulli 分布Bern(p) (Bernoulli distribution) という。n∈{0,1,2,…}に対して、
P(X=k)=(kn)pk(1−p)n−k(0≤k≤n)である分布を二項分布Bin(n,p) (binomial distribution) という。端点を含む式では00=1と約束する。
命題 1.3.X∼Bern(p)ならばE[X]=p、Var(X)=p(1−p)である。X∼Bin(n,p)ならばE[X]=np,Var(X)=np(1−p)である。
証明. Bernoulli 分布では、二点上の和を計算すると
E[X]=0(1−p)+1p=p,E[X2]=02(1−p)+12p=pである。したがって、
Var(X)=E[X2]−E[X]2=p−p2=p(1−p)となる。
二項定理により二項分布の確率の総和は(p+1−p)n=1である。k(kn)=n(k−1n−1)とk(k−1)(kn)=n(n−1)(k−2n−2)を用いると、E[X]=np,E[X(X−1)]=n(n−1)p2.したがってE[X2]=n(n−1)p2+npであり、E[X2]−E[X]2=np(1−p)となる。端点n=0,1でも同じ式が直接成り立つ。▨
定義 1.4.p∈(0,1]とし、q=1−pとする。P(X=k)=pqk(k=0,1,2,…)である分布を幾何分布Geom(p) (geometric distribution) という。Xは最初の成功より前の失敗回数を表すため、値は0から始まる。
λ>0に対して、P(X=k)=e−λk!λk(k=0,1,2,…)である分布を Poisson 分布Pois(λ) (Poisson distribution) という。
命題 1.5.X∼Geom(p)ならばE[X]=p1−p,Var(X)=p21−p.X∼Pois(λ)ならばE[X]=λ,Var(X)=λ.
証明. 幾何級数により幾何分布は規格化される。補題 1.1からE[X]=p(1−q)2q=pq,E[X2]=p(1−q)3q(1+q)=p2q(1+q)であるから、分散はq/p2である。
指数関数の級数により Poisson 分布の総質量はe−λeλ=1である。添字をずらすとE[X]=λ,E[X(X−1)]=λ2.したがってE[X2]=λ2+λであり、分散はλである。▨
定理 1.6.X∼Geom(p)とし、m,n∈{0,1,2,…}およびP(X≥m)>0を仮定する。このときP(X≥m+n∣X≥m)=P(X≥n)が成り立つ。
証明.P(X≥r)=∑k=r∞pqk=qrである。仮定によりqm>0であるから、条件付き確率の定義から比はqm+n/qm=qnとなる。▨
2 絶対連続分布
証明. 密度の積分はいずれも1である。一様分布ではxとx2を[a,b]上で積分すると、E[X]=2a+b,E[X2]=3a2+ab+b2を得る。差を取れば分散の式が従う。
指数分布では、xme−λx→0(x→∞)と部分積分により、E[X]=∫0∞xλe−λxdx=λ1,E[X2]=λ22.したがって分散は1/λ2である。▨
定理 2.3.X∼Exp(λ)とし、s,t≥0とする。このときP(X>s+t∣X>s)=P(X>t)が成り立つ。
証明.u≥0に対してP(X>u)=∫u∞λe−λxdx=e−λuである。条件事象の確率は正であるから、条件付き確率の定義により左辺はe−λ(s+t)/e−λs=e−λtとなる。▨
定義 2.4.μ∈R、σ>0とする。密度f(x)=2πσ1exp(−2σ2(x−μ)2)をもつ分布を正規分布N(μ,σ2) (normal distribution) という。
命題 2.5. 正規分布の密度の積分は1であり、X∼N(μ,σ2)ならばE[X]=μ,Var(X)=σ2.
証明. Gaussian 積分§E4.14 例 3.2と有限区間上の Riemann 積分と Lebesgue 積分の一致§E9.9 系 5.2を用いる。区間を実数全体へ増加させ、単調収束定理§E9.7 定理 1.1を適用すると、∫Re−u2/2du=2πを得る。有限区間でu=(x−μ)/σと置換し、区間を増加させて単調収束定理を適用すると、密度の積分は1である。
ϕ(u)=(2π)−1/2e−u2/2と置く。有限区間上で積分し、単調収束定理を適用すると、
∫R∣u∣ϕ(u)du=2R→∞lim∫0Ruϕ(u)du=2π2<∞.したがってE[∣X∣]≤∣μ∣+σ∫R∣u∣ϕ(u)du<∞であり、一階積率を定義することができる。奇関数uϕ(u)の対称区間上の積分からE[X]=μを得る。さらに、[−R,R]上の部分積分により
∫−RRu2ϕ(u)du=−2Rϕ(R)+∫−RRϕ(u)du.Rϕ(R)→0であり、左辺に単調収束定理を適用すると、∫Ru2ϕ(u)du=1である。よってE[(X−μ)2]=σ2となる。▨
3 演習
問題 3.1.
- 二項分布についてE[X(X−1)]を確率質量関数から計算し、分散の公式を証明せよ。
- X∼Geom(p)とP(X≥m)>0に対してP(X=k+m∣X≥m)=P(X=k)を証明せよ。
- X∼N(μ,σ2)とa=0に対して、aX+bの密度を求めよ。
4 扱った範囲と次の記事
本記事では七つの基本分布を定義し、その規格化、期待値、分散を求めた。また、幾何分布と指数分布の無記憶性を証明した。次の記事では、複数の確率変数を確率ベクトルとしてまとめ、同時分布と周辺分布を扱う。