1 確率変数と確率分布
定義 1.1 (確率変数と確率分布). 有限標本空間Ω上の確率変数とは、各結果ω∈Ωに実数X(ω)を対応させる関数です。Xがとりうる値をx1,…,xmとするとき、
pi=P(X=xi)を並べたものをXの確率分布といいます。各pi≥0であり、∑i=1mpi=1が成り立ちます。
2 期待値と分散
定義 2.1 (期待値・分散・標準偏差). 有限個の値x1,…,xmをとる確率変数Xの期待値、分散、標準偏差を
E[X]=i=1∑mxipi,V[X]=E[(X−E[X])2],σX=V[X]と定義します。
期待値は多数回の平均の理論値ですが、一回の試行で実際に得る値とは限りません。公平な六面体サイコロの期待値は3.5ですが、一回で3.5の目は出ません。
証明.(X−E[X])2=X2−2E[X]X+E[X]2の期待値を取り、定数E[X]を用いて整理すると公式を得ます。▨
3 期待値の線形性
定理 3.1 (期待値の線形性). 同じ有限標本空間上の確率変数X,Yと実数a,bについて、
E[aX+bY]=aE[X]+bE[Y]が成り立ちます。X,Yの独立性は仮定しません。
証明.X=xi,Y=yjとなる同時確率をpijとすると、
E[aX+bY]=i,j∑(axi+byj)pij.和を分け、∑jpij=P(X=xi)と∑ipij=P(Y=yj)を用いると結論を得ます。▨
4 共分散と分散の加法性
定義 4.1 (共分散). 有限個の値をとる確率変数X,Yの共分散を
Cov(X,Y)=E[(X−E[X])(Y−E[Y])]と定義します。
証明.(X+Y−E[X+Y])2を展開し、期待値の線形性を用いると公式を得ます。▨
定義 4.3 (確率変数の独立). 有限個の値をとる確率変数X,Yが、すべての実数x,yについて
P(X=x,Y=y)=P(X=x)P(Y=y)を満たすとき、XとYは独立であるといいます。
定理 4.4 (独立な確率変数の共分散).X,Yが独立で、有限個の値をとるならば、Cov(X,Y)=0です。
証明. 独立性から同時確率が積に分かれるのでE[XY]=E[X]E[Y]です。共分散をE[XY]−E[X]E[Y]と書けば0になります。▨
独立性は分散の加法性の十分条件ですが、必要条件ではありません。
例 4.6 (表を1、裏を0とする確率変数). 表の確率がpである硬貨について、表ならばX=1、裏ならばX=0とします。このとき
E[X]=p,V[X]=p(1−p)です。
5 演習
- P(X=0)=1/4、P(X=2)=3/4のとき、期待値と分散を求めます。
- V[X+Y]=V[X]+V[Y]が成り立つために、独立性が必要条件ではない理由を説明します。
- 期待値の線形性の証明で独立性を使わない箇所を、同時分布の和から確認します。
1の答えはE[X]=3/2、V[X]=3/4です。2では共分散が0であれば十分であり、上のY=X2の例は独立でない反例です。3では同時確率の和をXの周辺確率とYの周辺確率へ分けるだけであり、pijを積へ分解していません。