大数の法則
出典: フリー百科事典『ウィキペディア(Wikipedia)』
大数の法則(たいすうのほうそく、law of large numbers)とは、1713年にヤコブ・ベルヌーイによって確立された、確率論・統計学における極限定理の一つで、「経験的確率と理論的確率が一致する」 という、素朴な意味での確率を意味付け、定義付ける法則である。
厳密には大数の強法則(SLLN: Strong Law of Large Numbers)と大数の弱法則(WLLN: Weak Law of Large Numbers)とに分けられる。通常は後者を指すことが多い。前者は数学的収束に近い概念である。
目次 |
[編集] 概要
ある試行において事象が起きる確率(数学的確率、理論的確率などともいう)が p であり、その試行は、繰り返し行ったとしてもある回の試行が他の回の試行に影響を及ぼすことがない(独立試行)ものとする。このような前提条件の下で、その事象が起きる比率が試行回数を増やすにつれて近づく値(統計的確率あるいは経験的確率)は p である。つまり、各回の試行において各事象の起こる確率というものが、試行回数を重ねることで、各事象の出現回数によって捉えられるというのが大数の法則の主張するところである。
例えば「コイン投げ」、つまりゆがみも偏りもない "理想的なコイン" を投げて出る表裏を当てるゲームを行うとする。ここで、"理想的なコイン" とは「それを投げるとき、各回の試行において表が出る確率も裏が出る確率もともに 1/2 である」という確率モデルそのもののことである。このとき、コイン投げの試行回数を限りなく増やせば、表が出る回数と裏が出る回数の比率はどちらも 1/2 に近づく。実際にコイン投げをしたとき、(微視的に)一部分だけ見たときには出方が偏って見えることがあったとしても、全体として(巨視的に)見れば、試行結果というものは各事象の起きる確率によって支配されているのだ、ということもできる。
試行の回数を時刻と見たとき、時刻無限大の極限において時間平均が相平均に一致するという意味で、エルゴード理論の最も単純な数学的定式化(エルゴード定理)のうちの一つであると言える。
[編集] 数学的定式化
期待値 μ であるような可積分独立同分布確率変数列 X1, X2, ... の平均
のとる値は、十分大きな n まで考えれば、ほとんどの n でおおよそ μ である([Xn] が μ から大きく外れるような n の現れる確率は十分大きな n まで考えれば 0 に近づく):
これを大数の弱法則という。また同じ条件下で、n → ∞ とするとき、[Xn] は μ にほとんど確実に(almost surely, 確率 1 で)収束する:
これを大数の強法則という。
[編集] 例
サイコロを繰り返し投げるとき、n 回目に出た目を Xn とする。各Xn は 1 ~ 6 の整数値をそれぞれ 1/6 の確率でとり、その期待値は 3.5 である。また、確率変数列の平均 [Xn] の値は n → ∞ とすれば 3.5 に集中する。このことから n が十分大きければ Xn はそれぞれの値を等しい比率でとり、たとえば 6 回に 1 回の割合で 1 が現れるということがわかる。
[編集] 関連項目
- チェビシェフの不等式
- 中心極限定理
- エルゴード理論、エルゴード定理
- ポアソン分布 - 少数の法則