コンテンツにスキップ

「分散 (確率論)」の版間の差分

出典: フリー百科事典『ウィキペディア(Wikipedia)』
削除された内容 追加された内容
標本分散・不偏標本分散: セクションリンクの誤字修正
タグ: モバイル編集 モバイルウェブ編集 改良版モバイル編集
m 標本分散・不偏標本分散: 視認性向上のため括弧の大きさを変更
 
(4人の利用者による、間の6版が非表示)
1行目: 1行目:
{{Expand English|Variance|date=2024年5月}}
[[数学]]の[[統計学]]における'''分散'''(ぶんさん、{{lang-en-short|variance}})とは、[[データ]]([[母集団]]、[[標本 (統計学)|標本]])、[[確率変数]]([[確率分布]])の[[標準偏差]]の[[自乗]]のことである。分散も標準偏差と同様に[[統計的ばらつき|散らばり具合]]を表し{{sfn|西岡|2013|loc={{google books quote|id=AUY2AgAAQBAJ|page=16|1.8 分散}}}}、標準偏差より分散の方が計算が簡単なため、計算する上で分散を用いることも多い。
[[数学]]の[[統計学]]における'''分散'''(ぶんさん、{{lang-en-short|variance}})とは、[[データ]]([[母集団]]、[[標本 (統計学)|標本]])、[[確率変数]]([[確率分布]])の[[標準偏差]]の[[自乗]]のことである。分散も標準偏差と同様に[[統計的ばらつき|散らばり具合]]を表し{{sfn|西岡|2013|loc={{google books quote|id=AUY2AgAAQBAJ|page=16|1.8 分散}}}}、標準偏差より分散の方が計算が簡単なため、計算する上で分散を用いることも多い。


37行目: 38行目:


[[チェビシェフの不等式]]から、任意の[[正の数]] {{mvar|ε}} に対して
[[チェビシェフの不等式]]から、任意の[[正の数]] {{mvar|ε}} に対して
:<math>P(|X-E[X]|>\varepsilon) \leq \frac{V(X)}{\varepsilon^2}</math>
:<math>P(|X-E[X]|>\varepsilon) \leq \frac{V[X]}{\varepsilon^2}</math>
が成り立つ。これは分散が小さくなるほど確率変数が期待値に近い値をとりやすくなることを示す大まかな[[不等式#種類と意味|評価]]である。
が成り立つ。これは分散が小さくなるほど確率変数が期待値に近い値をとりやすくなることを示す大まかな[[不等式#種類と意味|評価]]である。


43行目: 44行目:
{{math2|''X'', ''X''{{sub|1}}, …, ''X{{sub|n}}''}} を[[確率変数]]、{{math2|''a'', ''b'', ''a''{{sub|1}}, …, ''a{{sub|n}}''}} を[[定数]]とし、[[共分散]]を {{math|Cov[ &middot; , &middot; ]}} で表すと
{{math2|''X'', ''X''{{sub|1}}, …, ''X{{sub|n}}''}} を[[確率変数]]、{{math2|''a'', ''b'', ''a''{{sub|1}}, …, ''a{{sub|n}}''}} を[[定数]]とし、[[共分散]]を {{math|Cov[ &middot; , &middot; ]}} で表すと
*<math>V[X] \ge 0</math>(非負性)
*<math>V[X] \ge 0</math>(非負性)
*<math>V[X+b] = V(X)</math>({{仮リンク|位置母数|en|location parameter}}に対する不変性)
*<math>V[X+b] = V[X]</math>({{仮リンク|位置母数|en|location parameter}}に対する不変性)
*<math>V[aX] = a^2 V(X)</math>([[斉次函数|斉次性]])
*<math>V[aX] = a^2 V[X]</math>([[斉次函数|斉次性]])
*<math>V \bigl[ \textstyle\sum\limits_i a_i X_i \bigr] = \sum\limits_{i,j} a_i a_j \operatorname{Cov} [X_i, X_j]</math>
*<math>V \bigl[ \textstyle\sum\limits_i a_i X_i \bigr] = \sum\limits_{i,j} a_i a_j \operatorname{Cov} [X_i, X_j]</math>
を満たす。したがって、特に {{math2|''X''{{sub|1}}, …, ''X{{sub|n}}''}} が[[独立 (確率論)|独立]]ならば、
を満たす。したがって、特に {{math2|''X''{{sub|1}}, …, ''X{{sub|n}}''}} が[[独立 (確率論)|独立]]ならば、
:<math>\operatorname{Cov}[X_i, X_j] = \begin{cases}
:<math>\operatorname{Cov}[X_i, X_j] = \begin{cases}
V(X_i) &(i=j) \\
V[X_i] &(i=j) \\
0 &(i \neq j)
0 &(i \neq j)
\end{cases}</math>
\end{cases}</math>
56行目: 57行目:


=== 例 ===
=== 例 ===
* [[確率変数]] {{mvar|X}} が[[一様分布]] {{math|''U''(''a'', ''b'')}} に従うとき、{{math2|1=''V''(''X'') = {{sfrac|(''b'' &minus; ''a''){{sup|2}}|12}}}}
* [[確率変数]] {{mvar|X}} が[[一様分布]] {{math|''U''(''a'', ''b'')}} に従うとき、{{math2|1=''V''[''X''] = {{sfrac|(''b'' &minus; ''a''){{sup|2}}|12}}}}
* 確率変数 {{mvar|X}} が[[正規分布]] {{math|''N''(''μ'', ''σ''{{sup|2}})}} に従うとき、{{math2|1=''V''(''X'') = ''σ''{{sup|2}}}}
* 確率変数 {{mvar|X}} が[[正規分布]] {{math|''N''(''μ'', ''σ''{{sup|2}})}} に従うとき、{{math2|1=''V''[''X''] = ''σ''{{sup|2}}}}
* 確率変数 {{mvar|X}} が[[二項分布]] {{math|''B''(''n'', ''p'')}} に従うとき、{{math2|1=''V''(''X'') = ''np''(1 &minus; ''p'')}}
* 確率変数 {{mvar|X}} が[[二項分布]] {{math|''B''(''n'', ''p'')}} に従うとき、{{math2|1=''V''[''X''] = ''np''(1 &minus; ''p'')}}
* 確率変数 {{mvar|X}} が[[ポアソン分布]] {{math|Po(''λ'')}} に従うとき、{{math|1=''V''(''X'') = ''λ''}}
* 確率変数 {{mvar|X}} が[[ポアソン分布]] {{math|Po(''λ'')}} に従うとき、{{math|1=''V''[''X''] = ''λ''}}


== データの分散 ==
== データの分散 ==
70行目: 71行目:


=== 標本分散・不偏標本分散 ===
=== 標本分散・不偏標本分散 ===
大きさが {{mvar|n}} である[[標本 (統計学)|標本]] {{math2|''x''{{sub|1}}, ''x''{{sub|2}}, …, ''x{{sub|n}}''}} に対して、[[算術平均|平均値]]を {{math|{{overline|''x''}}}} で表すとき、[[偏差]]の[[自乗]]の平均値
母集団の平均が<math>\mu</math>、分散が<math>\sigma^2</math>のとき、大きさが {{mvar|n}} である[[標本 (統計学)|標本]] {{math2|''x''{{sub|1}}, ''x''{{sub|2}}, …, ''x{{sub|n}}''}} に対して、標本の[[算術平均|平均値]]を {{math|{{overline|''x''}}}} で表すとき、[[偏差]]の[[自乗]]の平均値
:<math>s^2 =\frac{1}{n} \textstyle\sum\limits_{i=1}^n (x_i - \bar{x})^2</math>
:<math>s^2 =\frac{1}{n} \textstyle\sum\limits_{i=1}^n (x_i - \bar{x})^2</math>
で定義される {{math|''s''{{sup|2}}}} を'''標本分散'''(ひょうほんぶんさん、{{lang-en-short|sample variance}})と言う。{{mvar|s}} は[[標準偏差]]と呼ばれる<ref name="K" />。
で定義される {{math|''s''{{sup|2}}}} を'''標本分散'''(ひょうほんぶんさん、{{lang-en-short|sample variance}})と言う。{{mvar|s}} は[[標準偏差]]と呼ばれる<ref name="K" />。
76行目: 77行目:
[[定義]]より、
[[定義]]より、
:<math>s^2 =\frac{1}{n} \textstyle\sum\limits_{i=1}^n {x_i}^2 -(\bar{x})^2 =\overline{x^2}-(\bar{x})^2</math>
:<math>s^2 =\frac{1}{n} \textstyle\sum\limits_{i=1}^n {x_i}^2 -(\bar{x})^2 =\overline{x^2}-(\bar{x})^2</math>
となるから、標本分散は2乗の[[算術平均|平均値]]と平均値の2乗との差に等しい。ただし、この計算では概して二乗平均が巨大になるため、[[浮動小数点数]]による[[近似]]計算を行う場合には大きな[[誤差#丸め誤差|丸め誤差]]が生じる可能性がある([[誤差#桁落ち|桁落ち]])。このため、浮動小数点数を扱う場合には定義に従って偏差の二乗和を計算することが一般的である(あるいは一般の[[総和]]計算と同じく[[カハンの加算アルゴリズム]]や{{仮リンク|pairwise summation|en|pairwise summation}}のような手法により、誤差を小さくする工夫がなされることもある)。
となるから、標本分散は2乗の[[算術平均|平均値]]と平均値の2乗との差に等しい。ただし、この計算では概して二乗平均が巨大になるため、[[浮動小数点数]]による[[近似]]計算を行う場合には[[誤差#桁落ち|桁落ち]]が起きる可能性がある。このため、浮動小数点数を扱う場合には定義に従って偏差の二乗和を計算することが一般的である(あるいは一般の[[総和]]計算と同じく[[カハンの加算アルゴリズム]]や{{仮リンク|pairwise summation|en|pairwise summation}}のような手法により、誤差を小さくする工夫がなされることもある)。


一般に、標本分散の平均値は[[#母分散|母分散]]より少し小さくなる。実際には、平均と分散を持つ同一分布からの[[無作為標本]]に対して、標本分散の期待値 {{math|''E''[''s''{{sup|2}}]}} について、
一般に、標本分散の期待値は[[#母分散|母分散]]と一致せず、母分散より小さくなる。これは、母分散は「母平均との偏差」で算出されるのに対し、標本分散では「標本平均との偏差」で算出されることに原因がある。実際には、平均と分散を持つ同一分布からの[[無作為標本]]に対して、標本分散の期待値 {{math|''E''[''s''{{sup|2}}]}} について、
:<math>E[s^2] = \left( 1-\frac{1}{n} \right) \sigma^2</math>
:<math>E[s^2] = E\left[\frac{1}{n}\sum_{i=1}^n(x_i-\bar{x})^2\right]= E\left[\frac{1}{n}\sum_{i=1}^n(x_i-\mu-(\bar{x}-\mu))^2\right] </math>
:<math>= \frac{1}{n}E\left[\sum_{i=1}^n\left(x_i-\mu-\frac{1}{n}\sum_{j=1}^n (x_j-\mu)\right)^2\right]</math>
が成り立つ。そこで
:<math>\hat{\sigma}^2 =\frac{1}{n-1} \textstyle\sum\limits_{i=1}^n (x_i - \bar{x})^2 =\dfrac{1}{n-1} \sum\limits_{i=1}^n {x_i}^2 - \dfrac{n}{n-1} \bar{x}^2</math>
:<math>= \frac{1}{n}E\left[\sum_{i=1}^n\left(\frac{n-1}{n}(x_i-\mu)-\frac{1}{n}\sum_{j\ne i} (x_j-\mu)\right)^2\right]</math>
:<math>= \frac{1}{n}\sum_{i=1}^n E\left[\frac{(n-1)^2}{n^2}(x_i-\mu)^2+\frac{1}{n^2}\sum_{j\ne i} (x_j-\mu)^2\right]</math>
を用いると、平均値が母分散に等しくなる[[推定量]]が得られる。つまり母分散の[[偏り#推定量の偏り|不偏推定量]]となる。これを'''不偏標本分散'''(ふへんひょうほんぶんさん、{{lang-en-short|unbiased sample variance}})や'''不偏分散'''(ふへんぶんさん、{{lang-en-short|unbiased variance}})と呼ぶ<ref name="K" />。
::<math>+\frac{1}{n}\sum_{i=1}^n E\left[-\frac{2(n-1)}{n^2}(x_i-\mu)\sum_{j\ne i} (x_j-\mu)+\frac{1}{n^2}\sum_{j\ne i}\sum_{k\ne i,j}(x_j-\mu)(x_k-\mu)\right]</math>
:<math>= \frac{1}{n}\sum_{i=1}^n \left[\frac{(n-1)^2}{n^2}E[(x_i-\mu)^2]+\frac{1}{n^2}\sum_{j\ne i} E[(x_j-\mu)^2]\right]</math>
::<math>+\frac{1}{n}\sum_{i=1}^n \left[-\frac{2(n-1)}{n^2}E\left[(x_i-\mu)\sum_{j\ne i} (x_j-\mu)\right]
+\frac{1}{n^2}\sum_{j\ne i}\sum_{k\ne i,j}E[(x_j-\mu)(x_k-\mu)]\right]</math>
ここで、
:<math>E[(x_i-\mu)^2]=E[(x_j-\mu)^2]=\sigma^2</math>
:<math>x_i</math>、<math>x_j</math>、<math>x_k</math>は独立のため、
:<math>E\left[(x_i-\mu)\sum_{j\ne i} (x_j-\mu)\right]=E[x_i-\mu]E\left[\sum_{j\ne i} (x_j-\mu)\right]=0</math>
:<math>E[(x_j-\mu)(x_k-\mu)]=E[x_j-\mu]E[x_k-\mu]=0</math>
となるため、
:<math>E[s^2] =\frac{1}{n}\sum_{i=1}^n (\frac{(n-1)^2}{n^2}\sigma^2+\frac{n-1}{n^2}\sigma^2)=\frac{n-1}{n}\sigma^2</math>
が成り立つ。

そこで
:<math>\hat{\sigma}^2 =\frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2 =\frac{n}{n-1}s^2</math>
を用いると、
:<math>E\left[\frac{1}{n-1}\sum_1^n(x_i-\bar{x})^2\right]=\sigma^2</math>
なり期待値が母分散に等しくなる[[推定量]]が得られる。つまり母分散の[[偏り#推定量の偏り|不偏推定量]]となる。これを'''不偏標本分散'''(ふへんひょうほんぶんさん、{{lang-en-short|unbiased sample variance}})や'''不偏分散'''(ふへんぶんさん、{{lang-en-short|unbiased variance}})と呼ぶ<ref name="K" />。


上記の標本分散は不偏でないことを強調する場合'''偏りのある標本分散'''({{lang-en-short|biased sample variance}})と言う。
上記の標本分散は不偏でないことを強調する場合'''偏りのある標本分散'''({{lang-en-short|biased sample variance}})と言う。

2024年9月27日 (金) 17:13時点における最新版

数学統計学における分散(ぶんさん、: variance)とは、データ母集団標本)、確率変数確率分布)の標準偏差自乗のことである。分散も標準偏差と同様に散らばり具合を表し[1]、標準偏差より分散の方が計算が簡単なため、計算する上で分散を用いることも多い。

分散は具体的には、平均値からの偏差2乗の平均に等しい。データ x1, x2, …, xn の分散 s2

ここで x は平均値を表す。

分散が 0 であることは、データの値が全て等しいことと同値である。データの分散は二乗平均から平均の2乗を引いた値に等しくなる。

確率変数 X の分散 V[X][注 1]は、X期待値E[X] で表すと

V[X] = E[(XE[X])2]

となる[2]。 確率変数の分散は確率変数の2次の中心化モーメントである。

統計学では、記述統計学においては標本の散らばり具合を表す指標として標本分散(ひょうほんぶんさん、: sample variance)を、推計統計学においては不偏分散(ふへんぶんさん、: unbiased variance)・不偏標本分散(ふへんひょうほんぶんさん、: unbiased sample variance)を用いる。

言葉の由来

[編集]

英語の variance(バリアンス)という語はロナルド・フィッシャーが1918年に導入した[3]

確率変数の分散

[編集]

2乗可積分確率変数 X の分散は期待値E[X] で表すと

定義される。これを展開して整理すると

とも書ける。また確率変数 X特性関数φX(t) = E[eitX] とおくと(i虚数単位)、これは 2階連続的微分可能

と表示することもできる。

チェビシェフの不等式から、任意の正の数 ε に対して

が成り立つ。これは分散が小さくなるほど確率変数が期待値に近い値をとりやすくなることを示す大まかな評価である。

性質

[編集]

X, X1, …, Xn確率変数a, b, a1, …, an定数とし、共分散Cov[ · , · ] で表すと

  • (非負性)
  • 位置母数英語版に対する不変性)
  • 斉次性

を満たす。したがって、特に X1, …, Xn独立ならば、

より

が成り立つ。

[編集]
  • 確率変数 X一様分布 U(a, b) に従うとき、V[X] = (ba)2/12
  • 確率変数 X正規分布 N(μ, σ2) に従うとき、V[X] = σ2
  • 確率変数 X二項分布 B(n, p) に従うとき、V[X] = np(1 − p)
  • 確率変数 Xポアソン分布 Po(λ) に従うとき、V[X] = λ

データの分散

[編集]

推計統計学では、母集団の分散と標本の分散を区別する必要がある。

母分散

[編集]

大きさが n である母集団 x1, x2, …, xn に対して、平均値μ で表すとき、偏差自乗の平均値

母分散(ぼぶんさん、: population variance)と言う[4]

標本分散・不偏標本分散

[編集]

母集団の平均が、分散がのとき、大きさが n である標本 x1, x2, …, xn に対して、標本の平均値x で表すとき、偏差自乗の平均値

で定義される s2標本分散(ひょうほんぶんさん、: sample variance)と言う。s標準偏差と呼ばれる[4]

定義より、

となるから、標本分散は2乗の平均値と平均値の2乗との差に等しい。ただし、この計算では概して二乗平均が巨大になるため、浮動小数点数による近似計算を行う場合には桁落ちが起きる可能性がある。このため、浮動小数点数を扱う場合には定義に従って偏差の二乗和を計算することが一般的である(あるいは一般の総和計算と同じくカハンの加算アルゴリズムpairwise summation英語版のような手法により、誤差を小さくする工夫がなされることもある)。

一般に、標本分散の期待値は母分散と一致せず、母分散より小さくなる。これは、母分散は「母平均との偏差」で算出されるのに対し、標本分散では「標本平均との偏差」で算出されることに原因がある。実際には、平均と分散を持つ同一分布からの無作為標本に対して、標本分散の期待値 E[s2] について、

ここで、

は独立のため、

となるため、

が成り立つ。

そこで

を用いると、

となり、期待値が母分散に等しくなる推定量が得られる。つまり母分散の不偏推定量となる。これを不偏標本分散(ふへんひょうほんぶんさん、: unbiased sample variance)や不偏分散(ふへんぶんさん、: unbiased variance)と呼ぶ[4]

上記の標本分散は不偏でないことを強調する場合偏りのある標本分散: biased sample variance)と言う。

なお、不偏標本分散を単に標本分散と呼ぶ文献もある。

定義から明らかに、標本の大きさが大きくなる程につれて偏りのある標本分散は不偏標本分散に近づく。

注釈

[編集]
  1. ^ 分散を Var[X] と書く場合もある。

出典

[編集]

参考文献

[編集]

関連項目

[編集]