「分散 (確率論)」の版間の差分

削除された内容追加された内容

インライン

2019年7月29日 (月) 18:15時点における版

分散（ぶんさん、英: variance）とは、確率論では、確率変数 $X$ からその母平均 $E (X)$ を引いた2乗の期待値 $σ 2 = V (X) = E [(X - E (X)) 2]$ のこと^[1]。確率変数の2次の中心化モーメントである。確率変数の分布が期待値からどれだけ散らばっているかを示す非負の値である^[2]。

統計学では、記述統計学においては標本が標本平均からどれだけ散らばっているかを示す指標として標本分散（ひょうほんぶんさん、英: sample variance）を、推測統計学においては不偏分散（ふへんぶんさん、英: unbiased variance）・不偏標本分散（ふへんひょうほんぶんさん、英: unbiased sample variance）を用いる。 $0$ に近いほど散らばりは小さい。

言葉の由来

英語の variance（バリアンス）という語はロナルド・フィッシャーが1918年に導入した^[3]。

確率変数の分散

2乗可積分確率変数 $X$ の分散は期待値を $E (\cdot)$ で表すと

V(X)=E{\big (}(X-E(X))^{2}{\big )}

で定義される。また式変形をして

V(X)=E(X^{2})-(E(X))^{2}

とも書ける。また確率変数 $X$ の特性関数を $φ X (t) = E (e itX)$ とおくと（ $i$ は虚数単位）、これは 2 階連続的微分可能で

V(X)=-\varphi _{X}''(0)+(\varphi _{X}'(0))^{2}

と表示することもできる。

チェビシェフの不等式から、任意の正の数 $ε$ に対して、

P(|X-E(X)|>\varepsilon )\leq {\frac {V(X)}{\varepsilon ^{2}}}

が成り立つ。これは分散が小さくなる程に期待値の近くに変数が分布することを示す大まかな評価である。

性質

$X, X 1, \dots, X n$ を確率変数、 $a, b, a 1, \dots, a n$ を定数とし、共分散を $Cov( \cdot , \cdot )$ で表すと

$V(X)\geq 0$ （非負性）
$V(X+b)=V(X)$ （位置母数（英語版）に対する不変性）
$V(aX)=a^{2}V(X)$ （斉次性）
$\textstyle V(\sum _{i}a_{i}X_{i})=\sum _{i,j}a_{i}a_{j}\operatorname {Cov} (X_{i},X_{j})$

を満たす。したがって、特に $X 1, \dots, X n$ が独立ならば、

\operatorname {Cov} (X_{i},X_{j})={\begin{cases}V(X_{i})&i=j\\0&{\text{otherwise}}\end{cases}}

より

V(X_{1}+\dotsb +X_{n})=V(X_{1})+\dotsb +V(X_{n})

が成り立つ。

例

$X$ を一様分布 $U (a, b)$ に従う確率変数とすると $V(X) = .mw-parser-output .sfrac{white-space:nowrap}.mw-parser-output .sfrac.tion,.mw-parser-output .sfrac .tion{display:inline-block;vertical-align:-0.5em;font-size:85%;text-align:center}.mw-parser-output .sfrac .num,.mw-parser-output .sfrac .den{display:block;line-height:1em;margin:0 0.1em}.mw-parser-output .sfrac .den{border-top:1px solid}.mw-parser-output .sr-only{border:0;clip:rect(0,0,0,0);height:1px;margin:-1px;overflow:hidden;padding:0;position:absolute;width:1px}(b − a)2/12$
$X$ を正規分布 $N (μ, σ 2)$ に従う確率変数とすると $V (X) = σ 2$
$X$ を二項分布 $B (n, p)$ に従う確率変数とすると $V (X) = np (1 - p)$
$X$ をポアソン分布 $Po(λ)$ に従う確率変数とすると $V (X) = λ$

母分散

$n$ 個のデータ $x 1, x 2, ..., x n$ からなる母集団があって、 $μ$ をそのデータの相加平均とした時に、 $(x i - μ) 2$ の相加平均

{\sigma }^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}

で表される $σ 2$ を母分散（ぼぶんさん、英: population variance）と言う^[4]。標本ではなく母集団に対して適用したときに母分散という。標本と母集団の違いはそれぞれの項目を参照。

標本分散

$n$ 個のデータ $x 1, x 2, ..., x n$ からなる標本があって、 $x$ をそのデータの相加平均とした時に、 $(x i - x) 2$ の相加平均

s^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}

で定義される $s 2$ を標本分散（ひょうほんぶんさん、英: sample variance）と言う。 $s$ は標準偏差と呼ばれる^[4]。なお、不偏標本分散を単に標本分散と呼ぶ文献もある。不偏でないことを強調する場合は偏りのある標本分散（英: biased sample variance）と言う。日本工業規格では、「各観測値の平均値からの偏差の二乗の和を観測個数から1を引いた数で割ったばらつきの尺度」と定義している^[5]。

定義より、

s^{2}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}^{2}-({\bar {x}})^{2}={\overline {x^{2}}}-({\bar {x}})^{2}

となるから、標本分散は、2乗の相加平均と相加平均の2乗との差に等しい。従って、この式を用いて分散の計算を容易にすることができる。ただし、概して求める分散に対して二乗平均が巨大になるため、浮動小数点数による近似計算を行う場合には大きな丸め誤差が生じる可能性がある（桁落ち）。このため、浮動小数点数を扱う場合には定義に従って偏差の二乗和を計算することが一般的である（あるいは一般の総和計算と同じくカハンの加算アルゴリズムやpairwise summation（英語版）のような手法により、誤差を小さくする工夫が為されることもある）。

不偏分散・不偏標本分散

「偏り」も参照

偏りのある標本分散は、一般にその期待値が母分散よりも若干小さくなる。より正確には、平均と分散を持つ同一分布からの無作為標本に対して

E(s^{2})=\left(1-{\frac {1}{n}}\right)\sigma ^{2}

が成り立つ。そこで推定量として

{\hat {\sigma }}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i})^{2}-{\frac {n}{n-1}}{\bar {x}}^{2}

を用いると、期待値が母分散に等しくなる推定量が得られる。これを母分散の不偏推定量であるとの意味で不偏分散（ふへんぶんさん、英: unbiased variance）や不偏標本分散（ふへんひょうほんぶんさん、英: unbiased sample variance）と呼ぶ^[4]。定義から明らかに、標本数が大きくなるにつれて偏りのある標本分散は不偏標本分散に近づく。

脚注

^ JIS Z 8101-1 : 1999, 1.13 分散.
^ 西岡 2013, 1.8 分散.
^ “Earliest Known Uses of Some of the Words of Mathematics (V)”. 2016年1月24日閲覧。
^ ^a ^b ^c 栗原 2011, p. 47.
^ JIS Z 8101-1 : 1999, 2.19 標本分散.

@@ 61行目: / 61行目: @@
 === 不偏分散・不偏標本分散 ===
+{{see also|偏り}}
-偏りのある[[#標本分散|標本分散]]は、一般にその[[期待値]]が[[#母分散|母分散]]よりも若干小さくなる。より正確には、平均と分散を持つ同一分布からの[[無作為標本]]に対して
+[[偏り]]のある[[#標本分散|標本分散]]は、一般にその[[期待値]]が[[#母分散|母分散]]よりも若干小さくなる。より正確には、平均と分散を持つ同一分布からの[[無作為標本]]に対して
 :<math> E(s^2) = \left(1 - \frac{1}{n}\right) \sigma^2 </math>
 が成り立つ。そこで[[推定量]]として