中川用語集
用語集Topへ戻る前に戻る 
  中川清隆ホームページTOP      →さ→   

最確値  最小自乗法  最尤法  差分  三角級数  残差 

最確値 (most probable value)

 一連の測定値に基づいて決定される最も真値に近い、即ち、真値からの誤差が最も小さいと思われる値。同一物の直接測定の場合は、測定値の算術平均が最確値である。

最小自乗法 (least square method, method of least squares)

 n組の測定値(xi,yi)の間に、

y
i=axi+b

の関係が存在すると仮定される際に、推定値axi+bと測定値yiの差の自乗和が最小になるように、最適な係数a、bを推定する方法。推定値axi+bと測定値yiの差の自乗和は

n
(yi-axi-b)2
i=1

と表せる。この自乗和の値は、係数a、bの関数となっており、係数a、bの値をでたらめにとればいくらでも大きくなるので極大値を持たず、極小値のみ持つ。このため極値をもたらす係数a、bの値が係数a、bの最適値となる。即ち、

  
n
∂{(yi-axi-b)2}/∂a=0
   i=1
   n
∂{(yi-axi-b)2}/∂b=0
   i=1

を同時に満足するa、bを求めれば良い。これらの2式を整理すると、以下のa、bに関する2元1次連立方程式になる。
  n      n    n
a肺i2+b肺i=肺iyi
 i=1      i=1   i=1
  n     n    n
a肺i+b1=輩i
 i=1     i=1  i=1


この連立方程式は正規方程式と呼ばれる。この方程式は、確率分布関数に正規分布関数(誤差関数)を使用する場合の最尤法から導かれる式と同一である。

最尤法 (maximum likelihood method)
 1回の測定で測定値xiが得られる確率(出現確率)が関数p(xi;a,b,c…)に従ってばらついている独立なn個の測定値(x1,x2,x3,…xn)が得られる時、その尤度関数Lを最大にするように物理量a, b, c…を推定する方法。尤度関数L

L=p(x1;a,b,c…)・p(x2;a,b,c…)・p(x3;a,b,c…)…p(xn;a,b,c…)
   n
 =Πp(xi;a,b,c…)
 i=1

と表現される。原理上はn個の測定値の組み合わせは無限に存在でき得るのに、現実には唯一の組み合わせ(x1,x2,x3,…xn)が得られるのは、組み合わせ(x1,x2,x3,…xn)が出現する確率(尤度)が、他の組み合わせの測定値が出現する確率(尤度)に比べて最大であるためと考える。即ち、尤度関数Lはa,b,c…を含む関数であるが、その最適値は尤度関数を最大にするものと考える。この尤度関数の値Lを最大にする
物理量a, b, c…は、

L/∂a=0

∂L/∂b=0

∂L/∂c=0



を同時に満たさねばならない。これらの式を連立させて解けば、
この関数の値を最大にする物理量a, b, c…が得られる。この方法を最尤法と呼ぶ。
1回の測定で測定値
xiが得られる確率(出現確率)が正規分布p(xi;m,σ)に従う場合のmとσ2の最確値を最尤法によりに求めると、出現確率p(xi;m,σ)

p(xi;m,σ)=1/(2πσ2)0.5exp{-(xi-m)2/(2σ)}

なので、n個の測定値が得られる尤度関数Lは

  n
L=Π
1/(2πσ2)0.5exp{-(xi-m)2/(2σ2)}
 i=1

                    n
 =
1/(2πσ2)0.5nexp{-(xi-m)2/(2σ2)}
                  i=1

となる。自然対数をとると、

                             n
ln L=-0.5n ln(2πσ2)-1/(2σ2)(xi-m)2
                           i=1

なので、これらのmおよびσでの偏微分が同時に0となるmおよびσの値を求める。

                  n
∂(ln L)/∂m=1/σ2(xi-m)=0
                 i=1
                        n
∂(ln L)/∂σ=-n/σ+1/σ3(xi-m)2=0
                      i=1

だから、mおよびσの最確値は、それぞれ、
       n
m=1/nxi
     i=1
        n
σ2=1/n(xi-m)2
      i=1

として得られる。
n組の測定値(xi,yi)の間に、

y
i=axi+b

の関係が存在すると仮定すると、最適な係数a、bを最尤法で求めることができる。推定値axi+bと測定値yiの差が正規分布p(xi;0,σ)に従う場合、n組の観測値の尤度関数Lは、
  n
L=Π
1/(2πσ2)0.5exp{-(yi-axi-b)2/(2σ2)}
 i=1


とおけるので、
                             n
ln L=-0.5n ln(2πσ2)-1/(2σ2)(yi-axi-b)2
                           i=1
の偏微分∂(ln L)/∂a、∂(ln L)/∂bを同時に0にするa、bの値を求めると、それが最適な係数a、bとなる。即ち、
                  n
∂(ln L)/∂a=1/σ2倍-xi(yi-axi-b)}=0
                 i=1
                  n
∂(ln L)/∂b=1/σ2倍-(yi-axi-b)}=0
                 i=1
を同時に満足するa、bを求めれば良い。これらの2式を整理すると、以下のa、bに関する2元1次連立方程式になる。
  n      n    n
a肺i2+b肺i=肺iyi
 i=1      i=1   i=1
  n     n    n
a肺i+b1=輩i
 i=1     i=1  i=1

これは、

n
(yi-axi-b)2
i=1


を最小にするa、bの値を求める最小自乗法の正規方程式と同一である。即ち、確率分布関数に正規分布関数(誤差関数)を使用する場合の最尤法と最小自乗法は同一の方法になる。

差分 (finite difference)
 自然現象を支配する法則は連続空間における時間変化を含む微分方程式として表現できるものが多い。これを解析的に解ければ、自然現象のメカニズムや本質を正確に理解することが可能であるが、残念ながら、簡単な解析解を得ることができるのは、極めて単純化された条件の場合のみである場合が多い。このため、連続空間の現象を離散空間の現象に置き換えて、数値的に解くことが多用される。連続空間では微分演算子df(t)/dtをただ一つだけ定義すれば良いが,離散空間では微分に相当する差分演算子がたくさんある。その中でもっとも基本的な演算子として、前進差分、中心差分、後退差分がある。離散空間では、座標軸tは差分間隔Δtにより

t=iΔt

と離散化される。前進差分とは、t=iΔtにおける微分df(t)/dtを

df(t)/dt={f((i+1)Δt)-f(iΔt)}/Δt

と近似したものである。後退差分とは、t=iΔtにおける微分df(t)/dtを

df(t)/dt={f(iΔt)-f((i-1)Δt)}/Δt

と近似したものである。中央差分とは、t=iΔtにおける微分df(t)/dtを前進差分と後退差分の平均値

df(t)/dt=〔{f((i+1)Δt)-f(iΔt)}/Δt+{f(iΔt)-f((i-1)Δt)}/Δt〕/2

     ={f((i+1)Δt)-f((i-1)Δt)}/{2Δt}

と近似したものである。前進差分、後退差分、中央差分は、差分間隔Δtが0に収束すれば、いずれもdf(t)/dtに収束する。差分表現された微分方程式を差分方程式と呼ぶ。

三角級数 (trigonometric series)
 各項が三角関数からなる級数を三角級数と呼ぶ。
残差 (residual)
 ある量の測定値のその量の最確値からの差。測定値が最確値より大きい時を正の残差という。ある量の測定値のその量の真値からの差を誤差というが、真値は実際には知りえず、知りうるのは最確値である。従って、残差は直接知るうるが、誤差は知り得ないので、平均の誤差の値を残差から求める。即ち、n回測定を行った場合の平均の誤差σを、

σ2=残差2の和/(n-1)

で与える。
 

中川用語集            ←さ→