誤差に関する基礎知識では「全く同じ条件で測定した実験結果」に関する取り扱いについて述べました。一方、実際の実験では温度など環境や、量子ビーム測定であれば粒子のエネルギーや散乱角に対する依存性を測定し、それを一つの結果としてまとめて示します。これらの測定条件が異なるデータを「モデル(理論式・経験式)」で表現し、モデルの係数とその不確かさを推定するのがフィッティングの目的で、これにより以下のようなことが実現できます。
ここではフィッティングの代表的な方法である「最小自乗法」について説明していきます。
最小自乗法の目的は観測データ$[(x_1,y_1),(x_2,y_2),\cdots,(x_n,y_n)]$がモデル関数$y=f(x;\theta)$で表現できると仮定し、これを最も良く説明出来るパラメーターベクトル$\boldsymbol{\theta}=(\theta_1,\theta_2,\cdots,\theta_p)$を探索することです。しかし、単に目で合っている、合っていない、と評価するのは定量的ではありませんので、「データとの一致度」の評価基準として観測値$y_i$とモデル予測値$f(x_i; \theta)$の残差を用いてその自乗和$\chi^2(\boldsymbol{\theta})$が最も小さくなるパラメーター$\boldsymbol{\theta}$を探索する、というのが最小自乗法の基本原理となります。
$$ \chi^2 = \sum_{i=1}^N \left( y_i - f(x_i; \boldsymbol{\theta}) \right)^2 $$
ただし、各データの観測値$y_i$は前述の誤差$\sigma_i$を有しています。これを考慮するためには観測値が正規分布していると仮定し、以下のように重み付けを行います。
$$ \chi^2 = \sum_{i=1}^N \left( \frac{y_i - f(x_i; \boldsymbol{\theta})}{\sigma_i} \right)^2 $$
これは、$\sigma_i$が大きいほど$\chi^2$への寄与が小さくなることを意味しており、$\chi^2$を最小化するパラメーター$\boldsymbol{\theta}$を推定値$\hat{\boldsymbol{\theta}}$として定量評価することができます。
<aside> 💡
なお、厳密に言うと最小自乗法は「以下のような誤差の場合のみ」に適用できる方法で、これを満たさない場合は最尤法やベイズ推定などの枠組みが必要になります。逆に言うと、これを満たしていれば最小自乗法でも最尤法、ベイズ推定と同じ解が得られます。
最小自乗法が以下のデータは$y=\exp[-x/100]+1$に対してガウス分布で$\sigma_y=0.1$の誤差を付与したものを$y=A\exp[-x/\tau]+y_0$でフィットしたものです。最後のデータはわざとエラーの大きいものを入れているのですが、重み付けが無い場合(左)は全てのデータを均等に扱うため、エラーの大きいデータにも合うようにフィットを行うのに対し、重み付けがある場合(右)は最後のデータは重みが小さくなるため、他のデータに重点を置いて合わせます。結果、重み付けをした方が真値に近いパラメーターが得られます。

<aside> 💡
詳しくは後述しますが、各パラメーターの誤差を絶対値で評価するためには重み付きのフィッティングを行う必要があります。誤差を入れずにフィッティングした場合は、前述の測定値の誤差による重み付けができないだけでなく、誤差の伝搬を無視していることになりますので、解析ソフトで出力される誤差は各パラメーターの誤差の絶対値ではなく各パラメーターが持ちうる誤差の相対値になります。
</aside>
モデル関数が次式のように線形多項式で表されるとき、
$$ f(x; \boldsymbol{\theta}) = \theta_0+\theta_1x+\cdots+\theta_px^N=\sum_{j=0}^N\theta_jx^j $$
$\chi^2$の最小値を与える$\boldsymbol{\theta}$は次式の通り解析的に解くことができます。