Error quadràtic mig

En estadística, l'error quadràtic mig (EQM), conegut també en anglès per Mean Squared Error (MSE), d'un estimador mesura la mitjana dels errors al quadrat, és a dir, la diferència entre l'estimador i el que s'estima. L'EQM és una funció de risc, corresponent al valor esperat de la pèrdua de l'error al quadrat o pèrdua quadràtica. La diferència és deguda a l'aleatorietat o bé perquè l'estimador no té en compte la informació que podria produir una estimació més precisa.

L'EQM és una mesura de la qualitat d'un estimador, sempre és no negatiu i els valors pròxims a zero són millors.

L'EQM és el segon moment estadístic de l'error, i per tant incorpora tant la variància de l'estimador així com el seu biaix. Per a un estimador no esbiaixat, l'EQM és la variància de l'estimador. Igual que la variància, l'EQM té les mateixes unitats de mesura que el quadrat de la quantitat que s'estima. En una analogia amb la desviació estàndard, prenent l'arrel quadrada de l'EQM produeix l'error de l'arrel quadrada de la mitjana o la desviació de l'arrel quadrada mitjana (RMSE o RMSD), que té les mateixes unitats que la quantitat que s'estima; per a un estimador no esbiaixat, el RMSE és l'arrel quadrada de la variància, coneguda com a desviació estàndard.

Definició i propietats bàsiques

L'EQM valora la qualitat d'un predictor (és a dir, una funció que assigna entrades arbitràries a una mostra de valors d'alguna variable aleatòria), o un estimador (és a dir, una funció matemàtica que assigna una mostra de dades a una estimació d'un paràmetre de la població de la qual es prenen les dades). La definició de EQM difereix segons es descrigui un predictor o un estimador.

Predictor

Si es genera un vector de $n$ prediccions a partir d'una mostra de n punts en totes les variables, i $Y$ és el vector dels valors observats de la variable que es prediu, sent ${\hat {Y}}$ els valors predits (per exemple, a partir d'un ajust de mínims quadrats), llavors l'EQM dins de la mostra del predictor es calcula com

$\operatorname {EQM} ={\frac {1}{n}}\sum _{i=1}^{n}({\hat {Y_{i}}}-Y_{i})^{2}.$

És a dir, l'EQM és la mitjana $\left({\frac {1}{n}}\sum _{i=1}^{n}\right)$ dels quadrats dels errors $(Y_{i}-{\hat {Y_{i}}})^{2}$. Aquesta és una quantitat fàcilment calculable per a una mostra particular (i per tant depèn de la mostra).

L'EQM també pot calcular-se en q punts de dades que no es van utilitzar en l'estimació del model, ja sigui perquè es van retenir per a aquest propòsit o perquè aquestes dades s'han obtingut recentment. En aquest procés, que es coneix com a validació encreuada, i es calcula com

$\operatorname {EQM} ={\frac {1}{q}}\sum _{i=n+1}^{n+q}(Y_{i}-{\hat {Y_{i}}})^{2}.$

Estimador

L'EQM d'un estimador ${\hat {\theta }}$ pel que fa al paràmetre desconegut $\theta$ es defineix com

$\operatorname {EQM} ({\hat {\theta }})=\operatorname {E} {\big [}({\hat {\theta }}-\theta )^{2}{\big ]}.$

Aquesta definició depèn del paràmetre desconegut, però l'EQM és a priori una propietat d'un estimador. L'EQM podria ser una funció de paràmetres desconeguts, i en aquest cas qualsevol estimador de l'EQM basat en estimacions d'aquests paràmetres seria una funció de les dades i per tant una variable aleatòria. Si l'estimador ${\hat {\theta }}$ es deriva com una mostra estadística i s'utilitza per a estimar algun paràmetre de la població, llavors l'expectativa és respecte a la distribució de mostreig de la mostra estadística.

L'EQM pot escriure's com la suma de la variància de l'estimador i el biaix quadrat de l'estimador, proporcionant una forma útil de calcular la EQM i implicant que en el cas dels estimadors no esbiaixats, la EQM i la variància són equivalents.

$\operatorname {EQM} ({\hat {\theta }})=\operatorname {Var} ({\hat {\theta }})+\left(\operatorname {Biaix} ({\hat {\theta }},\theta )\right)^{2}.$

Demostració

${\begin{aligned}\operatorname {EQM} ({\hat {\theta }})\equiv \mathbb {E} (({\hat {\theta }}-\theta )^{2})&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})+\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})\right)^{2}+2\left(({\hat {\theta }}-\mathbb {E} ({\hat {\theta }}))(\mathbb {E} ({\hat {\theta }})-\theta )\right)+\left(\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})\right)^{2}\right]+2\mathbb {E} \left[({\hat {\theta }}-\mathbb {E} ({\hat {\theta }}))(\mathbb {E} ({\hat {\theta }})-\theta )\right]+\mathbb {E} \left[\left(\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})\right)^{2}\right]+2(\mathbb {E} ({\hat {\theta }})-\theta )\overbrace {\mathbb {E} ({\hat {\theta }}-\mathbb {E} ({\hat {\theta }}))} ^{=\mathbb {E} ({\hat {\theta }})-\mathbb {E} ({\hat {\theta }})=0}+\mathbb {E} \left[\left(\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\mathbb {E} \left[\left({\hat {\theta }}-\mathbb {E} ({\hat {\theta }})\right)^{2}\right]+\mathbb {E} \left[\left(\mathbb {E} ({\hat {\theta }})-\theta \right)^{2}\right]\\&=\operatorname {Var} ({\hat {\theta }})+\operatorname {Biaix} ({\hat {\theta }},\theta )^{2}\end{aligned}}$

Exemples

Mitjana

Donada una mostra aleatòria de grandària n d'una població: $X_{1},\dots ,X_{n}$.

Suposem que les unitats de mostra es van triar amb reemplaçament, és a dir, les n unitats se seleccionen una a una, de forma que unitats prèviament seleccionades segueixen sent elegibles per a ser seleccionades mentre encara quedin unitats per completar la mostra. L'estimador usual de la mitjana és la mitjana de la mostra

${\overline {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}$

la qual té un valor esperat igual a la mitjana real μ (donat que és imparcial) amb un error quadràtic mig de

$\operatorname {EQM} ({\overline {X}})=\operatorname {E} (({\overline {X}}-\mu )^{2})=\left({\frac {\sigma }{\sqrt {n}}}\right)^{2}={\frac {\sigma ^{2}}{n}}$

on $\sigma ^{2}$ és la variància de la població.

Per a una distribució gaussiana és doncs el millor estimador no esbiaixat (és a dir, que té l'EQM més baix entre tots els estimadors no esbiaixats), però no, per exemple, per una distribució uniforme.

Variància

L'estimador usual per a la variància és la variància mostral:

$S_{n-1}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2}={\frac {1}{n-1}}\left(\sum _{i=1}^{n}X_{i}^{2}-n{\overline {X}}^{2}\right).$

Aquest estimador és centrat (no esbiaixat), és a dir, el seu valor esperat és $\sigma ^{2}$. El seu EQM és

${\begin{aligned}\operatorname {EQM} (S_{n-1}^{2})&={\frac {1}{n}}\left(\mu _{4}-{\frac {n-3}{n-1}}\sigma ^{4}\right)\\&={\frac {1}{n}}\left(\gamma _{2}+{\frac {2n}{n-1}}\right)\sigma ^{4},\end{aligned}}$

a on $\mu _{4}$ és el quart moment central de la distribució o de la població i $\gamma _{2}=\mu _{4}/\sigma ^{4}-3$ és l'excés de curtosi