Distribució khi quadrat

En Teoria de la probabilitat i Estadística la distribució distribució khi quadrat $\chi ^{2}$(pronunciat [xi] o [ci]), també anomenada khi quadrat de Pearson, amb $k$ de llibertat és la distribució de la suma dels quadrats de $k$ variables aleatòries normals estàndard independents. És un cas particular de la distribució gamma i es pot estendre a un nombre no enter de graus de llibertat. És molt important en Estadística ja que intervé en nombrosos tests estadístics, com el de la $t$ de Student o de la $\chi ^{2}$ de Pearson, així com en la construcció de diversos intervals de confiança.

$\chi ^{2}$

Funció de densitat de probabilitat
Funció de distribució de probabilitat
Notació	$\chi ^{2}(k)\;$ o $\chi _{k}^{2}\!$
Paràmetres	$k\in (0,\infty )$ ("graus de llibertat")
Suport	$x\in (0,\infty )\;$
fdp	${\frac {1}{2^{k/2}\Gamma (k/2)}}\;x^{k/2-1}e^{-x/2}\,\ x>0$
FD	${\frac {1}{\Gamma (k/2)}}\;\gamma \left({\frac {k}{2}},\,{\frac {x}{2}}\right)\;$
Mitjana	$k$
Mediana	$\approx k{\bigg (}1-{\frac {2}{9k}}{\bigg )}^{3}\;$
Moda	$k-2,\ {\text{si}}\ k\geq 2$
Variància	$2k\;$
Coeficient de simetria	${\sqrt {8/k}}\,$
Curtosi	${\frac {12}{k}}$
Entropia	${\frac {k}{2}}+\ln(2\Gamma ({\frac {k}{2}}))+(1-{\frac {k}{2}})\psi ({\frac {k}{2}})$
FGM	$(1-2t)^{-k/2},\ t<{\frac {1}{2}}\;$
FC	$(1-2it)^{-k/2},\ t\in \mathbb {R}$

La referència bàsica d'aquest article és Johnson et al. .

Definició, funció de densitat i funció de distribució

Siguin $Z_{1},\dots ,Z_{k}$ variables aleatòries independents, totes amb distribució normal estàndard ${\mathcal {N}}(0,1)$. La variable aleatòria

$$Q=Z_{1}^{2}+\cdots +Z_{k}^{2}$$

es diu que té una distribució $\chi ^{2}$ amb $k$ graus de llibertat i s'escriu $Q\sim \chi ^{2}(k)$ o $Q\sim \chi _{k}^{2}$.

La funció de densitat és

$$f(x;\,k)={\begin{cases}{\dfrac {x^{{\frac {k}{2}}-1}e^{-{\frac {x}{2}}}}{2^{\frac {k}{2}}\Gamma \left({\frac {k}{2}}\right)}},&{\text{si}}\ x>0,\\0,&{\text{en cas contrari}},\end{cases}}$$

on $\Gamma (a)$ és la funció gamma. Per tant, tenim que la distribució coincideix amb una distribució gamma amb paràmetre de forma $k/2$ i paràmetre d'escala 2, $Q\sim \Gamma {\Big (}{\frac {k}{2}},2{\Big )}$ .

Prova

Comencem pel cas $k=1$. Sigui $Q=Z^{2}$, amb $Z\sim {\mathcal {N}}(0,1)$. La funció de distribució de $Q$, $F_{Q}(x)=P(Q\leq x)$ valdrà:

• Si $x<0$, llavors òbviament $F_{Q}(x)=0$.
• Si $x\geq 0$, llavors $F_{Q}(x)=P(Z^{2}\leq x)=P(-{\sqrt {x}}\leq Z\leq {\sqrt {x}})=F_{Z}({\sqrt {x}})-F_{Z}(-{\sqrt {x}}),$

on $F_{Z}$ és la funció de distribució de $Z$ .

Derivant obtenim la funció de densitat de $Q$, $f_{Q}$: per a $x\geq 0$,

$$f_{Q}(x)=F'_{Z}({\sqrt {x}})\,{\frac {1}{2{\sqrt {x}}}}+F'_{Z}(-{\sqrt {x}})\,{\frac {1}{2{\sqrt {x}}}}={\frac {1}{\sqrt {2\pi }}}\,{\frac {e^{-x/2}}{\sqrt {x}}}.$$

Per tant, identifiquem que $Q$ té una distribució gamma amb paràmetre de forma 1/2 i paràmetre d'escala 2: $Q\sim \Gamma {\Big (}{\frac {1}{2}},2{\Big )}$ . Anem ara al cas general: podem escriure

$$Q=Q_{1}+\cdots +Q_{k},$$

on $Q_{1},\dots ,Q_{k}$ són independents i $Q_{i}\sim \Gamma {\Big (}{\frac {1}{2}},2{\Big )}$. Llavors, pel caràcter reproductiu de les distribucions gamma, $Q\sim \Gamma {\Big (}{\frac {k}{2}},2{\Big )}$, i, per tant, tindrà la densitat que hem indicat abans.

Funció de distribució

La funció de distribució es pot escriure en termes de la funció gamma incompleta:

$$F(x;k)={\begin{cases}{\dfrac {1}{\Gamma ({\frac {k}{2}})}}\gamma {\big (}{\dfrac {k}{2}},{\dfrac {x}{2}}{\big )},&{\text{si}}\ x\geq 0\\0,&{\text{si}}\ x<0,\end{cases}}$$

on $\gamma (\nu ,x)$ és la funció gamma incompleta inferior.

Extensió a graus de llibertat no enters

La funció $f(x;k)$ està ben definida i és una funció de densitat per a qualsevol $k\in (0,\infty )$: en efecte, fixat qualsevol nombre real $k>0$, tenim que $f(x;k)\geq 0$ i $\int _{-\infty }^{\infty }f(x;k)\,dx=1$. Aleshores, una variable aleatòria amb aquesta densitat es diu que té una distribució $\chi ^{2}$ amb $k$ graus de llibertat. Alternativament, la distribució $\Gamma {\Big (}{\frac {k}{2}},2{\Big )}$ està definida per a qualsevol $k\in (0,\infty )$. A partir d'ara, suposarem que $k\in (0,\infty )$. i especificarem quan suposem que $k$ és un nombre natural.

Moments, funció generatriu de moments i funció característica

Aquestes propietats es dedueixen particularitzant les corresponents propietats de la distribució gamma. Si $Q\sim \chi ^{2}(k)$ aleshores té moments de tots els ordres, que valen

$$E[X]=k\quad {\text{i}}\quad E[X^{n}]=k(k+2)\cdots (k+2n-2),\ n\geq 2.$$

En particular,

$$E[X^{2}]=k(k+2),$$

d'on

$${\text{Var}}(X)=E[X^{2}]-(E[X])^{2}=2k.$$

Així,

$$E[X]=k\quad {\text{i}}\quad {\text{Var}}(X)=2k.$$

La funció generatriu de moments és:

$$M(t)={\frac {1}{(1-2t)^{k/2}}},\quad t\in (-\infty ,{\frac {1}{2}}).$$

La funció característica és

$$\varphi (t)={\frac {1}{(1-2it)^{k/2}}},\quad t\in \mathbb {R} .$$

Caràcter reproductiu

Del caràcter reproductiu de les distribucions gamma es dedueix el de les distribucions $\chi ^{2}$: Siguin $Q_{1},\dots ,Q_{n}$ independents, amb distribucions $Q_{i}\sim \chi ^{2}(k_{i})$, $1=1,\dots ,n$. Llavors,

$$\sum _{i=1}^{n}Q_{i}\sim \chi ^{2}{\big (}\sum _{i=1}^{n}k_{i}{\big )}.$$

Propietat.: Siguin $Q_{1}\sim \chi ^{2}(k_{1})$ i $Q_{2}\sim \chi ^{2}(k_{2})$. Suposem que $Q=Q_{1}-Q_{2}$ és independent de $Q_{2}$. Aleshores $Q\sim \chi ^{2}(k_{1}-k_{2})$.

Prova

Designem per $\varphi _{Q},\ \varphi _{Q_{1}}\ {\text{i}}\ \varphi _{Q_{2}}$ les funcions característiques de $Q,\ Q_{1}\ {\text{i}}\ Q_{2}$respectivament. Llavors,

$$\varphi _{Q_{1}}(t)={\frac {1}{(1-2it)^{k_{1}/2}}}=E[e^{itQ_{1}}]=E[e^{itQ+itQ_{2}}]=E[e^{itQ}]\,E[e^{itQ_{2}}]=\varphi _{Q}(t)\,\varphi _{Q_{2}}(t)=\varphi _{Q}(t)\,{\frac {1}{(1-2it)^{k_{2}/2}}}.$$

D'on

$$\varphi _{Q}(t)={\frac {1}{(1-2it)^{(k_{1}-k_{2})/2}}}.$$

i per tant, $Q\sim \chi ^{2}(k_{1}-k_{2})$.

Aproximació per la distribució normal

En aquesta secció considerarem la distribució $\chi ^{2}$ amb un nombre enter de graus de llibertat. D'acord amb el teorema central del límit, si $Q_{k}\sim \chi ^{2}(k)$, aleshores

$$\lim _{k\to \infty }{\frac {Q_{k}-k}{\sqrt {2k}}}={\mathcal {N}}(0,1),\quad {\text{en distribució.}}$$

En altres paraules, per a $k$ gran, $Q_{k}$ és aproximadament normal ${\mathcal {N}}(k,2k)$.

Però aquesta aproximació demana $k$ força gran. La següent aproximació, deguda a Fisher, és més ràpida

$$\lim _{k\to \infty }{\Big (}{\sqrt {2Q_{k}}}-{\sqrt {2k-1}}{\Big )}={\mathcal {N}}(0,1),\quad {\text{en distribució.}}$$

Equivalentment, per a $k$ gran, ${\sqrt {2Q_{k}}}$ és aproximadament normal ${\mathcal {N}}({\sqrt {2k-1}},1)$ .

Segons Johnson et al encara és més ràpida l'aproximació deguda a Wilson and Hilferty: per a $k$ gran, ${\sqrt[{3}]{Q_{k}/k}}$ és aproximadament normal ${\mathcal {N}}{\big (}1-{\frac {2}{9k}},{\frac {2}{9k}}{\big )}.$

Prova

Per a l'aproximació donada pel teorema central del límit, considerem una successió $Z_{1},Z_{2},\dots$ de variables aleatòries independents, totes amb distribució normal estàndard ${\mathcal {N}}(0,1)$. La successió $Z_{1}^{2},Z_{2}^{2},\dots$ estarà formada per variables independents, amb esperança $E[Z_{i}^{2}]=1$ i variància

$${\text{Var}}(Z_{i})=E[Z_{i}^{4}]-{\big (}E[Z_{i}^{2}]{\big )}^{2}=2.$$

Pel teorema central del límit,

$$\lim _{k\to \infty }{\frac {\sum _{i=1}^{k}Z_{i}^{2}-k}{\sqrt {2k}}}={\mathcal {N}}(0,1),\quad {\text{en distribució.}}$$

Però $\sum _{i=1}^{k}Z_{i}^{2}\sim \chi ^{2}(k).$

L'aproximació de Fisher pot deduir-se de l'aproximació de la distribució gamma a la distribució normal: sigui $X_{k}\sim \Gamma (k,1)$. Aleshores

$$\lim _{k\to \infty }2{\Big (}{\sqrt {X_{k}}}-{\sqrt {k-{\tfrac {1}{4}}}}{\Big )}=\ {\mathcal {N}}(0,1),\quad {\text{en distribució}}.$$

Ara, per la propietat d'escala de la distribució gamma, atès que $Q_{k}\sim \chi ^{2}(k)=\Gamma {\Big (}{\dfrac {k}{2}},2{\Big )}$, tenim que ${\dfrac {Q_{k}}{2}}\sim \Gamma {\Big (}{\dfrac {k}{2}},1{\Big )}$. Vegeu pels detalls . Per a l'aproximació de Wilson and Hilferty, consulteu la referència citada.

La distribució χ² i les mostres de poblacions normals

El següent resultat té una importància fonamental en la inferència estadística basada en mostres de poblacions normals.

Teorema. Sigui $X_{1},\dots ,X_{n}$ una mostra d'una població normal ${\mathcal {N}}(\mu ,\sigma ^{2})$ , és a dir, les variables aleatòries $X_{1},\dots ,X_{n}$ són independents i totes tenen distribució ${\mathcal {N}}(\mu ,\sigma ^{2})$. Considerem la mitjana mostral $${\overline {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}.$$ Aleshores: ${\frac {1}{\sigma ^{2}}}\sum _{i=1}^{n}{\big (}X_{i}-{\overline {X}}{\big )}^{2}\sim \chi ^{2}(n-1).$ Les variables aleatòries ${\overline {X}}$ i $\sum _{i=1}^{n}{\big (}X_{i}-{\overline {X}}{\big )}^{2}$ són independents.

A partir d'aquest teorema i del fet que ${\overline {X}}\sim {\mathcal {N}}(\mu ,\sigma ^{2}/n)$, tenim que la variable aleatòria (estadístic)

$$T={\frac {{\overline {X}}-\mu }{S/{\sqrt {n}}}}$$

té una distribució $t$ de Sudent amb $n-1$ graus de llibertat: $T\sim t(n-1)$, on

$$S^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}{\big (}X_{i}-{\overline {X}}{\big )}^{2},$$

és la variància mostral.

Prova

Aquesta demostració està extreta de DeGroot .

Pas previ: reducció a una mostra d'una població normal estàndard. Siguin

$$Z_{i}={\frac {X_{i}-\mu }{\sigma }},\ i=1,\dots ,n,$$

que son variables independents amb distribució ${\mathcal {N}}(0,1)$. Tenim que

$${\overline {X}}=\sigma {\overline {Z}}+\mu .$$

Llavors,

$$X_{i}-{\overline {X}}=\sigma Z_{i}+\mu -(\sigma {\overline {Z}}+\mu )=\sigma (Z_{i}-{\overline {Z}}).$$

Per tant,

$${\frac {1}{\sigma ^{2}}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}=\sum _{i=1}^{n}(Z_{i}-{\overline {Z}})^{2}.$$

Així, n'hi ha prou amb demostrar que si $Z_{1},\dots ,Z_{n}$ són independents, totes amb llei ${\mathcal {N}}(0,1)$ , aleshores

1. $\sum _{i=1}^{n}{\big (}Z_{i}-{\overline {Z}}{\big )}^{2}\sim \chi ^{2}(n-1).$
2. Les variables aleatòries ${\overline {Z}}$ i $\sum _{i=1}^{n}{\big (}Z_{i}-{\overline {Z}}{\big )}^{2}$ són independents.

Per demostrar aquestes propietats utilitzarem l'anomenada matriu de Helmert de dimensió $n$:

$${\boldsymbol {H}}={\begin{pmatrix}{\frac {1}{\sqrt {n}}}&{\frac {1}{\sqrt {n}}}&{\frac {1}{\sqrt {n}}}&{\frac {1}{\sqrt {n}}}&\cdots &{\frac {1}{\sqrt {n}}}&{\frac {1}{\sqrt {n}}}\\{\frac {1}{\sqrt {2}}}&-{\frac {1}{\sqrt {2}}}&0&0&\cdots &0&0\\{\frac {1}{\sqrt {6}}}&{\frac {1}{\sqrt {6}}}&-{\frac {2}{\sqrt {6}}}&0&\cdots &0&0\\{\frac {1}{\sqrt {12}}}&{\frac {1}{\sqrt {12}}}&{\frac {1}{\sqrt {12}}}&-{\frac {3}{\sqrt {12}}}&\cdots &0&0\\\vdots &\vdots &\vdots &\vdots &&\vdots &\vdots \\{\frac {1}{\sqrt {n(n-1)}}}&{\frac {1}{\sqrt {n(n-1)}}}&{\frac {1}{\sqrt {n(n-1)}}}&{\frac {1}{\sqrt {n(n-1)}}}&\cdots &{\frac {1}{\sqrt {n(n-1)}}}&-{\frac {n-1}{\sqrt {n(n-1)}}}\end{pmatrix}}$$

que és una matriu ortogonal, és a dir,

$${\boldsymbol {H}}^{-1}={\boldsymbol {H}}',$$

on ${\boldsymbol {H}}'$ denota la matriu transposada de ${\boldsymbol {H}}$. Aquesta matriu té la següent propietat: sigui ${\boldsymbol {z}}=(z_{1},\dots ,z_{n})$ (escriurem tots els vectors en columna) i

$${\boldsymbol {y}}=(y_{1},\dots ,y_{n})^{\prime }={\boldsymbol {Hz}}.$$

Aleshores, tenim que

$$\sum _{i=1}^{n}(z_{i}-{\overline {z}})^{2}=\sum _{i=2}^{n}y_{i}^{2}.\qquad (1)$$

En efecte, d'una banda,

$$y_{1}={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}z_{i}={\sqrt {n}}\,{\overline {z}}.$$

D'altra banda, desenvolupant els quadrats de l'esquerra de (1) s'obté

$$\sum _{i=1}^{n}(z_{i}-{\overline {z}})^{2}=\sum _{i=1}^{n}z_{i}^{2}-n({\overline {z}})^{2}={\boldsymbol {z'z}}-n({\overline {z}})^{2}.$$

El costat de la dreta de (1) és

$$\sum _{i=2}^{n}y_{i}^{2}=\sum _{i=1}^{n}y_{i}^{2}-y_{1}^{2}={\boldsymbol {y'y}}-y_{1}^{2}={\boldsymbol {z'H'Hz}}-n({\overline {z}})^{2}={\boldsymbol {z'z}}-n({\overline {z}})^{2},$$

amb la qual cosa queda provada la igualtat (1).

Ara considerem el vector normal multidimensional ${\boldsymbol {Z}}=(Z_{1},\dots ,Z_{n})'$, i sigui ${\boldsymbol {Y}}=(Y_{1},\dots ,Y_{n})'$ donat per

$${\boldsymbol {Y}}={\boldsymbol {HZ}}.$$

Per les propietats dels vectors normals multidimensionals, del fet que $Z_{1},\dots ,Z_{n}$ són independents, totes amb llei ${\mathcal {N}}(0,1)$ i que ${\boldsymbol {H}}$ és ortogonal, es dedueix que $Y_{1},\dots ,Y_{n}$ són independents, totes amb llei ${\mathcal {N}}(0,1)$. Llavors,

$$\sum _{i=1}^{n}(Z_{i}-{\overline {Z}})^{2}=\sum _{i=2}^{n}Y_{i}^{2}\sim \chi ^{2}(n-1).$$

La independència entre ${\overline {Z}}$ i $\sum _{i=1}^{n}{\big (}Z_{i}-{\overline {Z}}{\big )}^{2}$ es dedueix de les relacions

$${\overline {Z}}={\frac {1}{\sqrt {n}}}\,Y_{1}\quad {\text{i}}\quad \sum _{i=1}^{n}(Z_{i}-{\overline {Z}})^{2}=\sum _{i=2}^{n}Y_{i}^{2},$$

i de què $Y_{1}$ i $(Y_{2},\dots ,Y_{n})$ són independents.

Relació amb altres distribucions

• Si $Q_{k}\sim \chi ^{2}(k)$, aleshores $Q_{k}$ té una distribució gamma $\Gamma {\Big (}{\frac {k}{2}},2{\Big )}$.
• Si $Q_{k}\sim \chi ^{2}(k)$ i $c>0$, aleshores $c\,Q_{k}\sim \Gamma {\Big (}{\frac {k}{2}},2c{\Big )}$. En particular, per a $\theta >0$, tenim que ${\tfrac {\theta }{2}}Q_{2k}\sim \Gamma (k,\theta )$. Aquesta propietat és deguda a la propietat d'escala de la distribució gamma.

• Relació amb la distribució de Poisson.. Sigui $Q_{k}\sim \chi ^{2}(k)$ amb $k$ parell. Aleshores per a qualsevol $a>0$,

$$P(Q_{k}>a)=P(Y\leq {\frac {k}{2}}-1),$$

on $Y$ és una variable aleatòria amb una distribució de Poisson de paràmetre $a/2$.

Prova

Escrivim $m=k/2$. Llavors,

$$P(Q_{k}>a)={\frac {1}{2^{m}\Gamma (m)}}\int _{a}^{\infty }x^{m-1}e^{-x/2}\,dx.$$

Ara integrem per parts iteradament, començant per $u=x^{m-1}$ i $e^{-x/2}\,dt=dv$.

Noteu que aquesta propietat és equivalent a la que es formula a la pàgina de la distribució de Poisson: Si $Y$ és una variable amb distribució de Poisson de paràmetre $\lambda$, aleshores per a $n=0,\,1,2,\dots$,

$$P(Y\leq n)=P(Q_{2(n+1)}>2\lambda ),$$

on $Q_{2(n+1)}\sim \chi ^{2}{\big (}2(n+1){\big )}$.

• Si $Q\sim \chi _{2}^{2}$, aleshores $Q$ té una distribució exponencial de paràmetre 1/2.
• Si $Q\sim \chi _{2k}^{2}$, aleshores $Q$ té una distribució d'Erlang de paràmetres $k$ i 1/2.
• Si $X\sim \operatorname {Erlang} (k,\lambda )$ (distribució d'Erlang) llavors $2\lambda X\sim \chi ^{2}(2k)$.
• Si $X\sim \operatorname {Rayleigh} (1)\,$ (distribució de Rayleigh) llavors $X^{2}\sim \chi ^{2}(2)\,$.
• Si $X\sim \operatorname {Maxwell} (1)\,$ (distribució de Maxwell) llavors $X^{2}\sim \chi ^{2}(3)\,$.
• Si $Q_{1}\sim \chi ^{2}(k_{1})\,$ i $Q_{2}\sim \chi ^{2}(k_{2})\,$ són independents, llavors $Q_{1}/(Q_{1}+Q_{2})\sim \operatorname {Beta} ({\tfrac {k_{1}}{2}},{\tfrac {k_{2}}{2}})\,$ (Distribució beta).
• Si $X\sim \operatorname {U} (0,1)\,$ (distribució uniforme contínua) llavors $-2\log(X)\sim \chi ^{2}(2)\,$.

Aplicacions

La distribució khi quadrat té moltes aplicacions en inferència estadística, per exemple en el test khi quadrat i en l'estimació de variàncies. També està involucrada en el problema d'estimar la mitjana d'una població normalment distribuïda i en el problema d'estimar el pendent d'una recta de regressió lineal, a través del seu paper en la distribució t de Student, i participa en tots els problemes d'anàlisi de variància, pel seu paper en la distribució F de Snedecor, que és la distribució del quocient de dues variables aleatòries de distribució khi-quadrat i independents. També té ús al contrast de $k$ poblacions amb els contrasts d'homogeneïtat i al d'independència.

Bibliografia

A Wikimedia Commons hi ha contingut multimèdia relatiu a: Distribució khi quadrat

• Johnson, N. L.; Kotz, S.; Balakrishnan, N. Continuous Univariate Distributions, Volume 1. 2nd ed. New York: Wiley, 1994. ISBN 0-471-58495-9. 

Vegeu també

A Wikimedia Commons hi ha contingut multimèdia relatiu a: Distribució khi quadrat

• Distribució gamma
• Distribució exponencial
• Distribució de Poisson
• Prova de khi-quadrat de Pearson
• Distribució multinomial