Notacions. Seguint les convencions de l'àlgebra lineal, escriurem tots els vectors en columna i identificarem amb el conjunt de vectors reals -dimensionals. Denotarem per la transposada de la matriu o del vector .

Definició modifica

Hi ha diferents definicions (equivalents) de vector aleatori normal. Des del punt de vista tècnic, la més directa i que permet fer demostracions més curtes, utilitza funcions característiques [1] [2]. Altres autors comencen pel vector aleatori normal amb densitat i posteriorment consideren el cas general [3] [4]. En aquest article, seguint Hoffman-Jorgensen [5] o Serfling [6], utilitzarem la caracterització dels vectors aleatoris normals com aquells vectors aleatoris tals que qualsevol combinació lineal de les seves components és una variable aleatòria normal. Concretament,

Definició. Un vector aleatori   es diu que és normal multidimensional, o que té distribució normal multidimensional si per qualsevol  , la variable aleatòria

 
té distribució normal.

Totes les component del vector   tenen distribució normal, ja que, per exemple,

 
En conseqüència, el vector té vector d'esperances i matriu de variàncies covariàncies, que designarem per   i   respectivament:
 
S'escriu  . Quan  , es tracta d'una variable aleatòria normal amb mitjana   i variància  , i s'escriu   en lloc de  .

Casos no singular i singular

La matriu de variàncies-covariàncies   sempre és semidefinida positiva. Quan el seu determinant

Primera definició: vector aleatori normal amb funció de densitat

Començarem pel cas més senzill i habitual que el vector aleatori normal tingui densitat, també anomenat vector aleatori normal no singular. Correspon a quan la matriu de variàncies-covariances té determinant diferent de zero, que implica que és una matriu definida positiva. Més endavant veurem el cas general.

Definició. Un vector aleatori   es diu que és normal multidimensional (no singular) [7] si té funció de densitat

 
on  ,   és una matriu (real)   definida positiva [8] i   és el seu determinant. S'escriu  . . Pot donar-se una definició menys explícita, com la següent [9]: Un vector aleatori   es diu que és normal multidimensional si té funció de densitat de la forma
 
on   és una constant normalitzadora (per tal que la integral de   sobre   sigui 1) i   és una forma quadràtica definida positiva en  . Llavors, utilitzant les propietats de les funcions de densitat i de les formes quadràtiques definides positives es dedueix l'expressió (1).

Propietats. modifica

En aquesta secció només veurem les propietats dels vectors aleatoris normals multidimensionals que necessitem per introduir la definició general. Per veure una llista més completa, veieu la secció Propietats més avall.

1. Esperança i matriu de variàncies-covariàncies. Sigui  .


L'esperança del vector és   . La matriu de variàncies-covariàncies (o matriu de dispersió) és

 
2. Les combinacions lineals de les components d'un vector aleatori normal són variables aleatòries normals.

Sigui   i   . Definim

 
Aleshores   on
 

3. Les transformacions afins de vectors aleatoris normals donen vectors aleatoris normals

Sigui  . Considerem   i   una matriu   no singular, és a dir, amb  . Definim

 
Aleshores [10]   amb
 
En particular, atès que existeix una única matriu definida positiva   tal que   [11], anomenada arrel quadrada de  , i designem per   la seva inversa [12], aleshores
 
on   és la matriu identitat de dimensió  . Recíprocament, si   , aleshores
 
Alguns autors anomenen   vector normal multidimensional estàndard, en analogia a la variable normal estàndard.

Observació. Les dues propietats (2) i (3) poden formular-se sense utilitzar la matriu arrel quadrada: de la propietat 3 es dedueix que si   i   és una matriu   tal que   , aleshores   . I recíprocament, si   compleix   i ,  aleshores  .

Funció característica i funció generatriu de moments

Sigui  . Aleshores la seva funció característica és [13]

 
En particular, per a  ,
 

A més,   té funció generatriu de moments en tot   i val [14]

 

Demostracions

Començarem veient la propietat de la transformació afí d'un vector normal muldimensional, de la qual deduirem les altres. Concretament, anem a veure que si   amb funció de densitat

 
i   una matriu   amb  , i  , aleshores el vector   és normal multidimensional   amb
 
En efecte, aquesta propietat resulta de la fórmula de la transformació d'un vector aleatori amb densitat, utilitzant l'aplicació   definida per
 
L'aplicació inversa és
 
La matriu jacobiana de   és   . Llavors, la densitat de   és
 
Ara només falta comprovar que
 
que és evident, i que
 
que equival a veure que
 
la qual cosa també és clara. Per tant, tenim demostrada la propietat 3. L'expressió (2) es dedueix prenent   i   . De manera anàloga s'obté (3). Les formulacions alternatives d'aquestes dues expressions sense utilitzar la matriu arrel quadrada es dedueixen directament de la propietat 3.

Anem a demostrar la propietat 1: Començarem pel cas  , on tenim que   i  . La seva funció de densitat és

 
que factoritza en el producte
 
i, per tant, les variables   són independents i amb llei normal estàndard  . D'on es dedueix que   i  


Ara, quan  , escrivint

 
on  , i aplicant les propietats de l'esperança d'un vector aleatori i de la matriu de variàncies covariàncies , deduïm que   i que  .

Per calcular la funció característica, comencem també per calcular-la per a  . Atès que hem vist que les variables aleatòries   són independents, la funció característica de   serà el producte de les funcions característiques de les corresponents a  , això és,

 
La funció característica del vector aleatori   s'obté aplicant les propietats de les funcions característiques.

Finalment, la propietat 2 es dedueix calculant la funció característica de la variable  

Vector aleatori normal bidimensional o bivariant modifica

Com exemple considerem el cas particular  . Sigui  . Tindrem

 
La matriu de variàncies covariàncies serà
 
on
 
anàlogament   és la variància de  , i   és el coeficient de correlació entre   i  :
 
La inversa de   és
 
Llavors, la funció de densitat de   és
 

Segona definició: cas general modifica

En aplicacions importants, com per exemple la distribució dels residus en models de regressió lineal o la distribució asimptòtica de la distribució multinomial que dóna lloc al test de la   de Pearson, es fa palesa la necessitat d'utilitzar vectors normals que tenen matriu de variàncies-covariàncies amb determinant nul (matriu singular), que s'anomenen vectors aleatoris normals singulars o degenerats [15]; necessàriament aquests vectors no tenen funció de densitat i per tant, cal modificar la definició inicial.

En aquest context, els llibres donen tres definicions (equivalents) de vector aleatori normal multidimensional general a partir de les propietats que hem vist anteriorment. Les definicions (a) i (c) es troben a Seber [16] i la (b) a Ash [17]

(a) Es diu que un vector aleatori   és normal multidimensional si qualsevol combinació lineal de les seves components és una variable aleatòria normal.
(b) Sigui   una matriu   semidefinida positiva i  . Un vector aleatori   es diu que és normal multidimensional   si té funció característica

 
(c) Sigui   una matriu   semidefinida positiva i  . Un vector aleatori   es diu que és normal multidimensional   si té la mateixa llei que   on   (és dir, té funció de densitat (4)), i   és qualsevol matriu   tal que   (sempre existeix al menys una matriu   amb aquestes característiques [18]).

Notació. A partir d'ara, utiitzarem la notació   per referir-nos a un vector aleatori normal  -dimensional, ja sigui no singular o singular.

Demostració.

Vegem que (a)   (b). Suposem que   compleix la condició expressada a (a). En primer lloc, cada component d'aquest vector té esperança i variància ja que, per exemple,  , i, per hipòtesi, és normal. Llavors   tindrà esperança, que designem per  i matriu de variàncies-covariàncies que denotarem per  . Fixem   i sigui   ; anem a calcular   i  : per les propietats de l'esperança d'un vector aleatori i de la matriu de variàncies-covariàncies,

 
Aleshores, podem calcular la funció característica de   de la següent manera:
 
que és el que volíem demostrar.

Vegem que (b)   (c). En efecte, suposem   te rang  . Aleshores, existeix una matriu     de rang   tal que   [18]. Sigui  i definim  . El vector   té la mateixa distribució que  , ja que la funció característica de   és (vegeu les propietats de les funcions característiques multidimensionals)

 
Finalment, vegem que (c)   (a). Sigui  . Aleshores   tindrà la mateixa llei (amb les notacions anteriors) que
 
i llavors, per a   ,
 
on hem utilitzat que la funció característica del vector   té l'expressió (1). Per tant   (i, llavors  ) té una distribució normal.

Exemple. Considerem una variable normal estàndard  . Definim el vector aleatori

 
La seva matriu de variàncies-covariàncies és
 
que té rang 1.


D'altra banda, aquest vector està concentrat en la recta  , és a dir,  ; però llavors, no pot tenir funció de densitat, ja que si existís una funció   no negativa tal que per a qualsevol conjunt borelià   tinguéssim

 
aleshores
 
ja que   té mesura de Lebesgue 0 en el pla, la qual cosa és contradictori amb  .

És clar que tota combinació lienal de les components de   és una variable normal. La seva funció característica és

 
però
 
i, per tant, la funció característica té la forma (6). Finalment, tal com hem vist,   , amb  , que satisfà   i per tant també es compleix la condició donada a la definició (c). En resum,   és un vector aleatori normal bidimensional.

Notació. A partir d'ara, anomenarem vector normal multidimensional a un vector aleatori quec compleixi una de les condicions (equivalents) (a), (b) o (c).

Existència de vectors aleatoris normals. modifica

En el cas no singular, l'existència de vectors aleatoris normals ve donada per resultats generals de la teoria de la probabilitat. Concretament, existeix un espai de probabilitat   i un vector aleatori   que té funció de densitat (1) [19]

En relació amb el cas singular, utilitzant la terminologia de Loeve [20] , les definicions (a) i (b) són descriptives, mentre que (c) és constructiva. Si es parteix d'(a) o (b) cal demostrar l'existència de l'objecte matemàtic que compleix aquesta propietat: ¿existeix un vector aleatori que complexi la propietat enunciada a (a)? ¿Existeix un vector aleatori tal que tingui (6) per funció característica? la resposta a ambdues preguntes ve donada per l'equivalència amb la definició (c).

Propietats. modifica

1. Transformacions lineals. Sigui  , amb   semidefinida positiva,   una matriu   i  . Definim

 
Aleshores [10]   amb
 
Suposem ara que  . Si   és no singular i  , aleshores   és no singular.

Demostració: La funció característica de   és (vegeu les propietats de les funcions característiques multidimensionals)

 
Per veure que si   és no singular i  , aleshores   és no singular, utilitzarem que en aquestes condicions   és definida positiva [21] .

2. Distribucions marginals. Sigui  . Aleshores qualsevol subvector és normal multidimensional.

Demostració. Només cal utilitzar que qualsevol subvector es pot escriure de la forma   per a una matriu convenient   i aplicar la propietat anterior

3. Sigui  , amb   semidefinida positiva.

(i) Si   és definida positiva (cas no singular), això és,  , aleshores   té funció de densitat donada per (1).
(ii) Si   (cas singular), aleshores   no té funció de densitat. Si el rang de   és  , llavors   està concentrada en un subespai lineal de   de dimensió   [22].
En efecte [23], siguin   els valors propis no nuls de  . Existeix una matriu ortogonal     tal que
 

Definim

 
que és un vector normal amb vector d'esperances   i matriu de variàncies-covariàncies
 
Per tant,   . Definim   , que segons la propietat anterior serà normal no singular   on
 
Sigui   la matriu formada per les primeres r columnes de la matriu  . Llavors,
 
Això implica que el vector   està concentrat en el subespai lineal de   de dimensió  :

 
4. Independència. Dues variables aleatòries independents són incorrelacionades, o sigui, la seva covariància és zero. En general el recíproc no és cert. però és veritat quan les variables tenen distribució conjunta normal.

(i) Sigui   . Aleshores les variables aleatòries   són independents si i només si   [24]. Equivalentment, si la matriu   és diagonal.

(ii) Sigui  , i  . Escrivim

 
 
D'altra banda, partim la matriu   de la següent manera:
 
on   és matriu de covariàncies dels vectors   i  ,
 
Noteu que  . Aleshores   i   són independents si i només si   [25].

(iii) La propietat anterior es generalitza a qualsevol partició del vector   en vectors  : aquests vectors són independents si i només si les matrius de covariàncies   [26].

Demostració: La demostració de les tres propietats es basa en el fet que quan les covariàncies són zero, aleshores la funció característica del vector descomposa en producte de les funcions característiques de les components. Vegeu les referències esmentades.

5. Constància de la densitat sobre el·lipsoides. Si   és no singular, aleshores la seva funció de densitat és constant sobre els el·lipsoides  -dimensionals de la forma

 
per a qualsevol   . Es diu que és una distribució amb simetria el·líptica [27] .

Quan   , aleshores els el·lipsoides anteriors són esferes i es diu que la distribució té simetria esfèrica [27].

6. Moments. Fórmula d'Isserlis o de Wick. Atès que un vector aleatori normal té funció generatriu de moments, tindrà moments de tots els ordres, i com que la distribució del vector només depèn de les mitjanes i les covariàncies de les components, els moments només deprendran d'aquestes quantitats; tot i aquesta consideració a priorística, és realment sorprenent que es pugui trobar una fórmula per als moments tan elegant i simple com la que presentem a continuació.


Sigui   (les components poden ser iguals). Aleshores

 
on la suma es fa sobre totes les descomposicions del conjunt   en parelles disjuntes  .

Per exemple,

 
ja que el conjunt   es pot descomposar de 3 maneres en parelles: les parelles  , les parelles   i les parelles   .

Quan hi ha variables repetides, es fan les identificacions a la fórmula anterior: per exemple, per calcular  , prenem   i  . Llavors,

 

Anàlogament,

 
 
 

Observacions.

  1. Si   és senar, aleshores   , ja que   no pot descomposar-se en parelles. D'altra banda, aquesta propietat pot demostrar-se directament del fet que totes les variables tenen esperanza 0, i llavors el vector   té la mateixa distribució que el vector  . En ser   senar,   .
  2. Com que totes les variables tenen esperança zero,   . Sovint s'escriu la formula anterior utilitzant la notació   amb   .
  3. Per a un nombre parell  , el nombre de parelles en que descomposa   és
     
    on   denota el doble factorial de  . Així, per exemple, per a  , tenim que el nombre de parelles és  ; per   tenim   .
  4. Aquesta fórmula va ser descoberta per Isserlis[28] però també és coneguda com a fórmula de Wick a partir del seu treball de Física teòrica [29]. Isserlis va demostrar la fórmula per inducció; veieu una demostració utilitzant funcions característiques a Janson [30]
  5. Quan totes les variables són iguals,   aleshores tenim la coneguda fórmula pels moments de les variables normals centrades [31]
     
  6. Per una extensió als moments d'un vector normal amb vector d'esperances no nul veieu Withers [32]
  7. Per a altres fórmules pels moments d'un vector normal, vegeu Graybill[33] , secció 10.9.

Comentaris sobre el vector aleatori normal bidimensional modifica

Utilitzant les notacions que hem introduït a la secció Vector aleatori normal bidimensional, tenim que  .D'altra banda,

 
Per tant,

 
D'acord amb la propietat 3, i en coherència amb les propietats del coeficient de correlació, quan   hi ha una relació lineal entre   i  : existeixen nombres   i   tals que
 

Distribucions condicionades. modifica

Sigui   no singular. Amb les notacions anteriors tenim [34] la distribució   condicionada per   és normal mutidimensional   on

 
Aquesta propietat també és cert quan   és singular canviant   per una pseudoinversa (o inversa generalitzada)   [35].

Per la demostració, vegeu al referència citada.

En particular, per a  , tenim que   condicionada per   té una distribució normal   on

 

Formes quadràtiques en variables normals modifica

Sigui   i   una matriu   simètrica. Una expressió de forma

 
s'anomena una forma quadràtica en   . L'exemple més senzill és quan   ,   i  . Llavors, la forma quadràtica té una distribució ji-quadrat amb   graus de llibertat,  , ja que llavors   i son independents; llavors
 
Les formes quadràtiques en variables normals tenen un paper important en Estadística. Per un tractament en profunditat, veieu, per exemple, Seber, cap. 20 [36].

Propietats.

  1. Sigui   no singular. Aleshores   i   , on   és una una distribució ji-quadrat descentrada amb   graus de llibertat i paràmetre de descentrament  ; aquí   .
  2. Sigui   no singular i   una matriu   simètrica de rang  . Aleshores  amb   si i només si la matriu   és idempotent:   .
  1. Nualart, David. Curs de probabilitats. Barcelona: PPU, 1990. ISBN 84-7665-718-8. 
  2. Ash, Robert B. Probability and measure theory. 2nd ed. San Diego: Harcourt/Academic Press, 2000. ISBN 0-12-065202-1. 
  3. Anderson, T. W.. An introduction to multivariate statistical analysis. 3rd ed. Hoboken, N.J.: Wiley-Interscience, 2003. ISBN 0-471-36091-0. 
  4. Seber, G. A. F.. Linear regression analysis. 2nd ed. Hoboken, N.J.: Wiley-Interscience, 2003. ISBN 0-471-41540-5. 
  5. Hoffmann-Jørgensen, J. Probability with a view toward statistics. New York, NY: Chapman & Hall, 1994. ISBN 0-412-05221-0. 
  6. Serfling, Robert J. Approximation theorems of mathematical statistics. New York: Wiley, 2002. ISBN 0-471-21927-4. 
  7. Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 435, definició 20.11. ISBN 978-0-470-22678-0. 
  8. Per definició, una matriu definida positiva o semidefinida positiva és simétrica.
  9. Kotz, S.; Balakridhnan, N.; Kotz, N. Continuous multivariate distributions. Vol. 1, Models and applications.. 2nd ed.. New York: Wiley, 2000, p. 167. ISBN 0-471-65403-5. 
  10. 10,0 10,1 Tong, Y. L.. The multivariate normal distribution. New York: Springer-Verlag, 1990, p. 26, Theorem 3.2.1. ISBN 0-387-97062-2. 
  11. Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 220, item 10.8. ISBN 978-0-470-22678-0. 
  12. No hi ha ambiguitat en la notació ja que  . Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 221, item 10.8 (f). ISBN 978-0-470-22678-0. 
  13. Anderson, T. W.. An introduction to multivariate statistical analysis. 3rd ed. Hoboken, N.J.: Wiley-Interscience, 2003, p. 43. ISBN 0-471-36091-0. 
  14. Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 436, ítem 20.23(a). ISBN 978-0-470-22678-0. 
  15. Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 436. ISBN 978-0-470-22678-0. 
  16. Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 436. ISBN 978-0-470-22678-0. 
  17. Ash, Robert B. Probability and measure theory. 2nd ed. San Diego: Harcourt/Academic Press, 2000, p. 449. ISBN 0-12-065202-1. 
  18. 18,0 18,1 Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 221, propietat 10.10. ISBN 978-0-470-22678-0. 
  19. Una funció de densitat multidimensional determina de forma única una funció de distribució multidimensional, a partir de la qual pot construir-se un espai de probabilitat i un vector aleatori amb les propietats desitjades. Vegeu Hoffmann-Jørgensen, J. Probability with a view toward statistics. New York, NY: Chapman & Hall, 1994, p. 111. ISBN 0-412-05221-0. 
  20. Loeve, Michel. Teoría de la probabilidad. Madrid: Tecnos, D.L. 1976. ISBN 84-309-0663-0. . Vegeu, per exemple, les pàgines 331 i següents.
  21. Seber, G. A. F.. Linear regression analysis. 2nd ed. Hoboken, N.J.: Wiley-Interscience, 2003, p. 461, prop. A.4.5. ISBN 0-471-41540-5. 
  22. Nualart, David; Sanz, Marta. Curs de probabilitats. Barcelona: PPU, 1990, p. 128. ISBN 84-7665-718-8. 
  23. Aquesta demostració està basada en l'anomenat Teorema de descomposició espectral de matrius semidefinides positives, vegeu Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 342. ISBN 978-0-470-22678-0. 
  24. Ash, Robert B. Probability and measure theory. 2nd ed. San Diego: Harcourt/Academic Press, 2000, p. 453. ISBN 0-12-065202-1. 
  25. Tong, Y. L.. The multivariate normal distribution. New York: Springer-Verlag, 1990, p. 30. ISBN 0-387-97062-2. 
  26. Seber, G. A. F.. Multivariate observations. New York: John Wiley & Sons, Inc, 1984, p. 18. ISBN 0-471-88104-X. 
  27. 27,0 27,1 Fang, Kaitai. Symmetric multivariate and related distributions. London: Chapman and Hall, 1990. ISBN 0-412-31430-4. 
  28. Isserlis, L. «ON A FORMULA FOR THE PRODUCT-MOMENT COEFFICIENT OF ANY ORDER OF A NORMAL FREQUENCY DISTRIBUTION IN ANY NUMBER OF VARIABLES» (en anglès). Biometrika, 12, 1-2, 01-11-1918, pàg. 134–139. DOI: 10.1093/biomet/12.1-2.134. ISSN: 0006-3444.
  29. Wick, G. C. «The Evaluation of the Collision Matrix» (en anglès). Physical Review, 80, 2, 15-10-1950, pàg. 268–272. DOI: 10.1103/PhysRev.80.268. ISSN: 0031-899X.
  30. Janson, Svante. Gaussian Hilbert spaces. Cambridge, U.K.: Cambridge University Press, 1997, p. 11-12. ISBN 0-521-56128-0. 
  31. Papoulis, Athanasios. Probability, random variables, and stochastic processes. 4th ed. Boston: McGraw-Hill, 2002, p. 148. ISBN 0-07-366011-6. 
  32. Withers, C. S. «The moments of the multivariate normal» (en anglès). Bulletin of the Australian Mathematical Society, 32, 1, 1985-08, pàg. 103–107. DOI: 10.1017/S000497270000976X. ISSN: 1755-1633.
  33. Graybill, Franklin A. «Secció 10.9». A: Matrices with applications in statistics. 2nd ed. Belmont, Calif.: Wadsworth International Group, 1983. ISBN 0-534-98038-4. 
  34. Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 439. ISBN 978-0-470-22678-0. 
  35. Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008, p. 437. ISBN 978-0-470-22678-0. 
  36. Seber, G. A. F.. A matrix handbook for statisticians. Hoboken, N.J.: Wiley-Interscience, 2008. ISBN 978-0-470-22678-0.