Funció característica (teoria de la probabilitat)

En teoria de la probabilitat, la funció característica d'una variable aleatòria real és una eina matemàtica que proporciona informació completa sobre la distribució de probabilitat de la variable aleatòria i sovint en facilita l'estudi. A més, amb les funcions característiques es disposa, gràcies al teorema de continuïtat de Lévy, d'un mètode senzill i potent per estudiar la convergència en distribució d'una successió de variables aleatòries.

Donada una variable aleatòria real definida sobre un espai de probabilitat , la seva funció característica és la funció (és a dir de valors complexos) definida, per a tot real t, per la relació següent (on , i denota l'operador esperança):

Expressions de la funció característica

modifica

Expressions integrals generals

modifica

Per definició de   :

 

Denotant per   la distribució de probabilitat de la variable aleatòria X:

 
(segons el teorema de la mesura imatge)

Remarques:

  • la definició (1) té sentit perquè per a tot real t, la variable aleatòria complexa
 
és fitada (té mòdul 1) i per tant és integrable respecte a la mesura de probabilitat   ;
  • l'equació (2) significa que la funció característica d'una variable aleatòria real X és la transformada de Fourier de la seva distribució de probabilitat  , mesura de probabilitat sobre l'espai mesurable (o probabilitzable)  , on   és la sigma-àlgebra de Borel de  

Casos particulars importants

modifica
  • Quan X és discreta, amb valors   tals que per a tot k,   aleshores:
 
(suma finita o sèrie absolutament convergent)
 
(integral de Lebesgue; en els casos usuals coincideix amb la integral de Riemann)

Propietats elementals

modifica

La funció característica d'una variable aleatòria real X:

  • compleix la relació:
 
 
  • és hermítica:
  (on   és el conjugat del nombre complex z)
  • compleix la identitat:
 
i en particular :  ;
per tant si   i   tenen la mateixa distribució (dita simètrica), la funció   és parella amb valors reals

(la tercera propietat es dedueix del teorema de convergència dominada; les altres són immediates)

Exemples clàssics

modifica

Distribució degenerada

modifica

Si la variable aleatòria X segueix la distribució degenerada de valor   (és a dir:  ; X és constant quasi segurament) aleshores:

 

Distribució binomial

modifica

Si la variable aleatòria X segueix la distribució binomial   (on  ) aleshores:

 

d'on es dedueix (fórmula del binomi de Newton):

 

Distribució de Bernoulli

modifica

En particular, si la variable aleatòria X segueix la distribució de Bernoulli   (on  ) aleshores:

 

Distribució geomètrica

modifica

Si la variable aleatòria X segueix la distribució geomètrica   (on  ) aleshores:

 

Distribució de Poisson

modifica

Si la variable aleatòria X segueix la distribució de Poisson   (on  ) aleshores:

 

Distribució uniforme contínua

modifica

Si la variable aleatòria X segueix la distribució uniforme contínua   (on   i a < b) aleshores:

  si  , i  .

En particular, si X segueix la distribució   (on  ) aleshores:

  si  , i  .

Distribució exponencial

modifica

Si la variable aleatòria X segueix la distribució exponencial   (on  ) aleshores:

 

Distribució normal estàndard

modifica

Si la variable aleatòria X segueix la distribució normal estàndard   aleshores:

 

Distribució de Laplace centrada en el 0

modifica

Si la variable X segueix la distribució de Laplace centrada en 0,  , amb   aleshores:

 

Distribució de Cauchy simètrica

modifica

Si la variable aleatòria X segueix la distribució de Cauchy simètrica   (on  ) aleshores:

 

Per demostrar-ho, es pot utilitzar el teorema dels residus (anàlisi complexa).

Aplicacions

modifica

Cas de la distribució normal general

modifica

Sigui una variable aleatòria X amb distribució normal   (on  ). Aleshores:

 .

Cas de la distribució de Cauchy general

modifica

Sigui una variable aleatòria X amb distribució de Cauchy   (on  ). Aleshores:

 .

Perquè la funció característica és anomenada així

modifica

Com el seu nom ho indica, la funció característica d'una variable aleatòria (real) en caracteritza la distribució de probabilitat: dues variables aleatòries segueixen la mateixa distribució si i només si tenen la mateixa funció característica: és el teorema d'unicitat (vegeu infra).

Per aquesta raó, la funció característica d'una variable aleatòria X també és anomenada funció característica de la distribució d'X. Per exemple, es pot parlar de la funció característica de la distribució normal.

Fórmules d'inversió

modifica

Fórmula d'inversió general. Donada una variable aleatòria real X, es denota per   la seva funció de distribució. Per a tot parell   de punts de continuïtat de   es compleix la relació següent:

 

Això és una variant probabilista del teorema d'inversió de la transformació de Fourier.

Quan la funció característica és integrable no cal fer el pas límit en la fórmula d'inversió i, a més, la variable aleatòria té funció de densitat que s'obté com la transformada de Fourier de la funció característica. Concretament, Fórmula de inversió per a funcions característiques integrables. Sigui   una variable aleatòria real amb funció característica   tal que  Aleshores   té funció de densitat   donada per  A més   és contínua i afitada.


Comentaris.

1. Sigui X una variable aleatòria amb distribució normal estàndard  . Segons hem vist, la seva funció característica és  , que és integrable ja que  Per tant, per la fórmula d'inversió,  

Aleshores, si definim la transformada de Fourier amb la constant normalitzadora  ,[2]  tindrem que la funció   és invariant per la transformada de Fourier:  


2. Hi ha moltes funcions de densitat que no són contínues o no són afitades, i llavors la seva funció característica no és integrable. Per exemple, la distribució exponencial de paràmetre  ,  , té funció de densitat

 


Aquesta funció té una discontinuïtat en el punt 0. La seva funció característica és   que té mòdul  Llavors,

 

Teorema d'unicitat

modifica

El teorema d'inversió permet reconstruir (almenys en teoria) la funció de distribució d'una variable aleatòria a partir de la seva funció característica. Una conseqüència és l'important teorema d'unicitat:

Dues variables aleatòries reals són idènticament distribuïdes si i només si tenen la mateixa funció característica.

Utilització pràctica

modifica

El més sovint, el teorema d'unicitat s'utilitza de la manera següent per determinar la distribució de probabilitat d'una variable aleatòria real X: es calcula la funció característica   i es reconeix la funció característica d'una distribució clàssica que és, per tant, la distribució d'X (per exemple, vegeu infra la prova de l'estabilitat d'algunes distribucions de probabilitat).

Funció característica de la suma de variables aleatòries independents

modifica

Suma de dues variables aleatòries independents

modifica

Donades dues variables aleatòries reals independents X i Y (definides sobre el mateix espai de probabilitat), es compleix la relació següent:

 .

En efecte,

 .

Atès que X i Y són independents, també ho són, per a tot real t, les variables aleatòries   i  ; per tant:

 .

Remarca: el recíproc és fals. Existeixen variables aleatòries no independents les funcions característiques de les quals compleixen aquesta relació. Heus aquí un exemple ben conegut: donada una variable aleatòria X amb distribució de Cauchy simètrica   :

 

Però és clar que X i X no són independents.

Generalització

modifica

Donades n variables aleatòries reals independents   (definides sobre el mateix espai de probabilitat), es compleix la relació següent:

 
(per consegüent, el producte de funcions característiques també és una funció característica).

Se sap que la transformada de Fourier d'un producte de convolució és el producte ordinari de les transformades de Fourier.

Tenint en compte el teorema d'unicitat, la relació precedent s'interpreta així: si les variables aleatòries   són independents, aleshores:

  : la distribució de probabilitat de la suma és el producte de convolució de les distribucions dels termes.

Per determinar la distribució de la suma, els dos punts de vista (producte de convolució de les distribucions de probabilitat, producte ordinari de les funcions característiques) són matemàticament equivalents. Tanmateix, el mètode de les funcions característiques és generalment més simple d'utilitzar.

Aplicació: estabilitat d'algunes distribucions de probabilitat

modifica

Siguin n variables aleatòries reals independents  .

  • si per a tot k,   segueix la distribució binomial  , aleshores   segueix la distribució binomial  
  • si per a tot k,   segueix la distribució de Poisson  , aleshores   segueix la distribució de Poisson  
  • si per a tot k,   segueix la distribució normal  , aleshores   segueix la distribució normal  
  • si per a tot k,   segueix la distribució de Cauchy  , aleshores   segueix la distribució de Cauchy  


Funció característica i moments

modifica

Sigui una variable aleatòria real X.

Teorema directe

modifica

Si el moment d'ordre m d'X existeix (finit), aleshores:

  • la funció característica   és de classe   en  
  •  , i per tant:
  •  , on  .

Recíproc (parcial)

modifica

Si   és m vegades derivable en el punt 0, aleshores:

  • per a tot natural k tal que   el moment d'ordre k d'X existeix i:
  •  

En particular, si   és infinitament derivable en el punt 0, aleshores tots els moments d'X existeixen.

Exemple

modifica

Si la variable aleatòria X segueix la distribució de Poisson  , la seva funció característica és infinitament derivable en   : tots els moments d'X existeixen. Es comprova fàcilment que:

 .

Per tant:

 ,  , i  

(també es poden calcular directament com a sumes de sèries convergents).

Teorema de continuïtat de Lévy

modifica

Aquest teorema permet estudiar la convergència en distribució de les successions de variables aleatòries per mitjà de la convergència puntual de les seves funcions característiques.

Enunciat

modifica

Una successió   de variables aleatòries reals convergeix en distribució cap a una variable aleatòria real X si i només si:

  quan  , on
  és una funció contínua en el punt 0.

En aquest cas,   és la funció característica d'X.

Versió més simple

modifica

Una successió   de variables aleatòries reals convergeix en distribució cap a una variable aleatòria real X si i només si:

  quan  .

La segona versió exigeix que sigui coneguda per endavant la distribució límit.

Utilitzacions

modifica

Heus aquí unes quantes aplicacions clàssiques del teorema de continuïtat de Lévy.

Teorema del límit central

modifica

Una aplicació clàssica del teorema de continuïtat de Lévy és la prova del teorema del límit central.

Teorema de convergència de Poisson

modifica

Una segona aplicació clàssica és la prova del teorema de convergència de Poisson:

Sigui una successió real   tal que   (on  ) i per a tot n,  .
Si per a tot n, la variable aleatòria   segueix la distribució binomial  , aleshores la successió   convergeix en distribució cap a una variable aleatòria X amb distribució  .

Llei feble dels grans nombres

modifica

Una tercera aplicació clàssica és la prova de la llei feble dels grans nombres per a variables aleatòries integrables (és a dir amb esperança finita) i independents. S'enuncia així:

Donada una successió   de variables aleatòries reals (definides sobre el mateix espai de probabilitat) independents i idènticament distribuïdes (abreujadament i.i.d), amb esperança finita, es posa:  .
Si es defineix per a tot n:
 , on  ,
aleshores la successió   convergeix en distribució cap a la constant  .

Remarca: se sap que la convergència en distribució cap a una constant equival a la convergència en probabilitat cap a la mateixa constant.

Cas multidimensional

modifica

Sigui   un vector aleatori de dimensió  , és a dir, una aplicació   tal que cada component   és una variable aleatòria. La seva funció característica és l'aplicació   definida per  Amb notació vectorial, si designem per   el producte escalar ordinari de dos vectors  ,  Quan no hi hagi confusió, escriurem   en lloc de  .

Càlcul de la funció característica

modifica

Cas discret

modifica

Sigui   un vector aleatori discret amb funció de probabilitat  . Aleshores la seva funció característica és 

Cas absolutament continu

modifica

Si   és un vector aleatori amb funció de densitat  . Aleshores la seva funció característica és  

Propietats

modifica

Les propietats de les funcions característiques unidimensionals es trasllades al cas vectorial. Les següents propietats es troben a Sato[3]; per a les demostracions completes vegeu Cuppens[4].

  •  , on   .
  •   .
  • la funció   és uniformement contínua.
  • La funció   és hermítica:  
  • En aquesta propietat és convenient escriure tots els vectors en columna, tal com és habitual en Àlgebra lineal. Designarem per   la transposada d'una matriu (o vector)  . Sigui   un vector aleatori,   un vector d'escalars i   una matriu  . Definim Aleshores,  
  • Teorema d'inversió. Necessitem algunes notacions: Recordem que un conjunt  , on   és la  -àlgebra de Borel sobre  , es diu que és un conjunt de continuïtat de (la distribució de)   si  , on   és la frontera de  . Donats dos vectors,   escriurem   (respectivament  ) si   (respectivament  ). Si   designarem per   el conjunt   ; de manera anàloga es defineix  . Si   és un conjunt de continuïtat de  , aleshores

 

  • Teorema d'unicitat. si   i   són dos vectors aleatoris, amb funcions característiques   i   respectivament, tals que aleshores   i   tenen la mateixa distribució. Evidentment, el recíproc també és cert.
  • Funció característica i independència. Les variables aleatòries   són independents si i només si  

Més generalment, els vectors aleatoris  -dimensionals   són independents si i només si  

  • Funció característica i suma de vectors aleatoris independents. Siguin   vectors aleatoris  -dimensionals independents i posem Aleshores  
  • Funció característica i moments. Recordem que es diu que un vector aleatori   té moment d'ordre  , on  , si  , i, en aquest cas, es defineix el moment d'ordre   per

  Si el vector aleatori   compleix que  , on   és la norma d'un vector  , aleshores la funció característica   és de classe   i per a qualsevol  , amb   , Recíprocament, si la funció característica   és de classe  per a   parell, aleshores el vector   té moments d'ordre   per qualsevol  , amb  .

  • Funció característica i convergència en distribució. Sigui   una successió de vectors aleatoris  -dimensionals. Designem per   la funció característica del vector  . Aleshores la successió convergeix en distribució a un vector aleatori   si i només si  on   és una funció contínua en  . En aquest cas,   és la funció característica de  

Exemples

modifica

Distribució multinomial

modifica

Considerem un experiment que pot tenir   resultats diferents, que designarem per  , amb probabilitats  ,  . Fem   repeticions independents i denotem per   el nombre de vegades que obtenim el resultat  , per   el nombre de vegades que obtenim el resultat  , i així successivament. Aleshores la probabilitat d'obtenir   vegades el resultat  ,   vegades el resultat  , etc. amb   és 

Es diu que el vector   segueix una distribució multinomial[5][6] de paràmetres  , i s'escriu  . Cal notar que cada component   té una distribució binomial de paràmetres   i  ,  . De fet, una distribució multinomial és una extensió de la distribució binomial quan hi ha més de dos resultats possibles. La funció característica del vector   és  


A partir d'aquesta funció característica podem calcular de manera senzilla  :  d'on  

Distribució normal multivariant

modifica

Vegeu Anderson .[7] En aquest exemple escriurem tots els vectors en columna. Un vector aleatori   es diu que segueix una distribució normal  -dimensional   on   és la matriu identitat, si té funció de densitat  Cal notar que les components del vector són independents, cadascuna amb una distribució normal estàndard  . La seva funció característica és  



Sigui   una matriu   definida positiva[8] i  un vector d'escalars. La matriu   té una matriu arrel quadrada   definida positiva (i per tant simètrica) única,[9] que compleix . Definim  Per la fórmula que hem vist abans, la funció característica de   serà, per <