Distribució gamma

Distribució gamma.

En la teoria de la probabilitat i l'estadística, la distribució gamma és una família de distribucions contínues amb dos paràmetres. Té un paràmetre d'escala θ i un paràmetre de forma k. Si k és un nombre sencer aleshores la distribució representa la suma de k variables aleatòries exponencials, cadascuna de les quals té mitjana θ.

Caracterització

Una variable aleatòria gamma X amb escala θ i forma k es denota

$X\sim \Gamma (k,\theta )\,\,\mathrm {or} \,\,X\sim {\textrm {Gamma}}(k,\theta )$$X\sim \Gamma (k,\theta )\,\,\mathrm {or} \,\,X\sim {\textrm {Gamma}}(k,\theta )$

Funció de densitat de probabilitat

La funció de probabilitat de densitat de la distribució gamma pot expressar-se en termes de la funció gamma:

$f(x;k,\theta )=x^{k-1}{\frac {e^{-x/\theta }}{\theta ^{k}\,\Gamma (k)}}\ \mathrm {for} \ x>0\,\,\mathrm {and} \,\,k,\theta >0.$$f(x;k,\theta )=x^{k-1}{\frac {e^{-x/\theta }}{\theta ^{k}\,\Gamma (k)}}\ \mathrm {for} \ x>0\,\,\mathrm {and} \,\,k,\theta >0.$

En aquesta parametrització l'esperança és $k/\theta$$k/\theta$ Alternativament, la distribució gamma pot parameteritzar-se en termes d'un paràmetre de forma $\alpha =k$$\alpha =k$ i un paràmetre d'escala inversa $\beta =1/\theta$$\beta =1/\theta$, anomenat un paràmetre de tasa:

$g(x;\alpha ,\beta )=x^{\alpha -1}{\frac {\beta ^{\alpha }\,e^{-\beta \,x}}{\Gamma (\alpha )}}\ \mathrm {for} \ x>0\,\!.$$g(x;\alpha ,\beta )=x^{\alpha -1}{\frac {\beta ^{\alpha }\,e^{-\beta \,x}}{\Gamma (\alpha )}}\ \mathrm {for} \ x>0\,\!.$

En la segona parametrització l'esperança és $k\theta$$k\theta$. Ambdues parametritzacions són comunes perquè qualsevol de les dues pot ésser més convenient depenent de la tasca a la que un s'enfronta. És possible una tercera parametrització, on es manté el paràmetre de forma $\alpha =k$$\alpha =k$ i s'introdueix l'esperança $\mu =\alpha /\theta$$\mu =\alpha /\theta$. L'avantatge d'aquesta darrera parametrització és que és més fàcilment interpretable.

Funció de distribució

La funció de distribució pot expressar-se en termes de la funció gamma incomplerta,

$F(x;k,\theta )=\int _{0}^{x}f(u;k,\theta )\,du={\frac {\gamma (k,x/\theta )}{\Gamma (k)}}\,\!$$F(x;k,\theta )=\int _{0}^{x}f(u;k,\theta )\,du={\frac {\gamma (k,x/\theta )}{\Gamma (k)}}\,\!$

Propietats

Moments

• Mitjana = $k\theta \,\!$$k\theta \,\!$
• Mediana = no hi ha una expressió simple
• Moda = $(k-1)\theta \,\!$$(k-1)\theta \,\!$ per $k\geq 1\,\!$$k\geq 1\,\!$, 0 altrament
• Variància = $k\theta ^{2}\,\!$$k\theta ^{2}\,\!$
• Asimetria = ${\frac {2}{\sqrt {k}}}\,\!$${\frac {2}{\sqrt {k}}}\,\!$
• Curtosis = ${\frac {6}{k}}\,\!$${\frac {6}{k}}\,\!$
• Entropia = $k+\ln \theta +\ln \Gamma (k)+(1-k)\psi (k)\!$$k+\ln \theta +\ln \Gamma (k)+(1-k)\psi (k)\!$
• Funció generadora de moments = $(1-\theta \,t)^{-k}\,\!$$(1-\theta \,t)^{-k}\,\!$ for $t<1/\theta \,\!$$t<1/\theta \,\!$
• Funció característica = $(1-\theta \,i\,t)^{-k}\,\!$$(1-\theta \,i\,t)^{-k}\,\!$

Suma

Si X_i segueix una distribució Γ(α_i, β) per a i = 1, 2, ..., N, aleshores

$\sum _{i=1}^{N}X_{i}\sim \Gamma \left(\sum _{i=1}^{N}\alpha _{i},\beta \right)\,\!$$\sum _{i=1}^{N}X_{i}\sim \Gamma \left(\sum _{i=1}^{N}\alpha _{i},\beta \right)\,\!$

assumint que totes les X_i són independents.

La distribució gamma és infinitament divisible.

Transformació d'escala

Per a qualssevol t > 0 es compleix que tX segueix una distribució Γ(k, tθ), demonstrant que θ és un paràmetre d'escala.

Família exponencial

La distribució gamma pertany a la família exponencial de dos paràmetres i té paràmetres naturals $k-1$$k-1$ i $1/\theta$$1/\theta$, i estadístics naturals $X$$X$ i $\ln(X)$$\ln(X)$.

Entropía

L'entropia ve donada per

${\frac {-1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }{\frac {x^{k-1}}{e^{x/\theta }}}\left[(k-1)\ln x-x/\theta -k\ln \theta -\ln \Gamma (k)\right]\,dx\!$${\frac {-1}{\theta ^{k}\Gamma (k)}}\int _{0}^{\infty }{\frac {x^{k-1}}{e^{x/\theta }}}\left[(k-1)\ln x-x/\theta -k\ln \theta -\ln \Gamma (k)\right]\,dx\!$

$=-\left[(k-1)(\ln \theta +\psi (k))-k-k\ln \theta -\ln \Gamma (k)\right]\!$$=-\left[(k-1)(\ln \theta +\psi (k))-k-k\ln \theta -\ln \Gamma (k)\right]\!$

$=k+\ln \theta +\ln \Gamma (k)+(1-k)\psi (k)\!$$=k+\ln \theta +\ln \Gamma (k)+(1-k)\psi (k)\!$

on ψ(k) és la funció digamma.

Divergència Kullback-Leibler

La divergència Kullback-Leibler entre una Γ(α₀, β₀) (la distribució veritable) i una Γ(α, β) (la distribució que l'aproxima) ve donada per

$D_{\mathrm {KL} }(\alpha ,\beta ||\alpha _{0},\beta _{0})=\log \left({\frac {\Gamma ({\alpha _{0}})\beta _{0}^{\alpha _{0}}}{\Gamma (\alpha )\beta ^{\alpha _{0}}}}\right)+(\alpha -{\alpha _{0}})\psi (\alpha )+\alpha {\frac {\beta -\beta _{0}}{\beta _{0}}}$$D_{\mathrm {KL} }(\alpha ,\beta ||\alpha _{0},\beta _{0})=\log \left({\frac {\Gamma ({\alpha _{0}})\beta _{0}^{\alpha _{0}}}{\Gamma (\alpha )\beta ^{\alpha _{0}}}}\right)+(\alpha -{\alpha _{0}})\psi (\alpha )+\alpha {\frac {\beta -\beta _{0}}{\beta _{0}}}$

Transformada de Laplace

La transformada de Laplace de la distribució gamma és:

$F(s)={\frac {\beta ^{\alpha }}{(s+\beta )^{\alpha }}}$$F(s)={\frac {\beta ^{\alpha }}{(s+\beta )^{\alpha }}}$

Estimació dels paràmetres

Màxima versemblança

La funció de versemblança per a N observacions iid $(x_{1},\ldots ,x_{N})$$(x_{1},\ldots ,x_{N})$ és

$L(\theta )=\prod _{i=1}^{N}f(x_{i};k,\theta )\,\!$$L(\theta )=\prod _{i=1}^{N}f(x_{i};k,\theta )\,\!$

de la qual podem calcular la log-versemblança

$\ell (\theta )=(k-1)\sum _{i=1}^{N}\ln {(x_{i})}-\sum x_{i}/\theta -Nk\ln {(\theta )}-N\ln {\Gamma (k)}.$$\ell (\theta )=(k-1)\sum _{i=1}^{N}\ln {(x_{i})}-\sum x_{i}/\theta -Nk\ln {(\theta )}-N\ln {\Gamma (k)}.$

L'estimador màxim-versemblant s'obté maximitzant la log-versemblança, és a dir, calculant-ne la derivada i igualant a zero (es pot demostrar que la funció és convexa i que per tant té un sol extrem). Procedint d'aquesta manera trobem que:

${\hat {\theta }}={\frac {1}{kN}}\sum _{i=1}^{N}x_{i}.\,\!$${\hat {\theta }}={\frac {1}{kN}}\sum _{i=1}^{N}x_{i}.\,\!$

Substituint aquest resultat a l'expressió de la log-versemblança dóna

$\ell =(k-1)\sum _{i=1}^{N}\ln {(x_{i})}-Nk-Nk\ln {\left({\frac {\sum x_{i}}{kN}}\right)}-N\ln {(\Gamma (k))}.\,\!$$\ell =(k-1)\sum _{i=1}^{N}\ln {(x_{i})}-Nk-Nk\ln {\left({\frac {\sum x_{i}}{kN}}\right)}-N\ln {(\Gamma (k))}.\,\!$

Per trobar el màxim respecte de k cal calcular la derivada i igualar-la a zero, amb què s'obté:

$\ln {(k)}-\psi (k)=\ln {\left({\frac {1}{N}}\sum _{i=1}^{N}x_{i}\right)}-{\frac {1}{N}}\sum _{i=1}^{N}\ln {(x_{i})}\,\!$$\ln {(k)}-\psi (k)=\ln {\left({\frac {1}{N}}\sum _{i=1}^{N}x_{i}\right)}-{\frac {1}{N}}\sum _{i=1}^{N}\ln {(x_{i})}\,\!$

on

$\psi (k)={\frac {\Gamma '(k)}{\Gamma (k)}}\!$$\psi (k)={\frac {\Gamma '(k)}{\Gamma (k)}}\!$

és la funció digamma. No existeix cap fórmula tancada per a k, però la funció es comporta bé numèricament (és convex), i per tant és senzill trobar-ne una solució numèrica, per exemple amb el mètode de Newton. És possible trobar un valor inicial per a k emprant el mètode dels moments, o emprant l'aproximació

$\ln(k)-\psi (k)\approx {\frac {1}{k}}\left({\frac {1}{2}}+{\frac {1}{12k+2}}\right).\,\!$$\ln(k)-\psi (k)\approx {\frac {1}{k}}\left({\frac {1}{2}}+{\frac {1}{12k+2}}\right).\,\!$

Si definim

$s=\ln {\left({\frac {1}{N}}\sum _{i=1}^{N}x_{i}\right)}-{\frac {1}{N}}\sum _{i=1}^{N}\ln {(x_{i})},\,\!$$s=\ln {\left({\frac {1}{N}}\sum _{i=1}^{N}x_{i}\right)}-{\frac {1}{N}}\sum _{i=1}^{N}\ln {(x_{i})},\,\!$

aleshores k és aproximadament

$k\approx {\frac {3-s+{\sqrt {(s-3)^{2}+24s}}}{12s}}$$k\approx {\frac {3-s+{\sqrt {(s-3)^{2}+24s}}}{12s}}$

que és dins d'un 1,5% del valor correcte.

Estimador Bayesià

Si considerem que k és conegut i $\theta$$\theta$ és desconegut, la funció de densitat a posteriori per a $\theta$$\theta$ és (assumint que la distribució a priori és proporcional a $1/\theta$$1/\theta$)

$P(\theta |k,x_{1},...,x_{N})\propto 1/\theta \prod _{i=1}^{N}f(x_{i};k,\theta ).\,\!$$P(\theta |k,x_{1},...,x_{N})\propto 1/\theta \prod _{i=1}^{N}f(x_{i};k,\theta ).\,\!$

Definint

$y\equiv \sum _{i=1}^{N}x_{i},\qquad P(\theta |k,x_{1},\dots ,x_{N})=C(x_{i})\theta ^{-Nk-1}e^{-y/\theta }.\!$$y\equiv \sum _{i=1}^{N}x_{i},\qquad P(\theta |k,x_{1},\dots ,x_{N})=C(x_{i})\theta ^{-Nk-1}e^{-y/\theta }.\!$

Per tal de calcular l'esperança cal calcular la integral respecte &theta, el qual pot dur-se a terme emprant un canvi de variables que revela que 1/&theta segueix una distribució gamma amb paràmetres $\scriptstyle \alpha =Nk,\ \ \beta =y$$\scriptstyle \alpha =Nk,\ \ \beta =y$.

$\int _{0}^{\infty }\theta ^{-Nk-1+m}e^{-y/\theta }\,d\theta =\int _{0}^{\infty }x^{Nk-1-m}e^{-xy}\,dx=y^{-(Nk-m)}\Gamma (Nk-m).\!$$\int _{0}^{\infty }\theta ^{-Nk-1+m}e^{-y/\theta }\,d\theta =\int _{0}^{\infty }x^{Nk-1-m}e^{-xy}\,dx=y^{-(Nk-m)}\Gamma (Nk-m).\!$

Els moments podem calcular-se especificant diferents valors per a m a la següent expressió

$E(x^{m})={\frac {\Gamma (Nk-m)}{\Gamma (Nk)}}y^{m},\!$$E(x^{m})={\frac {\Gamma (Nk-m)}{\Gamma (Nk)}}y^{m},\!$

Per exemple, l'esperança +/- la desviació estàndard de la distribució a posteriori de $\theta$$\theta$ és:

${\frac {y}{Nk-1}}$${\frac {y}{Nk-1}}$ +/- ${\frac {y^{2}}{(Nk-1)^{2}(Nk-2)}}.$${\frac {y^{2}}{(Nk-1)^{2}(Nk-2)}}.$

També és possible obtenir estimadors Bayesians sense assumir que k és conegut, però en general no és possible obtenir-ne una expressió senzilla.

Generant valors d'una distribució gamma

Tenint en compte la propietat d'escala esmentada anteriorment, és suficient generar una variable gamma amb β = 1 i després transformar-la a qualsevol altre valor de β amb una simple divisió.

Emprant el fet que una distribució Γ(1, 1) és el mateix que una distribució exponencial Exp(1), i tenint en compte el mètode per generar variables aleatòries exponencials, arribem a la conclusió de què si U prové d'una distribució uniforme en (0, 1], aleshores -ln(U) segueix una Γ(1, 1). Emprant la propietat de què la suma de variables aleatòries gamma independents segueix novament una distribució gamma, extenem el resultat:

$\sum _{k=1}^{n}{-\ln U_{k}}\sim \Gamma (n,1),$$\sum _{k=1}^{n}{-\ln U_{k}}\sim \Gamma (n,1),$

on U_k són uniformement distribuïdesen (0, 1] i independents.

Tanmateix aquesta estratègia només funciona si n és un nombre sencer. Ara veurem com generar observacions d'una Γ(δ, 1) per a 0 < δ < 1, ja que després podem aplicar la propietat de la suma per al cas 1 < &delta.

A continuació presenten un algoritme, sense demostració. Es tracta d'un cas particular del mètode d'acceptació-rebuig:

1. Sigui m= 1.
2. Generar $V_{2m-1}$$V_{2m-1}$ i $V_{2m}$$V_{2m}$ — independents i uniformement distribuïdes a (0, 1].
3. Si $V_{2m-1}\leq v_{0}$$V_{2m-1}\leq v_{0}$, on $v_{0}={\frac {e}{e+\delta }}$$v_{0}={\frac {e}{e+\delta }}$, aleshores anar a 4, altrament anar a 5.
4. Sigui $\xi _{m}=V_{2m-1}^{1/\delta },\ \eta _{m}=V_{2m}\xi _{m}^{\delta -1}$$\xi _{m}=V_{2m-1}^{1/\delta },\ \eta _{m}=V_{2m}\xi _{m}^{\delta -1}$. Anar a 6.
5. Sigui $\xi _{m}=1-\ln {V_{2m-1}},\ \eta _{m}=V_{2m}e^{-\xi _{m}}$$\xi _{m}=1-\ln {V_{2m-1}},\ \eta _{m}=V_{2m}e^{-\xi _{m}}$.
6. Si $\eta _{m}>\xi _{m}^{\delta -1}e^{-\xi _{m}}$$\eta _{m}>\xi _{m}^{\delta -1}e^{-\xi _{m}}$, aleshores incrementar m i tornar a 2.
7. Assumim que $\xi =\xi _{m}$$\xi =\xi _{m}$ és l'observació d'una $\Gamma (\delta ,1)$$\Gamma (\delta ,1)$

Per resumir,

$\theta \left(\xi -\sum _{i=1}^{[k]}{\ln U_{i}}\right)\sim \Gamma (k,\theta ),$$\theta \left(\xi -\sum _{i=1}^{[k]}{\ln U_{i}}\right)\sim \Gamma (k,\theta ),$

on [k] és la part sencera de k, i ξ ha estat generat emprant l'algoritme que hem presentat δ = {k} (la part fraccional de k), U_k i V_l segueixen la distribució explicada anteriorment i són independents.

La Llibreria científica GNU disposa de rutines robustes per a generar observacions de moltes distribucions, incloent la distribució Gamma.

Distribucions relacionades

Casos particulars

• Si $X\sim {\Gamma }(k=1,\theta =1/\lambda )\,$$X\sim {\Gamma }(k=1,\theta =1/\lambda )\,$, aleshores X segueix una distribució exponencial amb paràmetre λ.
• Si $X\sim {\Gamma }(k=v/2,\theta =2)\,$$X\sim {\Gamma }(k=v/2,\theta =2)\,$, aleshores X és idènticament distribuïda a una χ²(ν), la distribució khi-quadrat amb ν graus de llibertat.
• Si $k$$k$ és un nombre sencer, la distribució gamma es denomina

distribució d'Erlang que serveix per a modelar el temps d'arribada fins a la $k$$k$-ena "arribada" en un procés de Poisson d'una dimensió amb intensitat 1/θ.

• Si $X^{2}\sim {\Gamma }(3/2,2a^{2})\,$$X^{2}\sim {\Gamma }(3/2,2a^{2})\,$, aleshores X segueix una distribució de Maxwell-Boltzmann amb paràmetre a.
• $X\sim \mathrm {SkewLogistic} (\theta )\,$$X\sim \mathrm {SkewLogistic} (\theta )\,$, aleshores $\mathrm {log} (1+e^{-X})\sim \Gamma (1,\theta )\,$$\mathrm {log} (1+e^{-X})\sim \Gamma (1,\theta )\,$

Altres

• Si X segueix una Γ(k, θ) aleshores 1/X segueix una distribució gamma inversa amb paràmetres k i θ^-1.
• Si X i Y són Γ(α, θ) i Γ(β, θ) independents, respectivament, aleshores X / (X + Y) segueix una distribució beta amb paràmetres α i β.
• Si X_i són Γ(α_i,θ) independents, aleshores el vector (X₁ / S, ..., X_n / S), on S = X₁ + ... + X_n, segueix una distribució de Dirichlet amb paràmetres α₁, ..., α_n.

Bibliografia

A Wikimedia Commons hi ha contingut multimèdia relatiu a: Distribució gamma

• R. V. Hogg and A. T. Craig. Introduction to Mathematical Statistics, 4th edition. New York: Macmillan, 1978. (See Section 3.3.)
• Weisstein, Eric W., «Gamma distribution» a MathWorld (en anglès).
• Engineering Statistics Handbook
• S. C. Choi and R. Wette. (1969) Maximum Likelihood Estimation of the Parameters of the Gamma Distribution and Their Bias, Technometrics, 11(4) 683-69