Llei dels grans nombres

De Viquipèdia
Salta a la navegació Salta a la cerca
Una il·lustració de la llei dels grans nombres, amb una sèrie concreta de llançaments d'un dau. A mesura que augmenta el nombre de llançaments, la mitjana dels valors de tots els resultats s'aproxima a 3,5. Mentre que sèries diferents de llançaments poden mostrar un esquema diferent quan encara s'han fet pocs llançaments (a l'esquerra), quan augmenta el nombre de llançaments (a la dreta) les sèries es comporten de manera similar.

En teoria de la probabilitat, la llei dels grans nombres més senzilla és un teorema segons el qual quan el nombre d'observacions d'un fenomen aleatori és molt gran, la freqüència relativa d'un esdeveniment convergeix quasi segurament a la probabilitat de l'esdeveniment. Mes generalment, l'expressió lleis dels grans nombres indica una col·lecció de teoremes que tracten del comportament de la mitjana d'una família de variables aleatòries quan el nombre de variables tendeix a infinit (comportament asimptòtic) sota diferents hipòtesis: variables idènticament distribuïdes o no, independència, existència de moments, etc. Cal remarcar que en aquest context la paraula llei és sinònima de teorema.

Atès que hi ha diversos conceptes de convergència de variables aleatòries, es distingeix entre les lleis febles dels grans nombres, on la convergència és en probabilitat, i les lleis fortes, on la convergència és quasi segura. Com que la convergència quasi segura implica la convergència en probabilitat, qualsevol llei forta implica la llei feble sota les mateixes hipòtesis i, per tant, sembla que n'hi hauria prou en estudiar les lleis fortes. Però aquest no és el cas, ja que d'una banda, sota certes hipòtesis només es pot demostrar una llei feble, i d'altra banda, les demostracions de les lleis fortes són, en general, molt més difícils que les de les lleis febles.

La primera llei dels grans nombres va ser establerta per Jacob Bernoullli en 1713, a partir de la qual es van anar produint nombroses extensions i refinaments, assolint-se un cim amb la llei forta d'Andrei Kolmogorov de 1933. Actualment contínua sent un camp de recerca molt actiu.

Gràcies a la llei que hem comentat al principi de l'aproximació de les freqüències relatives d'un esdeveniment a la seva probabilitat, l'anomenada definició freqüentista de la probabilitat queda inclosa com un teorema dintre de l'axiomàtica de Kolmogorov. D'altra banda, experimentalment podem:

  • Comprovar si són vàlides o no les probabilitats assignades a priori als esdeveniments dels instruments aleatoris suposadament regulars.
  • Obtenir de manera aproximada les probabilitats d'esdeveniments d'experiències aleatòries irregulars.

Aquesta llei és important perquè garanteix relacions estables entre les mitjanes de diversos esdeveniments aleatoris. Per exemple, mentre que un casino pot perdre diners en una simple tirada de la ruleta, els seus guanys tendiran a un percentatge predictible amb un nombre gran de tirades. La sort del jugador (bona o dolenta) serà, a la llarga, superada pels paràmetres del joc. Cal recordar que la llei, però, tan sols s'aplica quan es considera un nombre elevat d'observacions, tal com el nom indica. El principi no es pot aplicar per un nombre petit d'observacions ni es pot esperar que una tongada d'un valor concret sigui immediatament "equilibrada" amb l'obtenció d'altres valors (consulteu la fal·làcia del jugador).

Exemples[modifica]

Per exemple, una única tirada d'un dau equilibrat de sis cares té sis possibles resultats (1, 2, 3, 4, 5 o 6), tots amb la mateixa probabilitat. Per tant, el valor esperat o mitjana és :

Segons la llei dels grans nombres, si es tiren un nombre elevat de vegades un dau, la mitjana dels seus valors serà pròxima a 3,5 i la seva precisió augmentarà amb la tirada de més daus.

D'aquesta llei, se'n pot deduir que la probabilitat empírica d'un succés o esdeveniment, és al dir, la freqüència relativa de vegades que s'ha realitzat el succés en una sèrie llarga de repeticions (assajos de Bernoulli) convergirà a la probabilitat teòrica. Per una variable aleatòria de Bernoulli, el valor esperat després d'un nombre d'assajos prou elevat coincideix amb la probabilitat teòrica de l'esdeveniment i la mitjana de les n variables (assumint que són aleatòries, independents i idènticament distribuïdes (i.i.d.)) és precisament la freqüència relativa.

Per exemple, la tirada d'una moneda equilibrada (on les probabilitats d'obtenir cara o creu són iguals) és un assaig de Bernoulli. Quan es tira per primer cop, la probabilitat de cara és 1/2. Per tant, segons la llei dels grans nombres, la proporció de cares en un nombre "gran" de tirades "hauria de ser" aproximadament 1/2. En concret, la proporció de cares després de n tirades convergirà de forma quasi segura cap a 1/2 a mesura que n s'apropa a infinit.

Malgrat que la proporció de cara (i creu) s'apropa a 1/2, a mesura que creix el nombre de tirades, pràcticament segur que la diferència absoluta entre el nombre de cares i creus també creixerà. D'altra banda, també pràcticament segur que la ràtio de la diferència absoluta respecte al nombre de tirades s'aproximarà a zero. De forma intuïtiva, la diferència absoluta esperada creix, però a un ritme menor que el nombre de tirades.

Història[modifica]

El matemàtic italià Gerolamo Cardano (1501–1576) va constatar, sense demostrar, que la precisió de les mesures estadístiques empíriques tendien a millorar amb el nombre d'assajos [1], i que es pot considerar una versó rudimentària de la llei dels grans nombres. Una forma especial d'aquesta llei, per les variables aleatòries binàries, va ser demostrar primerament per Jacob Bernoulli al seu llibre (postum) Ars conjectandi [2] de 1713 ; segon explica ell mateix, li va costar més de vint anys desenvolupar una prova matemàtica suficientment rigorosa. El va anomenar el seu "Teorema daurat", però va ser conegut generalment amb el nom del "Teorema de Bernoulli", que no s'ha de confondre amb el Principi de Bernoulli, referit al seu cosí Daniel Bernoulli. El 1837, S.D. Poisson el va anomenar "la loi des grands nombres" ("La llei dels grans nombres") i en va demostrar una versió més general.[3] [4]

Després que Benroulli i Poisson publiquessin els seus resultats, molts altres matemàtics van contribuir a refinar la llei, com Chebyshev,[5] Markov, Borel, Cantelli, Kolmogorov i Khintxin. Markov va demostrar que la llei es podia aplicar a variables aleatòries que no tinguessin una variància finita sota alguna altra hipòtesi més feble, i Khintxin va provar, el 1929, que si la successió consistia en variables aleatòries independents i idènticament distribuïdes, era suficient que el valor esperat existís per tal que la llei feble dels grans nombres fos veritat.[6] Per una visió històrica de la llei feble dels grans nombres vegeu Seneta [7]. En relació a la llei forta [8], cal citar el treball pioner de Borel de 1909 [9] on demostra una llei forta per a variables de Bernoulli, posteriorment les contribucions de Cantelli i Slutsky [10] i finalment la lleis fortes de Kolmogorov de finals dels anys 20 i del seu seminal llibre [11] de 1933.

Lleis febles dels grans nombres[modifica]

Llei feble per a variables independents i idènticament distribuïdes (i.i.d.) amb moment de segon ordre.[modifica]

Per motius didàctics, ja que la demostració és molt senzilla, s'acostuma a començar per la llei feble per a variables aleatòries independents totes amb la mateixa distribució (i.i.d.) amb moment de 2n. ordre (finit). De fet, aquesta serà l'única llei dels grans nombres que demostrarem. Cal tenir present que aquest cas és una conseqüència directa de la llei forta de Kolmogorov, de manera que el lector interessat en els resultats més generals pot ometre aquest primer teorema.

Llei feble per a variables independents idènticament distribuïdes amb moment de segon ordre.[12] Considerem una successió de variables aleatòries [13] independents totes amb la mateixa distribució (i.i.d.), amb esperança i amb moment de segon ordre (finit): . Aleshores

Observacions.

1. La convergència en probabilitat vol dir que per a qualsevol ,

En paraules, que la probabilitat que i siguin gaire diferents pot fer-se tan petita com es vulgui.

2. La convergència en mitjana quadràtica vol dir que

Aquest resultat s'anomena llei dels grans nombres en mitjana quadràtica.

3. Molts sovint aquesta llei s'escriu utilitzant la mitjana de les variables :

Aleshores el teorema es formula dient que
Prova: Demostrarem primer que la convergència és en mitjana quadràtica: Atès que
i que les variables són independents, tenim que
Per tant,
Finalment, s'aplica que la convergència en mitjana quadràtica implica la convergència en probabilitat.

Observació. De la demostració es veu que es pot substituir la condició d'independència per la de variables incorrelacionades (dos a dos). Recordem que dues variables aleatòries amb moment de segon ordre es diu que són incorrrelacionades si la seva covariància és 0, o equivalentment, si .

El teorema de Bernoulli[modifica]

Com a conseqüència tenim el teorema de Bernoulli (1713) que s'esmenta en la nota històrica. Recordem que una variable aleatòria de Bernoulli de paràmetre , amb , només pot prendre els valors 0 o 1, amb probabilitats

L'esperança de és .

Llei dels grans nombres de Bernoulli (1713). Siguin variables de Bernoulli de paràmetre independents. Aleshores

Com a cas particular tenim la convergència de les freqüències relatives d'ocurrència d'un esdeveniment cap a la seva probabilitat. Tal com hem comentat a la introducció, aquest és un resultat fonamental perquè lliga la definició freqüentista de probabilitat amb l'axiomàtica de Kolmogorov.

Convergència de les freqüències relatives a la probabilitat[modifica]

Teorema. Considerem un experiment aleatori que tingui per model un espai de probabilitat i sigui un esdeveniment. Suposem que repetim l'experiment indefinidament i de forma independent. Designem per la freqüència relativa de vegades que succeeix en les primeres repeticions:

Aleshores
Observació: A conseqüència de la llei forta de Kolmogorov que veurem més endavant, la convergència també és quasi segura.

Prova: Sigui la variable aleatòria que val 1 si a la repetició -èsima ha ocorregut l'esdeveniment i 0 en cas contrari:

Es tracta d'una variable de Bernoulli de paràmetre . A més, les variables són independents, i
Ara s'aplica la llei dels grans nombres de Bernoulli.

Llei feble per a variables idènticament distribuïdes, dos a dos independents, amb esperança finita[modifica]

El següent teorema és degut a Khintxin suposant que les variables són independents [14] i va ser un resultat molt important. Per la demostració d'aquesta versió vegeu [15]

Llei feble per a variables idènticament distribuïdes, dos a dos independents, amb esperança finita . Sigui una successió variables aleatòries idènticament distribuïdes, dos a dos independents, amb esperança finita . Aleshores

Llei feble sense condicions sobre els moments[modifica]

A les lleis febles que hem vist hem suposat que les variables tenien moments de segon o primer ordre. Aquesta condició pot relaxar-se. A més. s'obté una condició necessària i suficient.

Llei feble dels grans nombres per a variables i.i.d. sense hipòtesis sobre els moments [16] . Sigui una successió de variables aleatòries independents idènticament distribuïdes. Aleshores existeix una successió de constants tal que

si i només si
I en aquest cas es pot prendre

Observacions:

1. Cal notar que la condició (*) pot escriure's en termes de la funció de distribució de de la següent manera:

i que les constants són

2. Si , aleshores es compleix (*) [16] . Però pel cas i.i.d. amb esperança finita, la llei forta de Kolmogorov proporciona la convergència quasi segura, que és un resultat més important.

Llei feble sense suposar que les variables són idènticament distribuïdes[modifica]

Pot eliminar-se la condició que les variables tinguin totes la mateixa distribució al preu d'exigir l'existència de moments de segon ordre amb una restricció sobre el seu creixement. En el següent teorema, de Markov, no se suposa que les variables siguin independents:
Llei feble dels grans nombre per a variables amb moment de 2n. ordre [14]. Sigui una successió de variables aleatòries amb moment de segon ordre. Escrivim . Suposem que

Aleshores
Observació: Si les variables són incorrelacionades, és a dir, per a , tenen covariància 0, o equivalentment, (en particular, si les variables són independents dos a dos, o indepenents), alehores la condició (**) pot canviar-se per

La llei feble de Poisson[modifica]

Poisson comenta [17] que en les aplicacions molt sovint es tenen variables de Bernoulli on la probabilitat canvia a cada repetició de l'experiment. Per aquesta situació tenim:

Llei feble dels grans nombres de Poisson. Siguin variables de Bernoulli de paràmetres respectivament, independents. Aleshores

Aquest teorema es dedueix de la llei feble per variables no idènticament distribuides ja que
i llavors
que òbviament convergeix a 0.

Lleis fortes dels grans nombres[modifica]

Finalment, veurem dos resultats deguts a Kolmogorov: el primer és una extensió per a la convergència quasi segura del cas quan no se suposa que les variables tinguin la mateixa distribució. El segon és la celebrada llei forta de Kolgmogorv on es tanca el cas de variables independents i idènticament distribuïdes, ja que s'estableix una condició necessària i suficient per a la convergència quasi segura de a un límit finit.

Llei forta per a variables independents amb moment de segon ordre [16]. Sigui una successió de variables aleatòries independents amb moment de segon ordre (finit). Escrivim . Suposem que

Aleshores

Observació. Cal notar que la llei dels grans nombres de Poisson també es compleix quasi segurament, ja que en aquell cas,

Llei forta dels grans nombres de Kolmogorov [18]. Sigui una successió de variables aleatòries independents i idènticament distribuïdes. Aleshores

on és una constant finita si i només si . En aquest cas, .

La independència de les variables aleatòries pot ser substituïda per la independència dos a dos.[19]

Vegeu també[modifica]

Notes[modifica]

  1. Mlodinow, 2008, p. 50.
  2. Vegeu una traducció a l'anglès del capitol 4 a http://www.sheynin.de/download/bernoulli.pdf. Consultada el 27 de març de 2021
  3. Poisson, 1987, p. 139-143,277.
  4. Hacking, Ian. (1983) "19th-century Cracks in the Concept of Determinism", Journal of the History of Ideas, 44 (3), 455-475
  5. Tchebichef, P. «Démonstration élémentaire d'une proposition générale de la théorie des probabilités». Journal für die reine und angewandte Mathematik, 1846, 33, 1846, pàg. 259–267. DOI: 10.1515/crll.1846.33.259.
  6. «Law of large numbers».
  7. Seneta, 2013.
  8. Von Plato, 1994, Secció 2.3.
  9. Borel, Émile «Les probabiltés dénombrables et leurs applications aritmétiques». Rendiconti del circolo matematico di Palermo, 27, 1909, pàg. 247-270.
  10. Seneta, 1992.
  11. Grundbegriffe der Wahrscheinlichkeitsrechnung, Springer, Berlin, 1933. Hi ha traducció anglesa: vegeu la referència Kolmogorov, 1956. La llei forta s'enuncia a la pàgina 67 sense demostració.
  12. Chung, 1983, p. 265.
  13. Suposarem sempre que totes les variables aleatòries estan definides en un mateix espai de probabilitat
  14. 14,0 14,1 Petrov, 1985, p. 134.
  15. Chung, 1974, p. 109.
  16. 16,0 16,1 16,2 Durrett, 1991, p. 32.
  17. Poisson, 1837.
  18. Loeve, 1976, p. 233.
  19. Etemadi, N.Z. «An elementary proof of the strong law of large numbers». Wahrscheinlichkeitstheorie Verw Gebiete, 55, 1, 1981, pàg. 119–122. DOI: 10.1007/BF01013465.

Referències[modifica]

  • Bernoulli, Jacob (1654-1705). Ars Conjectandi: Usum & Applicationem Praecedentis Doctrinae in Civilibus, Moralibus & Oeconomicis (en llatí), 1713. «Traducció a l'anglès del capítol 4 a http://www.sheynin.de/download/bernoulli.pdf. Consulta el 27 de febrer de 2021» 
  • Grimmett, G. R.; Stirzaker, D. R.. Probability and Random Processes, 2nd Edition. Clarendon Press, Oxford, 1992. ISBN 0-19-853665-8. 
  • Jacobsen, Martin. Videregående Sandsynlighedsregning (Advanced Probability Theory) 3rd Edition. HCØ-tryk, Copenhagen, 1992. ISBN 87-91180-71-6. 
  • Kolmogorov, A.N.. Foundations of the Theory of Probability. 2a edició. Nova York: Chelsea Publishing Company, 1956. 
  • Loeve, Michel. Teoría de la probabilidad. Madrid: Tecnos, S. A., 1976. 
  • Mlodinow, L. The Drunkard's Walk. New York: Random House, 2008. 
  • Newey, Whitney K.; McFadden, Daniel. Large sample estimation and hypothesis testing. Elsevier Science, 1994, p. 2111–2245. 
  • Révéz, Pál. The Laws of large Numbers. New York and London: Academic Press, 1968. 
  • Sen, P. K; Singer, J. M.. Large sample methods in statistics. Chapman & Hall, Inc, 1993. 
  • Seneta, Eugene «On the History of the Strong Law of Large Numbers and Boole’s Inequality». Historia Mathematica, 19, 1992, pàg. 24-39.

Enllaços externs[modifica]