Ligji i numrave të mëdhenj

Një ilustrim i ligjit të numrave të mëdhenj duke përdorur një varg të veçantë hedhjesh të një zari të vetme. Ndërsa numri i hedhjeve në këtë drejtim rritet, mesatarja e vlerave të të gjitha rezultateve i afrohet 3.5. Me rritjen e numrit të hedhjeve, mesatarja e zgjedhjes priret drejt mesatares.

Në teorinë e probabilitetit, ligji i numrave të mëdhenj ( LNM ) është një teoremë që përshkruan rezultatin e kryerjes së të njëjtit eksperiment një numër të madh herësh. Sipas ligjit, mesatarja e rezultateve të marra nga një numër i madh provash duhet të jetë afër pritjes matematike/ mesatares dhe tenton të afrohet me pritjen matematike pasi kryhen më shumë prova.

LNM është i rëndësishëm sepse garanton rezultate të qëndrueshme afatgjata për mesataret e disa ngjarjeve të rastit. Për shembull, edhe pse një kazino mund të humbasë para në një rrotullim të vetëm të rrotës së ruletës, fitimet e saj do të priren drejt një përqindjeje të parashikueshme për një numër të madh rrotullimesh. Çdo brez fitues nga një lojtar përfundimisht do të kapërcehet nga parametrat e lojës. Është e rëndësishme që ligji zbatohet (siç e tregon emri) vetëm kur merret parasysh një numër i madh vëzhgimesh. Nuk ka asnjë parim që një numër i vogël vëzhgimesh do të përkojë me vlerën e pritur ose që një varg i një vlere do të "baraspeshohet" menjëherë nga të tjerët (shih gabimin e lojtarit të fatit ).

LNM zbatohet vetëm për mesataren. Prandaj, ndërsa

$$\lim _{n\to \infty }\sum _{i=1}^{n}{\frac {X_{i}}{n}}={\overline {X}}$$

formula të tjera që duken të ngjashme nuk verifikohen, si p.sh. shmangia e papërpunuar nga "rezultatet teorike":

$$\sum _{i=1}^{n}X_{i}-n\times {\overline {X}}$$

jo vetëm që nuk konvergon drejt zeros kur rritet n, por tenton të rritet në vlerë absolute kur rritet n .

Shembuj

Për shembull, një hedhje e vetme e një zari me gjashtë anë prodhon një nga numrat 1, 2, 3, 4, 5 ose 6, secili me probabilitet të barabartë. Prandaj, pritja matematike e mesatares së hedhjeve është:

$${\frac {1+2+3+4+5+6}{6}}=3.5$$

Sipas ligjit të numrave të mëdhenj, nëse hidhet një numër i madh zaresh me gjashtë anë, mesatarja e vlerave të tyre (nganjëherë quhet mesatarja e mostrës ) do t'i afrohet 3,5 dhe saktësia vjen duke u rritur ndërsa hidhen më shumë zare.

Nga ligji i numrave të mëdhenj rezulton se probabiliteti empirik i suksesit në një seri provash Bernoulli do të konvergjojë në probabilitetin teorik. Për një ndryshore të rastit Bernuli, pritja matematike është probabiliteti teorik i suksesit dhe mesatarja e n ndryshoreve të tilla (duke supozuar se janë të pavarura dhe të shpërndara identikisht (iid) ) është pikërisht frekuenca relative.

Kufizimi

Mesatarja e rezultateve të marra nga një numër i madh provash mund të dështojë që të konvergjojë në disa raste. Për shembull, mesatarja e n rezultateve të marra nga shpërndarja Koshi ose disa shpërndarje Pareto (α<1) nuk do të konvergjojë kur n bëhet më e madhe; arsyeja është bishti i rëndë . Shpërndarja Koshi dhe shpërndarja Pareto përfaqësojnë dy raste: shpërndarja Cauchy nuk ka një pritje, ndërsa pritshmëria e shpërndarjes Pareto ( α <1) është e pafundme. Një mënyrë për të gjeneruar shembullin e shpërndarë sipas Koshiut është kur numrat e rastit janë të barabartë me tangjentin e një këndi të shpërndarë në mënyrë të njëtrajtshme midis -90° dhe +90°. Mesatarja është zero, por pritja nuk ekziston, dhe në të vërtetë mesatarja e n ndryshoreve të tilla ka të njëjtën shpërndarje si një ndryshore e tillë. Nuk konvergjon në probabilitet drejt zeros (ose ndonjë vlerë tjetër) pasi n shkon në pafundësi.

Format

Ekzistojnë dy versione të ndryshme të ligjit të numrave të mëdhenj që përshkruhen më poshtë. Ata quhen ligji i fortë i numrave të mëdhenj dhe ligji i dobët i numrave të mëdhenj . Paraqitur për rastin kur $X_{1},X_{2},...,X_{n}$ është një varg i pafundëm i n.r të pavarura dhe të shpërndara në mënyrë identike (iid ) të integrueshme sipas Lebegut me pritje matematike $E(x_{1})=E(x_{2})=...=E(x_{n})=\mu$, të dy versionet e ligjit thonë se mesatarja e mostrës

$${\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\cdots +X_{n})$$

konvergjon tek pritja matematike:

${\bar {X_{n}}}\longrightarrow \mu {\text{ kur }}n\longrightarrow \infty$Stampa:NumBlk(Integrueshmëria sipas Lebegut e $X_{j}$ do të thotë se vlera e pritur $E(X_{j})$ ekziston sipas integralit lebegian dhe është e fundme. Kjo nuk do të thotë se masa e probabilitetit të lidhur është absolutisht e vazhdueshme në lidhje me masën e Lebegut . )

Tekstet hyrëse të probabilitetit shpesh supozojnë gjithashtu variancë identike të fundme $\operatorname {Var} (X_{i})=\sigma ^{2}$ (per te gjithe $i$ ) dhe nuk ka korrelacion midis ndryshoreve të rastit. Në atë rast, varianca e mesatares së n ndryshoreve të rastit është

$$\operatorname {Var} ({\overline {X}}_{n})=\operatorname {Var} ({\tfrac {1}{n}}(X_{1}+\cdots +X_{n}))={\frac {1}{n^{2}}}\operatorname {Var} (X_{1}+\cdots +X_{n})={\frac {n\sigma ^{2}}{n^{2}}}={\frac {\sigma ^{2}}{n}}.$$

të cilat mund të përdoren për të shkurtuar dhe thjeshtuar provat. Ky supozim i variancës së fundme nuk është i nevojshëm . Varianca e madhe ose e pafundme do ta bëjë konvergjencën më të ngadaltë, por LNM qëndron gjithsesi.

Ligji i dobët

 

Simulim që ilustron ligjin e numrave të mëdhenj. Në çdo kornizë, hidhet një monedhë që është e kuqe në një anë dhe blu në tjetrën dhe një pikë vihet në shtyllën korresponduese. Një grafik qarkor tregon raportin e të kuqes me blunë deri në atë çast. Vini re se raporti varion ndjeshëm në hedhjet e para, i afrohet 50% me rritjen e numrit të hedhjeve.

Ligji i dobët i numrave të mëdhenj (i quajtur edhe ligji i Khinchinit) thotë se mesatarja e mostrës konvergjon në probabilitet drejt pritjes matematike Stampa:NumBlk${\overline {X}}_{n}\ {\overset {P}{\rightarrow }}\ \mu \qquad {\textrm {kur}}\ n\to \infty .$

Kjo do të thotë, për çdo numër pozitiv ε ,

$$\lim _{n\to \infty }\Pr \!\left(\,|{\overline {X}}_{n}-\mu |<\varepsilon \,\right)=1.$$

Duke interpretuar këtë rezultat, ligji i dobët thotë se për çdo ndryshesë jozero të specifikuar ( ε ), sado e vogël, me një kampion mjaft të madh do të ketë një probabilitet shumë të lartë që mesatarja e vëzhgimeve të jetë afër vlerës së pritur; pra brenda marzhit.

Siç u përmend më herët, ligji i dobët zbatohet në rastin e ndryshoreve të rastit iid, por gjithashtu zbatohet në disa raste të tjera. Për shembull, varianca mund të jetë e ndryshme për çdo ndryshore të rastit në seri, duke e mbajtur pritjen matematike konstante. Nëse variancat janë të kufizuara, atëherë zbatohet ligji, siç tregohet nga Chebyshev që në 1867. (Nëse pritjet matematike ndryshojnë gjatë serisë, atëherë thjesht mund të zbatojmë ligjin për shmangien mesatare nga pritjet matematike përkatëse. Më pas ligji thotë se kjo konvergjon në probabilitet drejt zeros. ) Në fakt, prova e Çebishevit funksionon për aq kohë sa varianca e mesatares së n vlerave të para shkon në zero ndërsa n shkon në pafundësi. Si shembull, supozoni se çdo ndryshore e rastit në seri ndjek një shpërndarje normale me mesatare zero, por me variancë të barabartë me $2n/\log(n+1)$, e cila nuk është e kufizuar. Në çdo fazë, mesatarja do të shpërndahet normalisht (si mesatarja e një grupi variablash të shpërndarë normalisht). Varianca e shumës është e barabartë me shumën e variancave, e cila është asimptotike ndaj $n^{2}/\log n$ . Prandaj varianca e mesatares është asimptotike ndaj $1/\log n$ dhe shkon në zero.

Ligji i fortë

Ligji i fortë i numrave të mëdhenj (i quajtur edhe ligji i Kollmogorovit ) thotë se mesatarja e mostrës konvergjon pothuajse me siguri drejt pritjes matematike Stampa:NumBlk${\overline {X}}_{n}\ {\overset {\text{a.s.}}{\longrightarrow }}\ \mu \qquad {\textrm {when}}\ n\to \infty .$

Kjo është,

$$\Pr \!\left(\lim _{n\to \infty }{\overline {X}}_{n}=\mu \right)=1.$$

Çfarë do të thotë kjo është se probabiliteti që, ndërsa numri i provave n shkon në pafundësi, mesatarja e vëzhgimeve konvergjon në vlerën e pritur, është e barabartë me një. Prova moderne e ligjit të fortë është më e ndërlikuar se ajo e ligjit të dobët dhe mbështetet në kalimin në një vijimësi të përshtatshme.

Quhet ligji i fortë sepse ndryshoret e rastit që konvergjojnë fortë (pothuajse me siguri) garantohen të konvergjojnë dobët (në probabilitet). Megjithatë ligji i dobët dihet se vlen në kushte të caktuara ku ligji i fortë nuk vlen dhe atëherë konvergjenca është vetëm e dobët (në probabilitet).

Ligji i fortë zbatohet për ndryshore të rastit të pavarura të shpërndara identikisht që kanë një pritje matematike (si ligji i dobët). Kjo u vërtetua nga Kollmogorovi në 1930. Mund të zbatohet edhe në raste të tjera. Kollmogorovi tregoi gjithashtu, në 1933, se nëse ndryshoret janë të pavarura dhe të shpërndara në mënyrë identike, atëherë që mesatarja të konvergjojë pothuajse me siguri drejt diçkaje (kjo mund të konsiderohet një deklaratë tjetër e ligjit të fortë), është e nevojshme që ato të kenë një pritje matematike ( dhe pastaj sigurisht mesatarja do të konvergjojë pothuajse me siguri në këtë).

Nëse shumat janë të pavarura, por jo të shpërndara identikisht, atëherëStampa:NumBlk${\overline {X}}_{n}-\operatorname {E} {\big [}{\overline {X}}_{n}{\big ]}\ {\overset {\text{p.s.}}{\longrightarrow }}\ 0$

me kusht që çdo $X_{k}$ të ketë një moment të dytë të fundëm dhe

$$\sum _{k=1}^{\infty }{\frac {1}{k^{2}}}\operatorname {Var} [X_{k}]<\infty .$$

Dallimet midis ligjit të dobët dhe ligjit të fortë

Ligji i dobët thotë se për një n të madhe të caktuar, mesatarja ${\overline {X}}_{n}$ ka gjasa të jetë afër μ . Kështu, e lë të hapur mundësinë që $|{\overline {X}}_{n}-\mu |>\varepsilon$ të ndodhë një numër i pafundëm herësh, edhe pse në intervale të rralla. (Jo domosdoshmërisht $|{\overline {X}}_{n}-\mu |\neq 0$ për të gjithë n ).

Ligji i fortë tregon se kjo pothuajse me siguri nuk do të ndodhë. Nuk do të thotë që me probabilitetin 1, kemi që për çdo $\epsilon >0$ mosbarazimi $|{\overline {X}}_{n}-\mu |<\varepsilon$ vlen për të gjitha n mjaft të mëdha, pasi konvergjenca nuk është domosdoshmërisht e njëtrajtshme në bashkësinë ku qëndron.

Ligji i fortë nuk vlen në rastet e mëposhtme, por vlen ai i dobët. Stampa:Ordered list

1. Le të jetë $X$ një n.r e shpërndarë eksponencialisht me parametër 1. Ndryshorja e rastit $\sin(X)e^{X}X^{-1}$ nuk ka pritje matematike sipas integralit të Lebegut, por duke përdorur konvergjencën e kushtëzuar dhe duke e interpretuar integralin si një integral Dirishlet i cili është një integral Riman jo i vetë, mund të shkruajmë se:
   $$E\left({\frac {\sin(X)e^{X}}{X}}\right)=\ \int _{x=0}^{\infty }{\frac {\sin(x)e^{x}}{x}}e^{-x}dx={\frac {\pi }{2}}$$
2. Le të jetë $X$ një n.r e shpërndarë gjeometrikisht me probabilitet 0.5. Ndryshorja e rastit $2^{X}(-1)^{X}X^{-1}$ nuk ka pritje matematike në sensin klasik sepse seria e pafundme nuk është absolutisht konvergjente por duke përdorur konvergjencën e kushtëzuar mund të shkruajmë:
   $$E\left({\frac {2^{X}(-1)^{X}}{X}}\right)=\ \sum _{x=1}^{\infty }{\frac {2^{x}(-1)^{x}}{x}}2^{-x}=-\ln(2)$$
3. Nëse funksioni mbledhës i shpërndarjes së një ndryshoreje rasti është:${\begin{cases}1-F(x)&={\frac {e}{2x\ln(x)}},&x\geq e\\F(x)&={\frac {e}{-2x\ln(-x)}},&x\leq -e\end{cases}}$, atëherë nuk ka pritje matematike por vlen ligji i dobët.
4. Le të jetë $X_{k}$ pluzs minus ${\sqrt {k/\log \log \log k}}$ ( e cila fillon për $k$ mjaftueshëm të mëdha në mënyrë që emëruesi të jetë pozitiv) me probabilitet ${\frac {1}{2}}$ për secilën. Varianca e $X_{k}$ atëherë është $k/\log \log \log k$. Ligji i fortë i Kollmogorovit nuk vlen pasi shuma e pjesshme e kriterit të tij deri në $k=n$ është asimptotike me $\log n/\log \log \log n$ dhe kjo është e pakufizuar. Nëse i zëvëndësojmë n.r me ndryshore normale me variancë të njëjtë, atëherhë mestarja në çdo pikë do të shpërndahet normalisht. Gjerësia e shpërndarjes do të priret drejt 0 ( shmangia standarde asimptotike me $1/{\sqrt {2\log \log \log n}}$) por për një $\epsilon$ të dhënë, ka probabilitet që të mos shkojë drejt zeros me rritjen e $n$, ndërsa mesatarja ndonjëherë pas provës së n-të do të kthehet prapë drejt $\epsilon$.

Ligji uniform i numrave të mëdhenj

Supozoni se $f(x,\theta )$ është një funksion i përcaktuar për $\theta \in \Theta$, dhe i vazhdueshëm në $\theta$ . Atëherë për çdo $\theta$ fikse, vargu { $f(X_{1},\theta ),f(X_{2},\theta )...$} do të jetë një varg i ndryshoreve të rastit të pavarura dhe të shpërndara identikisht, i tillë që mesatarja e mostrës së këtij vargu konvergjon në probabilitet tek $E[f(X,\theta )]$. Kjo është konvergjenca pikësore (në $\theta$ ).

Ligji uniform i numrave të mëdhenj përcakton kushtet në të cilat konvergjenca ndodh në mënyrë të njëtrajtshme në θ . Nëse

1. $\Theta$ është kompakte,
2. $f(x;\theta )$ është i vazhdueshëm në çdo $\theta \in \Theta$ për pothuajse të gjitha $x$-et, dhe funksion i matshëm i $x$ në çdo $\theta$ .
3. Ekziston një funksion dominues $d(x)$ i tillë që $E[d(X)]>\infty$, dhe
   $$\left\|f(x,\theta )\right\|\leq d(x)\quad {\text{for all}}\ \theta \in \Theta .$$

Atëherë $E[f(x;\theta )]$ është e vazhdueshme në $\theta$, dhe

$$\sup _{\theta \in \Theta }\left\|{\frac {1}{n}}\sum _{i=1}^{n}f(X_{i},\theta )-\operatorname {E} [f(X,\theta )]\right\|{\overset {\mathrm {P} }{\rightarrow }}\ 0.$$

Ligji i Borelit për numrat e mëdhenj

Ligji i Borelit për numrat e mëdhenj, i quajtur sipas Emil Borelit, thotë se nëse një eksperiment përsëritet një numër të madh herësh, në mënyrë të pavarur në kushte identike, atëherë raporti i herëve që ndodh çdo ngjarje e specifikuar, është afërsisht i barabartë me probabilitetin e ndodhjes së ngjarjes në çdo provë të veçantë; sa më i madh të jetë numri i përsëritjeve, aq më i mirë priret të jetë përafrimi. Më saktë, nëse E tregon ngjarjen në fjalë, p probabilitetin e saj të ndodhjes, dhe $N_{n}(E)$ numrin e herëve që ndodh E në n provat e para, atëherë me probabilitetin një,

$${\frac {N_{n}(E)}{n}}\to p{\text{ as }}n\to \infty .$$

Mosbarazimi i Çebishevit . Le të jetë $X$ një ndryshore e rastit me pritje matematike të fundme $\mu$ dhe variancë të fundme jo zero $\sigma ^{2}$ . Atëherë për çdo numër real $k>0$,

$$\Pr(|X-\mu |\geq k\sigma )\leq {\frac {1}{k^{2}}}.$$

Shiko gjithashtu

• Vetia e barazndarjes asimptotike
• Teorema e qëndrore limite
• Teorema e majmunit të pafundëm
• Ligji i mesatareve
• Ligji i logaritmit të përsëritur
• Ligji i numrave vërtet të mëdhenj
• Efekti Lindy
• Regresi drejt mesatares
• Renditja
• Ligji i fortë i numrave të vegjël