Algoritmi i pikëzimit

Algoritmi i pikëzimit, i njohur gjithashtu si pikëzimi i Fisherit, është një formë e metodës së Njutonit që përdoret në statistikë për të zgjidhur ekuacionet e përgjasisë maksimale në mënyrë numerike, e quajtur sipas Ronald Fisherit .

Skica e derivimit

Le të jenë $Y_{1},\ldots ,Y_{n}$ ndryshore rasti, të pavarura dhe të shpërndara identikisht me pdf dy herë të diferencueshme $f(y;\theta )$, dhe ne dëshirojmë të llogarisim vlerësuesin e përgjasisë maksimale (MLE) $\theta ^{*}$ e $\theta$ . Së pari, supozoni se kemi një pikënisje për algoritmin tonë $\theta _{0}$ dhe konsideroni një zgjerim të Tejlorit të funksionit të rezultatit, $V(\theta )$, rreth $\theta _{0}$ :

$V(\theta )\approx V(\theta _{0})-{\mathcal {J}}(\theta _{0})(\theta -\theta _{0}),\,$

ku

${\mathcal {J}}(\theta _{0})=-\sum _{i=1}^{n}\left.\nabla \nabla ^{\top }\right|_{\theta =\theta _{0}}\log f(Y_{i};\theta )$

është matrica e informacionit të vëzhguar në $\theta _{0}$. Tani, vendosja $\theta =\theta ^{*}$, duke përdorur atë $V(\theta ^{*})=0$ dhe riorganizimi na jep:

$\theta ^{*}\approx \theta _{0}+{\mathcal {J}}^{-1}(\theta _{0})V(\theta _{0}).\,$

Prandaj ne përdorim algoritmin

$\theta _{m+1}=\theta _{m}+{\mathcal {J}}^{-1}(\theta _{m})V(\theta _{m}),\,$

dhe në kushte të caktuara rregullsie mund të tregohet se $\theta _{m}\rightarrow \theta ^{*}$ .

Pikëzimi i Fisherit

Në praktikë, ${\mathcal {J}}(\theta )$ zakonisht zëvendësohet nga ${\mathcal {I}}(\theta )=\mathrm {E} [{\mathcal {J}}(\theta )]$, informacioni i Fisherit, duke na dhënë kështu Algoritmin e Pikëzimit të Fisherit :

$\theta _{m+1}=\theta _{m}+{\mathcal {I}}^{-1}(\theta _{m})V(\theta _{m})$ ..

Në disa kushte rregullsie, nëse $\theta _{m}$ është një vlerësues i qëndrueshëm, pra $\theta _{m+1}$ (korrigjimi pas një hapi të vetëm) është 'optimal' në kuptimin që shpërndarja e gabimit të tij është asimptotikisht identike me atë të vlerësimit të vërtetë të përgjasisë maksimale.

Shiko gjithashtu

• Rezultati (statistikë)
• Pikëzimi i rezultateve
• Informacione për Fisher