Algoritmi i pikëzimit

Algoritmi i pikëzimit, i njohur gjithashtu si pikëzimi i Fisherit, ^[1] është një formë e metodës së Njutonit që përdoret në statistikë për të zgjidhur ekuacionet e përgjasisë maksimale në mënyrë numerike, e quajtur sipas Ronald Fisherit .

Skica e derivimit

Le të jenë $Y_{1},\ldots ,Y_{n}$ ndryshore rasti, të pavarura dhe të shpërndara identikisht me pdf dy herë të diferencueshme $f(y;\theta )$ , dhe ne dëshirojmë të llogarisim vlerësuesin e përgjasisë maksimale (MLE) $\theta ^{*}$ e $\theta$ . Së pari, supozoni se kemi një pikënisje për algoritmin tonë $\theta _{0}$ dhe konsideroni një zgjerim të Tejlorit të funksionit të rezultatit, $V(\theta )$ , rreth $\theta _{0}$ :

V(\theta )\approx V(\theta _{0})-{\mathcal {J}}(\theta _{0})(\theta -\theta _{0}),\,

ku

{\mathcal {J}}(\theta _{0})=-\sum _{i=1}^{n}\left.\nabla \nabla ^{\top }\right|_{\theta =\theta _{0}}\log f(Y_{i};\theta )

është matrica e informacionit të vëzhguar në $\theta _{0}$ . Tani, vendosja $\theta =\theta ^{*}$ , duke përdorur atë $V(\theta ^{*})=0$ dhe riorganizimi na jep:

\theta ^{*}\approx \theta _{0}+{\mathcal {J}}^{-1}(\theta _{0})V(\theta _{0}).\,

Prandaj ne përdorim algoritmin

\theta _{m+1}=\theta _{m}+{\mathcal {J}}^{-1}(\theta _{m})V(\theta _{m}),\,

dhe në kushte të caktuara rregullsie mund të tregohet se $\theta _{m}\rightarrow \theta ^{*}$ .

Pikëzimi i Fisherit

Në praktikë, ${\mathcal {J}}(\theta )$ zakonisht zëvendësohet nga ${\mathcal {I}}(\theta )=\mathrm {E} [{\mathcal {J}}(\theta )]$ , informacioni i Fisherit, duke na dhënë kështu Algoritmin e Pikëzimit të Fisherit :

\theta _{m+1}=\theta _{m}+{\mathcal {I}}^{-1}(\theta _{m})V(\theta _{m})

..

Në disa kushte rregullsie, nëse $\theta _{m}$ është një vlerësues i qëndrueshëm, pra $\theta _{m+1}$ (korrigjimi pas një hapi të vetëm) është 'optimal' në kuptimin që shpërndarja e gabimit të tij është asimptotikisht identike me atë të vlerësimit të vërtetë të përgjasisë maksimale. ^[2]

Shiko gjithashtu

^ Longford, Nicholas T. (1987). "A fast scoring algorithm for maximum likelihood estimation in unbalanced mixed models with nested random effects". Biometrika. 74 (4): 817–827. doi:10.1093/biomet/74.4.817. {{cite journal}}: Mungon ose është bosh parametri |language= (Ndihmë!)
^ Li, Bing; Babu, G. Jogesh (2019), "Bayesian Inference", Springer Texts in Statistics, New York, NY: Springer New York, Theorem 9.4, doi:10.1007/978-1-4939-9761-9_6, ISBN 978-1-4939-9759-6, marrë më 2023-01-03 {{citation}}: Mungon ose është bosh parametri |language= (Ndihmë!)

[1] Longford, Nicholas T. (1987). "A fast scoring algorithm for maximum likelihood estimation in unbalanced mixed models with nested random effects". Biometrika. 74 (4): 817–827. doi:10.1093/biomet/74.4.817. {{cite journal}}: Mungon ose është bosh parametri |language= (Ndihmë!)

[2] Li, Bing; Babu, G. Jogesh (2019), "Bayesian Inference", Springer Texts in Statistics, New York, NY: Springer New York, Theorem 9.4, doi:10.1007/978-1-4939-9761-9_6, ISBN 978-1-4939-9759-6, marrë më 2023-01-03 {{citation}}: Mungon ose është bosh parametri |language= (Ndihmë!)

[1]

[2]