Maximum likelihood módszer

A maximum likelihood módszer (magyarul: legnagyobb valószínűség) a matematikai statisztika egyik leggyakrabban használt becslési eljárása mérési eredmények, minták kiértékelésére. A maximum likelihood módszer célja, hogy adott mérési értékekhez az ismeretlen paramétereknek olyan becslését adja meg, amely mellett az adott érték a legnagyobb valószínűséggel következik be. Az eljárás a likelihoodfüggvény maximalizálásával történik.

Definíció

A maximum likelihood becslés azokban az esetekben használatos, amikor az egyes mérési eredmények olyan véletlen eseményekként interpretálhatóak, amelyek egy vagy több ismeretlen paramétertől függenek. Mivel a vizsgált értékek kizárólagosan az ismeretlen paraméter(ek)től függenek, előállíthatók ezen paraméter vagy paraméterek függvényeként. A mérést, becslést végző kutató ezt a paramétert határozza meg, így maximalizálja a mért minta által követett valószínűséget. A maximum likelihood módszer egy $X$ valószínűségi változóból indul ki, amelynek a sűrűség- vagy tömegfüggvénye $f$ és $q$ paramétertől függ. Véletlenszerű mintavételezéskor, $n$ független és azonos feltételek között végzett mintavétel esetén, a sűrűség- vagy tömegfüggvény a következő formula szerint faktorizálható:

$f(x_1,x_2,...,x_n;q)=\prod _{i=1}^n{f_X}_i(x_i;q)$

Amíg rögzített $q$ paraméter esetén a sűrűségfüggvény tetszőleges $x_1,\dots ,x_n$ értékkel határozható meg, fordítva járunk el, és rögzített $x_1,\dots ,x_n$ értékekre a sűrűségfüggvényt mint a $q$ paraméter függvényét tekintjük. Ezt nevezzük likelihoodfüggvénynek:

$L(q)=\prod _{i=1}^n{f_X}_i(x_i;q)$

A becslés a likelihoodfüggvény maximumának a megkeresése, azaz egy szélsőérték-feladat. A számítások egyszerűsítése céljából a gyakorlatban nem az eredeti likelihood-függvényt használjuk, hanem annak a természetes alapú logaritmusát. Mivel a $ln$ függvény szigorúan monoton növekvő függvény, a szélsőérték helye nem változik, és egy összeggel egyszerűbb számolni, mint egy szorzattal. Ezt a függvényt gyakran nevezik loglikelihoodfüggvénynek:

$\ell (q)=\ln (\prod _{i=1}^n{f_X}_i(x_i;q))=\sum _{i=1}^n\ln f_{X_i}(x_i;q)$

Példa

A normális eloszlás ${𝒩}(\mu ,{\sigma }^2)$ sűrűségfüggvénye $\mu$ várhatóértékkel és ${\sigma }^2$ szórásnégyzettel a következő:

$f(x;\mu ,{\sigma }^2)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2}).$

Tekintsük az $x_1,\dots ,x_n$ független mérési eredményeket, amelyek a feltételezés szerint ismeretlen $m$ várhatóértékkel és $s^2$ ismeretlen szórásnégyzettel ${𝒩}(m,s^2)$ normális eloszlást követnek. A következő likelihoodfüggvénnyel kell számolnunk: $q=(m,s)$.

$L(m,s^2)=\prod _{i=1}^{n}f(x_i;m,s^2)={\left(\frac{1}{2\pi s^2}\right)}^{n/2}\exp (-\frac{\sum _{i=1}^n(x_i-m{)}^2}{2s^2})$

a loglikelihoodfüggvény pedig:

$\log (L(m,s^2))=-\frac{n}{2}\log (2\pi s^2)-\frac{\sum _{i=1}^n(x_i-m{)}^2}{2s^2}.$

Források

• Jánossy, Lajos. A valószínűségelmélet alapjai és néhány alkalmazása, 1., Budapest: Tankönyvkiadó Vállalat, 206. o. (1965) 
• Tómács, Tibor. Matematikai statisztika [archivált változat], 1., Eger: Eszterházy Károly Főiskola Matematikai és Informatikai Intézet, 133. o. (2012). Hozzáférés ideje: 2013. május 17. [archiválás ideje: 2013. március 9.]