Maximum likelihood módszer
A legnagyobb valószínűségű módszer az ismeretlen eloszlási paraméterek becslésének egyik leginkább egyetemes módszere.
Legyen egy minta egy olyan általános lakosságból, amelynek elosztási funkciója van. amely egy ismeretlen skaláris paramétertől függ (a megfigyelések paraméteres modellje van megadva).
Ha a megfigyelt véletlen változó eloszlási törvénye folyamatos, pl. van egy valószínűségi sűrűség. akkor a funkciót
a paraméter függvényében rögzített minta alapján. valószínűségi függvénynek nevezik.
Ha a megfigyelt véletlen változónak van egy diszkrét eloszlási joga a valószínűségeknek megfelelően. akkor a valószínűségi funkciót az egyenlőség határozza meg:
A paraméter maximális valószínűségi becslése a paraméter értéke. amelynél az adott minta valószínűségi funkciója elérte a maximális értéket:
Egy fix likelihood függvény esetében egy véletlen vektor elosztási jogát adjuk meg. amelynek koordinátái a megfigyelt véletlen változó példányai:
folyamatosan;
diszkrét esetekben.
Ezért a maximális valószínűségű módszer jelentése, hogy a paraméter értékét becslésként választják ki. ahol a mintavételezett értékek adatainak megszerzésének valószínűsége. mint egy véletlen vektor megvalósítása. maximális.
Ha a valószínûségi függvény különbözõ lehet a. akkor a valószínűségbecslés legmagasabb valószínűségi becslése a valószínűségi egyenlet megoldásával érhető el
természetesen annak biztosítása, hogy a megoldás biztosítja a valószínűségfüggvény maximális értékét.
Gyakran kényelmesebb a túlérzékenység vizsgálata, nem pedig a valószínűségi funkció. de logaritmusát. Mivel az u függvényekben a logaritmikus függvény monoton növekedése miatt ugyanabban a pontban van egy maximum, a maximális valószínűségi becslés a viszonylag egyenértékű valószínűségi egyenlet megoldásával is megállapítható
Ha a paraméter vektor, akkor a maximális valószínűségbecslés megtalálásához meg kell oldani a valószínűségi egyenletek rendszerét
vagy egyenértékű egyenletrendszert
Az összes fenti eredmény még akkor is érvényes, ha magát a paramétert nem becsüljük meg. de néhány paraméteres funkciót.
A maximális valószínűségbecslések értéke a következő tulajdonságok miatt következik be, amelyek nagyon általános feltételezések mellett érvényesek (bizonyíték nélkül):
- a maximális valószínûségi becslés az ismeretlen paraméter következetes becslése. ;
- a maximális valószínûségi becslés az ismeretlen paraméterek aszimptotikusan hatékony becslése. . ahol
- a paraméter hatékony értékelése;
- a maximális valószínűségbecslés az ismeretlen paraméter aszimptotikusan normális becslése. azaz megfelelő normalizációval a maximális valószínűségbecslő eloszlása normális: Ez a tulajdonság nagyon fontos a becslés eltérésének valószínűségének megállapításához a paraméter valós értékétől.
A maximális valószínűségű módszer azonban nem mindig vezet elfogulatlan becslésekhez, és a maximális valószínűségbecslések megállapítására szolgáló egyenletek (egyenletrendszerek) meglehetősen nehézkesek.
1. példa A megfigyelt véletlen változónak normális eloszlási törvénye van, ismeretlen matematikai várakozással és ismert varianciával. vagyis az űrlap valószínűségi sűrűsége:. A minta alapján keresse meg a paraméter maximális valószínűségbecslését.
A megoldás. Nézzük meg a valószínűségi funkciót:
Lássuk a valószínűségi függvény logaritmusát:
Készítsük el a valószínűségi egyenletet:
A valószínűségi egyenlet megoldása:
Így a normál modellben a maximális valószínűségi becslés az ismeretlen matematikai elvárás elfogult, következetes és hatékony becslése.
Megjegyezzük, hogy a pillanatok módszere ugyanazon eredményhez vezet ebben a modellben, de sokkal egyszerűbb:
2. példa A megfigyelt véletlen változó normális eloszlási törvényt tartalmaz, ismert matematikai várakozással és ismeretlen varianciával. vagyis az űrlap valószínűségi sűrűsége:. A minta alapján keresse meg a paraméter maximális valószínűségbecslését.
A megoldás. Nézzük meg a valószínűségi funkciót:
Lássuk a valószínűségi függvény logaritmusát:
Készítsük el a valószínűségi egyenletet:
A valószínűségi egyenlet megoldása:
Így a normál modellben a maximális valószínűségi becslés az ismeretlen variancia objektív, következetes és hatékony becslése (önmagában mutatott).
Megjegyezzük, hogy a pillanatok módszere ugyanazon eredményhez vezet ebben a modellben, de sokkal egyszerűbb:
3. példa A megfigyelt véletlenszerű változó normál eloszlási törvény, ismeretlen matematikai várakozással és ismeretlen varianciával. vagyis az űrlap valószínűségi sűrűsége:. A minta alapján keresse meg a paraméter maximális valószínűségbecslését.
A megoldás. Nézzük meg a valószínűségi funkciót:
Lássuk a valószínűségi függvény logaritmusát:
A kétdimenziós paraméter maximális valószínűségi becslésének megállapításához egy valószínűségi egyenletrendszert hozunk létre:
A valószínűségi egyenletek rendszerének megoldása:
Így az általános normál modellben a maximális valószínűségi becslés. Ebben az esetben a minta átlag az ismeretlen matematikai várakozás elfogult, következetes és hatékony becslése. és a minta varianciája az ismeretlen variancia aszimptotikusan elfogulatlan, következetes és aszimptotikusan hatékony becslése.
Megjegyezzük, hogy a pillanatok módszere ugyanazon eredményhez vezet ebben a modellben, de sokkal egyszerűbb:
4. példa A megfigyelt véletlen változónak van egy Poisson-eloszlási törvénye ismeretlen paraméterrel:
A minta alapján keresse meg a paraméter maximális valószínűségbecslését.
A megoldás. Nézzük meg a valószínűségi funkciót:
Lássuk a valószínűségi függvény logaritmusát:
Készítsük el a valószínűségi egyenletet:
A valószínűségi egyenlet megoldása:
Megjegyezzük, hogy a pillanat módszere ugyanazt az eredményt eredményezi ebben a modellben.