Метод моментов и метод наибольшего правдоподобия нахождения оценок параметров. Метод моментов

Ранее рассматривали теоретические моменты:

начальный момент k-го порядка случайной величины Х ;

центральный момент k -го порядка .

Рассмотрим эмпирические моменты:

начальный эмпирический момент k -го порядка

центральный эмпирический момент k-го порядка .

Метод моментов точечной оценки неизвестных параметров заданного распределения состоит в приравнивании теоретических моментов соответствующим эмпирическим моментам того же порядка.

1. Если распределение определяется одним параметром, то приравнивают один теоретический момент одному эмпирическому моменту того же порядка, например ; начальный теоретический момент 1-го порядка эмпирическому моменту 1-го порядка,

где . (6)

Математическое ожидание является функцией от неизвестного параметра, значит, решив (1) относительно неизвестного параметра, найдём его точечную оценку.

2. Если распределение определяется двумя параметрами, то приравнивают два теоретических момента двум соответствующим эмпирическим моментам того же порядка. Например,

(7)

где

Слева функции от неизвестных параметров, поэтому, решив (7), найдем точечные оценки неизвестных.

Метод наибольшего правдоподобия

В данном методе строится функция, определяющая вероятность получения выборки , и находится точка максимума этой функции, которая и является оценкой неизвестного параметра.

I. Пусть X – дискретная случайная величина, которая в результате n испытаний приняла возможные значения . Допустим, что вид закона распределения X задан, но неизвестен параметр q этого закона. Нужно найти его точечную оценку q*. Обозначим вероятность того, что в результате испытания X примет значения x_i.

: Определение. Функцией правдоподобия дискретной случайной величины X называется функция аргумента q:

.

Оценкой наибольшего правдоподобия параметра q называют такое его значение q*, при котором функция правдоподобия достигает максимума.

Функции L и ln L достигают максимума при одном и том же значении q, следовательно, можно искать максимум функции lnq (логарифмическая функция правдоподобия).

1) Найти ;

2) и найти критические точки q*;

3) найти ; если точка максимума.

q * принимают в качестве оценки q.

II. Пусть X – непрерывная случайная величина, которая в результате n испытаний приняла значения . Пусть вид плотности распределения функции f(x) задан, но неизвестен параметр q, которым определяется эта функция.

: Определение. Функцией правдоподобия непрерывной случайной величины X называют функцию аргумента q:

.

Если f(x) определяется двумя неизвестными параметрами q ₁ и q ₂, то

.

Далее найти логарифмическую функцию подобия и для отыскания ее максимума составить и решить систему