Главная > Интеллектуальные системы > Введение в статистическую теорию распознавания образов
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

5.1.2. Оценки моментов.

Основными параметрами, характеризующими плотность вероятности, являются моменты. В качестве их оценок обычно используют выборочные моменты.

Общий выборочный момент порядка определяется как среднее от моментов порядка отдельных случайных выборочных объектов

где компонента объекта. Так как векторы X, выбирают случайно, то можно предположить, что являются взаимно независимыми и одинаково распределенными случайными векторами. Поэтому

где истинный момент порядка этого распределения. Следовательно, выборочный момент представляет собой несмещенную оценку.

Дисперсию этой оценки можно вычислить следующим образом:

Другими словами, дисперсия оценки равна произведению на дисперсию отдельного случайного объекта. Поэтому, если дисперсия отдельного объекта ограничена, то выборочный момент является состоятельной оценкой.

В большинстве приложений внимание сосредоточено на моментах первого и второго порядков — выборочном векторе средних значений и выборочной автокорреляционной матрице, которые определяются соответственно следующим образом:

и

Все компоненты вектора М и матрицы в формулах (5.10) и (5.11) являются частными случаями выражений (5.8) и (5.9). Поэтому оценки (5.10) и (5.11) являются несмещенными и состоятельными, так как их дисперсии уменьшаются в раз по сравнению с первоначальной ограниченной дисперсией.

Ситуация несколько меняется, когда рассматривают центральные моменты, такие, как дисперсии и ковариационные матрицы. Определим оценку ковариационной матрицы следующим образом:

Используя вместо истинного вектора математического ожидания М, значение которого неизвестно, выборочный вектор средних значений М, получим

Математическое ожидание оценки будет равно

откуда видно, что — смещенная оценка ковариационной матрицы . Это смещение можно устранить с помощью следующей модифицированной оценки ковариационной матрицы:

Выражения (5.12) и (5.15) определяют выборочную ковариационную матрицу. Однако в дальнейшем, если не оговорено особо, нами будет использоваться несмещенная оценка (5.15). При большом обе оценки практически равны между собой.

Когда случайные векторы X имеют нормальное распределение, плотность вероятности выборочного вектора средних значений М. также является нормальной. Даже если случайные векторы X имеют распределение, отличное от нормального, то плотность вероятности вектора М. в силу центральной предельной теоремы стремится с увеличением к плотности нормального распределения.

Дисперсию оценки М можно вычислить по формуле

независимо от распределения случайных векторов X.

Плотность вероятности оценки ковариационной матрицы 2 является очень сложной. Когда случайные векторы X имеют нормальное распределение, то плотность вероятности оценки 2 выражается распределением Уишарта:

В большинстве приложений рассматривается некоторая мера от дисперсии оценки, а не точное выражение плотности вероятности. В качестве такой меры можно использовать дисперсию отдельной компоненты оценки 2

Равенство (5.18) является приближенным вследствие того, что в левой части использована оценка а в правой — истинное значение при обе части (5.18) практически равны.

<< Предыдущий параграф Следующий параграф >>
Оглавление