Главная > Интеллектуальные системы > Введение в статистическую теорию распознавания образов
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

2.2.2. Нормальные распределения.

Выражение для плотности вероятности нормального распределения имеет вид

где — сокращенная запись нормального распределения с вектором математического ожидания М и ковариационной матрицей 2. В формуле (2.53) через обозначено

где

В (2.54) обозначает след матрицы который равен сумме диагональных элементов матрицы Из (2.53) и (2.54) следует, что нормальные распределения представляют собой простые экспоненциальные функции от функции расстояния (2.54), которая является положительно определенной квадратичной функцией случайных величин Коэффициент выбирается исходя из условия нормировки

Нормальные распределения широко используются, так как обладают многими важными свойствами. Рассмотрим некоторые из них.

(1) Параметры, определяющие нормальное распределение.

Для того чтобы однозначно задать нормальное распределение, достаточно знать вектор математического ожидания М и ковариационную матрицу 2. Все моменты нормального распределения можно вычислить как функции этих параметров.

(2) Независимость некоррелированных случайных величин.

Если случайные величины взаимно некоррелированы, то они также и независимы. Из (2.29) и (2.36) следует.

что если случайные величины некоррелированы, то

В силу этого матрица 2 принимает вид диагональной матрицы

Поэтому из (2.53) и (2.54) следует, что

Таким образом, условие независимости случайных величин (2.38) выполняется.

(3) Нормальные маргинальные и условные плотности вероятности.

Маргинальные и условные плотности вероятности нормального распределения являются нормальными. Покажем это только для двумерного случая» В общем случае доказательство проводится аналогичным образом, однако здесь оно не приводится ввиду его сложности.

Для маргинальной плотности вероятности имеем:

где

Для условной плотности вероятности имеем:

Уравнение (2.62) представляет собой нормальное распределение со средним значением и дисперсией

(4) Характеристические функции нормального распределения-Характеристическую функцию одномерной случайной величины, имеющей нормальное распределение можно вычислить следующим образом:

Таким образом, характеристическая функция так же как нормальное распределение, представляет собой экспоненциальное выражение, но с дисперсией, равной обратному значению дисперсии нормального распределения Этот вывод легко объясним, поскольку характеристическая функция является частотной характеристикой плотности распределения вероятностей Когда плотность вероятности сконцентрирована в малой области, характеристическая функция имеет

более высокочастотные компоненты, «размазана» в большей области и наоборот.

Характеристическую функцию случайного вектора (2.53) можно получить путем обобщения выражения (2.63). Здесь выражение этой характеристической функции приводится без доказательства:

(5) Линейные преобразования.

При любом невырожденном линейном преобразовании функция расстояния (2.54) сохраняет квадратичную форму и положительную определенность. Поэтому в результате невырожденного линейного преобразования нормальное распределение остается нормальным, но с другими параметрами. Кроме того, всегда возможно определить множество невырожденных линейных преобразований, которые приводят новую ковариационную матрицу к диагональному виду. Диагональная ковариационная матрица соответствует некоррелированным переменным и в случае нормального распределения — независимым переменным. Поэтому в рассматриваемом случае всегда можно определить множество таких осей, что в новой системе координат случайные величины будут независимыми. Эти вопросы будут детально рассмотрены в следующем параграфе.

(6) Физическое обоснование.

Предположение о том, что случайные величины имеют нормальное распределение, часто оправдывается для многих реальных данных, так как истинные распределения достаточно хорошо аппроксимируются нормальными. Это, в частности, верно для процессов, где случайные величины являются суммами многих независимых переменных. Этот случай будет рассмотрен в следующем параграфе в связи с центральной предельной теоремой. Одпако, во избежание бессмысленных выводов, в дальнейшем нормальность случайных величин не будет предполагаться без достаточных обоснований.

<< Предыдущий параграф Следующий параграф >>
Оглавление