Главная > Интеллектуальные системы > Введение в статистическую теорию распознавания образов
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

§ 6.4. Разложение по базисным функциям

6.4.1. Разложение плотности вероятности.

Другой метод аппроксимации плотности вероятности состоит в разложении ее по базисным функциям

Если базисные функции удовлетворяют условию

то говорят, что функции ортогональны с весом Функции являются комплексно сопряженными относительно и равны если — действительные функции. Если базисные функции ортогональны с весом то коэффициенты разложения (6.91) определяются следующим образом:

Если в разложении (6.91) ограничиться первыми членами, то среднеквадратичная ошибка

Таким образом, ошибка, обусловленная исключением члена разложения. Это означает, что если удается найти систему базисных функций, таких, что значения быстро убывают с ростом то эта система даст экономное представление плотности вероятности.

В общем многомерном случае процедура для нахождения системы базисйых функций неизвестна. Поэтому рассмотрим только частные случаи, когда базисные функции хорошо определены. Примерами разложения по базисным функциям являются ряды Фурье и преобразование Фурье. Характеристическая функция плотности вероятности является преобразованием Фурье и, таким образом, представляет собой один из видов разложения плотности вероятности. Ниже рассматривается разложение более простого вида.

Одномерный случай.

Когда плотность вероятности является одномерной, можно воспользоваться многими хорошо известными системами базисных функций, такими, как ряды Фурье, полиномы Лежандра, Гегенбауэра, Якоби, Эрмита и Лагерра [Дейч, 1969]. Большинство из них предназначено для аппроксимации кривых; очевидно, одномерную плотность вероятности можно рассматривать как обычную кривую.

В качестве типичного примера рассмотрим полиномы Эрмита, которые используются для аппроксимации плотностей вероятности, не очень сильно отличающихся от нормальной. В этом случае плотность вероятности ищется в виде

Условие ортогональности имеет вид

Коэффициенты разложения вычисляются следующим образом:

где момент плотности вероятности

Например, если имеет нулевое математическое ожидание и дисперсию то

Следовательно, ограничиваясь первыми четырьмя членами разложения, получаем следующее приближенное выражение плотности вероятности через моменты распределения и базисные функции

Многомерный случай.

В многомерном случае отыскание универсальной системы базисных функций и вычисление коэффициентов разложения является трудной задачей. Одним из методов нахождения коэффициентов разложения является метод последовательных приближений, известный под названием метода потенциальных функций. Этот и некоторые другие последовательные методы будут рассмотрены в гл. 7,

<< Предыдущий параграф Следующий параграф >>
Оглавление