Главная > Интеллектуальные системы > Введение в статистическую теорию распознавания образов
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

6.4.2. Плотность вероятности в случае двоичных переменных.

Известно, что в случае, когда каждая из переменных может принимать лишь значения + 1 или —1, плотность вероятности может быть представлена линейной комбинацией из независимых базисных функций:

Плотность вероятности в этом случае задается конечной таблицей (табл. 6.4).

Таблица 6.4. (см. скан) Табличное задание плотности вероятности в случав двоичных переменных

Как и в общем случае, трудно указать универсальную процедуру выбора базисных функций. Существует, однако, система базисных функций, которая часто используется [Ито, 1968]. Эта система имеет вид

Система функций является полной системой,

ортонормированной с весом

т. е.

Числа — являются свободными параметрами, которые должны лежать в диапазоне а коэффициенты разложения вычисляются следующим образом:

Хорошо известны два частных случая приведенного выше разложения.

Функция Уолша. Выбирая получим следующую систему базисных функций:

с весовой функцией

Эта система базисных функций известна под названием функций Уолша и часто применяется для разложения двоичных функций.

Разложение Бахадура. Введем следующее преобразование:

т. е. значения соответствует значениям Пусть — вероятность того, что

Тогда математическое ожидание и дисперсия у равны:

Если выбрать следующим образом:

то базисные функции (6.108) принимают вид

где

т. е. — случайные величины, полученные в результате нормализации случайных величин

С другой стороны, весовая функция (6.109) принимает вид

Если случайные величины взаимно независимы, то Таким образом, можно искать разложение в виде

где первый член к равен в предположении независимости случайных величин а остальные члены, стоящие в квадратных скобках, вносят коррекцию в случае, когда предположение о независимости не выполняется. Коэффициенты вычисляются следующим образом:

Таким образом, разложение (6.122) принимает вид

где — коэффициенты корреляции соответствующих переменных:

Это разложение называется разложением Бахадура [Бахадур, 1967]. Из этого разложения видно влияние корреляции на точность аппроксимации плотности вероятности. Поскольку коэффициенты корреляции высокого порядка, как правило, меньше, чем коэффициенты корреляции низкого порядка, можно ограничиться разложением с приемлемым числом членов и получить этом достаточную точность.

Рис. 6.5. Пример для вычисления разложения Бахадура.

Пример 6.3. Вычислим разложение Бахадура для данных, приведенных на рис. 6.5. Базисные и весовые функции получаются одинаковыми для обеих плотностей

Выборочные коэффициенты корреляции и между для различны и вычисляются следующим образом:

Подставляя полученные значения в (6.124), имеем

<< Предыдущий параграф Следующий параграф >>
Оглавление