Главная > Интеллектуальные системы > Введение в статистическую теорию распознавания образов
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

11.3.3. Асимптотические свойства процедуры.

При очепь больших приведенные выше рассуждения можно формализовать. Пусть — область векторного пространства, содержащая те векторы которые относятся к классу Пусть

характеристическая функция т. е.

Тогда (11.71) можно переписать в виде

где для простоты опущен индекс итерации I. Когда становится большим, правая часть (11.71) превращается в интеграл

где — плотности вероятности «смеси», в соответствии с которой распределены векторы Если для любого вектора определить как множество всех векторов, отстоящих от не более чем на то можно записать

Рассмотрим вектор У, лежащий на текущей границе классов и предположим, что содержит лишь векторы, отнесенные только к классу или только к классу Тогда заново классифицируется в соответствии с правилом

Если выполняется верхнее неравенство, то в силу непрерывности все векторы в малой окрестности границы переходят в класс и граница перемещается в область, прежде занятую классом Аналогичное рассуждение применимо и к нижнему неравенству. Если имеет место равенство, граница стационарна. Когда стационарная граница неустойчива, наблюдается тенденция ее удаления от стационарных точек при небольших возмущениях.

Если Я достаточно мало, то плотность можно представить усеченным рядом Тейлора:

где

Кроме того, можно считать, что граница — это гиперплоскость,

разделяющая на два полушара равного объема. Тем имеем

где — объем единичная нормаль к границе в точке У, направленная в сторону класса . Знак используется для к — для Таким образом, (11.80) принимает вид

и граница является стационарной, если не имеет нормальной составляющей.

Пусть теперь стационарная граница подвергнута малому возмущению, так что ее единичный нормальный вектор становится равным V. На этой границе имеется точка У, удовлетворяющая соотношению

где — скаляр. Невозмущенная граница неустойчива, если знак отличен от знака Рис. 11.7 иллюстрирует эту ситуацию. Если градиент плотности направлен так, как показано на рисунке, граница будет удаляться от стационарной границы.

Рис. 11.7. Возмущение стационарной границы.

Условия неустойчивости можно также получить с помощью разложения Тейлора. Если возмущение мало, то

где — матрица с элементами

В таком случае имеем

Предположим, что — неположительно определенная матрица. Тогда второй член (11.88) или равен нулю, или имеет

знак, противоположный знаку Теперь, так как допустимо любое возмущение, то мы можем выбрать его таким, чтобы знак а следовательно, и знак был противоположен знаку Следовательно, если матрица неположительно определена, граница является неустойчивой. Этот вывод существенно опирается на предположение о малости

На рис. 11.8 показана двумерная плотность вероятности со стационарными границами. Только одна из этих грапиц устойчива. Остальные границы неустойчивы относительно малых поворотов.

Рис. 11.8. Асимптотическая эффективность правила фиксированной окрестности.

Указанные асимптотические свойства, представляющие интерес сами по себе, дают некоторое обоснование применения правила с фиксированной окрестностью при ограниченном числе объектов. В пользу этого правила говорят также численные примеры, показанные на рис. 11.5 и 11.6.

<< Предыдущий параграф Следующий параграф >>
Оглавление