4.1. ВВЕДЕНИЕ

В предыдущей главе мы рассматривали вопросы обучения с учителем, допуская, что вид основных плотностей распределения известен. Для большинства же случаев распознавания образов это допущение неверно. Очень редко распространенные параметрические формы соответствуют плотностям распределения, встречающимся на практике. В частности, все стандартные параметрические плотности распределения одномодальные (имеют один локальный максимум), в то время как во многих практических задачах приходится иметь дело с многомодальными плотностями распределения. В данной главе мы рассмотрим непараметрические процедуры, которыми можно пользоваться, не считая, что вид основных плотностей распределения известен.

Для распознавания образов интерес представляют несколько различных видов непараметрических методов. Один из методов состоит из процедур оценки плотности распределения р(х|(Оу) на основании выбранных образов. Если эти оценки удовлетворительны, то при проектировании оптимального классификатора ими можно заменить истинные значения плотности распределения. Другой метод состоит из процедур прямой оценки апостериорных вероятностей Р (сйу|х). Этот метод близок такому методу непараметрических решающих процедур, как правило «ближайшего соседа», в котором, обходя вероятностные оценки, сразу переходят к решающим функциям. И наконец, есть непараметрические процедуры, преобразующие пространство признаков так, чтобы в преобразованном пространстве можно было использовать параметрические методы. К этим методам дискриминантного анализа относится хорошо известный метод линейного дискриминанта Фишера, являющийся связующим звеном между параметрическими методами, описанными в гл. 3, и адаптивными методами гл. 5.