5. 11. МЕТОД ПОТЕНЦИАЛЬНЫХ ФУНКЦИЙ

Рассмотрение способов определения линейных разделяющйх функций будет неполным, если мы не упомянем о методе потенциальных функций. Данный подход тесно связан с некотсфыми уже рассмотренными нами методами, такими, как оценки парзеновского окна, метод персептрона и метод стохастической аппроксимации. Толчком к созданию метода потенциальных функций послужило следующее обстоятельство; если выборки х, представлять се& как точки некоторого пространства и в эти точки поместить заряды соответственно +qi, если \і помечено символом соі, и —qt, если

помечено символом coj, то, возмржно, функцию, описывающую распределение электростатического потенциала в , таком прлё, можно будет использовать в качктве разделяйщёй ^уМ^

Если потенциал точки х, создаваемый единичным^ находящимся в точке Xj, равен /С(х, Xj), то потенциал, создаваемый п зарядами в точке X, определяется выражением

Потенциальная функция К (х, Xj), используемая в классической физике, обратно пропорциональна величине l|x—xj||. Имеется и много других функций, которые с таким же усйехом могут.быть использованы для наших цедей. Существует рчевадная аналогия между функцией /С (х, х,) и функцией гіарзё^іовского окна ф [(х— —х,)//г1; по своему виду разделяюіДая функция gr(x) очень похожа на разность оценок парзеновского окна для случая двух

плотностей. Но поскольку нашей задачей является лишь построение нужной разделяющей функции, в этом смысле значительно меньше ограничений существует при выборе^ потенциальной функции, чем при выборе функции окна. Наиболее часто используется такая потенциальная функция, которая имеет максимум при х=х,- и монотонно убывает до нуля при ||х—Х/||->оо. Однако в случае необходимости и эти ограничения можно снять.

Пусть имеется множество из п выборок, а разделяющая функция сформирована в соответствии с выражением (85). Предположим далее, что при проверке обнаружено, что некоторая выборка, скажем Xh, посредством функции g (х) классифицируется с ошибкой. Попробуем исправить ошибку, изменив немного величину ^)- Предположим, что значение увеличивается на величину единичного заряда, если х^ помечено символом соі, и уменьшается на такую же величину, если х* помечено символом coj. Если обозначить значение разделяющей функции после коррекции через g^'(x), то алгоритм формирования данной функции может быть записан в следующем виде:

Данное правило коррекции ошибок имеет много общего с правилом постоянных приращений. Природа этой связи станет вполне понятна, если представить К (х, х^) в виде симметричного конечного разложения

где у=у(х) и ук=у(хь). Подставив данное выражение в (85), получим

где

Более того, алгоритм для вычисления g' (х) на основе использования g (х) представляет лишь ненормированное правило постоянных при-

ращений;

Таким образом, если /С(х, х^) может быть представлено в виде выражения (87), сходимость доказывается точно так же, как и для правила постоянных приращений. Более того, является очевидным, что при использовании других процедур, таких, как метод релаксаций, метод наименьшей квадратичной ошибки и метод стохастической аппроксимации, можно сразу же получить «параллельные» им процедуры, основанные на применении потенциальных функций; при этом доказательства сходимости таких «параллельных» процедур совершенно аналогичны.

Метод потенциальных функций, конечно, не ограничивается использовднием только таких функций, которые имеют вид конечной суммы. Любая подходящая для наших целей функция, такая, например, как

или

может быть выбрана в качестве потенциальной ^); разделяющая функция получится, если рассматривать выборки последовательно;

X®, . . ., X*, . . . и использовать какую-либо итеративную процедуру, например

где — некоторая функция ошибки.

При практическом применении метода потенциальных функций встречаются те же трудности, что и при использовании оценок парзеновского окна. Необходимо очень внимательно отнестись к выбору потенциальной функции, чтобы получить хорошую интерполяцию между точками выборки. При большом числе выборок появляются значительные трудности, связанные с процессом вычисления. Вообще использование метода потенциальных функций наибо-

лее оправдано в случае, когда либо число выборок невелико, либо размерность х достаточно мала, чтобы функцию g(x) можно было представить в виде таблицы дискретных значений х.