5.5.1. ПЕРСЕПТРОННАЯ ФУНКЦИЯ КРИТЕРИЯ

Рассмотрим теперь задачу определения функции критерия для решения линейных неравенств вида а*уг>-0. Проще всего взять в качестве функции J (а; уі, ... , у„) число выборок, классифицируемых с ошибкой посредством а. Однако, поскольку данная функция является кусочно постоянной, очевидно, что она будет плохо соответствовать задаче градиентното анализа. Лучшим вариантом является функция персептрона

где 5/ (а)—множество выборок, классифицируемых с ошибкой посредством а. (Если выборок, классифицируемых с ошибкой, нет, то Jp полагается равной нулю.) Так как а*у^О, если у классифицируется с ошибкой, то функция Jp (а) не может быть отрицательной. Она достигает нулевого значения, когда а является вектором решения или же находится на границе области решений. Геометрически функция Jp(a) пропорциональна сумме расстояний от выборок, классифицируемых с ошибкой, до границы области решений. На рис. 5.8 изображена функция Jp для простого двумерного случая.

Поскольку /-Я компонента градиента Jp выражается в виде частной производной dJpldaj, из формулы (12) следует, что

и при этом основной алгоритм (8) приводится к следующему виду:

где 3/ft есть множество выборок, классифицируемых с ошибкой посредством aft. Таким образом, процедуру спуска для нахождения вектора решения можно определить очень просто: следующий ве совой вектор получается путем прибавления к данному весовому вектору некоторого кратного суммы выборок, классифицируемых с ошибкой. На рис. 5.9 приведен пример определения вектора решения с помощью указанного алгоритма для простого двумерного случая при значениях аі=0 и Рь=1. Покажем теперь, что данный алгоритм будет давать решение для любой задачи с линейно разделяемым множеством.