5.2.1. СЛУЧАЙ ДВУХ КЛАССОВ

Разделяющая функция, представляемая линейной комбинацией компонент вектора х, может быть записана в следующем виде:

где W называется весовым вектором, awo — величиной порога. В основу линейного классификатора для двух классов положено сле- дукщее решающее правило: принять решение ©і, если g(x)>0, и (02, если g(x)<0. Таким образом, х приписывается к соі, если скалярное произведение w*x превышает порог —Шо. Если g^(x)=0, то обычно X можно отнести к любому из классов, однако в данной главе это соответствие будет считаться неопределенным.

Уравнение g(x)=0 определяет поверхность решений, отделяющую точки, соответствующие решению соі, от точек, соответствующих решению сзц. Когда функция g(x) линейна, данная поверхность представляется гиперплоскостью. Если и хі, и принадлежат поверхности решений, то справедливо следующее выражение:

или

так что W есть нормаль по отношению к любому вектору, лежащему в гиперплоскости. В общем случае гиперплоскость Н делит пространство признаков на два полупространства: область решений еЯі для (Оі и область решений еЯг для соа- Поскольку g(x)>0, если х находится в области еЯі, то из этого следует, что нормальный вектор W направлен в сторону В этом случае иногда говорят, что любой вектор X, находящийся в области еЯі, лежит на положительной стороне гиперплоскости Я, а любой вектор х, находящийся в области еЯа, лежит на отрицательной стороне Н.

Разделяющая функция ^(х) представляет собой алгебраическое расстояние от х до гиперплоскости. Это становится более очевидным, если выразить х в следующем виде:

где Хр — нормальная проекция х на гиперплоскость Н, а г — соответствующее алгебраическое расстояние, положительное, если х находится с положительной стороны гиперплоскости, и отрица-

тельное, если х находится с отрицательной стороны гиперплоскости. Тогда, поскольку g^(xp)=0,

или

В частности, расстояние от начала координат до гиперплоскости Я выражается отношением Шо/HwH. Если а;о<0, начало координат находится с положительной стороны Я; если    — с отрица

тельной стороны Я. Если Шо=0, то функция ^(х) становится одно

родной w*x, и гиперплоскость проходит через начало координат. Геометрическая интерпретация данных результатов приведена на рис. 5.1.

В заключение можно сделать вывод, что линейная разделяющая функция делит пространство признаков поверхностью решений, представляющей собой гиперплоскость. Способ ориентации данной поверхности задается нормальным вектором w, а положение ее — величиной порога Шо. Разделяющая функция g (х) пропорциональна взятому со знаком расстоянию от х до гиперплоскости, при этом g(x)>0, когда X находится с положительной стороны гиперплоскости, и g(x)<0, когда X находится с отрицательной стороны.