每天五分钟机器学习：硬间隔支持向量机、软间隔支持向量机、非线性支持向量机

分割超平面、支持超平面、支撑向量

如上图所示，支持向量机会学习出b这个分割超平面，实线称为分割超平面，把虚线称为支撑超平面，把虚线上面的向量称为支撑向量，有一个分割超平面，两条支撑超平面，这三个平面是平行的，实际上虽然我们的样本向量很多，但是最终的时候决定我们分割超平面的其实是由少数的支持向量决定的，这个的原因我下面会有解释。两个支撑超平面之间的距离称为间距，我们的目的就是让间距最大，这样的分割超平面其实就是最好的那个。

硬间隔支持向量机、软间隔支持向量机、非线性支持向量机

当训练数据线性可分时，通过硬间隔最大化，学习一个线性的分类器，即线性可分支持向量机，又称为硬间隔 支持向量机

当训练数据近似线性可分时，通过软间隔最大化，也学习一个线性的分类器，即线性支持向量机，又称为软间隔支持向量 机

当训练数据线性不可分时，通过使用核技巧及软间隔最大化，学习非线性支持向量机。