Tag Archives: SVM

Support Vector Machines vs Artificial Neural Networks

svms.org网站上一篇神经网络和支持向量机的对比文章,这里做简单翻译,如有错误请在下方评论处留言,感谢作者!感谢爱可可-爱生活分享!

 

Continue reading

【MachineLearningTechniques】Linear Support Vector Machine——Course Introduction

本课程是国立台湾大学(NTU)的林轩田讲授,之前的机器学习基石(Machine Learning Foundation)是本门课程的先修课程。好了不多说了,我们本节课主要谈一下这门机器学习技法(Machine Learning Techniques)课程的大概情况。 Continue reading

【MachineLearning】Support Vector Machines——Using An SVM

SVM是一个特别的优化算法,之前我们一直提到的是一些表面上的东西(或者说是比较零散的东西),本节(也是SVM课程的最后一节)我们将SVM应用到一个案例中去。本节在最后说明了在特征变量个数和训练样本数在不同情况下,LR,SVM,NN的选择问题。以及某些比算法选择更重要的问题。下面名词解释仅作参考:

  • 方差是各个数据分别与其总和的平均数之差的平方的和的平均数,用字母D表示。在概率论和数理统计中,方差(Variance)用来度量随机变量和其数学期望(即均值)之间的偏离程度。在许多实际问题中,研究随机变量和均值之间的偏离程度有着重要意义。
  • 偏差是啥搜了一下发现有标准偏差(即标准差),偏差(英文为Bias)为测量学概念,发现还是不对,用英文的Bias搜,查出下面内容:
  • 乖离率(BIAS)是测量股价偏离均线大小程度的指标。当股价偏离市场平均成本太大时,都有一个回归的过程,即所谓的“物极必反”。
    乖离率是指股价与平均移动线之间的偏离程度,通过百分比的形式来表示股价与平均移动线之间的差距。如果股价在均线之上,则为正值;如果股价在均线之下,则为负值。乖离率最早来源于葛兰维的平均线定律,它的理论基础主要从投资者心理角度来分析。因为均线可以代表平均持仓成本,利好利空的刺激,造成股价出现暴涨暴跌。

Continue reading

【MachineLearning】Support Vector Machines——KernelsⅡ

在上一节课程中,我们讨论了核函数这个概念,怎样利用它以及实现支持向量机的一些新特性,在这一节中,我们将补充一些缺失的细节,并简单的介绍一下怎么样在实际中应用这些想法(SVM中的核函数)。例如,怎样处理支持向量机中的偏差方差折中Continue reading

【MachineLearning】Support Vector Machines——KernelsⅠ

在本节中,我将会讲到支持向量机在非线性分类器中的内容,这里主要将要说到的技术是——Kernel,核(函数)。现在就让我们看看什么是核(Kernel),我们又是如何使用它们的呢?

注:一开始没理解这个landmark是啥,后来理解了,自己的想法:landmark是选定的界标(就是已经知道类别的样本)。假设我们有三个界标l(1),l(2),l(3),对于每一个样本X,我们都有样本点X到三个界标的距离参数等等,根据这个来判断进行分类。我想这个界标landmark的存在,也是说明这是supervised learning 吧。关于如何得到和选择landmarks是下一节课的内容。

Continue reading

【MachineLearning】Support Vector Machines——Mathematics Behind Large Margin Classification(Optional)

在本节课,我将介绍一些大间隔(large margin )分类背后的数学原理。本节为选学部分,你完全可以跳过它,但是听完这节课可能让你对支持向量机中的优化问题,以及如何得到大间距分类器产生更好的直观理解。

注:范数的解释百度一圈儿太装B(或者说自己数学功底实在太差_(:з」∠)_)。模是绝对值在二维和三维空间的推广,可以认为就是向量的长度。推广到高维空间中称为范数。

Continue reading

支持向量机超级通俗解释

转载自百度知道,自己打印出来了,自个儿照着把字儿码出来同时整理。

支持向量机是用来解决分类问题的。

Part1 引入(一维)

先考虑最简单的情况,用筛子很快可以分开——豌豆和米粒。小颗粒漏下去,大颗粒保留。用一个函数来表示,就是当直径d大于某个值D,就判定为豌豆,小于某个值就是米粒。

  • d>D,豌豆
  • d<D,米粒

在数轴上就是在d左边的就是米粒,右边就是豌豆。这是一维情况。 Continue reading