支持向量机算法 这个算法是为了解决什么问题

posts - 854,&
comments - 447,&
trackbacks - 7
支持向量机(support vector machine)是一种分类算法,通过寻求结构化风险最小来提高学习机泛化能力,实现经验风险和置信范围的最小化,从而达到在统计样本量较少的情况下,亦能获得良好统计规律的目的。通俗来讲,它是一种二类分类模型,其基本模型定义为特征空间上的间隔最大的线性分类器,即支持向量机的学习策略便是间隔最大化,最终可转化为一个凸二次规划问题的求解。
具体原理:
1. 在n维空间中找到一个分类超平面,将空间上的点分类。如下图是线性分类的例子。
2.&一般而言,一个点距离超平面的远近可以表示为分类预测的确信或准确程度。SVM就是要最大化这个间隔值。而在虚线上的点便叫做支持向量Supprot Verctor。
3. 实际中,我们会经常遇到线性不可分的样例,此时,我们的常用做法是把样例特征映射到高维空间中去(如下图);
3.&线性不可分映射到高维空间,可能会导致维度大小高到可怕的(19维乃至无穷维的例子),导致计算复杂。核函数的价值在于它虽然也是讲特征进行从低维到高维的转换,但核函数绝就绝在它事先在低维上进行计算,而将实质上的分类效果表现在了高维上,也就如上文所说的避免了直接在高维空间中的复杂计算。
4.使用松弛变量处理数据噪音
SVM的优点:
1. SVM学习问题可以表示为凸优化问题,因此可以利用已知的有效算法发现目标函数的全局最小值。而其他分类方法(如基于规则的和)都采用一种基于贪心学习的策略来搜索假设空间,这种方法一般只能获得局部最优解。
2. 假设现在你是一个农场主,圈养了一批羊群,但为预防狼群袭击羊群,你需要搭建一个篱笆来把羊群围起来。但是篱笆应该建在哪里呢?你很可能需要依据牛群和狼群的位置建立一个&分类器&,比较下图这几种不同的分类器,我们可以看到SVM完成了一个很完美的解决方案。
& & 这个例子从侧面简单说明了SVM使用非线性分类器的优势,而逻辑模式以及决策树模式都是使用了直线方法。
摘抄自http://blog.csdn.net/v_july_v/article/details/7624837。
阅读(...) 评论()君,已阅读到文档的结尾了呢~~
扫扫二维码,随身浏览文档
手机或平板扫扫即可继续访问
支持向量机算法原理
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由:
将文档分享至:
分享完整地址
文档地址:
粘贴到BBS或博客
flash地址:
支持嵌入FLASH地址的网站使用
html代码:
&embed src='/DocinViewer-4.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布,请您等待!
3秒自动关闭窗口您的位置: &
支持向量机算法及应用
优质期刊推荐您所在位置: &
&nbsp&&nbsp&nbsp&&nbsp
支持向量机学习算法研究.pdf58页
本文档一共被下载:
次 ,您可全文免费在线阅读后下载本文档。
文档加载中...广告还剩秒
需要金币:200 &&
你可能关注的文档:
··········
··········
支持向量机学习算法研究 中文摘要 支持向量机学习算法研究 中文摘要 支持向量机是Vapnik等人基于统计学习理论提出的一种新型机器学习方法。由
于采用了结构风险最小化原则替代经验风险晟小化原则,使它能较好地解决小样本学
习问题。又由于采用了核函数思想,使它能把非线性问题转化为线性问题来解决并降
低了算法的复杂度,而且它具有很好的通用性,鲁棒性,有效性,计算简单等特点,
所以支持向量机己被广泛应用于人脸识别,手写识别,模式分类等领域。 本文针对目前一些主要的支持向量机学习算法进行深入研究,为了进一步提高学
习算法的稳定性,分类性能等,提出了一些相应的改进方法,取得了以下结果: 1.分析了支持向量机的基础算法一二次规划算法、分类算法、增量算法,并
进行性能分析; 2.结合均衡化的K均值聚类算法,设计一种筛选有用样本规则,根据规则提取
有用信息训练增量算法,提高算法处理大规模学习样本的能力和速度,并从多个角度
对改进后的增量算法进行性能分析; 3.为了解决改进的最小序贯算法在处理非平衡数据集时,整体分类性能较低,
稳定性差等问题,这里用Veropoulos提出的对两个类别施加不同的惩罚系数的方法对
算法作进一步改进,同时给出计算公式及算法步骤: 4.用UCI标准数据集中的数据分别对改进后的增量算法和基于不同惩罚系数的
SMO改进算法进行验证,实验结果表明,改进后的算法无论在时间还是分类能力上
都是有效的。 最后,本文对所做的工作进行了总结,并对以后的研究内容进行了展望。 关键词:支持向量机;最小序贯算法;惩罚系数;k均值聚类算法;增量学习 作 者:田大东 指导老师:
正在加载中,请稍后...}

我要回帖

更多关于 支持向量机算法 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信