yxzfscg的个人博客分享 http://blog.sciencenet.cn/u/yxzfscg

博文

算法学习(四):支持向量机(续)

已有 2654 次阅读 2012-11-2 19:44 |系统分类:科研笔记| 学习, 算法

承接算法学习(三)
3:非线性支持向量机
(1):对于非线性的问题的,找一个映射 ϕ(.) ,然后把原来的数据映射到新空间中,再做线性 SVM 即可.但这样带来的将是维灾难,所以如果能够在原来的空间上进行计算则对于解决问题将是极大帮助的。
      核函数就是这样的方法。例如向量$x1=(η1,η2)T$和向量$x2=(ξ1,ξ2)T$,通过$(⟨x1,x2⟩+1)2=2η1ξ1+η21ξ21+2η2ξ2+η22ξ22+2η1η2ξ1ξ2+1$得到的结果和利用高维转化的结果很接近。那么在通过简单的转化就行。这里的$(⟨x1,x2⟩+1)2$就是我们要寻找的核函数。得到核函数之后解决方法就和前面线性的方法一致。这里就不做介绍了。

      对于核函数的选取,有一些常用的核函数:

  • 多项式核$k(x1,x2)=(⟨x1,x2⟩+R)d$
  • 高斯核$κ(x1,x2)=exp(−∥x1−x2∥22σ2)$
     
     
     


  • https://blog.sciencenet.cn/blog-796597-628664.html

    上一篇:算法学习(三):支持向量机(SVM)
    下一篇:算法学习(五):K均值
    收藏 IP: 210.30.97.*| 热度|

    0

    该博文允许注册用户评论 请点击登录 评论 (0 个评论)

    数据加载中...

    Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

    GMT+8, 2024-12-15 07:01

    Powered by ScienceNet.cn

    Copyright © 2007- 中国科学报社

    返回顶部