linpandr的个人博客分享 http://blog.sciencenet.cn/u/linpandr

博文

[转载]LibSVM 在matlab中的使用以及libsvm-mat在MATLAB平台下的安装

已有 2869 次阅读 2014-10-21 22:21 |个人分类:MATLAB|系统分类:科研笔记|文章来源:转载

LibSVM 在matlab中的使用        

 

搞了一天,看了很多资料,终于搞好了matlab中调用大牛写好的svm库,将结果告诉大家避免以后走弯路。

1. 参考网站:

libsvm库下载:http://www.csie.ntu.edu.tw/~cjlin/libsvm/

视频:http://v.youku.com/v_showMini/id_XMjc2NTY3MzYw_ft_131.html (有小问题,等下会提到)

详解:http://www.matlabsky.com/thread-11925-1-1.html


2. 操作流程:

请注意:详细操作流程请参考上面的“详解”网站,这里只说大框架和详解里没有提到的问题。

A.设置path

File->set path ->add with subfolders->加入libsvm-3.11文件夹的路径

B. 在matlab中编译

目的:将libsvm-3.11matlab 中 libsvmwrite.c 等 C++文件编译成 libsvmread.mexw32 等matlab文件,这样就可以在command window中被直接调用了。

注意:在最外面的Readme中有提到已经有编译好的文件,比如在libsvm-3.11windows中也会看到libsvmread.mexw32,但这里不要被误导!还是需要你自己再编译一遍的!(还有如果matlab版本太低,如matlab 7.0是不能用VS作为编译器的,只能用VC++ 6.0,这是我劝你给matlab升级吧!别装vc了~我就是这样,升级到Matlab 2011b就可以用VS2008做编译器了

C.加载数据集

就是这里搞了我一下午!

加载数据集

  1. load heart_scale  

load heart_scale

 

有两个数据集,一个是C++的, 一个是matlab的。libsvm库中下载的是C++数据,

所以matlab加载我们下载的heart_scale是会报错的:<这就是视频中遗漏的小问题>

  1. ??? Error using ==> load  

  2. Number of columns on line 3 of ASCII file D:ZJU projectsmachine learninglibsvm-3.11heart_scale must be the same as previous lines.  

??? Error using ==> load Number of columns on line 3 of ASCII file D:ZJU projectsmachine learninglibsvm-3.11heart_scale must be the same as previous lines.
这时怎么办?

 

法1、下载matlab数据集(http://download.csdn.net/detail/abcjennifer/4215779

法2、用libsvmread而非load,就是这里

  1. libsvmread('heart_scale');  

libsvmread('heart_scale');

这样就可以加载数据集了,完成该步骤后发现Workspace中出现了heart_scale_inst 和 heart_scale_label,说明正确。

 

ok,下一步我们来测试svm的训练和predict

D.train & predict

  1. model = svmtrain(heart_scale_label,heart_scale_inst);  

  2. [predict_label,accuracy] = svmpredict(heart_scale_label,heart_scale_inst,model);  

model = svmtrain(heart_scale_label,heart_scale_inst); [predict_label,accuracy] = svmpredict(heart_scale_label,heart_scale_inst,model);
可以看到结果:

 

  1. Accuracy = 86.6667% (234/270) (classification)  

Accuracy = 86.6667% (234/270) (classification)

=========================MAC 版如何在matlab中使用libsvm=========================

下面说下mac怎么用libsvm,这里的问题是mex -setup的问题,需要安装一个补丁。

1. mac中安装xcode

2. xcode的preference中装command line tools

3. 下载最新补丁http://www.mathworks.cn/support/solutions/en/data/1-FR6LXJ/

4. 在matlab命令行输入>>cd(matlabroot)

5. 在matlab命令行输入这个打补丁

>>!unzip -o ~/Downloads/optsPatch_MACOSX8.patch

6. 可以运行mex -setup了,选择将原来的gcc覆盖掉

7. 到libsvm/matlab进行make

就搞定啦!

具体参考:http://bbs.weiphone.com/read-htm-tid-5787323.html

 

就OK了。祝大家成功快速实现!
 
libsvm-mat在MATLAB平台下的安装
 
安装libsvm-mat是在MATLAB平台下使用libsvm的前提,如果没有安装好也就无法使用,在MATLAB平台下安装libsvm-mat一般有以下几个大步骤:


1. 将libsvm-mat所在工具箱添加到matlab工作搜索目录
(File ——》
Set Path… ——》
Add with Subfolders...);
2. 选择编译器(mex -setup);
3. 编译文件(make)。

每一步都很重要【我就不在每一步前面说 这一步很重要了~】,下面我将 掰饽饽说馅【一句东北俚语i.e.翔实详尽】 的给大家详细说明。

1. 将libsvm-mat所在文件夹目录添加到MATLAB工作搜索目录(File ——》 Set Path…——》 Add with Subfolders...)

这第一步很重要,如果没有将libsvm-mat所在文件夹目录正确的添加到MATLAB工作搜索目录,使用的时候就会出现 ??? Undefined function or variable 'XXX'. 等等报错。

首先明晰一下MATLAB工作搜索目录(路径)和当前目录(路径)这两个概念:
当前目录[Current Folder]是指MATLAB当前所在的路径,MATLAB菜单栏下面有一个Current Folder可以在这里进行当前所在目录的更改。
工作搜索目录(路径)是指当你使用某一个函数的时候,MATLAB可以进行搜索该函数的所有的目录集合。

注:
当你使用某一个函数的时候,MATLAB首先会从当前目录搜索调用该函数,如果当前目录没有该函数,MATLAB就会从工作搜索目录按照从上到下的顺序进行搜索调用该函数,如果工作搜索目录中也没有该函数,就会给出 ??? Undefined function or variable 'XXX' 这个报错。所以呀,往后如果出现这个报错,您不妨看一下您想调用的函数所在目录是否添加到MATLAB工作搜索目录中了。


说了这么多,第一步就是将libsvm-mat所在文件夹复制到某一个地方后,在MATLAB菜单栏中选择 File ——》 Set Path…——》 Add with Subfolders... 然后选择之前存放libsvm-mat的文件夹,然后点击保存就可以了。

如果你添加到工作搜索目录这个你还整不明白,可以看看这个帖子:
【原创】Matlab如何安装新的工具箱
http://www.matlabsky.com/forum-v ... -fromuid-18677.html

说是第一步其实真正的第一步是打开电脑,囧~然后将libsvm-mat下载下来,下载地址如下:
Libsvm-mat林智仁先生的原始版本下载
libsvm-mat-2.91-1.zip
http://www.matlabsky.com/thread-9328-1-1.html
【说明:最新的版本为libsvm-mat-3.0-1.zip大家可以在这里下载http://www.csie.ntu.edu.tw/~cjlin/libsvm/ 最新版本的改动是将SVM的model structure移动到了svm.h里面,对于常规用户没有影响基本和以前的都一样,只是方便一些高级用户自己进行底层代码的修改】

Libsvm-mat faruto版本下载
libsvm-mat-2.89-3[FarutoUltimate3.0]
http://www.matlabsky.com/thread-9327-1-1.html

GUI版本下载【基于libsvm-mat-2.89-3[FarutoUltimate3.0]】
[原创]SVM_GUI_2.0[mcode][by_faruto]
http://www.matlabsky.com/forum-v ... -fromuid-18677.html

2. 选择编译器(mex -setup)

好多工具箱其实在上面那步之后就算是“安装”成功了,有的小朋友可能会问:“为啥安装libsvm-mat会选神马编译器,干嘛!?”,因为libsvm的原始版本是用c++写的,这里为了能在MATLAB平台下使用,需要用编译器编译一下,生成一个类似于.m文件的东东(. mexw32文件)这样就可以在MATLAB平台下使用libsvm了,所以这里需要在编译之前选择一个编译器告诉MATLAB:“你丫就用这个我刚刚选择的编译器给我把 svmtrain.c && svmpredict.c等等一系列放在make.m中的文件名字给我编译一下。”

这第一步也很重要,如果编译器没有选择好的话,下一步进行make编译的时候就会出现如下报错:Unable to complete successfully.这个表示你没有选择好编译器。

下面进行编译器的选择,哎,这里就涉及到一个问题,既然是“选择”,那说明你电脑上需要安装了编译器才行,否则选你妹啊,是吧,哎,这就又涉及到一个问题:“神马是编译器?!”,这里俺就不解释了,学过C语言的应该会懂得,不懂的百度去,这里我推荐使用Microsoft Visual C++ 6.0编译器或者更高版本的visual studio,一般MATLAB会自带一个编译器Lcc-win32 C 但这个在这里无法使用!为啥呢?因为libsvm源代码使用c++写的,而Lcc-win32 C是一个c编译器,无法编译c++源代码!
【日了,我都想吐了,真的这篇关于libsvm-mat在MATLAB平台下的安装的帖子我说的真的不能再详细了,详细的我都想吐了,要是还有人不明了如何安装libsvm-mat那只能说明:1.我表达能力还是不行或者2.你丫真的太**了,我希望是前者~】

下面具体说说如何选择编译器。

首先在MATLAB命令窗【Commond Window】中输入:
  1. mex -setup

复制代码
Remark : 注意 mex 后面要打一个 空格 然后 是-setup。 千万别忘记打一个空格,发现好多朋友在mex和-setup之间没有打空格!!


会出现类似如下内容:
  1. Please choose your compiler for building external interface (MEX) files:


  2. Would you like mex to locate installed compilers [y]/n?

复制代码
这里问你是否locate本机安装的编译器,正规的选择y然后指定编译器即可,我们先来看一下选择y(选择n在后面说),好下面我们选择y。
根据你本机安装的编译器,会出现类似如下内容:
  1. Please choose your compiler for building external interface (MEX) files:


  2. Would you like mex to locate installed compilers [y]/n? y

  3. Select a compiler:

  4. [1] Lcc-win32 C 2.4.1 in D:MATLAB~1syslcc

  5. [2] Microsoft Visual C++ 6.0 in D:Microsoft Visual Studio


  6. [0] None


  7. Compiler:

复制代码
然后你选择相应的编译器并确认即可:
  1. Compiler: 2


  2. Please verify your choices:


  3. Compiler: Microsoft Visual C++ 6.0

  4. Location: D:Microsoft Visual Studio


  5. Are these correct [y]/n? y


  6. Trying to update options file: C:UsersfarutoAppDataRoamingMathWorksMATLABR2009bmexopts.bat

  7. From template:              D:MATLAB~1binwin32mexoptsmsvc60opts.bat


  8. Done . . .

复制代码
PS:matlab支持的编译器列表在这里查看:
http://www.mathworks.com/support/compilers/current_release/

这样就表示编译器选择成功了(此步骤中可能会出现warning警告是正常现象,不用管的说~)。


================================================================
如果你输入 mex –setup后在
  1. Please choose your compiler for building external interface (MEX) files:


  2. Would you like mex to locate installed compilers [y]/n?

复制代码
这一步选择y后,可选择的编译器里面有没你已经安装的编译器,表示MATLAB可能没有识别记录你安装的编译器的名字和目录(有时候会发生这种情况),此时你应该重新输入 mex –setup后选择n手动进行编译器的设置:
  1. mex -setup

  2. Please choose your compiler for building external interface (MEX) files:


  3. Would you like mex to locate installed compilers [y]/n? n


  4. Select a compiler:

  5. [1] Intel C++ 9.1 (with Microsoft Visual C++ 2005 SP1 linker)

  6. [2] Intel Visual Fortran 10.1 (with Microsoft Visual C++ 2005 SP1 linker)

  7. [3] Lcc-win32 C 2.4.1

  8. [4] Microsoft Visual C++ 6.0

  9. [5] Microsoft Visual C++ .NET 2003

  10. [6] Microsoft Visual C++ 2005 SP1

  11. [7] Microsoft Visual C++ 2008 Express

  12. [8] Microsoft Visual C++ 2008 SP1

  13. [9] Open WATCOM C++


  14. [0] None


  15. Compiler: 4  %选择的这个编译器一定是你本机安装了的,否则选择了也没有用


  16. Your machine has a Microsoft Visual C++ compiler located at

  17. D:Microsoft Visual Studio. Do you want to use this compiler [y]/n?

复制代码
这样的话就可以手动选择你想要的编译器了,在
  1. Your machine has a Microsoft Visual C++ compiler located at

  2. D:Microsoft Visual Studio. Do you want to use this compiler [y]/n?

复制代码
这个确认步骤,如果你的编译器的确是安装在MATLAB给出的这个目录(我这里是D:Microsoft Visual Studio)那么选择y确认即可,如果不是说明MATLAB没有识别出安装的地方,选择n手动指定目录即可,比如选择n后的结果如下:
  1. Compiler: 4


  2. Your machine has a Microsoft Visual C++ compiler located at

  3. D:Microsoft Visual Studio. Do you want to use this compiler [y]/n? n

  4. Please enter the location of your compiler: [C:Program FilesMicrosoft Visual Studio]

复制代码
此时输入你安装的编译器的完整目录即可比如:D:Microsoft Visual Studio

这样编译器的选择就结束了,相应会遇到的问题大概也就是上面这些了。

3. 编译文件(make)

这一步说白了就是运行一下 libsvm-mat工具箱中的make.m文件。

首先需要把MATLAB的当前目录[Current Folder]调整到libsvm-mat所在的文件夹,如果你要问神马是“当前目录”?看第一步中,有关“MATLAB工作搜索目录(路径)和当前目录(路径)这两个概念”的讲解,i.e.


当前目录[Current Folder]是指MATLAB当前所在的路径,MATLAB菜单栏下面有一个Current Folder可以在这里进行当前所在目录的更改。
工作搜索目录(路径)是指当你使用某一个函数的时候,MATLAB可以进行搜索该函数的所有的目录集合。
有人会问:“如何把MATLAB的当前目录[Current Folder]调整到libsvm-mat所在的文件夹?”
答曰:先上个图:
1.jpg
你点击箭头所指的那三个点,就能选择libsvm-mat所在的目录了,事先将libsvm-mat工具箱放在一个你想要放的位置即可~

然后在MATLAB命令窗【Commond Window】输入
  1. make

复制代码
如果成功运行没有报错,到此就说明libsvm-mat工具箱成功安装了。Libsvm-mat工具箱中有自带的heart_scale.mat测试数据集,可以运行以下代码来check一下是否安装成功:
  1. load heart_scale;

  2. model = svmtrain(heart_scale_label,heart_scale_inst);

  3. [predict_label,accuracy] = svmpredict(heart_scale_label,heart_scale_inst,model);

复制代码
如果出现下面这个结果,则说明肯定安装成功了:
  1. Accuracy = 86.6667% (234/270) (classification)

复制代码
注:编译文件(make)这一步为神马要把MATLAB的当前目录[Current Folder]调整到libsvm-mat所在的文件夹呢?
答曰:因为这一步要运行libsvm-mat工具箱中的make.m文件,因为当你使用某一个函数的时候,MATLAB首先会从当前目录搜索调用该函数,为了防止其他位置也有类似名字的make.m函数,所以这一步要把MATLAB的当前目录[Current Folder]调整到libsvm-mat所在的文件夹,优先运行libsvm-mat文件夹下的make.m文件。

=========================================================
一些额外要说明的注意事项:
PS: make.m的文件内容如下:
  1. % This make.m is used under Windows


  2. mex -O -c svm.cpp

  3. mex -O -c svm_model_matlab.c

  4. mex -O svmtrain.c svm.obj svm_model_matlab.obj

  5. mex -O svmpredict.c svm.obj svm_model_matlab.obj

  6. mex -O libsvmread.c

  7. mex -O libsvmwrite.c

复制代码
哦,对了,安装完libsvm-mat工具箱,有的小朋友想要用 help svmtain 和 help svmpredict来查看这两个函数的帮助文件,非常杯具的告诉你:
  1. 运行help svmtain 在较新版本下得到的是MATLAB自带的svmtrain函数的帮助文件;

  2. 运行help svmpredict 会有如下报错svmpredict not found.

复制代码
因为svmtrain和svmpredict的源代码是svmtrain.c和svmpredict.c即源代码用c++写的,编译后生成的文件是svmtrain.mexw32和svmpredict.mexw3,而.mexw32这个编译后的文件是加密过的,打开是乱码,根本就没有帮助文件解说,想看svmtrain和svmpredict的源代码直接看svmtrain.c和svmpredict.c即可。O(∩_∩)O~

也有的小朋友测试过可以在别人电脑上进行编译然后将编译好的libsvm-mat工具箱复制过来,这样在你的本机上只进行第一步就可以安装成功了~这个是可以的,但我个人还是建议在本机也编译一下才好,因为编译的环境不同(32位或者64位或者XX差异)会导致可能使用别人编译的会出现这样那样的小问题~anyway,就是提一下这个事!


下几个帖子计划 掰饽饽说馅 的给大家说说
如何使用libsvm进行分类
如何使用libsvm进行回归
如何优化libsvm的各种参数
使用libsvm进行分类和回归的通常的流程以及注意事项

这个最有技术含量了,因为总有朋友说用libsvm做分类或者回归效果不好,我说把数据给我试一下,结果我做的效果一般都会比其要好,为啥捏?这里先简单说一点点:使用libsvm(SVM)不是简简单单的用svmtrain输入几个参数 -c -g 生成model后用svmpredict来分类或者回归,其实更重要的是前期的数据预处理和后期的参数选择(归一化范围的选取,降维算法的选取,以及最佳参数选取的算法)这些才是关键,其实说白了如果这些您都搞得很透彻的话,选择其他分类器也能做好,即这些(前期的数据预处理和后期的参数选择)做好了,选择神马分类器真的并不重要,在libsvm-mat-2.89-3[FarutoUltimate3.0]工具箱中我把常见的数据预处理方法(归一化,降维pca)和参数选择算法(grid search 暴力搜索方法,启发式GA、PSO方法)都封装好了方便大家使用,同样是用这个加强工具箱,但对于同一个测试数据集合,我敢保证肯定会有人用的效果就没有我的好,为啥捏?因为知其然不知其所以然!肯定是其仅仅是了解一些表象的使用,而对于底层到底是怎么回事没有搞清楚,这样在具体的参数调整上肯定是不行的,这也回答之前的“为什么总有朋友说用libsvm做分类或者回归效果不好,我说把数据给我试一下,结果我做的效果一般都会比其要好”的原因。

如何可视化libsvm的分类结果【虚幻的浮云~】
如何处理unbalanced label(不平衡数据标签)问题【难点问题】

反正 我SVM 就会这么一点东西,早点说完早拉到~

PPS:这篇帖子我编辑了一天,用word整理出来大概是5-6页,在此下个狠点的咒怨:谁TM要是转载这个帖子不给出原始链接,不给出faruto作者名,我TM咒你做分类准确率全为0,做回归mse巨大,平方相关系数巨小,各种考试全挂,毕业论文答辩通不过!

更多关于SVM的东西请看:
关于SVM的那点破事[长期更新整理 by faruto]
http://www.matlabsky.com/thread-10966-1-1.html
 
 
matlab xcode 与 libsvm 的设置方法
mac的系统还是太小众了,碰到问题搜索了很多资料,再加上自记得摸索才得到解决的办法
科研需要用到matlab的c编译器,在moumntain lion下面如果要用到libsvm等需要编译才可以使用的工具包,则必须为matlab指定一个编译器
mac下xcode带有一个 llvm-gcc编译器,但是配置起来还是要一番功夫的,首先国内网站的所有帖子几乎都不适于现在的mountain lion和xcode4.5.2
但是matlab必须打一个补丁才能兼容xcode,官方指南http://www.mathworks.cn/support/solutions/en/data/1-FR6LXJ/
matlab官方解决方案的但是这个方案其实依赖一个xcode command line tools,一直以来国内外的一些帖子没有成功配置好都是因为没有安装这个command line tools

尤其是一个帖子提到了需要用到root权限,sudo启动matlab 之后打相应的补丁,这个方法真的害死我了,如果用sudo打开matlab,打好补丁之后 以后每次启动都必须sudo才可以 否则就启动出错,删了重装也无法解决,后来参考一个帖子重设权限才可正常启动
所以千万别按他的方法搞。。。还有一些朋友的帖子说打好补丁后“用mex -setup的时候如果可以看到Template Options file for building llvm-gcc MEX-files字样的话就是成功了,如果没看到llvm-gcc的话就是悲剧了,
其实这个不对的,我打好补丁mex -setup并没有显示llvm-gcc的(如果打最后那个补丁Xcode4_OLD.patch就有llvm字样,打mountain lion也就是optsPatch_MACOSX8.patch是没有这个字样的只有Template Options file for building gcc MEX-files)
其实关键的关键就是要一定要安装xcode的command line tools才可以编译成功

说了这么多 我还是具体说一下正确的步骤把:
1 安装好matlab (我是装得2012b,其他版本也都差不多)
2 安装xcode,我是直接用mac store装的 xcode免费的,但是比较大1个半G,store下载特别慢所以推荐晚上装,早上就差不多装好了。
3 安装xcode的command line tools这一步很关键 官方指南没有提,但是一定做 否则不会成功编译的
方法是打开xcode,我是随便建立一个项目,其实只要打开xcode,最上面的菜单栏显示出来了 就可以了
点击菜单的xcode-&gt;perference 回弹出一个窗口,点击downloads那个按钮 就能看到command line tools的下载按钮了,安装它(大概还要1小时多。。。)
安装好 command line tools就可一进行下一步了
4 到官方网站 http://www.mathworks.cn/support/solutions/en/data/1-FR6LXJ/ 下载最新的补丁(些此文时是optsPatch_MACOSX8.patch)
5按照指南的指示进入matlab根目录
命令是 cd(matlabroot)
打好补丁
命令是 !unzip -o ~/Downloads/optsPatch_MACOSX8.patch
6 需要做的工作都差不多了 就可以mex -setup 了
选择Template Options file for building gcc MEX-files 就可以了
至此就完成了matlab C编译器 xcode的设置
如果需要libsvm,下载之后直接make就行了。

 



http://blog.sciencenet.cn/blog-111625-837534.html

上一篇:[转载]如何运行和处理MATLAB中的mexFunction函数
下一篇:[转载]LibSVM 在matlab中的使用以及libsvm-mat在MATLAB平台下的安装

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2018-9-24 00:06

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部