【VC++开源代码栏目提醒】:网学会员VC++开源代码为您提供LIBSVM使用方法 - 人工智能参考,解决您在LIBSVM使用方法 - 人工智能学习中工作中的难题,参考学习。
LIBSVM 1 LIBSVM简介 LIBSVM是台湾大学林智仁Lin Chih-Jen副教授等开发设计的一个简单、易于使用和快速有效的SVM模式识别与回归的软件包他不但提供了编译好的可在Windows系列系统的执行文件还提供了源
代码方便改进、修改以及在其它操作系统上应用该软件还有一个特点就是对SVM所涉及的参数调节相对比较少提供了很多的默认参数利用这些默认参数就可以解决很多问题并且提供了交互检验Cross -SVM回归等问题包括基于一对一算法的多类模式识别问题。
SVM用于模式识别或回归时SVM方法及其参数、核函数及其参数的选择目前国际上还没有形成一个统一的模式也就是说最优SVM算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者利用软件包提供的交互检验功能进行寻优。
ν-SVM回归和ε-SVM分类、νValidation的功能。
该软件包可以在http://www.csie.ntu.edu.tw/cjlin/免费获得。
该软件可以解决C-SVM分类、-SVM回归等问题包括基于一对一算法的多类模式识别问题。
SVM用于模式识别或回归时SVM方法及其参数、核函数及其参数的选择目前国际上还没有形成一个统一的模式也就是说最优SVM算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者利用软件包提供的交互检验功能进行寻优。
2 LIBSVM使用方法 LibSVM是以源
代码和可执行文件两种方式给出的。
如果是Windows系列操作系统可以直接使用软件包提供的程序也可以进行修改编译如果是Unix类
系统必须自己编译软件包中提供了编译格式文件我们在SGI工作站操作系统IRIX6.5上使用
免费编译器GNU C3.3编译通过。
2.1 LIBSVM 使用的一般步骤 1 按照LIBSVM
软件包所要求的格式准备数据集 2 对数据进行简单的缩放操作 3 考虑选用RBF 核函数 4 采用交叉验证选择最佳参数C与g 5 采用最佳参数C与g 对整个训练集进行训练获取支持向量机模型 6 利用获取的模型进行测试与预测。
2.2 LIBSVM使用的数据格式 该软件使用的训练数据和检验数据文件格式如下 : : ... 其中 是训练数据集的目标值对于分类它是标识某类的整数支持多个类对于回归是任意实数。
是以1开始的整数可以是不连续的为实数也就是我们常说的自变量。
检验数据文件中的label只用于计算准确度或误差如果它是未知的只需用一个数填写这一栏也可以空着不填。
在程序包中还包括有一个训练数据实例heart_scale方便参考数据文件格式以及练习使用软件。
可以编写小程序将自己常用的数据格式转换成这种格式。
2.3 Svmtrain和Svmpredict的用法 Svmtrain训练建模的用法 svmtrain options training_set_file model_file Options可用的选项即表示的涵义如下 -s svm类型SVM设置类型默认0 0 -- C-SVC 1 --v-SVC 2 – 一类SVM 3 -- e -SVR 4 -- v-SVR -t 核函数类型核函数设置类型默认2 0 – 线性uv 1 – 多项式ruv coef0degree 2 – RBF函数exp-ru-v2 3 –sigmoidtanhruv coef0 -d degree核函数中的degree设置默认3 -g rgama核函数中的函数设置默认1/ k -r coef0核函数中的coef0设置默认0 -c cost设置C-SVC -SVR和-SVR的参数默认1 -n nu设置-SVC一类SVM和- SVR的参数默认0.5 -p e设置 -SVR 中损失函数的值默认0.1 -m cachesize设置cache内存大小以MB为单位默认40 -e ε设置允许的终止判据默认0.001 -h shrinking是否使用启发式0或1默认1 -wi weight设置第几类的参数C为weightCC-SVC中的C默认1 -v n: n-fold交互检验模式 其中-g选项中的k是指输入数据中的属性数。
option -v 随机地将数据剖分为n部分并计算交互检验准确度和均方根误差。
以上这些参数设置可以按照SVM的类型和核函数所支持的参数进行任意组合如果设置的参数在函数或SVM类型中没有也不会产生影响程序不会接受该参数如果应有的参数设置不正确参数将采用默认值。
training_set_file是要进行训练的数据集model_file是训练结束后产生的模型文件文件中包括支持向量样本数、支持向量样本以及Lagrange系数等必须的参数该参数如果不设置将采用默认的文件名也可以设置成自己惯用的文件名。
2.4 Svmpredict的用法 Svmpredict使用已有的模型进行预测的用法 svmpredict test_file model_file output_file model_file是由svmtrain产生的模型文件test_file是要进行预测的数据文件Output_file是svmpredict的输出文件。
svm-predict没有其它的选项。
svmtrain -s 0 -c 1000 -t 1 -g 1 -r 1 -d 3 data_file 训练一个由多项式核uv13和C1000组成的分类器。
svmtrain -s 1 -n 0.1 -t 2 -g 0.5 -e 0.00001 data_file 在RBF核函数exp-0.5u-v2和终止允许限0.00001的条件下训练一个-SVM 0.1分类器。
svmtrain -s 3 -p 0.1 -t 0 -c 10 data_file 以线性核函数uv和C10及损失函数 0.1求解SVM回归。
LIBSVM使用笔记 1 程序准备 C:Python25 //需要安装python2.5 E:svmlibsvm-2.83 //解压缩libsvm-2.83 E:svmlibsvm-2.83gp373w32 //画图工具gnuplot E:svmlibsvm-2.83python //SVM cross validation E:svmlibsvm-2.83tools //easy.py grid.py subset.py E:svmlibsvm-2.83tools1 //生成所需格式的数据两种方式matlab 或 excel E:svmlibsvm-2.83windows //windows 下面的4个可执行程序 2 修改E:svmlibsvm-2.83toolseasy.py 程序开始加入以下两句 svmpath E:svmlibsvm-2.83windows // easy需要调用svm可执行程序 pythonpath E:svmlibsvm-2.83tools // easy需要调用grid.py gnuplot_exe rc:tmpgnuplotbinpgnuplot.exe 改为 gnuplot_exe r..gp373w32pgnuplot.exe grid_py r.grid.py 改为grid_py r..toolsgrid.py 3 修改E:svmlibsvm-2.83toolsgrid.py 程序开始加入以下两句 svmpath E:svmlibsvm-2.83windows // grid需要调用svm可执行程序 gnuplotpath E:svmlibsvm-2.83gp373w32 // grid需要调用画图工具 gnuplot_exe rc:tmpgnuplotbinpgnuplot.exe 改为 gnuplot_exe r..gp373w32pgnuplot.exe 4 数据准备 1、 使用excel宏 手工转换数据格式可以通过excel文件FormatDataLibsvm.xls打开包含数据的文本文件然后用宏将数据转换为libsvm格式。
也可以用宏将libsvm格式的数据转换回来。
2、使用matlab FormatSplitBat.m是一个批量将以Tab或者空格分隔的数据转换为libsvm格式并且分成占全部数据比例为p的训练集和1-p的测试集然后调用easy.py的例子。
//摘自Libsvm-2_6.mht 修改
程序中的三处路径与本机实际存储情况一致并确保easy.py的第28行能够正确调用grid.py之后将fileList.txt文件中写入要转换格式的文件
列表。
这些文件名都在当前路径E:svmlibsvm-2.83data之下。
运行E:svmlibsvm-2.83Tools1FormatSplitBat.m程序自动将fileList.txt中提到的文件名的数据内容按照概率p进行随机划分本程序p为0.5则有一半划分到train一半划分到test。
另外本程序划分是循环10次可以按照自己的要求进行调整。
每次循环将每个原数据
文档在文件夹E:svmlibsvm-2.83data中生成4个文件分别是file_i.train file_i.test file_iL.train file_iL.test. 其中L表示标示变量在左边为libsvm能够使用的文件。
运行过程中每一次循环程序都要调用easy.pygrid.py默认采用5倍交叉验证对c采用的搜索范围和步长分别为-10 15和 1g的为10 -15和-1可根据需要自行修改grid.py。
运行完grid.py在..tools1中每两个有L的文件train test生成了7个文件分别是train5个test2个。
其中train中生成3个scale - out png一个range一个model。
Test中一个scale一个predict。
利用Libsvm进行SVM分类 SVM分类器通常具有较高的分类精度。
我这里不想过多的去说SVM是怎么回事只是提供一种使用SVM进行判别的方法。
我使用的是
开源的LibSVM实现SVM分类。
Google上输入LIBSVM可以很容易的找到
代码下载。
我使用的是C版不过是2.6版也可以使用C的2.81版。
下面我说说如何使用2.81版中带的编译好的程序完成聚类工作。
该版本支持多类判别。
1、数据准备工作 首先输入数据进行处理生成符合SVM处理规范的文本格式。
关于格式的更多说明可以参考软件使用手册。
另外此步可以不用归一化因为LibSVM工具中提供了scale工具可以自动完成数据的归一化处理工作。
2、程序配置工作 LibSVM 2.81版下载下来后并不能直接操作还需要一些辅助
工作否则在默认判别的方式下工作判别精度可能非常低。
关于此方面的更多内容可以参考《A Practical Guide to Support Vector Classification》一文该PDF
文档可以从LibSVM的网站上下载到。
在使用LibSVM之前首先要安装PathonPathon 2.4可以从Pathon的网站上下载到。
紧接着就是需要装“pgnuplot.exe”LibSVM使用它完成参数
搜索时的绘图工作该程序没有包含在LibSVM 2.81版的
压缩包中需要自己到网上搜索并下载。
另外在LibSVM 2.81中grid.py
代码里默认pgnuplot.exe的路径是“c:tmpgnuplotbinpgnuplot.exe”你可以将“pgnuplot.exe”放到该路径下或修改grid.py
代码指向你自己的路径。
所有这些准备工作完成后就可以进行SVM分类工作了。
3、SVM分类 使用SVM分类可以执行“libsvm-2.81tools”目录下的easy.py程序该程序提供了一套默认的、精度较高的SVM分类算法。
在DOS窗口下输入C:PythonPython easy.py Train.txt Test.txt就可以利用Train.txt中的数据进行训练然后对Test.txt中的数据进行判别。
LIBSVM入门 许多想用lib-svm解决分类或者回归的初学者可能像我一样一开始摸不着头绪。
面对长篇的English头都大了。
有好心人把自己的经验总结了我们就一起共享吧 1. LIBSVM 软件包简介 LIBSVM 是台湾大学林智仁Chih-Jen Lin博士等开发
设计的一个操作简单、易于使用、快速有效的通用SVM 软件包可以解决分类问题包括C- SVC、n - SVC 、回归问题包括e - SVR、n - SVR 以及分布估计one-class-SVM 等
问题提供了线性、多项式、径向基和S形函数四种
常用的核函数供选择可以有效地解决多类问题、交叉验证选择参数、对不平衡样本加权、多类问题的概率估计等。
LIBSVM 是一个
开源的软件包需要者都可以免费的从作者的个人主页http://www.csie.ntu.edu.tw/cjlin/ 处获得。
他不仅提供了LIBSVM的C语言的算法源
代码还提供了Python、
Java、R、MATLAB、Perl、Ruby、LabVIEW以及C.net 等各种语言的接口可以方便的在Windows 或UNIX 平台下使用也便于科研工作者根据自己的需要进行改进譬如设计使用符合自己特定问题需要的核函数等。
另外还提供了WINDOWS 平台下的可视化操作工具SVM-toy并且在进行模型参数选择时可以绘制出交叉验证精度的等高线图。
2. LIBSVM 使用方法简介 LIBSVM 在给出源
代码的同时还提供了Windows操作系统下的可执行文件包括进行支持向量机训练的svmtrain.exe根据已获得的支持向量机模型对数据集进行预测的svmpredict.exe以及对训练数据与测试数据进行简单缩操作的svmscale.exe。
它们都可以直接在DOS 环境中使用。
如果下载的包中只有C的源
代码则也可以自己在
VC等软件上编译生成可执行文件。
LIBSVM 使用的一般步骤是 1 按照LIBSVM软件包所要求的格式准备数据集 2 对数据进行简单的缩放操作 3 考虑选用RBF 核函数2 Kxy e x y -g - 4 采用交叉验证选择最佳参数C与g 5 采用最佳参数C与g 对整个训练集进行训练获取支持向量机模型 6 利用获取的模型进行测试与预测。
2.1 LIBSVM 使用的数据格式 LIBSVM使用的训练数据和测试数据文件格式如下 2 …其中 是训练数据集的目标值对于分类它是标识某类的整数支持多个类对于回归是任意实数。
是以1 开始的整数表示特征的序号为实数也就是我们常说的特征值或自变量。
当特征值为0 时特征序号与特征值都可以同时省略即index可以是不连续的自然数。
与第一个特征序号、前一个特征值与后一个特征序号之间用空格隔开。
测试数据文件中的label 只用于计算准确度或误差如果它是未知的只需用任意一个数填写这一栏也可以空着不填。
例如 1 1:0.708 2:1 3:1 4:-0.320 5:-0.105 6:-1 8:1.21 2.2 svmscale 的用法 对数据集进行缩放的目的在于 1避免一些特征值范围过大而另一些特征值范围过小 2避免在训练时为了计算核函数而计算内积的时候引起数值计算的困难。
因此通常将数据缩放到 -11或者是01之间。
用法svmscale -l lower -u upper -y y_lower y_upper -s save_filename -r restore_filename filename缺省值 lower -1upper 1没有对y进行缩放其中 -l数据下限标记lower缩放后数据下限 -u数据上限标记upper缩放后数据上限 -y是否对目标值同时进行缩放y_lower为下限值y_upper为上限值 -s save_filename表示将缩放的规则保存为文件save_filename -r restore_filename表示将缩放规则文件restore_filename载入后按此缩放 filename待缩放的数据文件要求满足前面所述的格式。
缩放规则文件可以用文本浏览器打开看到其格式为 lower upper lval1 uval1 lval2 uval2 其中的lower 与upper 与使用时所设置的lower 与upper 含义相同index 表示特征序号lval 为该特征对应转换后下限lower 的特征值uval 为对应于转换后上限upper 的特征值。
数据集的缩放结果在此情况下通过DOS窗口输出当然也可以通过DOS的文件重定向符号“”将结果另存为指定的文件。
使用实例 1 svmscale –s train3.range train3train3.scale表示采用缺省值即对属性值缩放到 -11的范围对目标值不进行缩放对数据集train3 进行缩放操作其结果缩放规则文件保存为train3.range缩放集的缩放结果保存为train3.scale。
2 svmscale –r train3.range test3test3.scale表示载入缩放规则train3.range 后按照其上下限对应的特征值和上下限值线性的地对数据集test3 进行缩放结果保存为test3.scale。
2.3 svmtrain 的用法 svmtrain实现对训练数据集的训练获得SVM模型。
用法 svmtrain options training_set_file model_file其中 options操作参数可用的选项即表示的涵义如下所示 -s svm类型设置SVM 类型默认值为0可选类型有 0 -- C- SVC 1 -- n – SVC 2 -- one-class-SVM 3 -- e – SVR 4 -- n – SVR -t 核函数类型设置核函数类型默认值为2可选类型有 0 -- 线性核uv 1 -- 多项式核 guv coef 0degree 2 -- RBF 核e u v 2 g – 3 -- sigmoid 核tanhguv coef 0 -d degree核函数中的degree设置默认值为3 -g g 设置核函数中的g 默认值为1/ k -r coef 0设置核函数中的coef 0默认值为0 -c cost设置C- SVC、e - SVR、n - SVR中从惩罚系数C默认值为1 -n n 设置n - SVC、one-class-SVM 与n - SVR 中参数n 默认值0.5 -p e 设置n - SVR的损失函数中的e 默认值为0.1 -m cachesize设置cache内存大小以MB为单位默认值为40 -e e 设置终止准则中的可容忍偏差默认值为0.001 -h shrinking是否使用启发式可选值为0 或1默认值为1 -b 概率估计是否计算SVC或SVR的概率估计可选值0 或1默认0 -wi weight对各类样本的惩罚系数C加权默认值为1 -v nn折交叉验证模式。
其中-g选项中的k是指输入数据中的属性数。
操作参数 -v 随机地将数据剖分为n 部分并计算交叉检验准确度和均方根误差。
以上这些参数设置可以按照SVM 的类型和核函数所支持的参数进行任意组合如果设置的参数在函数或SVM 类型中没有也不会产生影响程序不会接受该参数如果应有的参数设置不正确参数将采用默认值。
training_set_file是要进行训练的数据集model_file是训练结束后产生的模型文件该参数如果不设置将采用默认的文件名也可以设置成自己惯用的文件名。
使用实例 1svmtrain train3.scale train3.model训练train3.scale将模型保存于文件train3.model并在dos窗口中输出如下结果 optimization finished iter 1756 nu 0.464223 obj -551.002342 rho -0.337784 nSV 604 nBSV 557 Total nSV 604其中iter为迭代次数nu 与前面的操作参数-n n 相同obj为SVM文件转换为的二次规划求解得到的最小值rho 为判决函数的常数项bnSV 为支持向量个数nBSV为边界上的支持向量个数Total nSV为支持向量总个数。
训练后的模型保存为文件train3.model用记事本等文本浏览器打开可以看到其内容如下其后“”后内容为笔者所加注释 svm_type c_svc 训练所采用的svm类型此处为C- SVC kernel_type rbf 训练采用的核函数类型此处为RBF核 gamma 0.047619 与操作参数设置中的g 含义相同 nr_class 2 分类时的类别数此处为两分类问题 total_sv 604 总共的支持向量个数 rho -0.337784 决策函数中的常数项b label 0 1 类别标签 nr_sv 314 290 各类别标签对应的支持向量个数 SV 以下为支持向量 1 1:-0.963808 2:0.906788 ... 19:-0.197706 20:-0.928853 21:-1 1 1:-0.885128 2:0.768219 ... 19:-0.452573 20:-0.980591 21:-1... ... ... 1 1:-0.847359 2:0.485921 ... 19:-0.541457 20:-0.989077 21:-1 对于分类问题上面的支持向量的各列含义与训练数据集相同对于回归问题略有不同与训练数据中的标签label即y值所对应的位置在模型文件的支持向量中现在存放的是Lagrange 系数a 值即为下面决策函数公式中的a 值 1 K i i i i i i i i sv i i i sv fx a a x x b a a k x x b ak x x b - F F - g 2.4 svmpredict 的用法 svmpredict 是根据训练获得的模型对数据集合进行预测。
用法svmpredict options test_file model_file output_file options操作参数 -b probability_estimates是否需要进行概率估计预测可选值为0 或者1默认值为0。
model_file 是由svmtrain 产生的模型文件test_file 是要进行预测的数据文件output_file 是svmpredict 的输出文件表示预测的结果值。
svmpredict 没有其它的选项。