加快SMO算法训练速度的策略研究

计算机工程与应用 ›› 2007, Vol. 43 ›› Issue (33): 184-187.

加快SMO算法训练速度的策略研究

骆世广¹,骆昌日²

1.广东金融学院应用数学系,广州 510521
2.华中师范大学网络学院,武汉 430079

收稿日期:1900-01-01 修回日期:1900-01-01 出版日期:2007-11-21 发布日期:2007-11-21
通讯作者: 骆世广

Research on improving speed of SMO

LUO Shi-guang¹,LUO Chang-ri²

1.Department of Applied Mathematics,Guangdong University of Finance,Guangzhou 510521,China
2.College of Network,Central China Normal University,Wuhan 430079,China

Received:1900-01-01 Revised:1900-01-01 Online:2007-11-21 Published:2007-11-21
Contact: LUO Shi-guang

摘要/Abstract

摘要： SMO（序贯最小优化算法）算法是目前解决支持向量机训练问题的一种十分有效的方法,但是当面对大样本数据时,SMO训练速度比较慢。考虑到在SVM的优化过程中并不是所有样本都能影响优化进展,提出了两种删除样本的策略：一种是基于距离,一种是基于拉格朗日乘子的值。在几个著名的数据集的试验结果表明,两种策略都可以大大缩短SMO的训练时间,特别适用于大样本数据。

关键词: 支持向量机, 序贯最小优化算法, Shrinking

Abstract: SMO（Sequential Minimal Optimization） algorithm is a very efficient method for training SVM.However,the training speed of SMO is very slow for the large-scale datasets.As only parts of the samples may affect the optimization of SVM,two strategies have been put forward for deleting the samples which are based on the distance and the value of Lagrange multiplies respectively.Experiments on several benchmark datasets have been done and the results show that the training time of the two strategies is reduced greatly,especially for the large-scale problems.

Key words: Support Vector Machine, Sequential Minimal Optimization algorithm, shrinking

骆世广¹,骆昌日². 加快SMO算法训练速度的策略研究[J]. 计算机工程与应用, 2007, 43(33): 184-187.

LUO Shi-guang¹,LUO Chang-ri². Research on improving speed of SMO[J]. Computer Engineering and Applications, 2007, 43(33): 184-187.

[1]	高一锴，彭力，徐龙壮. 改进AFSA算法优化TWSVM的火焰识别方法[J]. 计算机工程与应用, 2021, 57(8): 204-213.
[2]	韩卫宇，程龙生. 结合马田系统-SVM的滚动轴承故障模式分类研究[J]. 计算机工程与应用, 2021, 57(6): 239-246.
[3]	雷恒林，古兰拜尔·吐尔洪，买日旦·吾守尔，张东梅. 新奇检测综述[J]. 计算机工程与应用, 2021, 57(5): 47-55.
[4]	温杰彬，杨文忠，马国祥，张志豪，李海磊. 基于Apex帧光流和卷积自编码器的微表情识别[J]. 计算机工程与应用, 2021, 57(4): 127-133.
[5]	李俊侠，张秦，郑桂妹. 超宽带雷达人体姿态识别综述[J]. 计算机工程与应用, 2021, 57(3): 14-23.
[6]	徐先峰，蔡路路，张丽. 融合MLP和DBN的光伏发电预测算法[J]. 计算机工程与应用, 2021, 57(3): 266-272.
[7]	陈富健，谢维信，夏婷. 基于LCT+的自适应抗遮挡目标跟踪算法[J]. 计算机工程与应用, 2021, 57(22): 190-198.
[8]	杨泉. N1+N2结构语法关系判定的SVM算法[J]. 计算机工程与应用, 2021, 57(20): 104-108.
[9]	高晋，赵云芃，Godfred Kim Mensah，李欣芸，刘志芬，陈俊杰，郭浩. 静息态功能脑连接的空间动态分析及分类研究[J]. 计算机工程与应用, 2021, 57(2): 150-155.
[10]	秦博宇，郝晓燕，刘永芳. 基于SVM和CRF双层模型的FrameNet框架消歧[J]. 计算机工程与应用, 2021, 57(18): 255-262.
[11]	郑淋文，周金治，黄静. 深度稀疏自编码器在ECG特征提取中的应用[J]. 计算机工程与应用, 2021, 57(11): 156-161.
[12]	温廷新，孔祥博. 不平衡样本下的金融市场极端风险预警研究[J]. 计算机工程与应用, 2020, 56(8): 256-260.
[13]	陈菲雨，岳文斌，饶颖露，邢金昊，马晓静. 基于改进TLD算法的无人机自主精准降落[J]. 计算机工程与应用, 2020, 56(7): 247-254.
[14]	马玲，罗晓曙，蒋品群. 基于模板匹配和支持向量机的点阵字符识别研究[J]. 计算机工程与应用, 2020, 56(4): 134-139.
[15]	张忠林，冯宜邦，赵中恺. 一种基于SVM的非均衡数据集过采样方法[J]. 计算机工程与应用, 2020, 56(23): 220-228.