一种基于共轭梯度的LMBP改进学习算法

doi:10.3778/j.issn.1002-8331.2008.21.029

计算机工程与应用 ›› 2008, Vol. 44 ›› Issue (21): 106-108.DOI: 10.3778/j.issn.1002-8331.2008.21.029

一种基于共轭梯度的LMBP改进学习算法

李业丽¹,冯超²,陆利坤¹

1.北京印刷学院信息与机电工程学院，北京 102600
2.天津大学电气与自动化工程学院，天津 300072

收稿日期:2008-04-30 修回日期:2008-05-26 出版日期:2008-07-21 发布日期:2008-07-21
通讯作者: 李业丽

Improved learning algorithm for LMBP based on conjugate gradient methods

LI Ye-li¹,FENG Chao²,LU Li-kun¹

1.School of Information & Machine Electrical Engineering，Beijing Institute of Graphic Communication，Beijing 102600，China
2.School of Electrical Engineering and Automation，Tianjin University，Tianjin 300072，China

Received:2008-04-30 Revised:2008-05-26 Online:2008-07-21 Published:2008-07-21
Contact: LI Ye-li

摘要/Abstract

摘要： 对神经网络中的LMBP（Levenberg-Marquardt BP）算法的收敛速度慢进行分析，针对矩阵J^TJ+µI求逆过程运算量过大而造成收敛速度慢的缺陷，根据无约束优化理论，提出一种基于共轭梯度方法的改进LMBP网络学习算法，利用求解大规模线性方程组的共轭梯度方法，避免了烦琐的求逆过程，降低了计算复杂度，加快了网络的收敛速度，通过Matlab仿真，比较了算法的收敛速度，证明了方法的有效性。

关键词: BP算法, Leverberg-Marquardt, 优化理论, 共轭梯度

Abstract: The convergence of Levenberg-Marquardt BP neural network is slow.The reason is that computation costs too much in process of inversing matrix J^TJ+µI for LMBP algorithm.Based on unconstrained optimization theory，an improved LMBP learning algorithm is presented by using conjugate gradient methods.It uses the way to avoid the time-consuming calculation of the invers matrix，to decrease the calculation amount and to quicken the convergence.The validity of the algorithm is proved by the simulation in Matlab.

Key words: BP algorithm, Levenberg-Marquardt, optimization theory, conjugate gradient methods

李业丽¹,冯超²,陆利坤¹. 一种基于共轭梯度的LMBP改进学习算法[J]. 计算机工程与应用, 2008, 44(21): 106-108.

LI Ye-li¹,FENG Chao²,LU Li-kun¹. Improved learning algorithm for LMBP based on conjugate gradient methods[J]. Computer Engineering and Applications, 2008, 44(21): 106-108.

[1]	成立明，陈建新，陈瑞，陈志敏. 融合自监督单目图像深度估计的视觉里程计[J]. 计算机工程与应用, 2021, 57(15): 230-236.
[2]	李墨羽，焦瑞莉，朱云龙，吴世玉. GNSS-R SAR地面目标建模与成像[J]. 计算机工程与应用, 2019, 55(23): 265-270.
[3]	赵亚丁1，沈宽2. 用于DR图像缺陷检测的改进的LBP算法[J]. 计算机工程与应用, 2016, 52(19): 179-183.
[4]	蒋国清1，潘勇2，胡飞跃1. 两阶段式的物流配送路径优化方法[J]. 计算机工程与应用, 2015, 51(2): 255-258.
[5]	孙浩，周力，邱意敏. 基于最大信息理论和共轭梯度寻优的ICA算法[J]. 计算机工程与应用, 2014, 50(4): 219-222.
[6]	田娜1，朱龙超2. 求解热传导系数反问题的量子行为粒子群算法[J]. 计算机工程与应用, 2014, 50(24): 266-270.
[7]	李炜1，2，杨慧中1. 基于核估计的超定混合共轭盲信号分离方法[J]. 计算机工程与应用, 2014, 50(22): 22-27.
[8]	高雷阜，陈曦，于冬梅. 信赖域共轭梯度法求解二次规划逆问题[J]. 计算机工程与应用, 2014, 50(1): 41-44.
[9]	冯有前1，余付平2，高大化1，安芹力1. 稀疏分解在雷达移频干扰抑制方面的应用研究[J]. 计算机工程与应用, 2012, 48(6): 129-130.
[10]	孙娟娟1，禹继国1，刘祥涛2. 面向P2P文件共享应用的相似度计算模型[J]. 计算机工程与应用, 2012, 48(4): 111-114.
[11]	景军锋1，2，张缓缓1，李鹏飞1，王静1. LBP和Tamura纹理特征方法融合的织物疵点分类算法[J]. 计算机工程与应用, 2012, 48(23): 155-160.
[12]	邹海，褚维翠，徐军，张娟，王子琦. 双权值神经网络在图像分割中的应用[J]. 计算机工程与应用, 2012, 48(13): 163-166.
[13]	付朝江. 基于龙格库塔法的弹塑性有限元并行计算[J]. 计算机工程与应用, 2011, 47(27): 52-54.
[14]	冯珍，张所地. ERP实施绩效的小波网络智能诊断[J]. 计算机工程与应用, 2010, 46(4): 243-244.
[15]	王燕霞，邓伟. 基于级连神经网络和SVD的文本分类新模型[J]. 计算机工程与应用, 2010, 46(26): 102-104.

一种基于共轭梯度的LMBP改进学习算法

Improved learning algorithm for LMBP based on conjugate gradient methods

PDF

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics