改善遗传神经网络收敛性的研究

计算机应用 ›› 2005, Vol. 25 ›› Issue (12): 2789-2791.

改善遗传神经网络收敛性的研究

李享梅¹,赵天昀²

1.成都信息工程学院网络工程系； 2.郑州大学信息管理系

收稿日期:1900-01-01 修回日期:1900-01-01 发布日期:2005-12-01 出版日期:2005-12-01

Study on improving the convergence of genetic neural networks

1.Department of Network Engineering,Chengdu University of Information Technology,Chengdu Sichuan 610225,China;2.Department of Information Management,Zhengzhou University,Zhengzhou Henan 450001,China

Received:1900-01-01 Revised:1900-01-01 Online:2005-12-01 Published:2005-12-01

摘要/Abstract

摘要： 针对BP神经网络中采用的梯度下降法局部搜索能力强、全局搜索能力差和遗传神经网络中采用的遗传算法全局搜索能力强、局部搜索能力差的特点，提出了一种集梯度下降法和遗传算法优点为一体的混合智能学习法(Hybrid Intelligence learning algorithm)，简称HI算法，并将其应用到优化多层前馈型神经网络连接权问题。对该算法进行了设计和实现，从理论和实际两方面证明混合智能学习法神经网络与BP神经网络和基于遗传算法的神经网络相比有更好的运算性能、更快的收敛速度和更高的精度。

关键词: 遗传算法, 遗传神经网络, 人工神经网络, BP神经网络, 梯度下降法, 混合智能学习法

Abstract: To describe the advantage and shortcoming of gradient descent algorithm and genetic algorithm for training connection weights of neural networks,a new algorithm combined genetic algorithm with gradient descent algorithm was proposed,referred as to Hybrid Intelligence learning algorithm(HI).Applied to the problem of optimizing the connection weight of the feedforward neural networks,the algorithm was feasible.The design and realization of HI was introduced.And it was proved that hybrid intelligence learning algorithm is better,faster and more accurate than gradient descent algorithm and genetic algorithm in theory and practice.

Key words: Genetic Algorithms(GA), GA neural networks, artificial neural networks, BP neural network, gradient descent algorithm, HI algorithms(Hybrid Intelligence learning algorithm)

中图分类号:

TP183

李享梅;赵天昀. 改善遗传神经网络收敛性的研究[J]. 计算机应用, 2005, 25(12): 2789-2791.

LI Xiang-mei,ZHAO Tian-yun. Study on improving the convergence of genetic neural networks[J]. Journal of Computer Applications, 2005, 25(12): 2789-2791.

[1]	刘栋, 李晨航, 吴长茂, 茹法鑫, 夏媛媛. 基于可校正强化搜索遗传算法的光学系统自动设计[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2838-2847.
[2]	高麟, 周宇, 邝得互. 进化双层自适应局部特征选择[J]. 《计算机应用》唯一官方网站, 2024, 44(5): 1408-1414.
[3]	李炫锋, 刘晟材, 唐珂. 机会约束的多选择背包问题的遗传算法求解[J]. 《计算机应用》唯一官方网站, 2024, 44(5): 1378-1385.
[4]	佘维, 李阳, 钟李红, 孔德锋, 田钊. 基于改进实数编码遗传算法的神经网络超参数优化[J]. 《计算机应用》唯一官方网站, 2024, 44(3): 671-676.
[5]	梁军, 洪泽泓, 余松森. 基于改进粒子群优化算法和遗传变异的图像分割模型[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1743-1749.
[6]	王彬, 向甜, 吕艺东, 王晓帆. 基于NSGA‑Ⅱ的自适应多尺度特征通道分组优化算法[J]. 《计算机应用》唯一官方网站, 2023, 43(5): 1401-1408.
[7]	张敏, 韩晓龙. 多目标模糊机会约束规划的低碳多式联运路径优化[J]. 《计算机应用》唯一官方网站, 2023, 43(2): 636-644.
[8]	邓辅秦, 黄焕钊, 谭朝恩, 付兰慧, 张建民, 林天麟. 结合遗传算法和滚动调度的多机器人任务分配算法[J]. 《计算机应用》唯一官方网站, 2023, 43(12): 3833-3839.
[9]	薛海蓉, 韩晓龙. 基于改进NSGA-Ⅱ的考虑自动引导车充电策略的集成调度[J]. 《计算机应用》唯一官方网站, 2023, 43(12): 3848-3855.
[10]	范厚明, 牟爽, 岳丽君. 考虑冲突和拥堵的自动导引车调度与路径规划协同优化[J]. 《计算机应用》唯一官方网站, 2022, 42(7): 2281-2291.
[11]	刘延飞, 彭征, 王艺辉, 王忠. 基于改进的遗传算法的有刷直流电机PID参数整定[J]. 《计算机应用》唯一官方网站, 2022, 42(5): 1634-1641.
[12]	李晓寒, 贾华丁, 程雪, 李太勇. 基于改进遗传算法和图神经网络的股市波动预测方法[J]. 《计算机应用》唯一官方网站, 2022, 42(5): 1624-1633.
[13]	刘忠慧, 王梓宥, 闵帆. 近似概念的遗传生成算法及其推荐应用[J]. 《计算机应用》唯一官方网站, 2022, 42(2): 412-418.
[14]	陈权, 李莉, 陈永乐, 段跃兴. 面向深度学习可解释性的对抗攻击算法[J]. 《计算机应用》唯一官方网站, 2022, 42(2): 510-518.
[15]	张俊杰, 仇润鹤. 认知超密集网络用户关联与资源分配联合优化遗传算法[J]. 《计算机应用》唯一官方网站, 2022, 42(12): 3856-3862.