《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 其他 > 设计应用 > 基于量子遗传优化的改进极限学习机及应用
基于量子遗传优化的改进极限学习机及应用
2020年信息技术与网络安全第3期
李雪艳1,廖一鹏2
(1.阳光学院 人工智能学院,福建 福州 350015; 2.福州大学 物理与信息工程学院,福建 福州 350108)
摘要: 主要研究的是神经网络的一种新型训练方式——极限学习机算法的优化和改进。首先通过与传统的神经网络算法的对比,介绍极限学习机算法的主要思想和流程,展现其特点及优势;其次,由于常规极限学习机在预测的精度上及运用的稳定上存在不小的缺陷,通过阐述几个智能寻优算法及优缺点比较,引出该文的重点量子遗传算法,并利用此算法去优化极限学习机的连接权值和阈值,选取最优的权值和阈值赋予测试网络,达到良好的使用效果;最后,介绍了改进极限学习机算法在MATLAB上进行实验仿真及结果分析的步骤与流程,实验结果说明改进后的算法相比于经典算法在回归问题的预测上有优势,预测精度更高,且结果更稳定;在分类问题的处理上,准确性也具有压倒性优势。
中圖分類號(hào):TP391
文獻(xiàn)標(biāo)識(shí)碼:A
DOI: 10.19358/j.issn.2096-5133.2020.03.006
引用格式:李雪艷,廖一鵬.基于量子遺傳優(yōu)化的改進(jìn)極限學(xué)習(xí)機(jī)及應(yīng)用[J].信息技術(shù)與網(wǎng)絡(luò)安全,2020,39(3):29-34,39.
Improved extreme learning machine based on quantum genetic algorithm and its application
Li Xueyan1,Liao Yipeng2
(1.College of Artificial Intelligence,Yango University,Fuzhou 350015,China; 2.College of Physics and Information Engineering,Fuzhou University,Fuzhou 350108,China)
Abstract: Artificial neural network is an important learning method of machine learning,and this paper mainly studies the optimization and improvement of the new training method of neural networkthe algorithm of extreme learning machine.This paper firstly studies traditional neural network algorithms,introduces the main ideas and processes of the algorithm, and compares it with the traditional algorithm to show its characteristics and advantages.Secondly,due to the fact that the algorithm has no small flaws in the accuracy of the prediction and the stability of the application,by describing several intelligent optimization algorithms and comparing their advantages and disadvantages, it introduces the focus of this article quantum genetic algorithm,and uses this algorithm to select the optimal weight and threshold to give the test network,to achieve good results.Finally,the steps and processes of the improved limit learning machine algorithm for experimental simulation and result analysis on MATLAB are introduced.The experimental results show that the improved algorithm has an advantage over the classical algorithm in the prediction of regression problems,with higher prediction accuracy and more stable results.The accuracy of classification is also overwhelming.
Key words : extreme learning machine;quantum genetic algorithm;regression fit;classification;artificial neural networks

0    引言

人工神經(jīng)網(wǎng)絡(luò)是機(jī)器學(xué)習(xí)的一種重要學(xué)習(xí)方式,而對神經(jīng)網(wǎng)絡(luò)的研究已經(jīng)很久了,有些訓(xùn)練算法已經(jīng)非常成熟,如經(jīng)典的多層前饋(Back Propagation,BP)神經(jīng)網(wǎng)絡(luò)等,應(yīng)用已經(jīng)非常廣泛,大量地應(yīng)用于回歸擬合分類問題之中。但是這種被廣泛應(yīng)用于多層前饋神經(jīng)網(wǎng)絡(luò)的經(jīng)典訓(xùn)練算法,大多是基于梯度下降的方式來調(diào)整權(quán)值和閾值。這類算法的訓(xùn)練速度慢、有可能得到的不是全局最優(yōu)而是陷入局部最優(yōu),還有著參數(shù)調(diào)整復(fù)雜的問題。HUANG G B等人在2004年提出了一種新型的前饋神經(jīng)網(wǎng)絡(luò)即極限學(xué)習(xí)機(jī)(ELM)。極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)是用于單隱層神經(jīng)網(wǎng)絡(luò)(Single hidden LayerFeedforward Neural networks,SLFNs)訓(xùn)練的一種高效的訓(xùn)練算法。ELM不同于經(jīng)典的神經(jīng)網(wǎng)絡(luò),它不需要梯度下降算法中繁瑣的迭代過程去調(diào)參而耗費(fèi)很多時(shí)間。其隨機(jī)產(chǎn)生所有的權(quán)值和隱層節(jié)點(diǎn)閾值。并且它在訓(xùn)練中一直不變,需要人為設(shè)定的只有節(jié)點(diǎn)個(gè)數(shù),然后求逆矩陣得到輸出權(quán)值,便能計(jì)算得到最優(yōu)值。相較于傳統(tǒng)的SLFNs,ELM的訓(xùn)練速度顯著提升,效率遠(yuǎn)高于之前算法,且泛化性能好。ELM作為優(yōu)秀的分類器,擁有良好的應(yīng)用前景。但是在實(shí)際應(yīng)用中,尤其是在處理回歸擬合的問題上,它的效果并不好,準(zhǔn)確度一般。為了達(dá)到理想的誤差精度,ELM需要龐大的隱含層神經(jīng)元。而由于它的輸入權(quán)值和閾值是隨機(jī)設(shè)定的,這導(dǎo)致龐大的基數(shù)中有很多神經(jīng)元是無效的,即存在隨機(jī)出的輸入權(quán)值和閾值為0。



本文詳細(xì)內(nèi)容請下載:http://m.ihrv.cn/resource/share/2000003172





作者信息:

李雪艷1,廖一鵬2

(1.陽光學(xué)院 人工智能學(xué)院,福建 福州 350015;2.福州大學(xué) 物理與信息工程學(xué)院,福建 福州 350108)


此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載。