神經網絡優化方法范文
時間：2024-04-01 18:16:31
導語：如何才能寫好一篇神經網絡優化方法，這就需要搜集整理更多的資料和文獻，歡迎閱讀由公務員之家整理的十篇范文，供你借鑒。
篇1
為降低神經網絡的冗余連接及不必要的計算代價，將量子免疫克隆算法應用于神經網絡的優化過程，通過產生具有稀疏度的權值來優化神經網絡結構。算法能夠有效刪除神經網絡中的冗余連接和隱層節點，并同時提高神經網絡的學習效率、函數逼近精度和泛化能力。該算法已應用于秦始皇帝陵博物院野外文物安防系統。經實際檢驗，算法提高了目標分類概率，降低了誤報率。
關鍵詞：神經網絡；量子免疫克隆算法；目標分類；冗余連接；網絡優化
中圖分類號： TP273
文獻標志碼：A
Quantum-inspired clonal algorithm based method for optimizing neural networks
Abstract：
In order to reduce the redundant connections and unnecessary computing cost， quantum-inspired clonal algorithm was applied to optimize neural networks. By generating neural network weights which have certain sparse ratio， the algorithm not only effectively removed redundant neural network connections and hidden layer nodes， but also improved the learning efficiency of neural network， the approximation of function accuracy and generalization ability. This method had been applied to wild relics security system of Emperor Qinshihuangs mausoleum site museum， and the results show that the method can raise the probability of target classification and reduce the false alarm rate.
Key words：
neural network； quantum-inspired clonal algorithm； target classification； redundant connection； network optimization
0 引言
神經網絡已經被廣泛地應用于模式分類、函數逼近、信號預測等各種領域，是近年來的研究熱點之一[1-2]。在應用過程中，研究人員發現，當神經網絡的規模過大會產生連接數量冗余大、計算代價過高的問題，降低了大規模神經網絡的實用性。針對此問題，研究人員提出了多種方法在保持神經網絡的前提下優化神經網絡的結構和參數權值。Leung等[3-4]改進了傳統的遺傳算法（Genetic Algorithm， GA）并將其應用于神經網絡的結構和權值優化過程，利用遺傳算法的快速收斂性來提高神經網絡的學習速度，其缺點在于當目標函數維數過大時容易陷入局部最優。Xiao等[5]使用混合優點（Hybrid Good Point， HGP）優化前向神經網絡的參數和結構，避免權值陷入局部最優，但其對網絡結構的優化沒有達到最優。Shu等[6]提出正交模擬褪火（Orthogonal Simulated Annealing， OSA）算法， 使用褪火算法和正交算法的優點來同時優化神經網絡結構和參數，其算法收斂速度快、魯棒性好，缺點則在于計算代價較大。杜文莉等[7]提出了使用量子差分進化（Cooperative Quantum Differential Evolution， CQGADE）算法來優化神經網絡權值，使用量子遺傳算法優化網絡結構和隱層節點數，算法綜合了量子遺傳算法和量子差分算法的優點，收斂速度快，但其缺點在于需要同時協同兩種算法的優化結果，算法復雜度較高，且容易陷入局部最優。Tsai等[8]提出混合田口遺傳算法（Hybrid Taguchi Genetic Algorithm， HTGA），將傳統的GA與Taguchi方法結合起來，使得算法具有魯棒性好、收斂性快等優點，但其缺點在于獲得最優解的計算代價較大。
量子免疫克隆算法[9-12]（Quantum-inspired Immune Clonal Algorithm， QICA）也稱為量子遺傳算法（Quantum Genetic Algorithm， QGA），其將量子搜索機制和免疫算法克隆選擇原理相結合，利用量子編碼的疊加性和隨機性構造抗體，利用遺傳算法的克隆操作產生原始種群和克隆子群實現種群擴張，使搜索空間擴大，提高了局部搜索能力；同時借助全干擾交叉操作避免陷入局部最優。QICA采用了多狀態量子比特編碼方式和通用的量子旋轉門操作， 引入動態調整旋轉角機制和量子交叉[11]。QICA在組合優化問題中具有良好的表現。
針對上述問題，提出了使用量子克隆免疫算法對神經網絡的結構和連接權值同時進行優化，通過產生具有一定稀疏度的連接權值對網絡隱層數量和連接權值進行優化，提高了算法的效率和收斂速度，避免了算法陷入局部最優。
1 帶開關權值的神經網絡模型
在經典的神經網絡理論中，網絡結構在初始化后便不再變動，僅通過權值的變化來計算產生結果，這種算法增加了神經網絡的結構復雜性，在實際應用中增加了計算結果的代價。Leung等[3-4]提出了帶開關權值的神經網絡，通過調整開關的通斷就能調整神經網絡的結構和連接數量，從而減少計算代價。帶開關權值的神經網絡模型如圖1所示[7]。
2.2 權值計算及優化方法
根據量子克隆免疫理論，將神經網絡權值計算及優化過程分為以下四個過程。
2.2.1 權值抗體初始化
量子克隆免疫算法是基于量子計算和遺傳算法組成的，其抗體的編碼方式采用量子比特編碼。一個抗體中的量子位的狀態是不確定的，可以為0或1，其狀態表示為式（5）：
3.1 算法復雜度分析
量子克隆免疫算法的實質是通過量子理論的隨機特性提供豐富的種群數量，并通過使用遺傳算法對種群進行淘汰和進化，因此其算法的復雜度等于種群生成算法的復雜度：假設神經網絡有x個輸入，其隱層節點數量為N，輸出為y，則網絡中的輸入與隱層節點間的連接權值ω的數量為：x*N，隱層節點與輸出層的連接權值v的數量為：N*y。種群生成需要對所有節點進行權值初始化，并將隨機位置的n（nN）個節點的權值設置為0， 其算法復雜度為O（n2）。而克隆免疫算法在種群克隆及抗體選擇過程中使用遺傳算法，因此其算法的復雜度與傳統遺傳算法相同，其算法復雜度也為O（n2）。因此，使用量子免疫克隆的神經網絡優化算法的復雜度為O（n2）。
3.2 非線性函數逼近
選取復雜交互非線性函數（Complicated Interaction Function，CIF）：
其中0
選取樣本700組，其中500組用于訓練，其余200組用于檢測性能。神經網絡的初始隱層神經元設置為20個，初始網絡結構為：2-20-1，初始連接權值為隨機值。在此條件下驗證不同稀疏度條件下對CIF的二維逼近效果如圖3所示。
圖3顯示隨著稀疏度的不斷降低，神經網絡的逼近能力有所減弱，逼近誤差則逐漸增大。這主要是因為神經網絡中的連接權值數量降低，造成神經網絡的適應性差。具體逼近效果見表2。
從表2中可以看出，隱層節點數量直接影響著神經網絡的性能。高稀疏度條件下的計算量大，但逼近精度高；低稀疏度條件下的計算量小，但逼近精度較差。實驗表明當稀疏度大于0.6時，算法的逼近精度高于90%，優化后的網絡具有較好的非線性逼近能力。當神經網絡隱層節點數量低于12時逼近精度大幅下降，說明此時神經網絡處理信息的能力也隨之大幅減弱，隱層節點的最合適的數量為12～14個，這也符合文獻[14]的實驗結果。
圖4為不同稀疏度下，算法適應度的收斂情況?？梢钥闯隽孔涌寺∶庖咚惴ň哂泻芎玫氖諗刻匦裕惴ㄊ諗克俣群芸?，能夠在很短的進化次數內收斂至極值，且稀疏度越低，神經網絡的連接權值數量越少，算法收斂速度越低，最優適應度越差。
表3為相同條件下，不同算法的最優計算結果，包括目標分類的準確度、隱藏層節點數量等?？梢钥闯?，當稀疏度高于0.8時，本文算法收斂性和適應度均優于混沌粒子群（Chaotic Particle Swarm Optimization，CPSO）[15]、粒子群優化算法（Particle Swarm Optimization，PSO）[16]、混合田口遺傳算法[Hybrid Taguchi-Genetic Algorithm，HTGA][8]等其他算法，說明算法具有很好的收斂速度、尋優精度和魯棒性。
3.3 微地震信號目標分類
實驗場地選擇在秦始皇兵馬俑博物館內K9901號坑旁。所有傳感器節點沿公路一側直線部署，距離公路1m左右?？赡墚a生地震波的活動物體包括人員行走、機動車和挖掘活動。將采集到的微地震信號進行濾波、分幀、特征提取等處理后輸入至神經網絡進行模式識別。
系統對傳感器采集到的數據進行分幀，并使用功率譜二次分析[17]算法對其進行處理，最后將經過預處理的數據輸入至神經網絡對其進行分類。根據其活動特點，將輸出目標分為三類：人員活動、挖掘活動以及機動車輛活動。傳感器采集到的三類活動的經典波形如圖5所示。
表6中給出了算法的最優計算結果，包括不同稀疏度條件下神經網絡的隱藏層節點數量、最優適應度以及分類準確率等?？梢钥闯觯惴軌蛴行p少冗余的隱藏層節點數量，并降低節點連接數量。算法的稀疏度越高，其適應度越好，其分類的準確性越好，但稀疏度高帶來的則是計算代價增大、計算復雜度增加。當稀疏度低于0.7時，算法的適應度變差，目標的識別率為90%，在實際應用過程中帶來了誤判率較高的問題，降低了實用性。因此在秦始皇帝陵博物院野外文物安防系統中使用了稀疏度為0.7的算法對模式識別的神經網絡進行優化。
4 結語
本文提出了基于量子免疫克隆算法的神經網絡優化算法，該算法在訓練神經網絡優化權值的同時刪除了冗余連接和多余的隱層節點，實現了神經網絡結構和網絡權值的優化。通過經典非線性函數逼近和目標識別檢驗，算法能夠有效地優化神經網絡，提高神經網絡的優化效率，減少計算復雜度。使用優化后的神經網絡已經用于秦始皇帝陵博物院野外文物安防系統中。
參考文獻：
[1] QIAO H， ZHOU Y，SHAO N， et al. Software reliability prediction based on learning vector quantization neutral network[J]. Journal of Computer Applications， 2012，32（05）：1436-1438.）（喬輝，周雁舟，邵楠，等.基于學習向量量化神經網絡的軟件可靠性預測[J].計算機應用，2012，32（5）：1436-1438.）
[2] PAN Y， DENG Y， ZHANG Q， et al. Deterministic prediction of wavelet neural network model and its application[J]. Journal of Computer Applications，2013， 33（4）：1001-1005.（潘玉民，鄧永紅，張全柱，等.小波神經網絡模型的確定性預測及應用[J].計算機應用，2013，33（4）：1001-1005.）
[3] LEUNG H F，LAM H F， LING S F， et al. Tuning of the structure and parameters of neural network using an improved genetic algorithm[C]// Proceedings of the 27th Annual Conference of IEEE Industrial Electronics Society. Piscataway： IEEE，2001：25-30.
[4] LEUNG H F， LAM H F， LING S H， et al. Tuning of the structure and parameters of a neural network using an improved genetic algorithm[J]. IEEE Transactions on Neural Network，2003，14（1）：79-88.
[5] XIAO C， CAI Z， WANG Y， et al. Tuning of the structure and parameters of a neural network using a good points set evolutionary strategy[C]// Proceedings of the 9th International Conference for Young Computer Scientists. Piscataway： IEEE， 2008：1749-1754.
[6] SHU L， HO S Y， HO S J. Tuning the structure and parameters of a neural network using an orthogonal simulated annealing algorithm[C]// Proceedings of the 2009 Joint Conferences on Pervasive Computing. Piscataway： IEEE，2009：789-792.
[7] DU W， ZHOU R， ZHOU L， et al. Cooperative quantum differential evolution algorithm based method for optimizing neural networks[J].Journal of Tsinghua University： Science and Technology， 2012，52（3）：331-335.（杜文莉，周仁，趙亮，等. 基于量子差分進化算法的神經網絡優化方法[J].清華大學學報：自然科學版，2012，52（3）：331-335.）
[8] TSAI J， CHOU J， LIU T. Tuning the structure and parameters of a neural network by using hybrid Taguchi-genetic algorithm[J]. IEEE Transactions on Neural Network， 2006，17（1）：69-80.
[9] LI Y， JIAO L. Quantum-inspired immune clonal algorithm and its application[C]// Proceedings of the 2007 International Symposium on Intelligent Signal Processing and Communication Systems. Piscataway： IEEE， 2007：670-673.
[10] JIAO L， LI Y， GONG M，et al. Quantum-inspired immune clonal algorithm for global optimization[J]. IEEE Transactions on Systems， Man and Cybernetics， Part B： Cybernetics， 2008，38（5）：1234-1253.
[11] ZHOU C， QIAN F. Improvement of quantum genetic algorithm and its application[J]. Journal of Computer Applications， 2008，28（2）：286-288.（周傳華，錢峰.改進量子遺傳算法及其應用[J].計算機應用， 2008，28（2）：286-288）
[12] ZHOU Q， JIANG S， ZHAO X， et al. Improved quantum genetic algorithm and its application in test data generation[J]. Journal of Computer Applications，2012，32（2）：557-560.（周綺，姜淑娟，趙雪峰，等.改進的量子遺傳算法及其在測試數據生成中的應用[J].計算機應用，2012，32（2）：557-560.）
[13] QIAO J，LEE Y G， SCOTT D S， et al. Self-organizing radial basis function network for real-time approximation of continuous-time dynamical systems[J]. IEEE Transactions on Neural Networks，2008，19（3）：460-474.
[14] HAN H， QIAO J， BO Y， et al. On structure design for RBF neural network based on information strength[J]. Acta Automatica Sinica， 2012，38（7）：1083-1090.（韓紅桂，喬俊飛，薄迎春，等.基于信息強度的RBF神經網絡結構設計研究[J].自動化學報， 2012，38（7）：1083-1090.）
[15] ZHAO L. Fuzzy identification and neural networks learning based on cooperative PSO algorithm[D]. Shanghai： Shanghai Jiao Tong University，2008.（趙亮.基于協同PSO算法的模糊辨識與神經網絡學習[D].上海：上海交通大學，2008.）
篇2
【關鍵詞】 遺傳算法 BP神經網絡 結構參數 優化
一、引 言
傳統的濾波器設計需要大量繁瑣計算和曲線查找，在商用電磁仿真軟件出現后，微波濾波器的設計得到了很大的改善，但是在實際操作中對經驗依賴性還是很強。如何快速準確的設計出符合要求的濾波器，是傳統的濾波器設計方法和目前的商用電磁仿真軟件難以有效解決的。針對以上問題，本文將遺傳算法和BP神經網絡結合[1]，在MATLAB環境下實現了對腔體濾波器結構參數的設計。
二、遺傳神經網絡優化
BP神經網絡尤其適用在有大量實驗數據，而數據間的內在關系很難用明確的表達式的非線性系統中，但在實際應用中神經網絡存在學習時間長，容易陷入局部極小點等弊端。因為該算法從本質上來說屬于局部尋優算法，為此利用遺傳算法全局搜索能力強的特點，結合神經網絡的局部尋優能力，可以更好的實現對非線性系統的預測，其基本思想是通過遺傳算法得到更好的網絡初始權重。
2.1算法實現過程
遺傳神經網絡分為BP神經網絡結構確定、遺傳算法優化和BP神經網絡預測3個部分。本文是以三腔體濾波器為例，將濾波器的頻率f和耦合系數c作為輸入向量
其次，使用改進的遺傳算法對網絡初始權重進行優化，將初步得到的權重賦給尚未開始訓練的BP神經網絡。然后，設置訓練參數，開始訓練網絡，將 90組數用于網絡訓練，10組作為測試樣本。最后將預測結果反歸一化，觀察得到的誤差值，其流程圖如圖1所示。
2.2 優化結果
采用上述遺傳神經網絡算法對腔體濾波器的結構參數進行優化，均方誤差為5.0972×10-5， 時間為1.056s；BP網絡的均方誤差為2.8871×10-4，時間為2.103s，可以看出遺傳神經網絡優化值更加精確，速度快。
三、結論
本文針對遺傳算法和神經網絡的優缺點，將遺傳算法與BP神經網絡有機地結合在一起，應用在腔體濾波器結構參數的優化中，優化結果表明此方法可以在較短的時間內達到精度范圍內的優化值，為腔體濾波器的結構參數優化設計提供了一種新方法。
篇3
【關鍵詞】大學生身體素質評估 遺傳算法 BP神經網絡 MATLAB計算程序
在校大學生是國家重要的人才后備力量，大學生的身體素質培養和鍛煉是學校體育教學中關注的重點。對大學生身體素質進行科學、切實的評價可制訂更為有效的培養方案，幫助大學生提高其身體素質。身體素質評價就是將大學生的身體形態、生理機能及運動能力等方面的數據綜合起來進行評價[1]。從以往的研究成果看，對大學生身體素質評價集中于采用概率統計、多元回歸分析和神經網絡[2]的方法。然而，概率統計僅得到整體評價結果，多元回歸分析預測精度較低，且兩者受樣本空間影響較大。為此，本文利用遺傳算法來訓練初始網絡模型，再用BP算法來進行精確求解，是對神經網絡評估大學生身體素質的進一步優化應用。
基于遺傳算法的BP神經網絡理論
通過把神經網絡和遺傳算法合理、科學的結合，既能夠利用神經網絡較強的學習能力，又發揮了遺傳算法全局尋優的搜索功能。首先利用遺傳算法得到權值的較優初始取值，訓練網絡避免了局部極小，利用BP神經網絡訓練次數和最終權值也相對穩定，訓練速度明顯加快，從而既節約了時間，又提高了預測結果的準確性。
1.基于遺傳算法的BP神經網絡結構
BP網絡的學習規則采用最速下降法，利用遺傳算法根據訓練目標函數對網絡權值進行迭代，找到最佳初始網絡權值。通過反向傳播來不斷調整網絡權值，使網絡誤差平方和最小，該系統的網絡結構，如圖1所示。先對大學生身體素質的評估指標進行分類，抽取大學生身體素質的特征指標，并作為輸入信息送入由輸入層、中間層和輸出層組成的三層網絡模型進行評估。經過測試的網絡，成為穩定的模式評估器，即可輸出評估結果[3，4]。
該模型的輸入層節點數為n，即大學生身體素質評價指標數，中間層節點數為 ，輸出層節點數為1，即身體素質評估結果值，ωij和ωj為BP神經網絡權值，初始化隱含層閾值為ɑ，輸出層閾值為b，由此可給定學習速率和神經元激勵函數。從圖1可發現，BP神經網絡可以看成一個非線性函數，網絡輸入值和輸出值分別為該函數的自變量和因變量。當輸入層節點數為n，輸出層節點數為1時，BP神經網絡就表達了從n個自變量到1個因變量的函數映射關系。
2.基于遺傳算法的BP神經網絡算法
遺傳算法優化BP神經網絡的核心是用遺傳算法來優化BP神經網絡的初始權值和閾值，使優化后的BP神經網絡能夠更好地預測函數輸出，計算流程如圖2所示。
1.背景資料
根據本校某班2011年大學生身體素質測評成績，從中選取30名學生的測試結果作為神經網絡的訓練樣本和校驗樣本。結合遺傳算法和BP神經網絡算法，在大型數學計算軟件MATLAB中編程實現基于遺傳算法的BP神經網絡大學生身體素質評估[4]。
2.計算結果與分析
遺傳算法優化過程中最優個體的適應度變化（如圖3）。把最優初始權值、閾值賦給神經網絡，用訓練數據訓練100次后，得到基于遺傳算法的BP神經網絡預測值。為了對比分析，也進行了BP神經網絡預測分析（如圖4）。
從圖4可看出，采用BP神經網絡及遺傳算法優化的BP神經網絡兩種算法得到的預測結果，與專家判斷（實際值）基本一致。但基于遺傳算法的BP神經網絡較BP神經網絡預測精度高。特別在輸入節點，即評價大學生身體素質的指標較多時，基于遺傳算法的BP神經網絡預測效果要好一些。
結 論
1.本文提出了基于遺傳算法的BP神經網絡大學生身體素質評價算法，并建立了相應的網絡模型。
2.基于遺傳算法的BP神經網絡算法不但具有神經網絡的函數逼近能力，而且應用遺傳算法優化BP神經網絡的權值、閾值，可使優化后的神經網絡避免訓練時間長、易陷入局部極值的缺點。
3.結合實例，將基于遺傳算法的BP神經網絡大學生身體素質評價算法，應用于本校學生身體素質評估。結果表明，該算法較BP神經網絡預測精度及效率高，可作為今后大學生身體素質評價的一種新方法。
參考文獻：
[1]范正森，張明如，周瑞琪.大學生身體素質綜合評價數學模型[J].武漢工業大學學報，2001，4：92-94.
[2]陳海英，郭巧.短跑運動能力的神經網絡評價方法[J].北京理工大學學報，2003，1：54-57.
[3]陳剛，何政偉，楊斌，楊洋.遺傳BP神經網絡在泥石流危險性評價中的應用[J].計算機工程與應用，2010，46（3）.
篇4
【關鍵詞】計算機網絡模型 神經網絡算法
計算機網絡在人們日常生活越來越重要，被廣泛應用到各個行業。隨著社會不斷發展，人們需求不斷加高，使計算機得到良好改善，目前，計算機網絡運用集線式服務器來實現網絡互連，促進網絡發展。但是也有很大弊端，過多的聯想信息雖然滿足人們需求，但是對技術的要求也更加苛刻，現有的技術滿足不了計算機網絡運行，使人們日常操作不方便。為了解決這一問題，研究人員需要全面優化計算機網絡，提高運行能力和性能，運用神經網絡算法，使計算機更加適合現代社會發展，儲存更多信息。
1 神經網絡算法概論分析
1.1 神經網絡算法整體概論
神經網絡算法是按照人體大腦的思維方式進行模擬，根據邏輯思維進行推理，將信息概念化形成人們認知的符號，呈現在顯示屏前。根據邏輯符號按照一定模式進行指令構造，使計算機執行。目前，神經網絡被廣泛使用，使直觀性的思維方式分布式存儲信息，建立理論模型。
優化網絡的神經網絡主要是Hopfield神經網絡，是1982年由美國物理學家提出的，它能夠模擬神經網絡的記憶機理，是全連接的神經網絡。Hopfield神經網絡中的每個神經元都能夠信號輸出，還能夠將信號通過其他神經元為自己反饋，那么其也稱之為反饋性神經網絡。
1.2 優化神經網絡基本基礎
Hopfield神經網絡是通過能量函數分析系統，結合儲存系統和二元系統的神經網絡，Hopfield神經網絡能收斂到穩定的平衡狀態，并以其認為樣本信息，具備聯想記憶能力，使某種殘缺信息進行回想還原，回憶成完整信息。但是Hopfield神經網絡記憶儲存量有限，而且大多數信息是不穩定的，合理優化計算機聯想問題，使Hopfield神經網絡能夠建設模型。
1.3 神經網絡算法優化步驟簡述
人工神經網絡是模擬思維，大多是根據邏輯思維進行簡化，創造指令使計算機執行。神經網絡算法是按照人體思維進行建設，通過反應問題的方法來表述神經思維的解；利用有效條件和能量參數來構造網絡系統，使神經網絡算法更加可靠；大多數動態信息需要神經網絡來根據動態方程計算，得出數據參數來進行儲存。
2 神經網絡算法的特點與應用
2.1 神經網絡主要特點
神經網絡是根據不同組件來模擬生物體思維的功能，而神經網絡算法是其中一種程序，⑿畔⒏拍罨，按照一定人們認知的符號來編程指令，使計算機執行，應用于不同研究和工程領域。
神經網絡在結構上是由處理單元組成，模擬人體大腦神經單元，雖然每個單元處理問題比較簡單，但是單元進行組合可以對復雜問題進行預知和處理的能力，還可以進行計算，解決問題能力突出，能夠運用在計算機上，可以提高計算機運算準確度，從而保障計算機運行能力。而且一般神經網絡有較強容錯性，不同單元的微小損傷并不阻礙整體網絡運行，如果有部分單元受到損傷，只會制約運算速度，并不妨礙準確度，神經網絡在整體性能上能夠正常工作。同時，神經網絡主干部分受到損傷，部分單元會進行獨立計算，依然能夠正常工作。
2.2 神經網絡信息記憶能力
神經網絡信息存儲能力非常強，整體單元組合進行分布式存儲。目前，神經網絡算法是單元互相連接，形成非線性動態系統，每個單元存儲信息較少，大量單元互相結合存儲信息大量增加。神經網絡具備學習能力，通過學習可以得到神經網絡連接結構，在進行日常圖像識別時，神經網絡會根據輸入的識別功能進行自主學習，過后在輸入相同圖像，神經網絡會自動識別。自主學習能力給神經網絡帶來重要意義，能夠使神經網絡不斷成長，對人們未來日常工作能夠很好預測，滿足人們的需求。
2.3 神經網絡的突出優點
近年來，人工神經網絡得到越來越多人重視，使神經網絡得到足夠資源進行良好創新。人工神經網絡是由大量基本元件構成，對人腦功能的部分特性進行模仿和簡化，人工神經網絡具備復雜線性關系，與一般計算機相比，在構成原理和功能特點更加先進，人工神經網絡并不是按照程序來進行層次運算，而是能夠適應環境，根據人們提供的數據進行模擬和分析，完成某種運算。
人工神經系統具備優良容錯性，由于大量信息存儲在神經單元中，進行分布式存儲，當信息受到損害時，人工神經系統也可以正常運行。人工神經網絡必須要有學習準則制約來能夠自主學習，然后進行工作。目前，人工神經網絡已經逐步具備自適應和自組織能力，在學習或訓練過程中改變突觸權重值，以適應周圍環境的要求。通過一定學習方式和某些規則，人工神經網絡可以自動發現環境特征和規律性，更貼近人腦某些特征。
采用并行分布處理方法，使得快速進行大量運算成為可能。神經網絡的一個很大的優點是很容易在并行計算機上實現，可以把神經的節點分配到不同的CPU上并行計算。錢藝等提出了一種神經網絡并行處理器的體系結構，能以較高的并行度實現典型的前饋網絡如BP網絡和典型的反饋網絡（如Hopfield網絡）的算法。該算法以SIMD（Single Instruction Multiple Data）為主要計算結構，結合這兩種網絡算法的特點設計了一維脈動陣列和全連通的互連網絡，能夠方便靈活地實現處理單元之間的數據共享。結合粒子群優化算法和個體網絡的并行學習機制，提出了一種基于粒子群優化的并行學習神經網絡集成構造方法。
3 結束語
全球化的發展，信息交流不斷加快，促使各個行業相互融合。神經網絡算法具備簡單、穩定等不同優勢，神經網絡研究內容相當廣泛，神經網絡算法能夠與其它算法相互結合，在一定程度提高計算機網絡模型運算能力。但是計算機網絡模型中神經網絡算法學習能力比較低下，梯度下降法不準確，所以需要有關人員進行深度研究，探索神經網絡算法，使其更加完善，從而保證計算機整體性能的提高。
參考文獻
[1]陳竺.計算機網絡連接增強優化中的神經網絡算法[J].電子技術與軟件工程，2014（19）.
[2]史望聰.神經網絡在計算機網絡安全評價中的應用分析[J].自動化與儀器儀表，2016（06）.
篇5
關鍵詞：電阻點焊；神經網絡；消音鋸片
0序言
電阻點焊過程是一個高度非線性，既有多變量靜態疊加又有動態耦合，同時又具有大量隨機不確定因素的復雜過程。這種復雜性使得傳統方法確定最佳工藝參數存在操作復雜、精度低等缺陷。
本文通過深入研究提出了一種神經網絡優化消音鋸片電阻點焊工藝參數方法。以試驗數據為樣本，通過神經網絡，建立焊接工藝參數與焊接性能之間的復雜模型，充分發揮神經網絡的非線性映射能力。為準確預測點焊質量提高依據。在運用試驗手段、神經網絡高度非線性擬合能力結合的方式，能在很大程度上克服傳統方法的缺陷，完成網絡的訓練、檢驗和最優評價，為電阻點焊過程的決策和控制提供可靠依據。
1原理
人工神經網絡是用物理模型模擬生物神經網絡的基本功能和結構，可以在未知被控對象和業務模型情況下達到學習的目的。建立神經網絡是利用神經網絡高度并行的信息處理能力，較強的非線性映射能力及自適應學習能力，同時為消除復雜系統的制約因素提供了手段。人工神經網絡在足夠多的樣本數據的基礎上，可以很好地比較任意復雜的非線性函數。另外，神經網絡的并行結構可用硬件實現的方法進行開發。目前應用最成熟最廣泛的一種神經網絡是前饋多層神經網絡（bp），通常稱為bp神經網絡。
神經網絡方法的基本思想是：神經網絡模型的網絡輸入與神經網絡輸出的數學關系用以表示系統的結構參數與系統動態參數之間的復雜的物理關系，即訓練。我們發現利用經過訓練的模型進行權值和閾值的再修改和優化（稱之為學習）時，其計算速度要大大快于基于其他優化計算的速度。
bp神經網絡一般由大量的非線性處理單元——神經元連接組成的。具有大規模并行處理信息能力和極強的的容錯性。每個神經元有一個單一的輸出，但可以把這個輸出量與下一層的多個神經元相連，每個連接通路對應一個連接權系數。根據功能可以把神經網絡分為輸入層，隱含層（一或多層），輸出層三個部分。設每層輸入為ui(q)輸出為vi(q)。同時，給定了p組輸入和輸出樣本 ，dp（p=200）。
（6）
該網絡實質上是對任意非線性映射關系的一種逼近，由于采用的是全局逼近的方法，因而bp網絡具有較好的泛化的能力。
我們主要是利用神經網絡的非線性自適應能力，將它用于消音鋸片的電阻點焊過程。訓練過程是：通過點焊實驗獲得目標函數與各影響因素間的離散關系，用神經網絡的隱式來表達輸入輸出的函數關系，即將實驗數據作為樣本輸入網絡進行訓練，建立輸入輸出之間的非線性映射關系，并將知識信息儲存在連接權上，從而利用網絡的記憶功能形成一個函數。不斷地迭代可以達到sse（誤差平方和）最小。
我們這次做的消音金剛石鋸片電焊機，通過實驗發現可以通過采用雙隱層bp神經網絡就可以很好的反應輸入輸出參數的非線性關系。輸入神經元為3，分別對應3個電阻點焊工藝參數。輸出神經元為1，對應焊接質量指標參數。設第1隱含層神經元取為s1，第2隱含層神經元取為s2。輸入層和隱含層以及隱層之間的激活函數都選取log-sigmoid型函數，輸出層的激活函數選取pureline型函數。
2點焊樣本的選取
影響點焊質量的參數有很多，我們選取點焊時的控制參數，即點焊時間，電極力和焊接電流，在固定式點焊機上進行實驗。選用鋼種為50mn2v，φ600m的消音型薄型圓鋸片基體為進行實驗。對需要優化的參數為點焊時間，電極力和焊接電流3個參數進行的訓練。最后的結果為焊接質量，通常以鋸片的抗拉剪載荷為指標。
建立bp神經網絡時，選擇樣本非常重要。樣本的選取關系到所建立的網絡模型能否正確反映所選點焊參數和輸出之間的關系。利用插值法，將輸入變量在較理想的區間均勻分布取值，如果有m個輸入量，每個輸入量均勻取n個值（即每個輸入量有m個水平數）, 則根據排列組合有nm個樣本。對應于本例，有3個輸入量，每個變量有5個水平數，這樣訓練樣本的數目就為53=125個。
我們的實驗，是以工人的經驗為參考依據，發現點焊時間范圍為2~8s，電極力范圍為500~3000n，點焊電流范圍為5~20ka時，焊接質量比較好。我們先取點焊電流，電極力為定量，在合理的范圍內不斷改變點焊時間，得到抗拉剪載荷。如此，可以得到不同點焊電流和電極力的抗拉剪載荷。根據點焊數據的情況，我們共選用200組數據。部分測試數據如表1：
神經網絡建模的關鍵是訓練，而訓練時隨著輸入參數個數的增加樣本的排列組合數也急劇增加，這就給神經網絡建模帶來了很大的工作量，甚至于無法達到訓練目的。
3神經網絡
我們用200組訓練樣本對進行神經網絡訓練，以err_goal=0.01為目標。調用matlab神經網絡工具箱中的函數編程計算，實現對網絡的訓練，訓練完成后便得到一個網絡模型。
程序如下：
x1=[2.1 2.5 3 3.5 4……]； %點焊時間輸入，取200組
x2=[1.3 1.5 1.9 2.1 2.3……]；%電極力輸入，取200組
x3=[9 10 11 12 13……];%點焊電流輸入，取200組
y=[2756 3167 3895 3264 2877……]； %輸出量，取200組
net=newff([1 10;0.5 3;5 20],[10 10 1],{'tansig''tansig''purelin'});
%初始化網絡
net.trainparam.goal = 0.01;%設定目標值
net=train(net,[x1;x2;x3],y);%訓練網絡
figure； %畫出圖像
選取不同的s1,s2，經過不斷的神經網絡訓練，發現當s1=8,s2=6時，神經網絡可以達到要求。工具箱示意圖如下圖1。
圖 1工具箱示意圖
工具箱示意圖非常清晰地表示了本實驗的神經網絡的輸入，輸出以及訓練的過程。
神經網絡的訓練結果，如圖2所示:
圖2神經網絡的學習過程
圖中可以看出雙層網絡訓練的sse在訓練100次時，已經接近0.0001，效果較理想。
為了驗證經過訓練的網絡模型的泛化能力，在輸入變量所允許的區域內又另選多個樣本進行了計算。發現：利用bp神經網絡模型計算的測試輸出與期望輸出值相符，誤差小于2％。
在已經訓練好的網絡中找出最大值：
for i=2:10 %點焊時間選擇
for j=0.5:0.1:3%電極力選擇
fork=5:0.1:20%點焊電流選擇
a=sim(net,[i,j,k])；%仿真
ifa>n %比較仿真結果與最大值，取最大值n=a；
i(1)=i；%最大值的時間
j(1)=j；%最大值的電極力
k(1)=k； %最大值的電流
end
end
end
end
將i（1）,j（1）,k（1）以及n輸出，n為最大值。得到點焊時間為3.4s，電極力為12.7kn，點焊電流為11.8ka，此時的抗剪拉剪載荷為4381n，為訓練結果的最大值。將點焊時間為3.4s，電極力為12.7kn，點焊電流為11.8ka在點焊機上進行實驗，得到結果為4297n。并且通過與實際的結果相比較，發現誤差也在2%以內。
4結論
1）本文采用了插值法作為選取bp神經網絡訓練樣本的方法。并且在數據變化劇烈的地方多選取了75組數據，這樣可以得到較高精度的網絡模型，使點焊模型的可行性。
2）基于此方法建立了三個點焊參數的bp神經網絡模型，而且所建的bp模型具有較高的精度，可以很好的描述了這三個點焊參數與點焊質量的映射關系。
3）由于神經網絡模型將系統結構參數與傳統動態特性參數之間的物理關系，反映為神經網絡模型的網絡輸入與網絡輸出的數學關系，因此，在神經網絡模型上進行結構修正與優化比在其他模型上更直接，簡單與高效。
本文采用神經網絡的方法優化復合消音鋸片的點焊工藝參數，為分析點焊質量提供了很好的輔助手段。通過與以前工藝相比較，提高了點焊質量。
參考文獻：
[1] 方平,熊麗云.點焊電流有效值神經網絡實時計算方法研究.[j].機械工程學報,2004（11）.148-152.
篇6
歐陽亮(1984―)，女，湖南大學工商管理學院(長沙，410082)。研 究方向：金融工程與風險管理。
［關鍵詞］匯率預測；匯率波動；神經網絡
匯率作為一個重要的經濟變量，其變動對國民收入的增減、工農業的發展、國內利率、就業 等各方面都有著重要的影響。因此，匯率預測受到廣泛的關注，大量的計量經濟模型和時間 序列模型被用于匯率預測。其中，人工神經網絡(Artificial Neural Networks, ANN)作為 一種非參數的數據驅動型的方法，不需要對數據特征進行事先假設，通過合理的樣本訓練， 學習專家的經驗、模擬專家的行為，并引入非線性轉換函數來求解各種復雜的非線性問題， 具有很強的模式識別能力和高速信息處理能力，從而在時間序列數據預測方面有獨特的優 勢。[1]
利用神經網絡方法預測匯率波動，國內外學者已經進行了比較廣泛的研究。總結國內外學者 的研究成果，用神經網絡預測匯率有3個層次。它們分別是同質神經網絡模型、 異質神經網絡模型和神經網絡組合模型。
一、匯率預測的同質神經網絡模型
同質神經網絡預測模型是用神經網絡根據歷史匯率數據來預測未來匯率，這是作為一種匯 率預測的非參數方法提出來的。由于匯率波動具有非線性相關性和 長效記憶性，因此通過歷史數據進行匯率預測是一種可行的方法。同質神經網絡預測模型認 為；匯率有一個隱含的生成機制，歷史匯率和未來的匯率都由這個機制生成，通過對歷史數 據的觀測，識別這個生成機 制，就可用這個生成機制預測未來的匯率。由于神經網絡是一個數據驅動的自適應的非參數 方法，不基于假設，即使產生數據的過程是未知的，或者很復雜，神經網絡也能識別。
用同質神經網絡進行匯率預測，是根據匯率的歷史數據加上輸入延遲來預測匯率的變化或變 化趨勢。用于匯率預測的神經網絡模型很多，其中最常用的是多層后向神經網絡模型，即BP 神經網絡。BP神經網絡一般采用三層結構：輸入層、隱含層、輸出層。BP神經網絡的算法 和訓練如圖1。
以t時刻匯率種類R的預測為例，滯后期為n，預測長度為L。輸入層的數據是從時刻t開始前n 期的歷史匯率觀測值序列，yt,…, yt-n，輸入才由長度n的滑動窗口產生。輸出層 依次輸出從t時刻開始的L個匯率預測值，yt+1,…, yt+L。相鄰匯率的時間間 隔是等長的。匯率預測的同質神經網絡模型的結構如上圖2。
用同質神經網絡預測匯率的研究很多，1993年，Refenes等人采用神經網絡方法預測匯率變 動，他們將數據分成訓練組(Training Subsample)、測試組(Testing Subsample)和預測組( Forecasting Subsample),先用訓練組和測試組數據訓練神經網絡，然后用預測組數據進行 預測，這種嘗試以及隨后的評議肯定了神經網絡在一定的情況下比“標準”的預測方法表現 要好。[2]Kuan和Liu(1995)用神經網絡對5個不同幣種兌美元的匯率進行預測。這5 種貨幣包括英鎊、加拿大元、德國馬克、日元以及瑞士法郎。研究發現神經網絡對日元和英 鎊的預測的均方差(MSE)很低，但對其余3個幣種的預測效果一般。[3]De Matos(19 94)通過對日元期貨預測比較了多層后向神經網絡(MLFN)和重復網絡的預測效果。[4]Zhang和Hu(1998)用多層后向神經網絡對英鎊和美元的匯率進行預測，發現神經網絡的預 測效果明顯優于線性模型，尤其在預測期比較短的時候。[5]
雖然研究表明神經網絡的預測效果比其他方法好，但是其預測精度和可靠性仍然不盡人意。 對此，學者們對神經網絡進行了改進，提出了諸如聚類神經網絡、重復神經網絡、廣義回歸 神經網絡、模糊神經網絡等經改進的神經網絡進行匯率預測，或者將其他方法與神經網絡結 合，以改善神經網絡的預測能力。例如，Shazly等(1999)用遺傳算法訓練神經網絡的權值。 惠曉 峰和胡運權等(2002)結合遺傳算法，提出了基于實數編碼的GA-BP神經網絡匯率預測人民幣 兌美元匯率的模型。姚洪興, 盛昭瀚和陳洪香(2002)提出了一種改進的小波神經網絡結構。
這些研究在一定程度上提高了神經網絡的預測效果，但是神經網絡的結構、訓練算法、閥值 函數的選擇以及滯后期的確定等問題仍然難以解決。而且，匯率由歷史匯率唯一決定這一 前提也缺乏足夠的理論支持。
二、匯率預測的異質神經網絡模型
用異質神經網絡模型進行匯率預測，是指在預測過程中，考慮影響匯率的各種因素，如利率 、通貨膨脹率、原油價格、貨幣供應、貿易收支差額、消費價格指數、消費信心指數等，根 據這些影響因素來預測匯率。Shazly(1997)選取一個月歐洲美元存款利率、一個月歐洲外幣 存款利率、即期匯率 和一個月的遠期匯率作為輸入變量，預測一個月后的即期匯率。結果表明，神經網絡的預測 效果比通過遠期匯率進行的預測效果要好。[6]楊火斤 和馬洪波(1999)選取GNP、CPI、工業股 票價格指數、短期利率、貨幣供應量、長期利率6個影響因素，將這些變量作為神經網絡的 輸入變量，訓練神經網絡根據這些變量預測匯率。[7]Hui Xiao-feng等(2005)也用 模糊神經網 絡進行匯率預測，輸入的變量包括兩國的CPI和GDP、兩國的利率差、貨幣供應比、凈出口額 等。[8]
異質神經網絡模型的網絡結構和訓練算法與同質神經網絡相似。區別在于同質神經網絡的輸 入是一段時滯的歷史匯率數據，是一維的數據，而異質神經網絡的輸入數據是多個變量的數 據，是二維的數據。令x1, x2,…, xn分別表示影響匯率變動的各個因素，異質神經 網絡的結構如圖3所示。
圖3 異質神經網絡模型
隨著布雷頓森林體系的崩潰，各國紛紛采用浮動匯率制度，影響匯率變動的因素更加多樣化 、復雜化，難以確定。因此，學者們開始用神經網絡與其他預測方法結合使用。一種是與基 本因素分析模型如購買力平價模型、利率平價模型等相結合。根據這些模型確定的影響因素 作為神經網絡的輸入變量，通過神經網絡訓練優化變量的權值，從而進行匯率預測。例如， Qi和Wu(2003)用基于貨幣理論的神經網絡對英鎊和馬克1個月、6個月、12個月的匯率進行預 測，輸入變量為貨幣供應量M1，各個國家的實際工業生產收入、利率作為輸入變量。Lee和W ong(2007)用微觀結構理論和宏觀經濟的6個變量作為神經網絡的輸入，預測匯率波動。
另一種方法是用神經網絡與協整方法結合。先通過協整分析確定影響匯率變動的因素，再用 神經網絡確定各變量的權值。Inc和Trafalis(2006)構建了一個結合協整方法和人工神經網 絡的匯率預測模型方法，先用協整方法確定對匯率有影響作用的變量，然后用ANN對這些變 量進行非線性組合，預測匯率。[9]
異質神經網絡模型將匯率視為整體經濟系統中的一個變量，匯率波動受眾多因素的影響，因 此匯率的波動是根據這些影響因素的波動來預測的，與同質神經網絡模型相比有更強的理論 支持。但是，它的預測效果取決于影響因素的選擇，因此匯率的影響因素的選擇是異質神經 網絡預測模型的關鍵。
三、匯率預測的神經網絡組合模型
神經網絡進行匯率非線性組合預測是一個兩步組合預測模型。Bates和Granger(1969)證明了 預測方法的線性組合比單模型能產生更小的誤差。[10]此后，一些學者在這方面做 了很多研 究。在眾多的組合方法中，神經網絡非線性組合是最廣泛使用的方法。Hu和Tsoukalas(1999 )用不同的GARCH模型預測條件波動，并對這些預測值分別進行線形和非線性組合，結果表明 用神經網絡進行非線性組合的預測效果是最好的。[11]Tseng等(2002)用BP神經網 絡和時間 序列模型――SARIMA模型進行組合，用SARMIA(Seasonal Autoregression Moving Integrat e Average)對匯率進行線性預測，再用神經網絡處理SARMIA模型預測的殘差，進行匯率預測 。[12]用同樣的方法還有Zhang(2003)用ARIMA和ANN組和對英鎊和美元匯率進行預 測。[13]Yu, Wang和Lai(2005)組合廣義線性自回歸模型(GLAR)和神經網絡進行 匯率預測。[14]
用神經網絡對匯率進行非線性組合預測時，是將匯率數據分解成線性部分和非線性部分。先 用基本因素模型或者參數模型對匯率進行第一步預測；然后用神經網絡對第一步預測殘差進 行非線性組合；再根據兩步的預測結果進行匯率預測。或者用神經網絡對不同的參數模型的 預測結果進行非線性組合。下面以神經網絡和ARIMA模型的非線性組合為例，說明神經網絡 組合模型的基本原理。
(3)用神經網絡mode殘差：[AKn^]t=f(et-1,et-2,…，et-n)[JY](4)
其中，f表示神經網絡的預測的非線性函數，et是隨機誤差。
(4)組合ARIMA和神經網絡：[AKy^]=[AKl^]+[AKn^]t[JY](5)
神經網絡組合模型使用神經網絡和線性方法進行非線性組合，考慮了匯率作為一個復雜系統 同時具有線性和非線性特征的實際，充分利用了參數方法和非參數方法的優勢，并綜合了各 種匯率理論的分析結果。大量的實際研究表明，組合預測的效果比單獨用線性模型或單獨用 神經網絡預測的效果要好。
四、比較與結論
同質神經網絡預測模型是根據歷史數據進行匯率預測，是用一維的數據訓練神經網絡。它沒 有 考慮匯率作為經濟系統中的一個變量，受到眾多因素的影響，而僅僅把匯率視為一系列沒有 經濟含義的無規則數據。而異質神經網絡模型則把匯率視為復雜經濟系統中的一個變量，認 為在統計上無規則的匯率數據是由眾多因素共同決定的。異質神經網絡模型用二維數據進行 訓練，與同質神經網絡模型相比，其預測有更充分的理論支持。但是，影響匯率的因素至今 沒有定論也沒有統一的選取法則。
同質神經網絡預測模型和異質神經網絡預測模型都將匯率視為單純的非線性變化的時間序列 ，而實際匯率的波動不是單純的線性或非線性的，而是同時包含線性和非線性模式，因此單 純的線性模型和非線性模型都不能很好地預測匯率。而神經網絡組合預測模型則與前兩種方 法有本質的不同，它同時考慮了匯率的線性和非線性特征，在線性預測的基礎上再進行非線 性組合，充分利用參數方法和非參數方法的優勢。一方面，研究表明線性預測有很多效果很 好 的方法，如ARIMA，GARCH等參數模型；另一方面，這些模型都基于很強的假設條件，不同的 條 件下預測效果有很大差別。因此，在實際預測時候，很難確定某個模型比其他模型有更好的 樣本外預測效果。最優模型的選擇是件很困難的事情。用神經網絡組合模型，避免了 最優模型選擇的問題，又綜合了不同的匯率理論的分析結果。
另外，同質神經網絡預測模型和異質神經網絡預測模型都是單模型的一步預測的方法，研究 表明單一的模型往往只能適應某一特定的情況或者反映一部分的信息，而實際匯率是一個復 雜的系統，組合不同的參數模型或者參數模型不同參數的預測結果，能夠較大限度地利用各 種預測樣本信息，比單個預測模型考慮的問題更系統、更全面，從而提高了預測的精度。
自2005年7月21日起，中國實行匯率改革以來，央行入市干預的力度明顯減弱。由市場供求 關系決定的人 民幣匯率受到眾多因素的影響，波動幅度較以往明顯加大。用神經網絡組合模型對人民幣匯 率進行預測，充分考慮了匯率波動的復雜性。結合線性方法和非線性方法的優勢，能抓住匯 率波動的線性和非線性特征，并能全面挖掘和反映樣本信息，有較好的樣本外預測效果。因 此，神經網絡組合模型是人民幣匯率預測的最佳選擇。
但是，用神經網絡組合模型進行匯率預測也存在一些難以解決的問題。首先是神經網絡自身 的優化問題，如隱藏層數及隱藏層結點數的確定、激活函數的確定、局部最優等，神經網絡 的結構直接影響著預測效果。其次，在神經網絡進行組合預測時，如何選擇被組合的模型以 及模型的個數，是另外一個難以解決的問題。第三，神經網絡可以根據殘差最小的原則不斷 地調整參數來改變預測效果，但是它不能改變輸入數據，而匯率數據往往是劇烈波動，存在 噪音的。因此，如何對數據進行除噪，優化神經網絡的輸入數據是另一個值得研究的問題。
主要參考文獻：
［1］Guoqiang Zhang, Eddy Patuwo, Michael Hu. Forecasting with artificialneural networks: The state of the art［J］. International Journal of Forecastin g, 1998, 14: 35-62.
［2］Refenes. Constructive learning and its application to currency excha nge rate forecasting. In: Neural networks in finance and investing: using artifi cial intelligence to improve real world performance, 1993, 465-493.
［3］CM Kuan, T Liu. Forecasting exchange rates using feedforward and rec urrent neural networks［J］. Journal of Applied Econometrics, 1995, 10(4): 347-6 4.
［4］De Matos. Neural networks for forecasting exchange rates: ［disserta tion n］. Canada: The University of Manitoba, 1994.
［5］Gioqinang Zhang, Michael Y. Hu. Neural Network Forecasting of the Br itish Pound/US Dollar Exchange Rate［J］. Omega, Int. J. Mgmt Sci, 1998, 26(4):495-506.
［6］Mona R. El Shazly, Hassan E. El Shazly. Comparing the forecasting pe rformance of neural networks and forward exchange rates［J］. Journal of Multina tional Financial Management, 1997(7): 345-356.
［7］楊 火斤, 馬洪波. 人工神經網絡在中長 期匯率預側中的應用［J］. 系統工程, 1999, 17(1): 18-24.
［8］HUI Xiao-feng, LI Zhe, WEl Qing-quan. Using fuzzy neural networks fo r RMB/USD real exchange rate forecasting［J］. Journal of Harbin Institute of Te chnology (New Series), 2005, 12(2): 189-192.
［9］Huseyin Ince, Theodore B. Trafalis. A hybrid model for exchange rateprediction［J］. Decision Support Systems, 2006, 42(10): 1054-1062.
［10］Bates JM, Granger CWJ. The combination of forecasts［J］. Operation s Research Quarterly, 1969, 20: 451-68.
［11］Michael Y. Hu, Christos Tsoukalas. Combining conditional volatilityforecasts using neural networks: an application to the EMS exchange rates［J］.Journal of International Financial Markets, Institutions and Money, 1999, (9):407-422.
［12］Fang-Mei Tseng, Hsiao-Cheng Yub, Gwo-Hsiung Tzeng. Combining neuralnetwork model with seasonal time series ARIMA model［J］. Technological Forecas ting & Social Change, 2002, 69: 71-87.
［13］G peter Zhang. Time series forecasting using a hybrid ARIMA and neu ral network model［J］. Neuro computing, 2003, 50: 159-175.
［14］LeanYu, Shouyang Wang, K. K. Lai. A novel nonlinear ensemble foreca sting model incorporating GLAR and ANN for foreign exchange rates［J］. Computer s & Operations Research, 2005, 32: 2523-2541.
Forecasting Exchange Rate with ANN: A Comparative Anal ysis
Xie Chi1 Ouyang Liang2 Abstract:With the popularity of floating exchange rate system,a lot of methods with parameter and non-parameter are adopted to forecast the ex change rate, and ANN is one of them. There are three types of ANN for exchange r ate forecasting, namely the homogenous ANN model, the heterogeneous ANN model an d the hybrid ANN model. This paper researches on the three models, specificallytheir characteristics and limitations, and draw the conclusion that both ANN mod el give full consideration to the linearity and nonlinearity characters of the e xchange rate. The ANN model can offer better results in a more systematic and co mprehensive way, because it adopts the thoughts integrating the analysis of diff erent exchange rate theories, and broadly utilizes the forecast samples.
Key words:Exchange Rate Forecasting; Exchange Rate Fluctuation;ANN
篇7
【關鍵詞】BP神經網絡；預測；誤差
1.引言
許多金融學家和計量學家對發達國家成熟市場的波動性進行了廣泛的研究，但是在對股市的預測上，由于人們在知識、能力、經驗上存在著較大的差異，加之問題本身又具有很大的隨機性和高度的非線性，即使是一些金融專家、炒股高手對出現的同一復雜行情進行分析，往往也會得出不同的結論。此外，傳統方法還要事先知道各種參數，以及這些參數在什么情況下應作怎樣的修正。這都給預測股市帶來一定的困難。
基于以上股市預測的困難性，本文提出了人工神經網絡的預測方法。隨著計算機、人工智能尤其是專家系統的發展，人工神經網絡技術逐漸成熟并開始應用于各個領域。人工神經網絡（ANN，簡稱神經網絡）作為一種由大量簡單神經元廣泛相互聯接而成的非線性映射或自適應動力系統，恰好能有效解決股市預測處理中常見的困難，因此它很快在股市預測分析與處理領域得到了廣泛的應用。
2.BP神經網絡介紹
2.1 BP 網絡算法的基本原理
2.1.1 標準的BP 網絡算法的基本原理
BP(Back Propagation)網絡是反向傳播的多層前饋式網絡，是目前使用最為廣泛的一種人工神經網絡。它的核心是BP算法，一種對于多基本子系統構成的大系統進行微商計算的嚴格而有效的方法，采用最小均方差學習方式。BP 神經網絡的原理說到底就是給它一些輸入變量，然后就有一個輸出，輸出值的情況與實際的情況進行比較，差多少，然后再進行網絡的內部調整，屬于有導師的學習規則，使得網絡輸出與實際逼近。
神經網絡能學習和存貯大量的輸入―輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。人工神經網絡由非線性函數組成，而由一系列不同權重的線性過濾器組合而成：
2.1.2 BP網絡算法的優化
由于常用的BP算法主要缺點為收斂速度慢，局部極值，難以確定隱含層和隱含層的個數，使得在實際應用中BP算法很難應用，因此，出現了許多改進算法。BP算法的改進主要有兩種途徑，一種是采用啟發式學習方法；另一種則是采用更有效的優化算法，本文采用了動量法和學習率自適應調整的策略，從而提高了學習速度并增加了算法的可靠性。動量法降低了網絡對于誤差曲面局部極值的敏感性，有效地抑制了網絡陷于局部極小。
2.2 BP神經網絡的模型識別及步驟
模式通常指對事物的一種定量描述或結構描述，“識別”是指對客觀事物按其物理特征進行分類。模式識別的基本原理就是從待識別對象和理想標本之間若干特征的相似性推斷它們之間總體的相似性。BP神經網絡模式識別過程分為訓練階段和模式分類階段，分為初始化、數據與處理、網絡訓練以及模式分類四個步驟。以下利用實證分析來進行著四個步驟。
3.實例分析
下面以上證的某股600個交易日的股票價格收盤指數作為原始樣本數據，對上述神經網絡模型進行求解，預測20天的收盤價，與實際收盤價進行比較，并求出其誤差：
式中，表示第日的實際收盤指數，表示第日的預測值，表示誤差。主要按照如下幾部分來處理：（1）準備600個數據的時間序列，進行歸一化。BP神經網絡中每個神經元的輸出值由傳遞函數Sigmoid函數來計算，其輸出值的范圍是（0，1）；（2）留出最后20個數據，作為預測檢驗使用；（3）繪制圖像，包括實際值和預測值，能量函數；（4）分析實際和預測兩曲線的趨勢。
采用I-J-K學習模型，該模型是輸入層I個神經元，隱層J 個神經元，輸出層K個神經元。利用BP神經網絡模型訓練500次、800次、1000次的輸出值和期望值以及能量函數（或者叫誤差函數）E，結果見圖1到圖3。
通過上面的圖示，可以看到用BP神經網絡預測的效果比較明顯，這說明該模型適用于短期預測嗎，股市的波動在很多地區都是非常劇烈的，各種因素的綜合作用也使得長期股指的變動具有極大的不確定性，使得預測變得很困難。而BP網絡的算法原理和自學習的特點使其能夠充分挖掘出隱含在樣本數據中的規律性，實現從輸入空間到輸出空間的非線性映射，對樣本數據進行精確的擬合。從而BP神經網絡的方法對于股市上的一些很難看出規律的數據列的預測而言，無疑是一個比較精確的預測方法。
4.結論
本文介紹了股市的特點以及股市預測的困難性，提出了利用BP神經網絡的方法來解決股市預測問題。文章介紹了BP神經網絡算法的基本原理，BP神經網絡算法的優化，BP神經網絡模型識別及步驟，最后后以上海證券交易所每日股票價格收盤指數為分析對象，把原理應用于實際，利用BP神經網絡對股票價格收盤指數進行了短期預測，并計算出預測值和實際值的誤差。通過實驗發現該模型收斂速度快，預測精度非常高，對預測短周期內股指波動具有較強的適用性。
參考文獻
[1]高琴.人工神經網絡在股市預測模型中的應用[J].微電子學與計算機,2007年第24卷第11期.
[2]周翠紅,路邁西.線性回歸與人工神經網絡預測煤炭發熱量[J].煤炭科學技術,第37卷第12期.
[3]尹慶雙,奉瑩.人工神經網絡在第三產業就業分析中的應用[J].人口與經濟,2009年第6期.
[4]鄒文安,劉寶,姜波,楊春生.基于Excel 技術平臺人工神經網絡BP模型及應用[J].水文,第30卷第1期.
[5]康進,劉敬偉.非參數回歸估計與人工神經網絡方法的預測效果比較[J].統計與決策,2009年第23 期.
[6]楊本昭,田耕.基于人工神經網絡的客戶價值分類研究[J].科技管理研究,2007年第12期.
篇8
關鍵詞：手勢動作識別 PNN 傳播率 識別率
中圖分類號：TP183 文獻標識碼：A 文章編號：1672-3791（2013）07（a）-0217-01
表面肌電信號（sEMG）是從皮膚表面由電極引導記錄下來的一種重要的生物電信號。表面肌電信號使用方便，對人體無損傷，被廣大的手勢動作識別研究中應用，同時也是智能假肢理想的控制信號源。目前，在手勢動作識別方面國內外學者取得了有效的成果。例如K.Englehart等對四種手勢動作進行識別，識別率為90%。2004年Kiguchi.K等人提出的識別方法大致可分為統計識別方法、句法識別、集成識別方法、神經網絡識別方法等。本文采用改進的PNN神經網絡方法進行識別，該方法結構簡單、訓練時間短且識別率較高不僅克服了傳統BP神經網絡識別率低、訓練時間長的缺點同時也克服了傳統PNN網絡傳播率系數需要手動設置的不足，較好的改善了識別率。本文采用改進的PNN神經網絡對造型“C”、食指伸展、伸腕、向下曲腕、握拳、向側曲腕、手掌伸展7種手勢動作進行模式識別。
1 sEMG的特征提取與特征選擇
表面肌電信號的特征提取對手勢動作的識別率有直接影響。本文采用時域、頻域及時頻域的特征作為不同手勢動作的特征。但是，特征太多會給計算帶來困難，而且會造成分類效果的惡化。因此本文采用K-W檢驗的方法對時域、頻域及時頻域的單個特征進行評價，選擇最具有分離度的特征。本文將提取的特征作為改進PNN神經網絡的輸入信息對7種手勢動作識別分類，并與傳統的神經網絡進行識別率對比分析。
2 改進PNN神經網絡模型
PNN神經網絡是1990年由Specht提出的一種徑向基函數（RBF）網絡的重要變形。它的訓練學習過程是一個完全正向的過程這一點與傳統神經網絡不同，大大減少了訓練時間。不僅如此該網絡不易陷入局部極小值點，非常適合模式識別研究。在進行仿真實驗時，傳播率的改變對識別結果的影響明顯，總會有一個值能使識別率最高，但是在概率神經網絡中該參數一般是手工設定，增加了訓練時間，為了提高效率本文通過仿真實驗，在多次試驗中找使結果最好的取值。粒子群優化算法被廣泛應用與優化數值的求解，本文采用該方法選取最優的傳播率參數。
3 仿真實驗及結果分析
將本文的改進算法統傳統的算法進行比較分析，改進PNN神經網絡算法記為P1算法，傳統BP神經網絡算法記為P2算法。對于P1算法：設計的PNN網絡的結構為：輸入層有4個神經元，輸出層有7個神經元，中間層的傳遞函數為高斯函數，輸出層的傳遞函數為線性函數。將第1通道均值、第2通道均值、第1通道功率譜密度、第2通道功率譜密度作為輸入特征，進行仿真實驗研究。
4 結論
傳統的神經網絡訓練時間長且易陷入局部極小值，在手勢動作識別研究中正確識別率也并不高，本文針對這些問題提出的改進PNN神經網絡有效克服了這些不足，識別率提高到90%左右，并且訓練時間也縮短了一半。有效的改善了手勢動作識別效果。
改進PNN神經網絡的提出為手勢動作識別分類提供了理論基礎，為智能假肢的研究提高的科學依據，但是，為了將手勢動作的識別算法應用于智能假肢，改進的概率神經網絡識別算法的識別率仍有待提高。因此，尋找更有效的識別算法，提高手勢動作的識別準確率是今后的研究熱點問題。
參考文獻
[1] JIN D W，WANG R CH.Artificial lntelligent prosthesis[J].Chinese J. Clinical Rehabilitation，2002，5（20）：2994-2995.
[2] Paclik P，Novovicova J，Pudil P.Road sign classification using Laplace classifier[J].Pattern Recognition Letters，2000，21（13-14）：1165-1173.
[3] Sueteus P，Fua P， Hanson A putational strategies for object recognition[J].ACM Computing Surveys，1992，24（1）：5-61.
[4] Specht D.Probabilistic neural network[J].Neural Networks，1990，3（1）：109-118.
[5] McDuff R J，Simpson P K.An Investigation of Neural Networks for F-16 Fault Dignosis：II.System Performance[C]//SPIE 1294 Application of Artificial Neural Networks.1990：42-45.
篇9
【關鍵詞】交通流量 遺傳算法 BP神經網絡
中圖分類號：G4 文獻標識碼：A DOI：10.3969/j.issn.1672-0407.2015.04.003
一、引言
交通流量是反映交通路況的一個非常重要的信息，因此交通汽車流量的預測受到許多學者和科學工作者比較重視的方面。一些優秀的預測算法和手段也先后被人們發明和改進，但很少有人將兩者結合在一起，這也正是該課題研究意義之所在。BP神經網絡具有較強的非線性映射能力、高度的自學習自適應能力、也具有將學習成果應用于新知識的能力、還具有一定的容錯能力。開展該課題的研究工作，不僅能有效地拓展神經網絡算法和預測問題的研究角度，豐富學習內容，更可能在理論上有所突破和創新，對于培養自身自學意識和創新意識，提高本科生分析能力與運籌能力都是有所裨益的。
二、交通流量預測BP神經網絡模型的構建
基本BP算法包括兩個方面，信號的前向傳播和誤差的反向傳播，計算實際輸出時按從輸入到輸出的方向進行，而權值和閾值的修正從輸出到輸入的方向進行。
如圖所示，其中xj表示輸入層第j個節點的輸入，j=1，…，M；Wij表示隱含層第i個節點到輸入層第j個節點之間的權值； 表示隱含層第i個節點的閾值； （x）表示隱含層的激勵函數；Wki表示輸出層第k個節點到隱含層第i個節點之間的權值，i=1，…，q；ak表示輸出層第k個節點的閾值，k=1，…，L；ψ（x）表示輸出層的激勵函數；Ok表示輸出層第k個節點的輸出。BP神經網絡的算法流程通過數據歸一化、數據分類、神經網絡設置、指定訓練參數進行訓練以及相應的測試進行。
三、利用遺傳算法優化BP神經網絡
利用遺傳算法實現BP神經網絡的參數優化的流程圖如圖2-1所示。從圖中可知，遺傳算法與BP神經網絡溝通的橋梁即染色體與閾值、權值的等價，預測誤差與適應度函數的等價，而兩算法的其他部分則都為獨立的。遺傳算法每次產生新的種群后，將每個染色體解碼成十進制的閾值與權值，然后代入構建的BP神經網絡中，計算每條染色體對應的BP神經網絡誤差作為遺傳算法的適應度函數，若誤差越小則代表適應度越高，越容易被保留而不被淘汰。根據計算出的適應度函數，對種群中的染色體進行自適應交叉與變異，得到新的種群，然后不斷循環直到滿足算法迭代終止條件。
四、交通流程預測的Matlab仿真與分析
經研究表明，城市交通路網中交通路段上某時刻的交通流量與本路段前幾個小時的交通流量有關，并且交通流量具有周期性，為24小時。本文利用交通流量的這些特性，將采集的五天的某路網同一路口的交通流量，每隔4分鐘采集一次，每條共360個數據點，其中前四天的前276個數據作為神經網絡輸入訓練數據，前四天的后84個數據點作為神經網絡訓練輸入測試數據；第五天的前276個交通流量數據作為神經網絡輸出訓練數據，后84個的數據點作為神經網絡訓練輸出測試數據。也就是利用前四天的交通流量數據訓練好神經網絡后，在第五天的前276個交通流量已知的情況下，對第五天的后84個交通流量進行預測。
本文構造的神經網絡為1-5-1BP神經網絡，也就是單輸入單輸出，5隱含層的BP神經網絡；對BP神經網絡進行優化的遺傳算法的參數為：種群數10、進化代數50，交叉概率0.6、變異概率0.1。BP神經網絡優化前后對交通流量預測的結果如圖2-1至圖2-3所示。
通過仿真實驗可以得到以下結論：
1.由圖2-1可知，遺傳算法在第27代即已收斂，說明利用遺傳算法優化BP神經網絡是可行的，并且效率很高。
2.由圖2-2可知，BP神經網絡優化前后都能實現對交通流量的預測，說明BP神經網絡具有很好的非線性逼近能力，可以利用于交通流量的預測。
3.由圖2-3可知，改進前，BP神經網絡的預測誤差區間為。-3.137%-5.042%；改進后BP神經網絡的預測誤差區間為-3.146%-3.831%。由此可知，利用遺傳算法改進BP神經網絡不僅是可行，而且預測精度也切實地得到了提高。
參考文獻
[1]王萬良、吳啟迪等.基于Hopfield神經網絡的作業車間生產調度方法[J].自動化學報.2002，28（5）：838一844.
[2]王小平，曹立明，遺傳算法―理論、應用與軟件實現M，西安：西安交通大學出版社，2002.
[3]陳永春.Matlab語言高級編程[M].北京：清華大學出版社，2004.
篇10
關鍵詞：熱舒適度；預測；反向傳播神經網絡；粒子群優化算法；模型
中圖分類號： TP183
文獻標志碼：A
Abstract： Aiming at the problem that thermal comfort prediction， which is a complicated nonlinear process， can not be applied to realtime control of air conditioning directly， this paper proposed a thermal comfort prediction model based on the improved Particle Swarm OptimizationBack Propagation （PSOBP） neural network algorithm. By using PSO algorithm to optimize initial weights and thresholds of BP neural network， the problem that traditional BP algorithm converges slowly and is sensitive to the initial value of the network was improved in this prediction model. Meanwhile， for the standard PSO algorithm prone to premature convergence， weak local search capabilities and other shortcomings， this paper put forward some improvement strategies to further enhance the PSOBP neural network capabilities. The experimental results show that， the thermal comfort prediction model based on the improved PSOBP neural network algorithm has faster algorithm converges and higher prediction accuracy than the traditional BP model and standard PSOBP model.
Key words： thermal comfort； prediction； Back Propagation （BP） neural network； Particle Swarm Optimization （PSO） algorithm； model
0引言
近年來，單純以室內溫度為控制目標的空調系統已無法滿足人們對舒適度的要求，而以人體熱舒適度為控制目標的空調系統，不僅能提高室內人員的舒適度，還能減少建筑能耗[1-2]。在該空調控制系統中，準確預測空調房間內的熱舒適度成為了關鍵部分。
隨著智能優化算法的發展，近年來，學者們提出了不少熱舒適度預測算法。文獻[3-4]均提出了基于模糊聚類的室內熱舒適預測方法，該方法盡管降低了算法訓練的復雜度和過擬合度，但其預測誤差較大。為提高預測精度，文獻[5]提出了基于人工神經網絡的熱舒適度預測算法，該算法雖然達到了一定預測精度，但該神經網絡的訓練卻很復雜。文獻[6]提出的基于反向傳播（Back Propagation， BP）神經網絡的舒適度預測算法，降低了網絡訓練的復雜度和預測誤差；但是，該算法對網絡初始權值和偏置較敏感且易陷入局部最小。文獻[7-8]提出采用粒子群優化（Particle Swarm Optimization， PSO）算法BP神經網絡的算法，通過利用PSO算法的全局搜索能力，對網絡的初始權值和偏置進行了優化，改善了傳統BP算法收斂速度慢及對網絡初始值敏感的問題，并在數控機床熱補償和股市預測方面取得了較好的應用效果。因此，本文提出將PSO優化BP神經網絡的算法應用于熱舒適度預測建模上，并針對標準PSO算法存在的局部尋優能力弱、易早熟收斂等缺點，對標準PSO算法的速度更新公式、慣性權值、加速因子進行了改進。本文采用改進的PSOBP神經網絡算法，得到了一種新的熱舒適度預測模型。該模型提高了PSO算法的收斂速度和尋優能力，解決了BP網絡對初始值敏感以及收斂速度慢的問題，因此，既提高了模型的預測精度，又提高了算法的收斂速度。
1預測平均投票模型
Fanger教授提出的預測平均投票（Predicted Mean Vote， PMV）指標模型，表征了人體冷熱感的評價指標，代表了大多數人在同一室內環境下的冷熱感覺的平均。該指標是關于4個環境變量和2個人體參數的函數，變量分別是空氣溫度、空氣相對濕度、空氣流動速度、平均輻射溫度、人體活動程度和衣服熱阻。PMV指標的取值范圍是-3～3，分別對應著人從冷到熱的感覺，其中0代表冷熱感適中狀態。
3.3改進PSO優化BP神經網絡預測算法
PSO優化BP神經網絡的實質是利用PSO算法的全局搜索能力，優化BP網絡的初始權值和閾值。具體過程就是BP神經網絡通過PSO算法中的粒子，其位置向量代表神經網絡的一組權值和閾值的潛在解，在構建好的神經網絡中，以訓練樣本集的均方誤差作為適應度函數，按PSO算法的步驟，經迭代尋優后，找到使適應度值即均方誤差最小的全局最優解的過程，該全局最優解就是神經網絡的最優初始權值和閾值。
改進的PSOBP神經網絡預測算法主要包括以下部分：樣本數據準備，構建BP神經網絡，利用PSO優化網絡的初始權值和閾值，訓練優化后的網絡。該算法的具體步驟如下：
步驟1收集和準備樣本數據。根據傳統的PMV數學模型的輸入變量范圍，以及熱舒適度模型的實際應用情況，獲取一定數量的樣本數據，并經預處理后作為神經網絡的訓練樣本和測試樣本數據。
步驟2構建BP神經網絡。根據傳統模型及樣本數據形式，確定神經網絡層數，各層節點數，及隱含層、輸出層的激活函數。
4.2BP網絡構建及PSO參數設置
由于三層的BP神經網絡能任意逼近任何非線性函數，因此，本文采用三層的BP神經網絡建立舒適度預測模型。根據樣本數據的輸入輸出向量可確定網絡的輸入層節點數為6，輸出層節點數為1；通過反復仿真嘗試，隱含層節點數確定為10，即BP網絡的結構最終確定為6101結構。BP神經網絡的其他參數設置如下：最大步數1000，學習率0.01，學習目標0.001。隱含層激活函數為S型函數，輸出層激活函數為線性函數。
根據上述確定的BP網絡結構，PSO算法搜索空間維數D=6×10+10×1+10+1=81；種群規模M為40；最大迭代次數為160；最小訓練誤差為0.001；學習因子c1、c2的初始值分別為2.75，0.5，最終值分別為1.25，2.25；慣性權重w初始值和最終值分別為0.9，0.4；粒子的最大速度為1。
4.3仿真結果及討論
本文在Matlab 7.11版本下，采用Matlab語言編寫算法程序，結合Matlab神經網絡工具箱，利用上述的參數設置及樣本數據構建了基于改進的PSOBP神經網絡的熱舒適度預測模型。為了證明本文算法預測模型性能的優越性，本文采用同樣的樣本數據與參數設置，對改進的PSOBP預測模型、PSOBP模型和BP模型均進行了仿真。圖3中（a）、（b）、（c）分別給出了3種預測模型的訓練誤差隨迭代次數變化的曲線。圖4中（a）、（b）、（c）分別給出了3種預測模型對60組測試樣本的預測值與期望值的相關曲線以及絕對誤差曲線。表1給出了3種預測模型的迭代次數、均方誤差和最大絕對誤差對比。
從圖3和表1中可看出，3種預測模型均經有限的迭代次數達到收斂狀態，但改進的PSOBP預測模型的收斂速度比PSOBP模型和BP模型快。從圖4和表1中可看出，改進的PSOBP預測模型的預測精度明顯高于PSOBP模型和BP模型。
5結語
上述實驗仿真說明，采用PSO算法優化BP神經網絡的初始權值和閾值后，改善了傳統BP算法收斂速度慢及對網絡初始值敏感的問題，提高了模型的精度和算法的收斂速度；而且，改進的PSOBP模型比標準PSOBP模型的預測精度更高且收斂速度更快，由此可知，本文的改進策略通過改善標準PSO的早熟收斂和局部尋優能力弱等問題，進一步提高了PSO算法對BP神經網絡的優化能力。
本文的熱舒適度預測模型，是以傳統的PMV數學模型為基礎，以PSOBP神經網絡算法建模來逼近傳統的PMV數學模型而建立的。實驗結果證明，本文熱舒適度預測模型不僅解決了傳統模型中計算復雜、不便于實時控制應用的難題，還提高了模型的預測精度和算法收斂速度。
參考文獻：
[1]DUAN P， LIU C， DUAN C， et al. Indoor dynamic thermal comfort control method based on particle swarm optimization [J]. Information and Control， 2013， 42（1）： 100-110.（段培永，劉聰聰，段晨旭，等.基于粒子群優化的室內動態熱舒適度控制方法[J].信息與控制，2013，42（1）：100-110.）
[2]YANG C， ZHANG Q， YANG J， et al. Analysis of comfort and energyconsumption on temperature control airconditioning system [J]. Journal of Hunan UniversIty， 2012， 39（5）： 18-22.（楊昌智，張清琳，楊菊菊，等.定溫控制空調系統的舒適性及節能性分析[J].湖南大學學報，2012，39（5）：18-22.）
[3]XU Y， CHEN X， WANG L， et al. Forecast method based on fuzzy causation clustering for indoor thermal comfort [J]. Chinese Journal of Scientific Instrument， 2006， 27（6）： 850-852.（徐遠清，陳祥光，王麗，等.一種基于模糊因果聚類的室內熱舒適預測方法[J].儀器儀表學報，2006，27（6）：850-852.）
[4]XU W， CHEN X， PENG H， et al. PMV index forecasting system based on fuzzy Cmeans clustering and suport vector machine [J]. Systems Engineering――Theory and Practice， 2009， 29（7）： 119-124.（徐薇，陳祥光，彭紅星，等.基于模糊C均值聚類與支持向量機的PMV指標預測系統[J].系統工程理論與實踐，2009，29（7）：119-124.）
[5]CASTILLA M， ALVAREZ J D， ORTEGA M G， et al. Neural network and polynomial approximated thermal comfort models for HVAC systems [J]. Building and Environment， 2013， 59： 107-115.
[6]ATTHAJARIYAKUL S， LEEPHAKPREEDA T. Neural computing thermal comfort index for HVAC systems [J]. Energy Conversion and Management， 2005， 46（15）： 2553-2565.
[7]REN B， REN X， LI G. Thermal error compensation for CNC machine tools based on PSOBP neural network [J]. Machine Tool and Hydraulics， 2013， 41（3）： 59-61.（任兵，任小洪，李國志.基于PSO算法優化BP神經網絡的數控機床熱補償[J].機床與液壓，2013，41（3）：59-61.）
[8]AI Y， ZHU W， YAN D. Stock market forecast model based on PSOBP neural network [J]. Journal of Computer Applications， 2008， 28（12）： 105-108.（艾永冠，朱衛東，閆冬.基于PSOBP神經網絡的股市預測模型[J].計算機應用，2008，28（12）：105-108.）
[9]LI S， LIU L， LIU Y. Prediction for chaotic time series of optimized BP neural network based on modified PSO [J]. Computer Engineering and Applications， 2013， 49（6）： 245-249.（李松，劉力軍，劉穎鵬.改進PSO優化BP神經網絡的混沌時間序列預測[J].計算機工程與應用，2013，49（6）：245-249.）
[10]LIAN Z， JIAO B. Particle swarm optimization algorithm with mixed search [J]. Control Theory and Applications， 2010， 27（10）： 1404-1410.（連志剛，焦斌.一種混合搜索的粒子群算法[J].控制理論與應用，2010，27（10）：1404-1410.）
[11]GUO W， CHEN G. Discrete particle swarm optimization algorithm and its application [M]. Beijing： Tsinghua University Press， 2012： 5-6.（郭文忠，陳國龍.離散粒子群優化算法及其應用[M].北京：清華大學出版社，2012：5-6.）
