神經網絡的實現范文

導語：如何才能寫好一篇神經網絡的實現，這就需要搜集整理更多的資料和文獻，歡迎閱讀由公務員之家整理的十篇范文，供你借鑒。

篇1

1程序設計

三角基神經網絡流程圖如圖2所示。Qt中有自己C++標準庫，其C++語言庫文件與標準版C++有所不同［7］，但語法相同，設計程序相關參數如下:(1)這里濾波的理想目的是檢出直流分量，其函數為:(2)初始化參數:神經元個數n為9個，訓練次數上限為500次，學習率初始值為0．1。在程序中增加計時函數，運行7ms內便有輸出，隨著誤差變小，數據輸出時間變短。濾波輸出為大約23ms后便可以得到穩定輸出，誤差精度高于10－5。在Qt工程文件．pro中添加Qwt/lib文件路徑，qmake編譯。在X86的Linux系統上運行結果如圖3所示，把數據制成表格如圖4所示，運行時間160ms。

2低通濾波器諧波檢測

與上述程序中相同的諧波函數，由低通濾波器濾波來分析處理，并采用2階和6階截止頻率為分別為100Hz和20Hz的ButterWorth濾波器進行濾波分析，Matlab仿真結果如圖5－8所示。從圖5和8可以看出截止頻率在100Hz的低通濾波器響應時間在最快0．03s左右，但是誤差百分比在11%;圖6－7可以看出截止頻率相同階數不同的響應時間0．2s左右，誤差百分比在2．54%，這也說明隨著ButterWorth低通濾波器階數越大，其穩態誤差越小，而動態響應時間越長［8］。為解決ButterWorth低通濾波器穩態誤差和動態響應時間之間的矛盾，很多學者進行了研究，其主要的解決方法是低通濾波器的參數在兩個性能之間進行折中選擇［9］，同時這樣的結果也給對后續工作帶來更多的誤差。由比較可知，本文算法比低通濾波器精確度高，而且響應速度也較快，可以代替在電力系統的諧波檢測中低通濾波器做濾波處理。

3基于ARM芯片算法實現

Linux系統具有多任務多進程的系統特征，有些還具有實時特征。它非常適合于在企業的應用，對于單一的任務，一個簡單嵌入式Linux即可以完成這種任務，而且配置要求簡單，成本較低。這里使用的是TE6410(ARM1176)開發板，最高主頻553Hz，2GnandFlash，支持SD燒寫系統。首先基于開源代碼uboot1．1．6編譯系統適合開發板配置的uboot文件;然后根據Linux內核開源代碼Linux3．0．1制作文件zImage，由于是單一的最小化系統，在內核配置時加上LCD驅動模塊［10］，最后編譯，大小也只有3MB左右，所需的存儲空間也很小;文件系統是算法的運行實現平臺，用busybox1．20先制作yaffs2文件系統編譯器和最小的文件系統，添加系統相關配置文件;最后從安裝Qt4．8．4中復制Qt/Qwt和Qt/lib庫文件到制作的文件系統/lib文件夾中，以便程序鏈接調用，最后配置啟動后Qt環境變量。程序在經過交叉編譯，編譯成ARM可以運行的程序，放到文件系統根目錄的/mnt下，并設置開機自動運行。根據上述步驟制作一個最小文件系統，雖然Qt相關庫文件靜態鏈接庫較大，但最后制作出來大小僅有130M左右，占用很少的內存資源，其測試效果顯示如圖9所示。圖9中x軸是以秒為單位，y軸是諧波中的直流分量?？梢钥闯鲰憫獣r間在35ms以內便可以得出精確度相當高的響應輸出。

4結束語

篇2

關鍵詞：圖像分類；深度學習；Caffe框架；卷積神經網絡

中圖分類號：TP18 文獻標識碼：A 文章編號：1009-3044（2016）35-0209-03

Research and Implementation of Image Classification Based on Convolution Neural Network

WANG Chao

（Information Engineering Institute，East China University of Technology， Nanchang 330013， China）

Abstract： The problem of image classification has been the core problem in computer vision. A good solution is developed by further study which can solve the problem of extracting image features in image classification. In order to learn image features efficiently， constructing the machine learning model with hidden layer as well as training a large number of image data will eventually promote the accuracy of image classification or prediction. This paper is intended as an in-depth Caffe learning framework to construct a small image data-base. The convolutional neural network provided by Caffe framework will make a training analysis of the data set and then extract the information of target image features. These can be used for the final prediction of the target image. Compared with the traditional image classification algorithm， the accuracy of the prediction will be greatly improved.

Key words： image classification； deep learning； Caffe framework； Convolutional Neural Network

S著計算機與互聯網技術的快速發展，我們已經進入了一個以圖像構建的世界。但是面臨有海量圖像信息卻找不到所需要的數據的困境，因而圖像分類技術應運而生。通過各種機器學習算法使計算機自動將各類圖像進行有效管理和分類，但是由于圖像內容包含著大量復雜且難以描述的信息，圖像特征提取和相識度匹配技術也存在一定的難題，要使得計算機能夠像人類一樣進行分類還是有很大的困難。

深度學習是近十年來人工智能領域取得的重要突破，在圖像識別中的應用取得了巨大的進步，傳統的機器學習模型屬于神經網絡模型，神經網絡有大量的參數，經常會出現過擬合問題，因而對目標檢測準確率上比較低。本文采用卷積神經網絡框架，圖像特征是從大數據中自動學習得到，而且神經網絡的結構深由很多層組成，通過重復利用中間層的計算單元來減少參數，在特征匯聚階段引入圖像中目標的顯著信信息，增強了圖像的特征表達能力。通過在圖像層次稀疏表示中引入圖像顯著信息，加強了圖像特征的語義信息，得到圖像顯著特征表示，通過實驗測試，效果比傳統的圖像分類算法預測的準確度有明顯的提升。

1 基于卷積神經網絡的圖像分類方法

1.1 人工神經網絡

人工神經網絡（Artificial Neural Network， ANN）是描述生物神經網絡運行機理和工作過程的抽象和簡化了的數學物理模型，使用路徑權值的有向圖來表示模型中的人工神經元節點和神經元之間的連接關系，之后通過硬件或軟件程序實現上述有向圖的運行[1]。目前最典型的人工神經網絡算法包括：目前最典型的人工神經網絡有BP網絡 [2]Hopfield網絡[3]Boltzmann機[4]SOFM網絡[5]以及ART網絡人工神經網絡[6]，算法流程圖如圖1所示[7]。

1.2 卷積神經網絡框架的架構

Caffe是Convolutional Architecture for Fast Feature Embedding的縮寫[8]，意為快速特征嵌入的卷積結構，包含最先進的深度學習算法以及一系列的參考模型，圖2表示的是卷積神經網絡結構圖。Caffe深度學習框架主要依賴CUDA，IntelMKL，OpenCV，glog軟件以及caffe文件。本文使用的各個軟件版本說明，如表1所示。

Caffe深度學習框架提供了多個經典的卷積神經網絡模型，卷積神經網絡是一種多層的監督學習神經網絡，利用隱含層的卷積層和池采樣層是實現卷積神經網絡特征提取功能，卷積神經網絡模型通過采取梯度下降法最小化損失函數對網絡中的權重參數逐層反向調節，通過頻繁的迭代訓練來提高網絡的精度。卷積神經網絡使用權值共享，這一結構類似于生物神經網絡，從而使網絡的復雜程度明顯降低，并且權值的數量也有大幅度的減少，本文使用這些模型直接進行訓練，和傳統的圖像分類算法對比，性能有很大的提升，框架系統訓練識別基本流程如圖3表示。

1.3 圖像分類特征提取

卷積神經網絡的結構層次相比傳統的淺層的神經網絡來說，要復雜得多，每兩層的神經元使用了局部連接的方式進行連接、神經元共享連接權重以及時間或空間上使用降采樣充分利用數據本身的特征，因此決定了卷積神經網絡與傳統神經網絡相比維度大幅度降低，從而降低計算時間的復雜度。卷積神經網絡主要分為兩個過程，分為卷積和采樣，分別的對上層數據進行提取抽象和對數據進行降維的作用。

本文以Caffe深度學習框架中的 CIFAR-10數據集的貓的網絡模型為例，如圖4所示，對卷積神經網絡模型進行訓練。CIFAR-10是一個標準圖像圖像訓練集，由六萬張圖像組成，共有10類（分為飛機，小汽車，鳥，貓，鹿，狗，青蛙，馬，船，卡車），每個圖片都是32×32像素的RGB彩色圖像。通過對數據進行提取和降維的方法來提取圖像數據的特征。

2 實驗分析

將貓的圖像訓練集放在train的文件夾下，并統一修改成256×256像素大小，并對貓的圖像訓練集進行標記，標簽為1，運行選擇cpu進行訓練，每進行10次迭代進行一次測試，測試間隔為10次，初始化學習率為0.001，每20次迭代顯示一次信息，最大迭代次數為200次，網絡訓練的動量為0.9，權重衰退為0.0005，5000次進行一次當前狀態的記錄，記錄顯示如下圖5所示，預測的準度在98%以上。而相比傳統的圖像分類算法BP神經網絡網絡的收斂性慢，訓練時間長的，網絡的學習和記憶具有不穩定性，因而卷e神經網絡框架在訓練時間和預測準度上具有非常大的優勢。

3 結束語

本文使用Caffe深度學習框架，以CIFAR-10數據集中貓的網絡模型為例，構建小型貓的數據集，提取貓的圖象特征信息，最后和目標貓圖像進行預測，并和傳統的圖像分類算法進行對比，預測的準確率有很大的提升。

參考文獻：

[1] 楊錚， 吳陳沭， 劉云浩. 位置計算： 無線網絡定位與可定位性[M]. 北京： 清華大學出版社， 2014.

[2] 丁士折. 人工神經網絡基礎[M]. 哈爾濱： 哈爾濱工程大學出版社， 2008.

[3] McClelland J L， Rumelhart D E， PDP Research Group. Parallel distributedprocessing[J]. Explorations in the microstructure of cognition， 1986， 2.

[4] Hopfield J J. Neural networks and physical systems with emergent collectivecomputational abilities[J]. Proceedings of the national academy of sciences， 1982， 79（8）： 2554-2558.

[5] Ackley D H， Hinton G E， Sejnowski T J. A learning algorithm for boltzmannmachines[J]. Cognitive science， 1985， 9（1）： 147-169.

[6] Kohonenmaps T. Self-Organized Formation of Topologically Correct Feature Maps[J]. Biological Cybernetics，1982， 43（1）： 59-69.

篇3

關鍵詞：神經網絡 建筑管理 數據倉庫

中圖分類號：F274 文獻標識碼：A 文章編號：1007-9416（2015）09-0000-00

1神經網絡系統理論的研究目標

是以研究以模擬人體神經系統的運動行為， 建立神經網絡基本特征的一種神經網絡系統運算算法。這種算法可在計算機上，通過硬件與軟件的相互配合來實現， 也可以在神經網絡計算機上更加快捷的實現，最終可以實現智能計算機終端智能運算的目標。神經網絡系統是由大量的神經元--簡單的信息處理單元，按特定的配對方式相互構成， 神經元之間的信息傳遞和儲存，依照一定的規則進行， 網絡連接規則以及數據存儲方式有一定的穩定性與匹配性， 即具有學習和訓練的特定效果。

1.1神經網絡系統模型與應用范圍

有反饋網絡模型。有反饋網絡也稱回（遞）歸網絡， 在這這當中， 多個神經元互聯以組成一個互連神經網絡。有些神經元的輸出被反饋至同層或前層神經元， 因此， 信號能夠從正向和反向流通。

1.2 神經網絡的設計

在決定采用神經網絡技術之前， 應首先考慮是否有必要采用神經網絡來解決問題。一般地， 神經網絡與經典計算方法相比并非優越。只有當常規方法無法解決或效果不佳時神經網絡才能顯示出其優越性。尤其是當問題的機理等規律不甚了解， 或不能用數學模型表示的系統， 神經網絡往往是最有力的工具。另一方面， 神經網絡對處理大量原始數據而不能用規劃或公式描述的問題， 表現出極大的靈活性和自適應性。

2 建筑管理模式

建筑管理模式是在TFV理論基礎上構筑的。建筑管理模式在國外，對精益建造的理論和應用研究已取得了很多成果， 但國內對于精益建造，未能給予足夠重視。

數據處理技術在企業的逐步成功應用，企業積累了大量的生產"科研相關和業務數據，但面對浩如煙海的企業數據，決策人員常常難以及時獲得足夠信息，提出決策的現狀，許多企業已經構建了完善的數據庫.并且通過聯機分析處理的方式技術，可以使決策人員更快捷的從數據倉庫中提取精良信息。

3 建筑管理模式

3.1 任務制度管理

任務制度管理是從生產管理轉換的角度管理生產制造， 雖然本質依然是硬性管理， 但管理的內容為與適應建造相關用戶的合理配合安排， 主要依據顧客需求設計來配編生產系統， 最后一招合同流程來實現。

3.2 流程過程管理

流程過程管理是從流程的角度管理數據模型， 其本質為軟性數據管理。流程管理的目標是不但要有高效率可預測數據目標的綜合流程， 而且要做好建設項目的相關單位，現場數據工作人員之間的相互協調工作。

3.3 價值趨向管理

價值趨向管理是從數據價值的角度管理生產， 它是以一種更加柔性的方式來體現顧客消費價值和一種硬性的方式完成生產預訂目標的的趨向性管理。

4 數據倉庫概論

數據倉庫，就是一個更完全面支持企業組織的決策分析處理數據的面向主題的總成的，不可隨時間不斷變化持續更新的數據倉庫體系結構，美國哈佛大學計算機科學系的專門小組，通過長期對數據技術的研究，提出了數據倉庫技術的完善概念，該概念是在體系結構整體上對數據倉庫進行了描述，從各個數據源收集所需數據，并與其他數據源的數據銜接，將集成的總體數據存入數據倉庫終端，用于用戶直接從數據倉庫中訪問相關數據，用于理論和實踐應用的案例.運用這種建筑管理模式， 可以提高生產率， 降低成本和增加顧客滿意度， 在建筑業中有廣闊的應用前景。

5 結語

在當今日益激烈的競爭環境下決策人員能否及時地從大量原始數據中提取更多更好的信息是一個企業生存發展的關鍵，傳統的神經網絡系統的建筑管理數據倉庫的設計已不能適應行業的發展精益建造這種體系應運而生。他是由精益生產延伸而來，將神經網絡系統的建筑管理數據倉庫的設計以及實踐應用到行業之中。

參考文獻

[1]趙璐.基于精益建造的成本管理[J].華中科技大學學報，2005.

[2]肖智軍，黨新民.精益生產方式JIT[M].廣州： 廣東經濟出版社，2004.

[3]Glenn Bllard3 劉來紅， 王世宏.空氣過濾器的發展與應用.過濾與分離，2000，10

[4]Lauri Koskela. We Need A Theory Of Construction

[C]， Berkeley - Stanford CE&M Workshop： Defining a Research

Agenda for AEC Process/Product Development in2000 and Beyond Stanford， Berkeley， 1999.

篇4

關鍵詞：BP神經網絡；三維加速度；特征值提取

中圖分類號：G642.0 文獻標志碼：A 文章編號：1674-9324（2016）51-0197-02

隨著物聯網的高速發展，智慧醫療的應用也越來越廣泛，人體行為識別作為智能監測中一個重要的研究方向，也逐漸受到各國學者的廣泛關注。隨著我國人口老齡化不斷加劇，老年人意外摔倒問題受到人們關注，而人體行為識別方法的研究將推進更有效更準確的跌倒檢測算法研究。按照信號的獲取方式，可將現有的人體行為識別方法分為以下兩種：基于計算機視覺的方法和基于傳感器的方法?；谌S加速度信號的識別方法屬于第二種，第二種方法相較于第一種具有低功耗、高精度、攜帶方便等優點。目前BP神經網絡是目前人工神經網絡中研究最深入、應用最廣泛的一種。本文選用已有的三軸加速度信號數據集，在MATLAB仿真環境下，基于BP神經網絡設計并實現人體行為識別算法。

一、數據預處理

本文選用的三軸加速度數據來源于南加州大學人體行為數據集，這個數據集包括了對14名受測者的12種動作的三軸加速度信號采集。采集過程中，三軸加速度傳感器位于受測者右前臂；采樣頻率為100Hz；12種動作每種動作由每名受測者做5次，即對每種動作采集70個樣本，每個樣本采集時長不定但是足夠捕獲動作的所有信息?？紤]實際意義，本文只選取上述14名受測者的7類動作，共計490個加速度數據樣本。在特征值提取前需要對濾波得到的加速度數據再進行加窗處理。選用窗口長度N為512的矩形窗，則結合采樣頻率可得窗口時間跨度為5.12秒，足夠包含單個完整動作。經過預處理后的數據才可以用于后續的特征值的提取，并用來訓練和測試所建立的BP神經網絡。

二、BP神經網絡的建立

BP神經網絡由輸入層、輸出層和隱含層組成，其中輸入層與輸出層各為一層，隱含層可以有多層。在網絡中，相鄰兩層間實現全連接，而處于同一層的神經元之間無連接。BP學習算法需要提供教師信號。BP網絡的學習過程包括工作信號的正向傳播和誤差信號的反向傳播，并通過修改連接兩個神經元的邊的權值來使得誤差函數達到最小。①工作信號的正向傳播。設X■■表示第k層神經元i的輸入總和，Y■■為輸出，第k-1層神經元j到第k層神經元i的權值為Wij，則有如下函數關系：Y■■=f（X■■）X■■=■W■Y■■ （1）

稱f激勵函數，通常取f為非對稱Sigmoid函數，即 f（X■■）=■ （2）

②誤差信號的反向傳播。設輸出層為第m層，則輸出層第i個神經元的實際輸出為Y■■，設對應的教師信號為Yi，定義誤差函數e為 e=■■（Y■■-Y■）■ （3）

定義d■■表示誤差函數e關于U■■的偏導數，可推得 當k=m時，有d■■=Y■■（1-Y■■）（Y■■-Y■）（4）

k

③權值的修正。設某一次學習權值的修改量為ΔWij，考慮兩次學習的相關性，可定義權值修改量如下：

ΔWij（t+1）=-μ?d■■?Y■■+γ?ΔWij（t）（6）

其中，γ為表示兩次修正間的相關程度的系數， μ為學習速率。綜上，BP神經網絡的學習目標就是：找一組最合適的邊的權值Wij，使得誤差函數滿足 e=min■■（Y■■-Y■）■ （7）

三、BP神經網絡結構設計

1.輸入層。BP神經網絡的輸入即為各種行為的特征向量，因此首先需要選取合適的特征值構建特征向量。根據統計學原理和所選加速度信號數據集的特征，選取5個特征值：均值、方差、相關系數、偏度和峰度。5個特征值均以窗長N為提取單位，特征值的計算直接使用MATLAB已有的函數。以窗長為單位，分別計算三個軸的加速度信號的上述5種特征值，一次特征值提取可得到一個15維的特征向量，將此向量作為BP神經網絡的輸入，則輸入層可有15個神經元。

2.隱含層。隱含層待定的系數包括隱含層的層數和每個隱含層包含的神經元個數。為提高學習速率，通常選用單隱層的神經網絡，但為獲得更好的學習效果，本文考慮單隱層以及雙隱層的BP神經網絡。

關于隱含層神經元的個數n1選取，本文參考公式如下：n■=■+p （13）

其中，n0為輸入層神經元個數，nm為輸出層神經元個數，p為[1，10]之間的一個常數。在利用上述公式估算的基礎上，根據網絡學習的結果對隱含層神經元個數再做調整，以達到最好的學習效果。

3.輸出層。神經網絡的輸出層表示人體行為識別的結果，即判斷該動作屬于哪一類。根據所研究的7類動作，可以構造一個7維的輸出向量。每一個輸出向量對應每一次輸出，向量的每一維對應每一類動作。若輸入特征值來源于第Z類動作，則期望的輸出向量為第Z維置“1”，其余維置“0”，而實際的輸出向量的7個維度的數值分別代表屬于7種動作的可能性大小，取數值最大的維度為分類結果。

篇5

關鍵詞：船舶市場預測；NARX神經網絡模型；模糊聚類

中圖分類號：F272 文獻標識碼：A

0 引 言

學者陶永宏、陳定秋和戈錚曾經對船舶行業風險進行過定性分析和研究，但尚未開展深入的定量化分析[1]。陶永宏和祁愛琳將功效系數法與BP神經網絡相結合來衡量我國船舶制造業的風險。采用功效系數法獲得了歷史數據警情，并用歷史數據訓練模型以檢驗模型的預警能力，且對2011年前的造船業市場進行了市場參數預測和風險預警[2]。余思勤等人利用BP神經網絡和市場均衡模型對過去30年的船舶市場參數特征進行分析，并依此預測和評估船舶市場的未來風險[3]。但是在沒有消除市場變動的周期性和波動性的前提下直接利用神經網絡對船舶市場特征參數和風險值進行預測評估，在一定程度上影響和局限了預測結果的準確性。

針對當前出現的問題，本文提出兩階段市場風險預警模型。首先基于以往船舶市場表現特征，利用動態模糊聚類算法對時間序列數據進行模糊分組，得到不同市場環境下的時間片段。接著，對未來市場環境進行初步判斷，選取與待預警市場環境特征相符合的時間段數據，經過數值修正和數據差值后，利用NARX非線性自回歸神經網絡對該組數據進行預警。本文的重要創新在于，由于神經網絡預測需要依靠大量的歷史數據，以進行訓練和結構優化，而本模型對歷史數據分組后帶來分段數據大量減少。為此本模型嘗試性地引進原始數據的插值算法，在不改變原始數據變化特征和數據結構的基礎之上大幅度增加數據量，從而完善數據的補充和修正，提高了NARX神經網絡預警的準確性。

1 船舶市場風險預測指標確定

基于市場均衡理論，本文選擇造船完工量、新增訂單量及船舶價格指數三個市場指標作為風險預警的影響因素。這三個因素作為市場均衡理論當中的需求、價格、供給三要素，可以全面反映船舶市場的發展特征。

針對當年的船舶價格指數、新船訂單量和新船完工量特征，可以根據一系列條件和規則[3]給出當年期船舶市場風險指數專家評分。風險指數評分由0，25之間的任意整數表示風險由小到大的變動范圍，其中根據風險警戒級別的不同，將其劃分為五個不同的警情級別，分別為：“巨警、重警、中警、輕警、無警”。其中專家評分及預警區間和引入的歷史數據如表1、表2所示：

2 船舶市場風險預警兩階段預測模型構建

2.1 時間序列模糊聚類模型

針對歷史數據的模糊聚類可以消除在時間序列上某些歧點數據，對原始數據亦可以起到一定的平滑作用。使經過模糊之后的時間段內的數據均為相對連續的，可以較好反應該段時期內市場特征。

（1）數據標準化

（3）聚類

從（2）中求出的N階模糊相似矩陣R出發，用平方法求其傳遞閉包tR。這就是將改造成的n階模糊等價矩陣，之后讓λ由大變小，便可以形成動態過程的聚類結果。根據實際的市場情況控制λ的值，使經過聚類之后，原始歷史數據分為市場低風險時間段、市場中等風險時間段、市場高風險時間段。

（4）計算

將表格當中所列除專家評分之外的數據依照上述模糊聚類過程進行分組并對比各時期專家評分之后，結果如表3所示：

對照表3與之前歷史數值，發現該模糊聚類算法對時間段劃分起到了非常好的效果，可以較好地擬合及表現各個時間段的市場特征。

2.2 數據修正和數據插值

（1）數值修正

船舶需求量、供給量和價格在遵循一定的變化規律的同時，也在進行著穩定增長。因此，單純使用過去的數據直接用神經網絡進行訓練，得到的結果也只是針對過去那些年的預測值，而不是針對現在得到未來的預測值。因此在不改變數值變化特征的情況下，需要針對現在一段時期的數據對過去時間段內的歷史數據進行整體修正。修正算法如下：

2.3 NARX神經網絡預測

（1）模型介紹

NARX非線性自回歸神經網絡是一種封閉的動態神經網絡，是由普通的動態神經網絡將結果反饋到輸入層以影響和改變網絡結構以實現網絡在訓練過程當中的逐步調整。該模型基于線性ARX模型而建立，通常用于時間序列的預測。NARX的模型定義為：

fx為用神經網絡實現的非線性模糊函數。

對于每一個y的輸出，都指向元神經網絡層的輸入當中，作為下一次輸出的調整參數并且完成對神經網絡的調整ux。隨著數據在時間序列上的遞進，此式表示了神經網絡的時間序列實現及函數模擬功能的數據關聯性建模思想。

該神經網絡的結構如圖1所示：

本文利用MAYLAB神經網絡工具箱當中的時間序列預測可視化工具完成了對該網絡的構建和參數調整、訓練和仿真。由于輸入權值和閾值同時影響著神經網絡的實際預測效果，因此在構建神經網絡時要多次調整相關參數，才可以在前期的訓練當中取得較好的預測效果。

NARX神經網絡的訓練有多種函數可以選擇，其中較為典型的算法有動態BP算法（DBP）、實時遞歸算法（RTTL）等。

（2）數據準備

由表3的分類結果可知，1975到1987年的數據為一個小組，警情為中警；1988到1997年、2004到2007年這兩個時間段為一個小組，警情為輕警；1998到2003年為一個小組，警情為無警；2008到2012年數據為一個小組，警情為重警。這里需要注意的是在輕警警區的小組內有兩批數據，這兩批數據是不連貫的時間段，因此不能將其合并，而是在以后的訓練過程中先后使用這兩批數據分別訓練以增強網絡訓練的有效性。

對上述各個分組分別進行數值修正和插值，作為訓練用原始數據。其中插值的多少根據該組內數據的多少分別決定而不遵循統一標準。

（3）神經網絡訓練

為了驗證該模型的準確性，筆者選取2012年的數據作為待預測數據，將2011年之前的歷史數據作為預測輸入。由于2012年世界經濟形勢并不樂觀，因而即使是在2012年之前，仍可以斷定2012年船舶市場風險屬于重警區間。故選取2008到2011年這一組的數據對神經網絡進行訓練。

使用原始參數訓練結果如圖2所示。

經過反復調試和修改神經網絡參數，最后在使用隱藏節點為30，延遲為4的時候發現訓練效果較好。其訓練結果如圖3、圖4所示。

最終訓練后的神經網絡結構，采用兩層NARX神經網絡展現新船訂單、新船價格和船舶完工量的轉換。隱藏神經元的個數確定為30個，傳遞函數采用TanGis函數，最后得到的訓練誤差大致為6×10-20，結果滿意。因此可以認為該神經網絡可以用來實現這一個關系映射。

（4）神經網絡預測

使用之前的歷史數據和已經訓練好之后的神經網絡對2012年的市場三要素進行預測，得出結果如表4。

由表4可以看出，次神經網絡模型對實際的預測有很好的表現性。

已經確認該模型有較好的預測能力之后，筆者嘗試利用模型對2013年的船舶市場各項數值進行預測，得到的結果如表5：

3 模型預警結果比較

為了與直接使用神經網絡預警的模型進行結果比較，筆者在該階段將未分組的歷史數據直接使用上述神經網絡進行預警。這種方法的優點是絕對保證輸入神經網絡的原始數據的完整性、連續性和大量性。得到的結果如表6所示：

由表4和表6的對比可以很明顯看到，盡管直接預警有上述若干優點，但使用聚類再預警的模型比直接預警的模型在預警準確度方面有很明顯的優勢。可以提供更加性能優良的市場預警結果和風險指示導向。

4 結 論

本文綜合模糊聚類、神經網絡方法建立了聚類-預測兩階段風險預警模型，并使用船舶市場數據進行了預警和與實際值的對比分析。本文的創新之一體現在，為了發現不同時間段的船舶市場特征，利用模糊聚類進行了船舶市場分類，結果發現聚類提高了預警精度，體現出本模型的優越性。本文的創新之二體現在，當神經網絡的訓練數據不足時，提出了針對原始數據的插值思想。聚類和插值思想的提出和實現取得令人滿意的效果，在提高整個模型預警精度的過程中起到關鍵作用。

參考文獻：

[1] 陶永宏，陳定秋，戈錚. 基于動態利潤模型的人民幣升值對中國造船業影響的分析[J]. 中國造船，2009（1）：44-51.

[2] 陶永宏，祁愛琳. 基于功效系數法與BP 神經網絡的造船業風險預警研究[J]. 中國造船，2010（3）：191-198.

篇6

【關鍵詞】電力負荷;神經網絡;網絡模型

1.電力負荷預測的重要性

電力工業在我國經濟迅速發展的今天，正飛速的發展，而電力工業在生產與傳輸過程中存在不能對其進行保存的特性，所以這就要求發電廠與用戶間的供求關系應平衡，否則會造成用戶用電的質量受影響，也會使供電部門經濟利益受得損失，因此電力系統負荷預測方法迅速的發展，而精度高、速度快的電力負荷預測的保證電力市場供求關系平衡的一個重要前提，同時也是電力系統安全穩定運行的一個重要保障，因此電力負荷預測的方法研究的重要性可想而知。

2.建立神經網絡模型

在本文中，將以河北省泊頭市的2013年6月1日至6月7日的電力負荷作為樣本對進來幾天的電力負荷進行預測。

以神經網絡的非線性映射能力為依據來建立短期的電力負荷預測模型，可以將其過程歸納為以下幾步：

（1）先確定所要研究的神經網絡模型的結構;

（2）對所選取的電力系統中的歷史電力負荷數據進行分析，并按照一定的經驗選取最能反映電力負荷變化的一部分電力負荷數據作為該神經網絡模型的輸入量，再選取該網絡中歷史負荷預測值作為該網絡模型的輸出量;

（3）選取合適的樣本數據集作為該網絡訓練的樣本集;

（4）將選取的樣本集作為輸入，輸入到神經網絡模型中進行運算，然后將期望的輸出值和與經過神經網絡訓練后輸出值進行比較，并按照一定的網絡算法規則去調整該神經網絡中各層之間的連接權值。并反復進行該網絡輸出誤差計算和權值修改的工作，當誤差輸出滿足一定的輸出精度，或達到規定的迭代次數時完成訓練;

（5）將這里訓練好的神經網絡模型應用到短期電力負荷預測中;

（6）該電力網絡負荷預測模型使用一段時間后，在保留原有權值不變的基礎上，根據實際的情況選取一些新的數據樣本集對該神經網絡進行重新的訓練，使網絡權值能夠適應最近一段時間的負荷變化情況，保證預測電力負荷數值具有良好的精確度。

3.樣本數據的預處理

在對短期電力系統負荷樣本的處理前，應先對其日期的類型進行劃分，其負荷日期的類型大致可以分為以下三種：

第1種：將一周內的七天分成兩類：一類命名為工作日（周一至周五），一類命名為休息日（周六、周日）;

第2種：將一周的七天分成五種類型：周一為一個類型、周二到周四為一個類型、周五、周六、周日分別作為一種類型;

第3種：將一周的七天分為七種類型：即每天都作為一種類型。

在本文中采用第三種類型，即把一周中的每一天都看作一種類型，并且又做了進一步的細分，在這里對一天內的24小時中的每個時辰的電力負荷量進行統計并作為本文的研究樣本。

4.氣象特征的量化處理

本文在分析歷史電力負荷數據的同時考慮了與該電力負荷數值密切相關的氣象變化，如采集歷史電力負荷數據當日天氣的溫度、濕度及當是的天氣特征（陰天，雨天，晴天）等，經大量觀察分析這些因素對電力負荷值所起的影響，影響最大的是溫度因素和天氣特征，因此本文采用選取當天的最高溫度、最低溫度及天氣特征作為該神經網絡模型的三個輸入量值，在本文中分別用 0代表情天、0.5代表陰天、1代表雨天的情況。

表1 河北省泊頭市區6月1日到7日電力負荷表

日期 6月1日 6月2日 6月3日 6月4日 6月5日 6月6日 6月7日

0時 0.5513 0.636 0.6487 0.6371 0.6258 0.6352 0.603

1時 0.5341 0.6122 0.6249 0.6142 0.6006 0.6108 0.5861

2時 0.5277 0.6004 0.6089 0.6024 0.5902 0.5933 0.5616

3時 0.5202 0.5888 0.5939 0.5876 0.5846 0.5794 0.5701

4時 0.5164 0.5829 0.6098 0.5865 0.5956 0.5887 0.559

5時 0.5759 0.6269 0.6515 0.6254 0.6432 0.621 0.5911

6時 0.6481 0.6913 0.7118 0.6868 0.7003 0.6721 0.6276

7時 0.7299 0.7641 0.7875 0.7649 0.7752 0.7496 0.6923

8時 0.8331 0.8657 0.898 0.8778 0.8785 0.8368 0.7609

9時 0.8993 0.942 0.9522 0.9398 0.9358 0.89 0.8177

10時 0.9292 0.958 0.9741 0.9658 0.9626 0.9114 0.8381

11時 0.8542 0.8829 0.8904 0.8915 0.8829 0.8326 0.7794

12時 0.8183 0.8389 0.8477 0.843 0.8416 0.8015 0.7461

13時 0.8854 0.914 0.9106 0.9191 0.9172 0.8603 0.7862

14時 0.8878 0.9203 0.911 0.9128 0.916 0.8571 0.7886

15時 0.8912 0.9186 0.9118 0.9096 0.9166 0.8571 0.7974

16時 0.8833 0.912 0.9071 0.8966 0.8995 0.8425 0.8148

17時 0.8545 0.872 0.8652 0.8612 0.8567 0.8157 0.8043

18時 0.8341 0.8501 0.8474 0.8248 0.8333 0.7932 0.7752

19時 0.8388 0.8586 0.8459 0.8338 0.8334 0.799 0.7601

20時 0.8323 0.8521 0.8331 0.8304 0.8336 0.7916 0.7401

21時 0.7641 0.7928 0.7618 0.7657 0.7688 0.742 0.6797

22時 0.7374 0.7515 0.7312 0.7303 0.7422 0.7118 0.6469

23時 0.6754 0.6796 0.6659 0.656 0.6726 0.6397 0.5913

最高溫度 0.0023 0.0031 0.0028 0.002 0.0023 0.0023 0.0014

最低溫度 0 0.0003 0.0006 0.0003 0.0006 0.0003 0.0003

天氣 0 0 0 1 0.5 0 0

5.實驗仿真結果

5.1 參數設計

（1）BP神經網絡：學習速率η=0.1，學習目標ε=0.00001，最大循環次數100次。

（2）ELMAN神經網絡：訓練次數300次，mc的值為0.9，自適應學習速率初始學習速率為0.01，訓練目標為0.0001，學習速度增長比例因子為1.05，學習速率下降比例因子為0.7，最大確認失敗次數為5。

（3）PSO算法：種群規模N=20，最大進化次數為100次，慣性權重ω從0.9到0.4線性減小。

（4）本文以前20天每個時辰的負荷值作為訓練樣本集數據，以第21天的每個時辰的負荷值作為測試樣本集數據。

5.2 實驗結果

圖1 經PSO算法優化的BP、ELMAN網絡預測輸出與期望輸出比較

通過實驗我們可以看出：

從圖1中可以明顯看出，經PSO-ELMAN神經網絡預測值與期望值十分接近，預測效果要明顯好于經PSO―BP神經網絡預測的結果，經PSO-BP神經網絡預測誤差平均值為0.031792，而PSO-ELMAN神經網絡預測誤差平均值為0.016792。PSO-ELMAN網絡預測結果要比PSO-BP網絡預測結果精度高得多。

參考文獻

篇7

關鍵詞： FPGA； BP神經網絡； 線性擬合； 非線性擬合； 自適應訓練

中圖分類號： TN702.2?34； TP183 文獻標識碼： A 文章編號： 1004?373X（2016）15?0115?04

Abstract： Using software for neural network has the disadvantages of low parallelism and slow speed， the hardware design resource utilization of the traditional neural network is high， and the network training is uncontrollable. To solve these problems， a new FPGA?based design method of back propagation （BP） neural network is proposed. The method can realize the Sigmoid excitation function through piecewise linear fitting and nonlinear fitting based on symmetry， and uses the finite state machine （FSM） to accomplish the training times adaption based on error. The Verilog HDL language is used to design the 1?3?1 BP neural network to approximate the function [y=cosx.] The resource occupancy of the network is 2 756 LEs， the training times are 1 583， the average relative error of the network test sample is 0.6%， and the maximum clock frequency is 82.3 MHz. The verification results show that the neural network designed with the method has the advantages of less resource occupancy， high accuracy and fast running speed， and can control the network training automatically.

Keywords： FPGA； BP neural network； linear fitting； nonlinear fitting； adaptive training

0 引 言

人工神經網絡（ANNs）[1]通常都是采用基于軟件的方法實現。但作為一個并行計算系統，軟件實現的方法存在速度慢的缺點，而硬件方式具有高并行性的特點，適合于人工神經網絡。FPGA作為一種通用的硬件設計平臺，其內部分布式的資源與神經網絡的結構非常契合，是一個實現神經網絡硬件化設計的良好選擇。

資源占用是FPGA設計的一個重要考量因素，而網絡訓練是神經網絡功能實現的基礎。已有的神經網絡硬件設計工作在這兩方面還存在巨大的空間。例如，薛維琴等利用FPGA實現了BP神經網絡[2]，該網絡經過訓練能夠描述非線性函數，但沒有提出BP神經網絡的激勵函數和訓練控制模塊的具體硬件實現方法。李利歌等提出了直接利用查找表實現神經網絡激勵函數的方法[3]，但是查找表存在占用資源大，運行速度慢的缺點。張海燕等采用基于查找表的STAM算法實現神經網絡激勵函數[4]，且文中也沒有提到訓練控制模塊。Javier Valls等提出利用CORDIC算法實現神經網絡的激勵函數[5]，資源利用率低，但是存在精度不足的問題。劉培龍利用分段擬合實現激勵函數[6]，但是激勵函數資源占用較多。

基于這一現狀，本文通過對Sigmoid函數基于對稱性分段擬合以及基于誤差的訓練自適應技術，提出了一種新的神經網絡FPGA設計方法。該方法設計的神經網絡資源占用少，網絡訓練自適應，同時還具有精度高，運行速度快的優點。

1 BP神經網絡的FPGA設計

根據BP神經網絡的結構，本文將網絡劃分為神經元模塊、激勵函數模塊、誤差計算模塊，權值更新模塊、權值存儲模塊以及自適應網絡訓練模塊。圖1給出了不同功能模塊之間的連接和訓練過程。其中，權值存儲模塊和輸入神經元將輸入層的權值以及訓練的樣本輸入到隱含層神經元進行乘累加運算，其結果輸入到激勵函數模塊得到激勵函數輸出，該輸出和隱含層的權值作為輸出層神經元的輸入得到本次訓練結果。該結果再經過誤差計算模塊計算誤差值和權值改變量。權值改變量在權值更新模塊中得到新權值存入到權值存儲模塊。誤差值輸入到自適應網絡訓練模塊判斷網絡訓練是否達到最優。網絡訓練達到最優前，該過程循環，當網絡訓練達到最優，自適應訓練模塊控制網絡停止訓練。

系統中神經元模塊、誤差計算模塊、權值更新模塊按照BP網絡算法規則可調用加、乘、乘累加等功能模塊，權值存儲模塊可調用RAM模塊。激勵函數模塊和自適應訓練模塊關乎系統資源占用及訓練過程的實現，是本文BP神經網絡FPGA設計的重點。

1.1 激勵函數模塊設計

激勵函數模塊是影響整個神經網絡資源利用的主要因素之一，在保證誤差足夠小的前提下，激勵函數模塊資源占用越小越好。

式中含有指數運算，較難在FPGA 中直接實現。利用Sigmoid函數具有對稱性以及較好的線性區域和非線性區域分界的特點，本文提出一種資源占用小、精度高的基于對稱性分段擬合的激勵函數硬件實現的方法。

考慮到Sigmoid函數的對稱性，只需完成[x>0]的區域硬件實現，根據對稱性即可求出[x0]區域，根據Sigmoid函數線性區域和非線性區域分界良好的特點，分別采用線性擬合和非線性擬合的方法分段逼近。具體而言，如圖2所示，將整個激勵函數模塊分為預處理模塊、函數逼近模塊以及最終輸出模塊三個子模塊。

1.1.1 預處理模塊

激勵函數的輸入[x]為16位定點數，最高位為符號位，中間五位為整數部分，后十位為小數部分。當[x]輸入到激勵函數模塊時，首先進行預處理。截取二進制輸入[x]的最高位判斷[x>0]或者[x0]時，[x=x，]將[x]輸入到后續處理模塊，若判斷出[x

1.1.2 函數逼近模塊

基于對輸入[x]的預處理，此子模塊只需要對[x>0]的情況做線性擬合和非線性擬合。分段逼近函數如表1所示。

1.1.3 最終輸出模塊

最終輸出模塊由預處理模塊輸出的控制信號控制。若[x>0，]則控制信號控制最終輸出模塊直接輸出函數逼近模塊中[x]對應的輸出[fx；]若[x

1.1.4 激勵函數模塊分析

按照上述設計方法完成激勵函數模塊的設計后，對激勵函數模塊進行功能仿真和誤差分析。從-8～8以0.001為間隔生成測試數據輸入到激勵函數模塊，得到的ModelSim仿真結果如圖3所示，其各區間絕對誤差如表2所示。從中可以看出，各區間的誤差值均很小且誤差分布較為平均，體現出良好的逼近效果。

1.2 自適應訓練模塊設計

網絡訓練是神經網絡功能實現的基礎。神經網絡隨著訓練的進行，權值逐漸改變，誤差逐漸減小，但如果網絡訓練不能適時結束，造成過度訓練，則網絡性能會變差。然而對網絡訓練的控制在硬件上并不易設計，故很多工作未討論這一點或簡單的以固定周期來完成訓練。本文提出了一種基于可容忍誤差值的自適應網絡訓練硬件設計方法，可有效的自動控制神經網絡訓練過程。

分析神經網絡的訓練過程，每一次輸入樣本值都會在本次訓練完成時得到一個誤差值，當誤差在可以容忍的范圍內可以認為網絡已經訓練完成。認為在給定的可容忍誤差值的情況下，如果連續兩次整個樣本集輸入得到的誤差絕對值都要比給定的可容忍誤差值要小，則該神經網絡訓練已經達到最優。根據這個思想，提出利用有限狀態機實現自適應網絡訓練。

如圖4所示，有限狀態機的狀態數是樣本集中樣本數的兩倍，狀態機初始為零狀態。當某一次訓練得到的誤差絕對值小于可容忍誤差值時，狀態機進入第一個狀態。若緊鄰的下一次訓練得到的誤差絕對值也小于可容忍誤差值，狀態機進入下一個狀態，否則狀態機狀態回到第0個狀態。當狀態機跳轉到最后一個狀態時，網絡訓練完成，此時輸出控制信號控制權值存儲模塊停止權值更新，提示信號提示訓練完成。該模塊的分析需要結合網絡中的其他模塊，故測試結果在下一節中給出。

2 驗證和分析

2.1 驗證平臺

根據上述方法，設計了一個1?3?1三層BP神經網絡驗證其性能。驗證平臺為Altera公司的EP2C70F896C6。

以[y=cosx]函數為學習對象，從[0～2π]之間以[0.062 5π]為間隔選取33個樣本組成樣本集，隨機選取其中25個作為訓練樣本，剩下8個作為測試樣本。神經網絡的初始權值和閾值的選取具有一定的隨機性，根據網絡需要逼近的函數數值大小，輸入層到隱含層的初始權值矩陣[W1=[2.5，0.5，-0.3]，]隱含層到輸出層的初始權值矩陣[W2=[0.35，0.4，0.3]，]隱含層閾值選為[0.2，0.3，0.4]，輸出層閾值選為[0.3]。隱含層的學習率設為0.4，輸出層的學習率設為0.3，容忍誤差設為0.01。

2.2 結果分析

ModelSim仿真得到的結果如圖5所示，從圖5中可以看出該BP神經網絡的訓練是自適應的。當網絡訓練到最優時，產生一個控制信號和一個提示信號以及網絡訓練的次數，此時權值存儲器的值不再變化，訓練完成。

25個訓練樣本集訓練的平均誤差為0.003，分析8個測試樣本集的誤差，如表3所示。從表3中可以看出，其誤差與訓練數據的誤差大體相當且均很小。計算測試樣本的平均相對誤差為0.6%，小于1%，說明該方法實現的基于FPGA的BP神經網絡精度較高。

將該網絡下載至Altera公司EP2C70F896C6的FPGA中，其最高時鐘頻率為82.3 MHz，可見該方法具有運行速度快的優點。將該神經網絡資源占用情況與已有相關工作的資源占用情況作對比，如表4所示。雖然其中各設計的規模和平臺有所差異（如1 Slice≈4 LEs），但仍可估算出即便添加了自適應訓練模塊，本設計對資源的占用依然較低。

從表5中可以看到，當學習對象不同時，網絡訓練的次數也不同，實現了訓練過程的自適應。由此亦可推至，若采用傳統的預設固定次數的方式完成訓練，則對于不同學習對象難免會造成訓練不充分或過度訓練的情況，從而影響網絡的性能。因此，該表也進一步證明了該設計自適應訓練的優越性。

3 結 論

本文以典型的BP神經網絡為例，提出了一種自適應訓練的神經網絡FPGA設計方法。通過對Sigmoid激勵函數基于對稱性做分段擬合減少了資源占用，使用基于可容忍誤差完成了網絡訓練自適應。該方法設計的神經網絡具備訓練可控、資源占用低、精度高的優點。此方法不僅適合于 BP網絡，也可推廣至采用Sigmoid函數及需要訓練控制的其他類型的神經網絡。

注：本文通訊作者為常勝。

參考文獻

[1] 蔣宗禮.人工神經網絡導論[M].北京：高等教育出版社，2001：15?16.

[2] 薛維琴，李莉華，戴明.基于FPGA的人工神經網絡系統的實現方法[J].電子設計工程，2010，18（9）：151?154.

[3] 李利歌，閻保定，侯忠.基于FPGA的神經網絡硬件可重構實現[J].河南科技大學學報（自然科學版），2009，30（1）：37?40.

[4] 張海燕，李欣，田書峰.基于BP神經網絡的仿真線設計及其FPGA實現[J].電子與信息學報，2007，29（5）：1267?1270.

[5] VALLS J， KUHLMANN M， PARHI K K. Evaluation of CORDIC algorithms for FPGA design [J]. Journal of VLSI signal processing， 2002， 32（3）： 207?222.

篇8

關鍵詞： 小波神經網絡； 網絡流量； 預測研究； 訓練樣本

中圖分類號： TN711?34 文獻標識碼： A 文章編號： 1004?373X（2016）23?0098?02

Research on network traffic prediction based on wavelet neural network

LI Xin， SUN Shanshan

（College of Information Engineering， Suihua University， Suihua 152000， China）

Abstract： The relevant theory and method of wavelet neural network are used to establish and predict the network traffic situation of a certain uptown. The acquired network traffic change situation is used as the training sample of the wavelet network to realize the traffic prediction of the network. The simulation results show that the constructed wavelet neural network model has high precision to predict the network traffic.

Keywords： wavelet neural network； network traffic； prediction research； training sample

0 引 言

隨著互聯網規模的不斷增大以及各種網絡“新應用”、“新服務”的不斷涌現，網絡信息變得越來越龐大和多變，對網絡訪問流量進行精確地預測從而實現對網絡運行狀態的有效管理，已經逐步成為目前的一個研究熱點。網絡流量預測是實現網絡控制、網絡規劃，保證網絡安全以及提高網絡服務質量的重要前提。

網絡流量具有自相似性、長相關性和多重分形性等復雜性質，對其進行精確地預測一直以來都是一個難點。目前，常見的網絡流量預測方法主要有自回歸分析法、馬爾科夫分析法、分形布朗運動分析法和神經網絡分析法。與前面三種傳統方法相比，利用神經網絡對網絡流量進行預測具有預測精度高、方法簡單、泛化性強和穩定性好的特點，正在逐步成為網絡流量預測研究中的主流方法。

文獻[1]根據網絡流量的變化特征，基于BP神經網絡提出了一個P2P網絡流量預測模型，實現了網絡流量的較高精度預測。文獻[2]結合小波變換和人工神經網絡的優勢，建立一種網絡流量預測的小波神經網絡模型，通過將流量時間序列進行小波分解，獲得了網絡的訓練和驗證樣本，試驗表明采用這種方法進行流量預測，要比直接采用神經網絡對樣本進行預測的精度高。文獻[3]根據網絡流量自身的特征，研究了BP神經網絡和小波神經網絡在校園流量預測中的應用，其所建立的模型，經仿真驗證證明，可以較好地預測學校網絡的流量變化情況，可以為校園網絡的規劃和管理提供一定參考。

小波神經網絡是一種以BP神經網絡拓撲結構為基礎，把小波基函數作為隱含節點的傳遞函數，其拓撲結構如圖1所示。它類似于BP神經網絡權值修正算法，采用梯度修正法修正網絡的權值和小波基函數參數，從而使小波神經網絡預測輸出不斷逼近期望輸出[4?5]。

采用小波神經網絡進行網絡流量預測的基本流程如圖2所示。

1 網絡流量預測

1.1 試驗數據來源

采用網絡流量監測軟件對某小區的網絡流量進行實時采集，得到了該小區5天內的網絡流量數據，每隔15 min記錄一次該時間段內的網絡流量值，一共獲得了480個時間點的數據。用4天共384個網絡流量的數據訓練小波網絡，最后用訓練好的小波神經網絡預測第5天的網絡流量。為了避免局部數值偏移造成的誤差，本文采用編組的方式提高模型預測精度，用前三個時間點的網絡流量來綜合預測后一個時間點的網絡流量情況[6?7]。

圖1 小波神經網絡的拓撲結構

圖2 小波神經網絡進行預測的流程圖

1.2 構建小波神經網絡模型

本文采用的小波基函數為Mexican Hat小波基函數，其表達式為：

[ψ（t）=（1-t2）e-t22ψ（ω）=2πω2e-ω22]

函數的時域和頻域波形圖如圖3所示[7?8]。

圖3 Mexican Hat函數的時域和頻域特征

本文采用的小波神經網絡結構為3?5?1；輸入層有3個節點，表示預測時間節點前3個時間節點的網絡流量；隱含層有5個節點；輸入層有1個節點，為預測的網絡流量。設置網絡預期誤差值為[1×10-2，]將訓練數據輸入到Matlab軟件中進行訓練，訓練過程中小波神經網絡的誤差變換情況如圖4所示。由圖4可知，該小波神經網絡經過58步運算后收斂到預定精度要求。

用訓練好的小波神經網絡對該小區內第五天的網絡流量情況進行預測，預測結果與交通流量的實際值比較如圖5所示。在圖5中，加“*”曲線對應預測數據，加“[]”曲線對應實際數據，可以看到小波神經網絡可以較好地預測網絡流量。

為了進一步分析仿真結果，采用絕對值誤差均值（MAE）和絕對百分比誤差均值（MAPE）兩個指標進行評價分析，其中MAE和MAPE分別用下式計算[9]：

[MAE=1ni=1nxi-xiMAPE=1ni=1nxi-xixi×100%]

式中：[xi]表示模型的預測值；[xi]表示模型預測值的算術平均值；[n]為樣本數。

小波神經網絡的MAE和MAPE值如表1所示。

從表1可以看出，本文構建的小波神經網絡的MAE值在3.36 GB左右，而MAPE值小于0.1，說明該預測模型可以較好地預測網絡流量的變化情況，反應該小區的流量信息變化，為小區網絡的規劃和管理提供可靠的依據。

2 結 論

本文在網絡流量的預測研究中引入了小波神經網絡模型，利用收集到的某小區5天內的網絡流量變化數據作為訓練和測試樣本對構建的小波神經網絡進行訓練和測試研究。試驗結果表明，本文構建的小波神經網絡具有較高的預測精度，可以對該小區網絡的流量變化情況進行較高精度的預測。

參考文獻

[1] 韓志杰，王汝傳.一種新的 P2P 網絡流量預測模型[J].計算機科學，2008（9）：39?14.

[2] 雷霆，余鎮危.一種網絡流量預測的小波神經網絡模型[J].計算機應用，2006（3）：526?528.

[3] 張昕.校園網絡流量分析與預測研究[D].西安：西安電子科技大學，2012.

[4] 王鳴，孫奕鳴.小波支持向量機的網絡流量預測研究[J].計算機仿真，2012，29（11）：198?201.

[5] ZHANG Li， ZHOU Weida， JIAO Licheng. Wavelet support vector machine [J]. IEEE transactions on systems， man， and cybernetics， 2004， 34（1）： 34?39.

[6] 鄧遠.BP神經網絡評價方法在交通流量評價方面的應用[J].中國交通，2011，35（5）：146?151.

[7] 李遠航.網絡流量預測技術的應用[J].計算機工程應用研究，2014，34（1）：131?138.

篇9

關鍵詞：人工神經網絡；機械工程；應用

中圖分類號：TP183文獻標識碼： A

1 人工神經網絡類簡介

人工神經網絡（Artificial Neural Networks)是采用物理可實現的系統來模仿人腦神經細胞的結構和功能。它反映了生物神經系統的基本特征，是對生物神經系統的某種抽象、簡化與模擬。人工神經網絡早在20 世紀 40～50 年代已被提出，但直到 20 世紀 80 年代后期，該技術才被人們廣為重視并應用。神經網絡的特征有：

1） 非線性。人類大腦的智慧就是一種非線性現象。處理元素處于激活或抑制兩種不同的狀態，這在數學上就是一種非線性關系。利用神經網絡可以實現多變量之間的多種非線性映射，因而可以描述大規模非線性復雜系統。

2） 自學習自適應能力。神經網絡經過前期的訓練，能夠處理大量信息，并允許信息是變化的。除此以外，神經網絡在處理信息的同時，能夠總結、綜合輸入信息和輸入信息以及已有信息之間的規律，采用迭代過程優化自身的拓撲關系，豐富自身的知識和經驗，從而提高處理分析數據的能力。

3）并行性。輸入到神經網絡中的信息是各處理元素并行處理的?，F代計算機CPU相當于計算機的司令部，所有指令由CPU一條一條發出，串行工作。工作量很大時，效率必然很低。而神經網絡所不同的是，每個處理元素相當于一個獨立的微型CPU，各自獨立地從其他處理元素采集數據，分析綜合后再輸入到其他神經元素。各個神經元素相互獨立，又相互配合，無統一指揮。神經網絡這一特性，使其對信息的響應和處理效率大大提高。

4） 分布式信息存儲。神經網絡的信息存儲不是分別存儲在各個處理元素中，而是存儲在處理元素之間的拓撲關系中。處理元素之間不同行的聯接方式反映了不同的存儲信息。輸入的信息在神經網絡中傳播、調整，直到找到與之最佳匹配的存儲信息。在這一過程中，神經網絡各部分信息相互補充，相互支持，并可以為不完整的信息找到最佳匹配。因此，神經網絡具有很強的聯想能力和容錯能力。

2 、神經網絡在機械工程中的應用

2.1 CAD技術

目前，CAD技術已經從傳統的繪圖功能發展為集需求分析、原理方案設計、初步結構設計與分析、詳細設計、工程分析、工藝設計等功能于一身的CAD專家系統。但CAD專家系統存在自身缺陷。第一，知識的獲取存在“瓶頸”，主要來源于專家。第二，知識量越豐富，推理鏈越長，效率越低。第三，求解問題所需知識超出其知識庫，系統無能為力。而神經網絡的應用彌補了上述缺陷。其知識的獲取一部分通過前期訓練，另一部分通過自身實踐。其信息處理過程是在自身知識網絡中尋找最佳匹配的過程，冗余知識耗用時間少。再有，神經網絡的聯想能力和容錯能力使其處理問題時能夠克服自身知識量的約束?？梢?，神經網絡可作為CAD專家系統很好的補充。

2.2 機械優化設計

機械優化設計，就是根據機械設計的規范，從設計問題中抽象出數學模型，采用數學歸納法和計算機技術，在約束條件下求目標函數的最優解。可應用于機械優化設計的主要有 BP 神經網絡、反饋神經網絡。

BP 神經網絡BP 神經網絡是一種應用比較廣泛的人工神經網絡，是模仿大腦神經網絡結構和功能而建立的一種新型智能信息處理系統。它通過對人腦的形象思維、聯想記憶等的模擬和抽象來實現與人腦相似的識別、記憶等信息處理功能。BP 網絡具有較強的自適應性和自組織性、高度并行信息處理能力、強大的非線性映射能力，硬件實現后分類速度快，可以快速準確的實時處理等。根據 Kosmagoro定理：在有合理的結構和恰當權值的條件下，三層前饋網絡可以逼近任意的連續函數，所以從簡捷實用的角度一般只選取一個隱層。標準的 BP 網絡相鄰兩層的神經元之間全連接，每層內的神經元沒有連接。機械優化設計中，可利用 BP 神經網絡的非線性映射能力進行機械系統的結構優化設計和多目標優化設計。利用BP 神經網絡模型還可以進行機械產品的多目標優化設計。利用BP神經網絡的非線性映射能力，在進行優化設計時，可以避開確定各個目標函數的權重，較為有效地進行多目標優化設計。其方法是：首先根據產品的具體情況構造一個 BP 神經網絡，以各個設計變量作為這個神經網絡的輸入向量，以各個分目標函數作為這個神經網絡的輸出向量，利用已有的經驗數據訓練該網絡，確定網絡各個聯接的聯接權重，即確定設計變量空間到目標函數空間的映射關系，然后在進行系列產品設計時，根據業已確定的設計變量空間到目標函數空間的映射關系，確定各個設計變量的取值，從而達到新產品的綜合性能最優，達到多目標優化設計的目的。

2） 反饋神經網絡

1982 年，美國加州理工學院生物物理學家 J.Hopfield，提出了模擬人腦聯想記憶功能的神經網絡模型- 反饋神經網絡。該神經網絡模型是由一些相互雙向連接的神經元組成，每個聯接有一個權值。網絡中每個神經元的輸出均反饋到同一層次其它神經元的輸入上。由這種拓撲結構構成的網絡在沒有外部輸入的情況下，網絡自身狀態的演化使得網絡收斂到一個穩定態；在該穩定狀態下，兩神經元之間的聯接權值相等，網絡趨于平衡，Hopfield 等人將能量函數引入到該網絡結構中，并以此來判定該方法的穩定性。將 Hopfield 神經網絡模型應用到機械優化設計中，其關鍵是在機械優化設計問題與Hopfield 神經網絡模型之間建立一種對應關系，用人工神經網絡有效地表示優化設計中的設計變量、約束條件和目標函數，將該種神經網絡的動態演化過程與機械優化設計的在解空間尋優過程對應起來。

2.3 故障診斷

機械故障診斷在產品維修保養方面有廣闊的應用前景，受到廣泛重視。故障狀態信息和故障原因之間是一種非線性映射關系。而神經網絡對處理非線性復雜問題有獨特的優越性。首先，從傳感器獲得的信息是工況信息的集合，神經網絡可以從中提取出故障征兆信息，相當于濾波；然后利用聯想能力和自適應能力對故障征兆進行分析，從而判斷是否有故障或者故障類型；最后將處理結果作為輸出。

2.4 工況檢測與控制

機械加工制造過程中的參數如溫度、應力、振動、慣性力等具有復雜性和隨機性。傳統的精確數學模型應用受到一定限制。而神經網絡為復雜的非線性映射問題提供了解決辦法。神經網絡經過前期培訓和學習，對輸入的非線性復雜信號進行分析，識別出工藝系統的狀態，并根據經驗給出控制策略，實現在線控制，主動控制。

2.5 智能控制與機器人工程

對于可抽象精確數學模型的問題，傳統的控制方法已非常有效，但對于復雜的控制系統，如機器人控制系統，很難建立精確數學模型。其接受的信號為非確定的非線性信號。利用神經系統的自適應性，充分逼近已有數學模型，利用自身組織能力迅速作出反饋，其聯想能力和容錯能力大大提供了系統處理不確定信號的能力。因此，可作為機器人的自適應控制器。此外，神經網絡在可靠性設計、自動設計、專家系統、幾何建模等方面也得到較廣泛的應用。

3 結語

隨著人工神經網絡相關理論的研究，更多優化網絡模型的建立，以及計算機技術的發展，神經網絡在機械方面會得到更加充分的利用。從而為機械產品在設計、制造、評估、使用和維護等階段提供巨大便利，推動機械制造業向前飛速發展。

參考文獻

[1]徐秉錚.神經網絡理論與應用.廣州：華南理工大學出版社.

[2]黃洪鐘，黃文培，王金諾.神經挽留過技術在機械工程中的應用與展望.機械科學與技術，1995.4

篇10

【關鍵詞】人工神經網絡；故障診斷；模式識別；Matlab軟件

一、人工神經網絡綜述

BP神經網絡是目前應用最為廣泛和成功的神經網絡之一，它是由一個輸入層，一個或多個隱層以及一個輸出層組成，上下層之間實現全連接，而每層神經元之間沒有連接。網絡的學習過程包括信號正向傳播和誤差反向傳播。在正向傳播進程中，輸入信息從輸入層經隱層加權處理傳向輸出層，經功能函數運算后得到的輸出值與期望值進行比較，若有誤差，則誤差反向傳播，沿原先的連接通道返回，通過逐層修改各層的權重系數，減小誤差。隨著這種誤差逆向傳播修正的不斷進行，網絡對輸入模式響應的正確率也不斷上升。

二、人工神經網絡的識別、診斷過程

滾動軸承在設備中是比較典型的，本文以滾動軸承的故障識別、診斷為例。進行模式識別的大體步驟為：首先對經過零均值化后的振動信號數據進行時域、頻域分析，將篩選后的有效時域、頻域特征值作為人工神經網絡輸入層的輸入，經Matlab軟件進行神經網絡的訓練，最后可得出一個可以識別軸承工作狀態的神經網絡，進而可以對滾動軸承進行模式識別?？梢姴捎谜駝有盘枡z測法對機器設備進行故障診斷的過程包含信號采集、特征提取、狀態識別、故障分析和決策干預等五個基本環節，在滾動軸承故障診斷中，振動信號的采集是關鍵，保證信號采集的準確性、合理性和實時性是正確實現故障診斷的前提。（1）信號采集。每臺機器設備都有自身的固有頻率，若設備發生故障，其頻率變化，其振動信號也會發生變化。因此，振動信號可以作為故障診斷的一個重要標準。在信號采集中主要用到加速度傳感器、電荷放大器、帶濾波的A/D轉換器。先通過壓電式加速度傳感器對振動信號進行拾取，然后經過電荷放大器及通過帶濾波的A/D轉換電路得到微機可以識別的數字信號，從而實現振動信號的采集。（2）特征值提取。為了便于觀察，要把采樣點的值分布在0附近，故先對采集的采樣點值進行零均值化。用matlab對零均值化后的的采樣點進行時域、頻域分析。時域分析是計算振動信號的在時域范圍內的特征參數，包括：平均值、方差、均方根、峰值峰值因子、峭度系數等參數。頻域分析是對零均值化后數據進行傅里葉變換，繪制頻譜圖，對不同樣本故障軸承和正常軸承的頻譜圖進行對比，找出幅值差別比較明顯的幾組，作為頻域分析的特征值。由于各個特征值的幅值大小不一致，不便于比較同一特征值在不同樣本之間的差異，所以對所有有效特征值進行歸一化，歸一化后的結果可以作為神經網絡的輸入值。（3）模式識別和故障分析。在狀態檢測過程中，樣本數據來源于實驗數據分析后提取的有效特征值，這些有效的特征值作為神經網絡的輸入。神經網絡的輸出為軸承狀態，分為正常軸承和故障軸承（也可以把故障具體分，比如內圈、外圈、滾動體故障等），可以用（0 1）表示正常軸承，（1 1）表示故障軸承，因此網絡中設計2個輸出神經元表示這2個狀態。對軸承的不同狀態進行識別，建立神經網絡對它進行訓練，可以用公式（其中是輸入層神經元數，是隱層神經元數）大體的計算出隱層神經元層數。我們設計一個隱層可以隨意改變的BP神經網絡，通過誤差對比確定隱層數目。設定神經網絡的隱含層神經元的傳遞函數為tansig，輸出層神經元的傳遞函數為logsig，目標誤差為0.001，最大訓練步數為1000。由以上設計寫出網絡訓練代碼，經Matlab運行，找出網絡誤差最小所對應層數，該層數作為神經網絡的隱層。

確定神經網絡的隱層后便可確定神經網絡的最終結構，下一步就要對網絡進行訓練，使人工神經網絡所產生的網絡誤差小于目標誤差，對神經網絡訓練好以后，接下來就是對軸承的測試，神經網絡測試代碼為：y=sim（net，測試數據）。把正常軸承和故障軸承的測試數據導入Matlab程序中，結果整理后可得（以實驗室中的一組實驗數據為例）：

用均值表示結果為：

把預先設定好的狀態值和測試后的結果進行比較，很清楚的可以辨別出正常軸承和故障軸承?？梢?，對機器設備或者系統的故障診斷實質是一個模式識別過程。利用神經網絡的模式識別能力，直接識別系統的當前模式，實現正常模式和故障模式之間、以及不同故障模式或不同故障程度之間的區分。

參 考 文 獻