神經網絡的前向傳播范文
時間：2023-10-31 17:58:54
導語：如何才能寫好一篇神經網絡的前向傳播，這就需要搜集整理更多的資料和文獻，歡迎閱讀由公務員之家整理的十篇范文，供你借鑒。
篇1
本文主要介紹了人工神經網絡的概念，并對幾種具體的神經網絡進行介紹，從它們的提出時間、網絡結構和適用范圍幾個方面來深入講解。
【關鍵詞】神經網絡 感知器網絡 徑向基網絡 反饋神經網絡
1 引言
人工神經網絡是基于對人腦組織結構、活動機制的初步認識提出的一種新型信息處理體系。它實際上是一個由大量簡單元件相互連接而成的復雜網絡，具有高度的非線性，能夠進行復雜的邏輯操作和非線性關系實現的系統，通過模仿腦神經系統的組織結構以及某些活動機理，人工神經網絡可呈現出人腦的許多特征，并具有人腦的一些基本功能，利用這一特性，可以設計處具有類似大腦某些功能的智能系統來處理各種信息，解決不同問題。下面對幾種具體的神經網絡進行介紹。
2 感知器網絡
感知器是由美國學者Rosenblatt在1957年首次提出的，感知器可謂是最早的人工神經網絡。感知器具有分層結構，信息從輸入層進入網絡，逐層向前傳遞到輸出層。感知器是神經網絡用來進行模式識別的一種最簡單模型，屬于前向神經網絡類型。
2.1 單層感知器
單層感知器是指只有一層處理單元的感知器，它的結構與功能都非常簡單，通過讀網絡權值的訓練，可以使感知器對一組輸入矢量的響應達到元素為0或1的目標輸出，從而實現對輸入矢量分類的目的，目前在解決實際問題時很少被采用，但由于它在神經網絡研究中具有重要意義，是研究其他網絡的基礎，而且較易學習和理解，適合于作為學習神經網絡的起點。
2.2 多層感知器
多層感知器是對單層感知器的推廣，它能夠成功解決單層感知器所不能解決的非線性可分問題，在輸入層與輸出層之間引入隱層作為輸入模式的“內部表示”，即可將單層感知器變成多層感知器。
3 線性神經網絡
線性神經網絡類似于感知器，但是線性
神經網絡的激活函數是線性的，而不是硬限轉移函數。因此線性神經網絡的輸出可以使任意值，而感知器的輸出不是0就是1。線性神經網絡最早的典型代表就是在1963年由美國斯坦福大學教授Berhard Windrow提出的自適應線性元件網絡，它是一個由輸入層和輸出層構成的單層前饋性網絡。自適應線性神經網絡的學習算法比感知器的學習算法的收斂速度和精度都有較大的提高，自適應線性神經網絡主要用于函數逼近、信號預測、系統辨識、模式識別和控制等領域。
4 BP神經網絡
BP神經網絡是1986年由以Rumelhart和McCelland為首的科學家小組提出的，是一種按誤差逆傳播算法訓練的多層前饋網絡，在人工神經網絡的實際應用中，80%～90%的人工神經網絡模型采用BP網絡或者它的變化形式，它也是前向網絡的核心部分，體現了人工神經網絡最精華的部分，BP神經網絡由信息的正向傳播和誤差的反向傳播兩個過程組成。輸入層各神經元負責接收來自外界的輸入信息，并傳遞給中間層各神經元；中間層是內部信息處理層，負責信息變換，根據信息變化能力的需求，中間層可以設計為單隱層或者多隱層結構；最后一個隱層傳遞到輸出層各神經元的信息，經過一步處理后完成一次學習的正向傳播處理過程，由輸出層向外界輸出信息處理結果。當實際輸出與期望輸出不符時，進入誤差的反向傳播階段。誤差通過輸出層，按誤差梯度下降的方式修正各層權值，向隱層、輸入層逐層反傳。周而復始的信息正向傳播和誤差反向傳播過程，是各層權值不斷調整的過程，也是神經網絡學習訓練過程，此過程一直進行到網絡輸出的誤差減少到可以接受的程度，或者達到預先設定的學習次數為止。
BP網絡主要應用于以下方面：
（1）函數逼近：用輸入矢量和相應的輸出矢量訓練一個網絡逼近一個函數。
（2）模式識別：用一個特定的輸出矢量將它與輸入矢量聯系起來。
（3）分類：對輸入矢量以所定義的合適方式進行分類。
（4）數據壓縮：減少輸出矢量維數以便于傳輸或存儲。
5 反饋神經網絡
美國加州理工學院物理學家J.J.Hopfield教授于1982年發表了對神經網絡發展頗具影響的論文，提出一種單層反饋神經網絡，后來人們將這種反饋網絡稱作Hopfield網。在多輸入/多輸出的動態系統中，控制對象特性復雜，傳統方法難以描述復雜的系統。為控制對象建立模型可以減少直接進行實驗帶來的負面影響，所以模型顯得尤為重要。但是，前饋神經網絡從結構上說屬于一種靜態網絡，其輸入、輸出向量之間是簡單的非線性函數映射關系。實際應用中系統過程大多是動態的，前饋神經網絡辨識就暴露出明顯的不足，用前饋神經網絡只是非線性對應網絡，無反饋記憶環節，因此，利用反饋神經網絡的動態特性就可以克服前饋神經網絡的缺點，使神經網絡更加接近系統的實際過程。
Hopfield神經網絡的應用：
（1）在數字識別方面。
（2）高校科研能力評價。
（3）應用于聯想記憶的MATLAB程序。
6 徑向基神經網絡
徑向基RBF網絡是一個3層的網絡，除了輸入、輸出層之間外僅有一個隱層。隱層中的轉換函數是局部響應的高斯函數，而其他前向網絡，轉換函數一般都是全局響應函數。由于這樣的差異，要實現同樣的功能，RBF需要更多的神經元，這就是RBF網絡不能取代標準前向型絡的原因。但是RBF網絡的訓練時間更短，它對函數的逼近時最優的，可以以任意精度逼近任意連續函數。隱層中的神經元越多，逼近越精確。
徑向基網絡的應用：
（1）用于曲線擬合的RBF網絡。
（2）徑向基網絡實現非線性函數回歸。
7 自組織神經網絡
自組織競爭型神經網絡是一種無教師監督學習，具有自組織功能的神經網絡，網絡通過自身的訓練。能自動對輸入模式進行分類，一般由輸入層和競爭層夠曾。兩層之間各神經元實現雙向連接，而且網絡沒有隱含層。有時競爭層之間還存在著橫向連接。
常用自組織網絡有一下幾種：
（1）自組織特征映射網絡。
（2）學習矢量量化網絡。
（3）自適應共振理論模型。
（4）對偶傳播網絡。
參考文獻
[1]韓力群.人工神經網絡教程[M].北京：北京郵電大學出版社，2006.
[2]周品.神經網絡設計與應用[M].北京：清華大學出版社，2013.
作者簡介
孔令文（1989-），男，黑龍江省齊齊哈爾市人?，F為西南林業大學機械與交通學院在讀研究生。研究方向為計算機仿真。
篇2
關鍵詞：發電燃料；供應預測；BP神經網絡；預測方法
中圖分類號：TM 762 文獻標示碼：A
0 引言
發電燃料的供應受到能源政策、供需形勢、資源分布、供應價格、交通運輸、市場博弈等多種復雜因素的影響，長期以來缺乏合理有效的供應預測方法和技術手段，尤其是廠網分離后鮮見相關的研究工作。
文獻1《遼寧火電廠燃料管理信息系統的開發與研制》開發和研制了覆蓋遼寧全體直屬電廠燃料公司并同東電局進行廣域網數據交換，同時能進行審核管理和業務信息方便傳輸的燃料綜合管理信息系統。
文獻2《電力系統燃料MIS系統開發研究》探討了燃料管理信息系統的組成、功能、結構及開發應用，為綜述性理論研究。
以上文獻均未對發電燃料供應提供較有效的預測方法。本文提出一種基于BP神經網絡的發電燃料供應量預測方法，利用神經網絡原理，通過數據收集、數據修正和神經網絡結構選擇建立起基于BP神經網絡的發電燃料供應預測模型。通過MATLAB實際仿真，證明該預測方法預測較準確，并具有靈活的適應性。
基金項目：中國南方電網有限責任公司科技項目（K-ZD2013-005）
1 預測方法
按預測方法的性質不同，預測可分為定性預測和定量預測。常用的定性預測方法有主觀概率法、調查預測法、德爾菲法、類比法、相關因素分析法等。定量方法又可以分為因果分析法和時間序列分析法等，因果分析法也叫結構關系分析法。它是通過分析變化的原因，找出原因與結果之間的聯系方式，建立預測模型，并據此預測未來的發展變化趨勢及可能水平。時間序列分析法也叫歷史延伸法。它是以歷史的時間序列數據為基礎，運用一定的數學方法尋找數據變動規律向外延伸，預測未來的發展變化趨勢。由于時間序列模型無法引入對負荷影響的其它變量，所以，單純應用時間序列模型進行供應預測精度難以提高。
運用人工神經網絡技術進行預測，其優點是可以模仿人腦的智能化處理過程，對大量非結構性、非精確性規律具有自適應功能，具有信息記憶、自主學習、知識推理和優化計算的特點，特別是其自學習和自適應功能是常規算法和專家系統所不具備的，因此，預測是人工神經網絡的最有潛力的應用領域之一，有非常廣泛的前途。
2 BP神經網絡模型
2.1 人工神經網絡概述
人工神經網絡是由神經元以一定的拓撲結構和連接關系組成的信息表現、儲存和變換系統，是模仿人腦結構的一種信息系統，可較好地模擬人的形象思維能力。它是對自然界中生物體神經系統進行抽象和改造，并模擬生物體神經系統功能的產物。神經網絡的重要特點是具有記憶和學習能力，經過一定訓練之后，能夠對給定的輸入做出相應處理。
人工神經網絡適用于處理實際中不確定性、精確性不高等引起的系統難以控制的問題，映射輸入輸出關系。人工神經網絡優于傳統方法在于：
1）實現了非線性關系的隱式表達，不需要建立復雜系統的顯示關系式；
2）容錯性強，可以處理信息不完全的預測問題，而信息不完全的情況在實際中經常遇到；
3）由于神經網絡具有一致逼進效果，訓練后的神經網絡在樣本上輸出期望值，在非樣本點上表現出網絡的聯想記憶功能；
4）由于大規模并行機制，故預測速度快；
5）動態自適應能力強，可適應外界新的學習樣木，使網絡知識不斷更新。
圖1是一個人工神經元的典型結構圖。
圖1 神經元典型結構圖
它相當于一個多輸入單輸出的非線性閾值器件。，表示該神經元的輸入向量；為權值向量；θ為神經元的閾值，如果神經元輸入向量加權和大于0，則神經元被激活；f表示神經元的輸入輸出關系函數，即傳輸函數。因此，神經元的輸出可以表示為：
其中傳輸函數是神經元以及網絡的核心。網絡解決問題的能力與功效除了與網絡結構有關，在很大程度上取決于網絡所采用的傳輸函數。
幾種常見的傳輸函數如圖2所示：
（1）為閾值型，將任意輸入轉化為0或1輸出，其輸入/輸出關系為：
（2）為線性型，其輸入/輸出關系為：
（3）、（4）為S型，它將任意輸入值壓縮到（0，1）的范圍內，此類傳遞函數常用對數（logsig）或雙曲正切（tansig）等一類S形狀的曲線來表示，如對數S型傳遞函數的關系為：
而雙曲正切S型曲線的輸入/輸出函數關系是：
（1） （2）
（3） （4）
圖2 常見的傳遞函數圖形
2.2 BP神經網絡概述
神經網絡的魅力在于它超強的映射能力，單層感知器可實現性分類，多層前向網絡則可以逼近任何非線性函數?？梢詫P網絡視為從輸入到輸出的高度非線性映射，而有關定理證明BP神經網絡通過對簡單的非線性函數進行數次復合，可以近似任何復雜的函數。
在人工神經網絡的實際應用中，80%-90%的人工神經網絡模型是采用BP網絡和它的變化形式，它也是前向網絡的核心，體現了人工神經網絡最精華的部分。在人們掌握反向傳播網絡的設計之前，感知器和自適應線性元件都只能適用于對單層網絡模型的訓練，只是后來才得到進一步拓展。
BP神經網絡主要應用有：
（1）函數逼近：用輸入矢量和相應的輸出矢量訓練一個網絡逼近一個函數。
（2）模式識別：用一個特定的輸出矢量將它與輸入矢量聯系起來。
（3）分類：把輸入矢量以所定義的合適方式進行分類。
（4）數據壓縮：減少輸出矢量維數以便于傳輸或存儲。
2.3 誤差反向傳播算法原理
BP神經網絡是一種多層前饋神經網絡，名字源于網絡權值的調整規則，采用的是誤差反向傳播算法（Error Back-Propagation Training Algorithm）即BP算法。BP神經網絡是單向傳播的多層前向神經網絡。除輸入輸出節點之外，有一層或多層的隱藏節點，同層節點之間無任何連接。典型的BP網絡是三層前饋階層網絡，即：輸入層、隱含層（中間層）和輸出層，各層之間實行全連接。BP神經網絡結構如圖3所示：
圖3 BP神經網絡結構示意圖
BP網絡學習過程包括誤差正向傳播和反向傳播兩個過程。在正向傳播過程中，輸入樣本從輸入層傳入，經各隱含逐層處理后，傳向輸出層，每一層神經元的狀態只影響下一層神經元的狀態。若輸出層的實際輸出與期望的輸出不符，則轉入誤差的反向傳播階段。誤差反傳是將輸出誤差的某種形式通過隱含層向輸入層逐層反傳，并將誤差分攤給各層的所有單元，從而獲得各層單元的誤差信號，此誤差信號即作為修正各神經元之間權值的依據。這種信號正向傳播與誤差反向傳播的各層權值調整過程，是周而復始地進行的。權值不斷調整的過程，也就是網絡學習訓練的過程。此過程一直進行到網絡輸出的誤差減小到可接受的程度，或進行到預先設定的學習次數為止。
BP神經元與其他神經元類似，不同的是，由于BP神經元的傳遞函數必須是處處可微的，它不能采用二值型{0，1}或符號函數{-1，1}，所以其傳遞函數為非線性函數，最常用的函數S型函數，有時也采用線性函數。本文采用S型（Sigmoid）函數作為激發函數：
式中，為網絡單元的狀態：
則單元輸出為：
其中，為單元的閥值。在這種激發函數下，有：
故對輸出層單元：
對隱層單元：
權值調節為：
在實際學習過程中，學習速率對學習過程的影響很大。是按梯度搜索的步長。越大，權值的變化越劇烈。實際應用中，通常是以不導致振蕩的前提下取盡量大的值。為了使學習速度足夠快而不易產生振蕩，往往在規則中再加一個“勢態項”，即：
式中，是一個常數，它決定過去權重的變化對目前權值變化的影響程度。
圖4為BP算法流程圖。
圖4 BP算法流程圖
3 發電燃料供應預測BP神經網絡模型建立
3.1 數據的收集與整理
發電燃料供應是一個龐大的系統，其中的數據資料紛繁復雜。在進行模型的搭建之前，需要進行歷史資料的整理，提取出所需的數據。本模型中，選取與燃料供應有關的數據作為影響因素，如電廠發電量、能源政策、能源供需形勢、交通運輸狀況、燃料價格和機組能耗等。
3.2 數據的修正
如果在數據采集與傳輸時受到一定干擾，就會出現資料出錯或數據丟失的情況，此時都會產生影響預測效果的壞數據，這些壞數據將會掩蓋實際模型的規律，直接影響模型的效果與精度。據此，需對樣本數據進行預處理，以確保在建模和預測過程中所運用的歷史數據具有真實性、正確性和同規律性。一般樣本數據預處理方法主要有經驗修正法、曲線置換法、插值法、20%修正法、數據橫向縱向對比法、小波分析去噪法等。對于簡單問題，采用數據的橫向縱向對比即可實現壞數據的剔除。
3.3 BP神經網絡的結構選擇
理論證明，3層前向式神經網絡能夠以任意精度實現任意函數，所以，本模型中采用3層前向網絡。同時，當有N個影響時， 3層BP神經網絡的輸入層節點數為N個，隱含層節點數一般為2N ～ 4N，最佳取值可根據實際問題試湊得，輸出層為1個節點， 因此可以取其平均結構為N - 3N - 1型， 輸入層激發函數為線性函數， 中間層和輸出層的激發函數為S型函數。
3.4 BP神經網絡模型建立
對于實際的燃料供應模型，數據的選擇要有針對性，結構要合適，這在預測過程中是重中之重。為便于模型選擇、結果對比，可同時采用幾種不同的數學模型進行預測。在完成對恰當的預測模型的選擇后，利用提取自歷史資料的訓練數據對建立好的預測數學模型進行參數訓練。當模型的參數訓練好以后，即可利用此模型進行預測。
具體操作步驟如下：
（1）對訓練樣本與預測樣本進行歸一化預處理，公式表示如式（1）。
（1）
其中表示經過歸一化后的值，表示實際值，，分別是訓練集中數據的最大值和最小值，k表示輸入向量的維數，i表示有作用因素的個數。
（2）對預測的數據樣本進行提取，并分別列出訓練與測試的樣本集合。
（3）對BP神經網絡的輸入層、隱含層、輸出層的節點進行定義，對網絡的權重、閾值進行初始賦值。
（4）利用訓練樣本對BP神經網絡進行訓練，建立符合實際問題的模型。
（5）利用事先預備的測試樣本對訓練好的網絡進行測試，若效果不佳，則重新訓練，若效果好則繼續下一步。
（6）利用預測樣本及訓練好的模型進行預測。
具體流程圖如圖5所示：
圖5 模型建立流程圖
4 基于BP神經網絡模型的發電燃料供應預測
（1）樣本數據的選擇
以各類影響耗煤的因素作為輸入 。
（2）進行歸一化處理
避免量綱對模型的影響。同時，降低數據的數量級，可以提高BP網絡的訓練的速度，避免飽和。
（3）確定BP神經網絡的結構
3層BP神經網絡的輸入層節點為1個（可根據實際情況調整），對應于輸入樣本，隱含層節點為15，輸出層節點為1，對應于輸出樣本。網絡初始連接權及神經元初始閾值采用隨機賦值方式。神經元的激發函數為S函數，最大迭代次數為400，學習步長為0.001，學習誤差為0.00001。
（4）利用訓練樣本進行網絡的訓練
（5）利用測試樣本進行模型的測試
人為選定5%相對誤差為模型訓練好壞的判別標準。若測試樣本的測試結果的相對誤差在5%以內，則進行下一步，否則重新訓練。
（6）利用預測樣本和已訓練好的模型進行預測
南方電網全網發電燃料供應量預測結果值與實際值的對比如圖6所示：
圖6 南網全網發電燃料供應預測值與實際值對比圖
5 結論
隨著廠網分離的實施，電網公司和電力調度機構對發電燃料供應的掌握嚴重不足，已經不能滿足電力供應工作的要求，尤其是在來水偏枯、電力供應緊張的時期，發電燃料供應的預測對緩解電力供需矛盾、有序做好發用電管理起著舉足輕重的作用，因此，迫切需要開展發電燃料供應影響因素及預測方法的研究工作。
本文在收集、掌握發電燃料供應來源、價格、運輸等情況的基礎上，基于BP神經網絡研究建立發電燃料供應量的預測模型和預測方法。通過MATLAB仿真預測，對預測結果值和實際值進行了對標分析，證明該預測方法預測較準確，并具有靈活的適應性。本文的研究有利于提升發電燃料的管理水平和掌控力度，為合理有序做好電力供應工作提供有力支持。
參考文獻：
[1]孫長青.基于OSGI的發電集團燃料管控系統設計與實現[D].導師：陳有青.中山大學，2011.
[2]史新梅，裴珍.遼寧火電廠燃料管理信息系統的開發與研制[J].安徽工業大學學報，2001，（04）：359-362+366.
[3]付民慶.基于J2EE架構燃料管理信息系統的研究與實現[D].導師：申曉留.華北電力大學（北京），2008.
[4]魏學軍.DF電廠燃料管理信息系統的研究與應用[D].導師：胡立德；戴鶴.重慶大學，2008.
[5]孫文君.發電企業燃料自動監管系統設計及應用[D].導師：張慶超；關萬祥.天津大學，2010.
篇3
【關鍵字】混沌時間序列；BP神經網絡；負荷預測
引言
短期負荷預測工作是電力系統運行計劃的一個重要組成部分，是電力系統分析系統安全、安排生產計劃、進行實時調度的重要參考依據之一，其預測精度直接影響著電力系統的經濟效益。
1 電力負荷的混沌特性分析
1.1重構相空間
電力系統負荷數據是按照固定的時間間隔取樣而得到的離散時間序列。對于這樣的時間序列，Pakark和Takens等人提出了重構相空間的思想，該理論的基本思想：系統中全部分量的變化都是由與之相互作用著的其它分量的變化所決定的，所以全部分量的隱含信息就包含在與其相關聯的其它分量里。
假設負荷序列為：，將該序列嵌入到m維相空間中，會得到m維相空間下的相點如下：
（1）
式中，為延遲時間，表示由N個X點構成m維的相空間的點數為n。這樣就將單變量時間序列嵌入到了m維空間。
1.2延遲時間和嵌入維數m的確定
延遲時間和嵌入維數m的選取非常重要。的選取既不能太小也不能太大，其意義在于不僅要保持相空間軌跡的連續性，又要讓參加系統重構的相點盡可能的不相關。
延遲時間選取的方法有很多種，自相關函數法是選取延遲時間的最主要的方法。對于時間序列，N是序列的長度，自相關函數為：
（2）
當自相關函數出現到第一個極小值時，所得到的即為所求的最佳延遲時間，以某市2011年1-3月份的負荷數據作為歷史負荷數據，計算得延遲時間。
計算嵌入維數的一個非常簡單易行的方法是G-P算法。首先定義嵌入時間序列的關聯積分函數為：
是一個累積式的分布函數，當取某個定值之后，表示相空間中全部吸引子兩點之間的距離小于的概率。在一定范圍內，吸引子的關聯維數d與累積分布函數會滿足對數線性關系，即：
（3）
以某市2011年1-3月份的負荷數據作為歷史負荷數據，做出其關聯維數d隨m值的變化曲線，如圖1所示。
由上圖可知：當嵌入維數m=8時，吸引子維數d=3.419，并且此時吸引子維數d在一定誤差范圍內保持不變，所以，選擇此時的空間維數為重構相空間的最佳嵌入維數，即m=8。
2 BP神經網絡的結構和算法
2.1 BP神經網絡的結構
任意復雜的映射問題都可以用BP神經網絡實現，BP網絡是沒有反饋的前向網絡。前向網絡是多層映射網絡，每一層中的神經元都是只接受來自前一層神經元的信號，信號是單向傳播的。所以BP網絡也被稱作單向傳播的多層前向網絡。結構圖如圖2所示：
BP網絡除輸入輸出節點外，可以有一層或者多層隱含層節點，同層節點間沒有任何耦合。輸入信號從輸入層節點，依次傳過各隱含層節點，然后傳到輸出節點，每一層節點的輸出只影響下一層節點的輸出[1]。
圖3是單個神經元的結構圖，它是一個多輸入、單輸出的非線性元件，其輸入輸出關系可以描述為：
（4）
（5）
其中，i為前一層神經元，j為后一層神經元，k為前一層神經元的個數，I和O分別為神經元的輸入和輸出。
神經元的結構非常簡單，是神經網絡最基本的工作單元，所以它的處理能力也比較單一。但是大量這種結構簡單、功能單一的神經元所組成的神經元網絡卻有許多非常優越的特性。神經元網絡對信息的處理是由很多的神經元共同完成的，是一種集合的功能。大規模并行互連、非線性處理、互連結構的可變性等固有結構特性決定了神經網絡信息處理的快速性和強大功能[2]。
2.2 BP神經網絡算法
神經網絡中各神經元之間的連接權值決定了神經網絡卓越的信息處理能力。神經網絡具有學習功能才可以模擬人腦的信息處理能力。調整各神經元之間的連接權值就是學習的本質，不同的學習算法有不同的調整連接權值的方法[3]。
人們己經提出了多種神經網絡的學習規則，基本的有以下四種： .Hebbian學習規則、學習規則、概率式學習規則、競爭式學習規則[4]。
BP學習算法是學習規則的推廣和發展。學習規則的實質是利用梯度最速下降算法，使權值沿誤差函數的負梯度方向改變。
數據前向傳播和誤差后向傳播是BP網絡的兩個主要過程。數據前向傳播完成的是：當網絡的輸入給定時，它由輸入層單元送到隱含層單元，經隱含層單元逐層處理后再傳到輸出層單元，由輸出層單元處理后生成一個輸出。誤差后向傳播是：如果實際輸出響應和期望輸出響應的誤差不滿足精度要求，就將誤差值沿連接通路逐層向前傳輸并修正各層的連接權值[5]。
3 建立預測模型
由前面可知，對于時間序列，N是序列的長度。則將此時間序列重構相空間為：，n為重構相空間中相點的個數，。由前面的介紹可以得到：
（6）
運用BP神經網絡來擬合重構函數，最佳延遲時間和最佳嵌入維數m分別采用前面自相關函數法和G-P算法得到的計算結果，即最佳延遲時間，最佳嵌入維數m=8。首先設參考相點為，，之后從n個相點中根據空間歐式距離選擇出距離參考相點最近的k個相點為：。
其中，空間歐式距離的計算公式如下式：
（7）
這k個相點的數據作為訓練樣本的輸入，它們各自對應的作為目標樣本，就構成了訓練樣本集：
（8）
訓練樣本和目標樣本共同構成了訓練樣本集，這樣就可以訓練神經網絡了。至此，建立了基于混沌時間序列和BP神經網絡的預測模型。訓練完樣本之后，把參考相點作為神經網絡的測試樣本，則輸出數據就是神經網絡的預測結果。
4 算例分析
以某市2011年1-3月份的負荷數據作為歷史負荷數據，利用建立的基于混沌時間序列和BP神經網絡的預測模型，對該市2011年4月1日的電力負荷進行預測。表1列出了具體的預測結果以及相對誤差。
從表1可以看出最小誤差為0.32%，最大誤差為2.67%，誤差在0-1%的點有33.3%，誤差在1%-2%的點有41.7%，誤差在2%-3%的點有25%，沒有大于3%的點，平均相對誤差為1.44%。
5 結論
以上預測結果表明：利用基于混沌時間序列和BP神經網絡的預測模型進行短期電力負荷預測取得了精度很高的預測結果。證明了該預測方法的有效性和預測精度的可靠性。而且該方法可以不考慮風力、濕度、溫度等因素的影響，僅僅利用電力系統的歷史負荷數據就可以得到令人滿意的預測結果。但是，由于該模型的算例分析所使用的負荷數據是大型電網數據，對于小型電網的實用性還需作進一步的探討和驗證。
參考文獻：
[1]H. Chen and X. Yao， Regularized negative Correlation learning for neural network ensembles[J].IEEE Trans.Neural Networks， vol. 20， no. 12， pp. 1962–1979， 2009.
[2]S.J.Kiartzis，A.G.Bakirtzis，V.Petridis. Short Term Load Forecasting Using Neural networks[J].Electric Power Systems Research.1995，33（1）： 1-6.
[3]趙福成，基于人工神經網絡的短期負荷預測[D]. 華北電力大學碩士學位論文，2001.
篇4
旅游市場趨勢預測是旅游業發展戰略和旅游規劃與開發工作的重要基礎依據，一直是旅游市場研究中最重要的內容之一。根據市場趨勢預測的結果，旅游相關部門才可以制定合理的旅游規劃，進行旅游資源的優化配置。旅游市場趨勢預測是在對影響市場的諸因素進行系統調查和研究的基礎上，運用科學的方法，對未來旅游市場的發展趨勢以及有關的各種因素的變化，進行分析、預見、估計和判斷。
近年來，旅游研究者對旅游市場趨勢預測的方法進行了探索。目前主要有時間序列法、回歸分析法、指數預測法、人工神經網絡法。由于旅游市場的變化受到諸多因素的影響，導致旅游市場的趨勢預測難度較大，但我們對預測精度的要求卻越來越高。
本文是基于人工神經網絡方法，提出使用遺傳算法對人工神經網絡進行優化，探索更精確、更適用于旅游市場預測現實狀況的預測方法。
1 方法概述
人工神經網絡是近年來的熱點研究領域，是人類智能研究的重要組成部分，已經成為神經科學、計算機科學、認知科學、數學和物理學等多學科關注的熱點。其應用領域包括：分類、預測、模式識別、信號處理和圖像處理等，并繼續向其他領域延伸。
1.1 BP神經網絡
BP神經網絡是一種多層前饋神經網絡，該網絡的主要特點是信號前向傳遞，誤差反向傳播。在前向傳遞中，輸入信號從輸入層經隱含層逐層處理，直至輸出層。每一層的神經狀態只影響下一層神經元狀態。如果輸出層得不到期望輸出，則轉入反向傳播，根據預測誤差調整網絡權值和閾值，從而使BP神經網絡預測輸出不斷逼近期望輸出。
圖中，X1，X2，…，Xn是BP神經網絡的輸入值，Y1，Y2，…，Ym是BP神經網絡的預測值，wij和wjk為BP神經網絡權值。從圖可以看出，BP神經網絡可以看成一個非線性函數，網絡輸入值和預測值分別為該函數的自變量和因變量。當輸入節點數為n，輸出節點數為m時，BP神經網絡就表達了從n個自變量到m個因變量的函數映射關系。
1.2 遺傳算法
遺傳算法（Genetic Algorithms）是1962年由美國Michigan大學Holland教授提出的模擬自然界遺傳機制和重托進貨論而成的一種并行隨機搜索最優化方法。它把自然界“優勝劣汰，適者生存”的生物進化原理引入優化參數形成的編碼串聯群體中，按照所選擇的適應度函數并通過遺傳中的選擇、交叉和變異對個體進行篩選，使適應度值好的個體被保留，適應度差的個體被淘汰，新的群體既繼承了上一代的信息，又優于上一代。這樣反復循環，直至滿足條件。
1.3 遺傳算法優化BP神經網絡的流程
遺傳算法優化BP神經網絡分為BP神經網絡結構確定、遺傳算法優化和BP神經網絡預測3個部分。其中，BP神經網絡結構確定部分根據按擬合函數輸入輸出參數個數確定BP神經網絡結構，進而確定遺傳算法個體的長度。遺傳算法優化使用遺傳算法優化BP神經網絡的權值和閾值，種群中的每個個體都包含了一個網絡所有權值和閾值，個體通過適應度函數計算個體適應度。遺傳算法通過選擇、交叉和變異操作找到最優適應度值對應個體。BP神經網絡預測用遺傳算法得到最優個體對網絡初始權值和閾值賦值，網絡經訓練后預測函數輸出。
遺傳算法優化BP神經網絡是用遺傳算法來優化BP神經網絡的初始權值和閾值，使優化后的BP神經網絡能夠更好地預測函數輸出。遺傳算法優化BP神經網絡的要素包括種群初始化、適應度函數、選擇操作、交叉操作和變異操作。
1）種群初始化
個體編碼方法為實數編碼，每個個體均為一個實數串，由輸入層與隱含層連接權值、隱含層閾值、隱含層與輸出層連接權值以及輸出層閾值4部分組成。個體包含了神經網絡全部權值和閾值，在網絡結構已知的情況下，就可以構成一個結構、權值、閾值確定的神經網絡。
2）適應度函數
2 實證分析
旅游客流量與當地旅游硬件及軟件設施建設、各種交通設備的完善程度有著密切的關系。一個旅游地的交通設施完善程度決定了該景區的可進入性以及客源地到旅游地的時間距離，直接影響該景區游客量。此外，景區建設情況及旅游接待設施的建設情況決定著景區的吸引力。需要指出的是，由于信息傳達的特性，游客數量對景區旅游相關條件改善的反應具有延遲性的特點。本文中，采用2000 年以來北京旅客周轉量、人均GDP、全國交通、A級及以上景區個數、北京公共交通運營線路長度、北京市基礎投資，預測北京市旅游人數。
通過查詢中國國家統計局及北京市統計局相關資料，得到全國人均GDP、全國交通、北京市旅客周轉量、北京市A級及以上景區個數、北京市公共交通運營線路長度、北京市基礎投資數據，如表1所示。
根據遺傳算法和BP 神經網絡理論，在MATLAB 軟件中編程實現基于遺傳算法優化的BP神經網絡進行預測。預測誤差及真實值與預測值對比如圖2、圖3所示。
3 模型的評價
篇5
關鍵詞： BP神經網絡；價格預測；歸一化處理
期貨市場是一個不穩定的、非線性動態變化的復雜系統。市場上期貨合約價格的變動受金融、經濟、政治及投資者心理等眾多因素的影響，其過程具有非線性、混沌性、長期記憶性等特點。傳統的經濟模型大部分是線性模型，具有一定的局限性.而人工神經網絡則能很好地解決這個問題。
一、BP神經網絡原理與過程
BP神經網絡（反向傳播網絡Back Propagation）是一種多層前饋型神經網絡，其神經元的激活函數是sigmoid函數，一般為log sigmoid 函數和tan sigoid 函數，函數的圖形是S 型的，其值域是為0到1的連續區間。它是嚴格遞增函數，在線性和非線之間有著較好的平衡性。
1.數據歸一化處理
數據歸一化方法是神經網絡預測前對數據常做的一種處理方法。數據歸一化處理把所有數據都使其落在[0，1]或[-1，1]之間，其目的是取消各維數據間數量級差別。避免因為輸入輸出數據數量級差別較大而造成網絡預測誤差較大。數據歸一化的方法主要有以下兩種。
（1）平均數方差法，其公式如下：
2.BP神經網絡的學習過程
BP網絡的學習過程由信號的正向傳播和誤差的反向傳播兩個過程組成。其基本原理是：網絡先根據輸出層的誤差來調整輸出層和隱含層的權值和閾值，再將部分誤差分配置隱含層，然后根據誤差來調整隱含層和輸入層之間的權值和閾值，并不斷地重復上述過程，直到網絡的輸出與目標之間的誤差趨于最小，達到規定的要求。
一般地，BP網絡的學習算法描述為如下步驟。
（1）初始化網絡及學習參數，如設置網絡初始權矩陣，給出學習速率和神經元激活函數等。
（2）提供訓練模式，訓練網絡，直到滿足學習要求。
（3）前向傳播過程：對給定訓練模式輸入，計算網絡的輸出模式，并與期望模式比較，若有誤差，若執行步驟（4），否則，返回步驟（2）。
（4）反向傳播過程：計算同一層單元的誤差，修正權值和閾值，返回步驟（2）。
二、玉米期貨價格預測分析
美國是世界上玉米生產大國和消費大國，良好的現貨基礎為美國玉米期貨市場的發展提供了優越條件。其中，以CBOT為代表的美國玉米期貨市場同現貨市場有效接軌，不僅在美國內玉米生產流通領域發揮了重要作用，而且在世界玉米市場上也影響巨大。
發現價格作為期貨市場的基本功能之一，CBOT作為全球最大的玉米期貨交易市場，其玉米期貨價格的國際影響力是非常巨大的。目前，在國際玉米市場上，玉米貿易價格的形成和交易活動是以CBOT的玉米期貨價格為中心展開的，該價格是國際玉米貿易中簽約雙方需要考慮的最重要的依據之一。美國已經通過芝加哥玉米期貨市場取得國際玉米貿易的定價權，在國際玉米市場中發揮著主導作用，并且能夠對本國和其他國家玉米產業的發展產生深刻影響。
本文研究所采取的樣本來自WIND資訊金融終端，以2008年07月-2015年10月的CBOT的玉米期貨為研究對象。共計100組樣本數據，將其中92組數據作為訓練數據。8組作為分析樣本。本文從影響全球玉米的供需平衡的角度出發，從期初庫存、產量、進口、飼料消費、國內消費總計、出口、期末庫存、總供給、貿易量共九個因素進行分析研究，對玉米期貨的價格進行預測。利用MATLAB軟件訓練生成BP神經網絡并進行預測，將隱含層神經元設為20個，訓練次數為100次，訓練精度為0.00005。最后得到結果見表1。
從表1中可以看出，通過BP神經網絡計算得出的預測值與實際值絕對誤差相對較小，這說明通過BP神經網絡預測模型產生的預測結果的精確度較高。具有較強的實用性。但是由于玉米期貨除了受到供需因素的影響外，同時還受金融、經濟、政治及投資者心理等眾多因素的影響。所以本文的結果還帶有一定的局限性。若把上述因素考慮進去，其精確度可能進一步提高。
三、結語
本文采用BP神經網絡對美國玉米期貨的價格進行了研究。使用了多因素BP神經網絡預測模型，對玉米期貨的價格進行預測，得到了擬合度在較高的預測值。這說明BP神經網絡方法可以對玉米期貨價格走勢進行有效預測。通過預測，可以對投資者的投資行為進行指導，從而達到規避風險而獲取較好的經濟利益。
參考文獻：
篇6
關鍵詞：物流；神經網絡；Matlab；預測；多種模型
中圖分類號：U294.1 文獻標識碼：A 文章編號：2095-1302（2016）01-00-02
0 引 言
現如今物流業的快速發展對人們的生活與產能經濟都產生了重要影響，而整個物流鏈中的關鍵就是貨運環節。影響貨物運輸的因素比較復雜，包括相關體制、交通條件、城市環境、產業布局等，這些因素在數學模型上是非線性且不確定的，于是給預測造成了較大困難。為了做好庫存控制、信息管理的工作，在貨物運輸前對貨運量進行預測是非常有必要的。
1 神經網絡模型及其特點
1.1 系統概述
本文研究的預測模型是基于貨運預測系統的，該系統的主要功能是將項目輸入的數據確定為預測目標，并根據具體要求與有關資料動態分析出可執行計劃，將預測結果保存到數據庫備份。貨運預測系統的具體結構包括初始數據模塊、預測方法選擇、結果處理模塊、系統輔助管理及數據庫模塊等。系統結構圖如圖1所示。
圖1 貨運預測系統結構圖
1.2 模型特點
神經網絡分為單層前向網絡（LMS學習算法）、多層前向網絡（BP學習算法）、改進型神經網絡等，其中BP神經網絡是目前應用最廣泛的模型之一，模型拓撲結構如圖2所示。
圖2 含有兩個隱層的BP網絡結構
多層前向網絡是單層感知器的推廣，解決了非線性可分問題，其由輸入層、隱含層和輸出層組成，其中隱含層可以為一層或多層。輸入層中每個源節點作為激勵單元，組成了下一層的輸入信號，而該層的輸出信號又成為后層的輸入，以此類推。多層感知器中每個神經元的激勵函數是可微的Sigmoid函數，見式（1）所示：
（1）
式中ui是第i個神經元的輸入信號，vi是該神經元的輸出信號。
BP學習過程具有工作信號正向傳播、誤差信號反向傳播的特點。對于圖2，設輸入層任意一個輸入信號用m表示，第一層、第二層、輸出層任意神經元分別用i，j，p表示。按誤差反向傳播方向，從輸出節點到隱含層的修正權值公式見式（2）：
（2）
按Delta學習規則求得：
Δwjp（n）=ηδp（n）vj（n） （3）
其中，η是學習步長， vj（n） 可由信號的正向傳播過程求得。
該系統的訓練目標是總的平均誤差能量Eav達到最小，。其中，ekp為網絡輸入第k個訓練樣本時輸出神經元p的誤差，N為訓練樣本的個數。
2 預測實例及結果分析
2.1 問題描述
貨站是物流的一種重要形式，被認為是物流中心，包含著物資信息、資金流動等管理，這里取若干年的某貨站數據進行預測并與實際結果對比，貨運量走勢如圖3所示。
圖3 近十年某貨站物流量走勢圖
圖中曲線很明顯不適合做直線擬合，我們可運用指數平滑法、神經網絡等進行外推預測。對于指數平滑法，歷史數據影響程度逐漸減小，隨著數據遠離權數收斂趨近零，因此適用于短期預測；對于灰色模型，十分依賴于歷史數據，其精度受原始數據的影響較大。本預測系統會根據輸入數據的各項因子最終選擇最合適的算法模型。下面就神經網絡的一般預測步驟進行說明。
2.2 預測步驟
一般來說，BP算法的預測步驟如下：
（1）樣本預處理。由于數據的評價標準或量綱不一樣，所以需要對樣本作歸一化處理?？刹扇O差變換（xn-xmin）/（xmax-xmin）進行處理；
（2）樣本分組。每組前m個值作為輸入，后一個作為輸出期望值；
（3）網絡訓練。使訓練后的網絡自適應樣本數據的特征，網絡訓練狀態如圖4所示；
圖4 網絡訓練狀態
（4）得到預測值后?？赏ㄟ^對2001至2010年數據的網絡訓練，得到2011年的輸出預測值。Matlab中仿真程序如下：
x=[105129.1 113918.7 121421.3 122757.9 122690.2 135560.5 159988.1 172152 210655.0 238749.2]；
r=max（x）-min（x）；
for n=1：length（x）
y（n）=[x（n）-min（x）]/r；
end
p=[y（length（x）-4） y（length（x）-3） y（length（x）-2） y（length（x）-1）]’；
L=length（p）；
R1=zeros（1，L）；
R2=ones（1，L）；
R=[R1；R2]’；
t=y（length（x））；
input=[y（length（x）-3） y（length（x）-2） y（length（x）-1） y（length（x））]’；
net=newff（R，[4，5，1]，{‘logsig’，’logsig’，’purelin’}，’trainlm’）；
net.trainParam.show=20；
net.trainParam.lr=0.01；
net.trainParam.epochs=100； net.trainParam.goal=1.0e-030； net=train（net，p，t）；
out=sim（net，input）；
out=out*r+min（x）；
（5）反歸一化處理。由于第一步對樣本進行歸一化處理，則需要把結果還原，才能得到有效的預測值。
2.3 結果分析
最后得到2011年貨運量預測值為259 137（噸）[實際值262 551（噸）]，與指數平滑法的271 740（噸）相比誤差由3.5%降為-1.3%。需要指出的是，增加隱含層的數目可以更加逼近非線性曲線提高映射能力，但多于某個值，會使整體預測性能降低。
3 結 語
貨運預測影響因素的不確定性直接給預測系統的研究帶來困難，人工神經網絡模仿自人的大腦，具備自適應算法特性，擁有運算、推理、識別及控制等能力，若能將其很好地運用在貨運預測方面，則能為物流業提供更大意義的幫助。
參考文獻
[1] Simon Haykin.神經網絡原理[M].葉世偉，史忠植，譯.北京：機械工業出版社，2004.
[2]孫明璽.預測與評價[M].杭州：浙江教育出版社，2000.
[3]李采蓉.新的組合模型及在港口客流量預測上的應用[J].遼寧大學學報，2000，27（4）：309-311.
[4]云俊，王少梅.物流系統的多目標預測[J].武漢理工大學學報（社會科學版），2001，14（3）：243-245.
[5]駱溫平.物流與供應鏈管理[M].北京：電子工業出版社，2002.
[6]（美）Tom M.Mitchell.機器學習[M].曾華軍，譯.北京：機械工業出版社，2008.
[7]（美）Martin T Hagan，Howard B.Demuth.神經網絡設計[M].戴葵，等，譯.北京：機械工業出版社，2005.
[8]黨耀國，劉思峰，王正新.灰色預測與決策模型研究[M].北京：科學出版社，2009.
篇7
關鍵詞：火災探測 模糊神經網絡 智能 Matlab
根據燃燒對象，火災分為A，B，C，D四種。A類火災為固體可燃物引發的火災，亦是最常見的燃燒對象；B類火災為液體可燃物火災；C類火災為氣體可燃物火災；D類火災為可燃金屬火災。火災發生后蔓延速度極快，燃燒產生大量CO2，CO1等大量氣體及煙霧，并伴隨光、熱，損失將不可估計。對待火災，我們應采取“防消結合，預防為主”?；馂奶綔y技術的應用便擔任著前鋒的作用，有效的提高探測器的靈敏度成為一個重大課題。本為將采用智能型報警系統，做早期發現和通報火災，研究模糊神經網絡的應用。
1.火災探測系統
探測器是自定報警系統中的最重要部分。隨著火災的發生，火災初期可燃物燃燒產生大量煙霧（S）和CO2，CO1等大量氣體（G），火災達到全火焰時溫度（T）急劇上升，并伴隨著光（L）和熱（H）。因此在圖書館設感溫探測器，感煙探測器，氣體探測器及感光探測器。由于感煙探測器動作較早，可探測到70%以上的火災，因此使用較為普遍。
2.模糊神經網絡的結構設計
2.1 模糊神經網絡的應用
模糊神經網絡（Fuzzy Neural Network，簡稱FNN）是全部或部分采用模糊神經元所構成的一種可處理模糊信息的神經網絡系統，也是現代熱門研究是技術，是模糊控制與神經網絡控制的有機結合，博采眾長，以長補拙[1]。其特點是利用模糊邏輯較強的結構性知識表達能力和神經網絡強大的自學能力與定量數據的直接處理能力，在溫度、煙霧、氣體、光等信號處理上，提高火災探測的準確度、加快火情識別速度，使火災報警信號處理更具邏輯性、可靠性，直接指導消防控制室的操作和應用，在火災報警系統中發揮良好的作用。
2.2 模糊控制規則設計[2-3]
模糊控制規則可根據火災發生可能性大小分為不可能即NP，可能性小即PS，一定發生即PB三種。隱層的溫度隸屬度生成函數采用三角函數：
（ x - a）/（ b - a） a < x < b
μ（x） =
（ x - c）/ （ b - c） b < x < c
圖1 隸屬度函數
2.3神經網絡模型
本文給出一個3層前饋網絡結構，如圖2所示。設輸入信號為s：煙霧；g：CO2氣體；t：溫度；l：光；輸入信號為第一層，含3個神經元；第二層為模糊層，設為9個節點，第三層為輸出層，有3個節點，表示無火、火小和火災發生。
圖2 BP前饋網絡模型
3.算法及Matlab 網絡仿真
3.1 算法
本文采用反向傳播算法，學習訓練過程由正向信號傳輸和反向誤差傳播組成。當正向傳輸的實際輸出與期望輸出不符合時，轉入誤差反向傳播。
輸出誤差逐層反向傳播到隱層再到輸入層。誤差分給各層所有節點單元，獲得各層單元的誤差信號，且將該信號作為修正各單元權值的根據。通過不斷的調整權值，訓練到誤差符合要求為止。
因此可知，設輸入向量為X；隱層輸出向量為Y；輸出層輸出向量為O；期望輸出向量為T；輸出層至隱層的權值矩陣為V；隱層至輸入層權值為W。隱層，輸出層的轉換函數分別采用雙曲正切S型函數tansig和S型對數函數logsig。
定義網絡的輸出誤差函數為均方誤差函數
E=1/2（T-O）2.
將輸出誤差函數展開到隱層，在展開到輸入層，并通過調節權值和閾值改變誤差E，從而減小誤差。即：
對于輸出層，設Y，δ0為輸出層的誤差信號，則輸出層的權值調整V=η（δ0YT） T；
對于輸入層，設X，δy為隱含層的誤差信號，則隱含層的權值調整為W=η（δyXT） T， η為學習率，在0～1間取值，這里取值0.1。
具體算法步驟：①初始化，對所有權值賦予任意小量，并對閾值設定初值；②給定訓練數據集，即提供向量X和期望輸出Y；③計算實際輸出y；④調整權值，按誤差方向傳播方向，從輸出接點返回到隱層修正權值；⑤返回第②步重復計算，直至誤差滿足要求為止[4]。
3.2 Matlab 網絡仿真
模糊規則層設9個節點，輸出層有3個節點。用新浪天氣給出的鄭州市2012年8月1日到8月4日的天氣，歸一化處理：溫度/100℃，加上天氣特征值（0代表晴天，0.5代表陰天，1代表雨天），有4組數據。并將8月4日天氣數據作為導師信號。打開Matlab的編輯，輸入newff（）創建前向BP網絡，使用神經元上的傳遞函數tansig（）及tansig（），建立一個訓練函數使用梯度下降法的訓練函數trainlm（）的BP網絡[5]。誤差訓練下降曲線如圖3：
4.結語
在1000次訓練后，輸出的均方誤差非常小， MSE=1.04678e-013/0，此時的網絡輸出應該是非常精確的。這說明將模糊神經網絡理論應用在火災報警系統中，有效地提高系統精度和減少誤報率，并且充分發揮了它的自學習、自適應能力，使系統的靈敏度提高，同時又提高了系統的智能化程度。
參考文獻：
篇8
【關鍵詞】介損值;BP算法;人工神經網絡
1.引言
當前的電容型電氣設備絕緣在線監測與診斷還停留在一個簡單處理數據的層次上，如果能夠結合先進的數學工具進行分析，將有助于提高監測與診斷的應用水平。模糊數學、專家系統、神經網絡、灰關聯分析等理論在電氣設備的絕緣監測與診斷方面已經有了廣泛的應用，并提供較完備的知識與信息，提高了絕緣監測與診斷的準確性。
大量停電試驗和專門試驗的介損值結果統計分析表明，介損值會對溫度的變化較為敏感，環境的濕度對介損值也會有影響。在分析了各種因素影響介損值的基礎上，文獻[6]提出了基于人工神經網絡的電容型電氣設備的絕緣狀況的預測方法。人工神經網絡方法能夠根據大量的故障機理研究以及經驗性的直覺知識歸納出典型樣本，通過對神經網絡內部的競爭達到問題的求解，從本質上模擬專家的直覺。在此基礎上本文提出了基于人工神經網絡的電容型電氣設備的介損值的預測方法，以BP神經網絡作為主要的研究方法。BP網絡的預測結果的準確與否取決于學習樣本的優劣，本文根據實際情況選取了神經網絡的學習樣本并進行了仿真，結果表明該預測方法的誤差滿足工程誤差的要求，基于人工神經網絡的介質損耗值的預測方法是可行的、正確的和有效的。
2.基于BP神經網絡預測方法的確定
人工神經網絡的模型有數十種，可分為三大類：前向網絡、反饋網絡和自適應網絡。但在人工神經網絡的實際應用中，絕大部分的神經網絡模型都采用BP網絡及其變化形式。BP（Back Propagation）網絡是一種多層前饋型神經網絡，其神經元的傳遞函數是S型函數，輸出量為0到1之間的連續量，它可以實現從輸入到輸出的任意非線性映射。BP神經網絡的主要優點：
（1）BP神經網絡具有分布式信息存儲能力;
（2）BP神經網絡的容錯性和大規模并行處理能力;
（3）BP神經網絡具有自學習、自組織和自適應能力;
（4）BP神經網絡是大量神經元的集體行為，表現出一般復雜非線性系統的特性;
（5）BP神經網絡可以處理一些環境信息十分復雜、知識背景不清楚和推理規則不明確的問題。
基于以上優點，本文選用BP神經網絡作為主要研究方法。
3.BP算法基本思想和網絡的基本結構
BP神經網絡是一個多層前饋神經網絡，包括了輸入層、隱層和輸出層。這種網絡在輸入層和輸出層之間至少有一個隱含層，每一個神經元結點都與其后一層的結點相連接，但是沒有后層結點向前層結點的反饋連接。BP網絡具有結構簡單、可靠性強的優點，能夠滿足工業應用的需要，而且有關網絡的機理和算法的研究都很豐富，是眾多網絡中最為成熟，應用最為廣泛的一種，是復雜系統建模的優秀工具。
BP算法的基本思想：當一對學習樣本提供給網絡后，神經元的激活值從輸入層經隱層向輸出層傳播，在輸出層的各神經元獲得網絡的輸入響應。接下來，按照減少目標輸出與實際誤差的方向，從輸出層經過各隱層逐層修正各連接權值，最后回到輸出層，這種算法為“誤差逆傳播算法”。隨著這種誤差逆的傳播修正不斷進行，網絡對輸入模式響應的正確率也不斷升高。
三層前饋網絡中，輸入向量為X=（x1，x2， ……，xi，……，xn）T;隱層輸出向量為Y=（y1，y2，……，yj，……，ym）;輸出層輸出向量為O=（o1，o2，……，ok，……，ol）T;期望輸出向量為d=（d1，d2，……，dk，……，dl）T。輸入層到隱層之間的權值矩陣用V表示，V=（v1，v2，……，vj，vm），其中列向量Vj為隱層第j個神經元對應的權向量;隱層到輸出層之間的權值矩陣用W表示，W=（W1，W2，……，Wk，……，Wl），其中列向量Wk為輸出層第k個神經元對應的權向量。如圖3-1所示。
對輸出層，有
Ok=f（netk） k=1，2，…，l （1）
netk= k=1，2，…，l （2）
對于隱層，有
yj=f（netj） j=1，2，…，m （3）
netj= j=1，2，…，m （4）
以上兩式中，轉移函數f（x）均為單極性（或雙極性）sigmoid函數，f（x）具有連續、可導的特點。式（3.1）到式（3.4）共同構成了三層前饋網的數學模型。
圖1 三層BP網絡
三層前饋網絡的BP學習算法權值調整計算公式為：
（5）
（6）
其中：
（7）
對于一般多層前饋網，設共有h個隱層，按前向順序各隱層節點數分別記為m1，m2，…，mh，各隱層輸出分別記為y1，y2，…，yh，各層權值矩陣分別記為W1，W2，…，Wh，Wh+1，則各層權值調整計算公式為：
輸出層：
j=0，1，…，mh;k=1，2，… （8）
第h隱層：
i=0，1，…，mh-1;j=1，2，…，mh （9）
按以上規律逐層類推.則第一隱層權值調整計算公式：
p=0，1，…，n;j=1，2，…，m1 （10）
容易看出，BP學習算法中，各層權值調整公式形式上都是一樣的，均由3個因素決定，即：學習率η、本層輸出的誤差信號δ以及本層輸入信號Y（或X）。
4.基于MATLAB的BP神經網絡的實現
4.1 網絡的輸入層和輸出層設計
大量停電試驗和專門試驗的介損結果統計分析表明，電容型設備的介質損耗值的大小與環境等外界因素之間有著密切的關系?；诖?，本文提出了基于環境等外界因素影響分析電容型設備絕緣狀況的BP神經網絡模型，其示意圖如圖2所示。
圖2 神經網絡模型示意圖
為了更好的體現輸入和輸出變量的相應關系，輸入層神經元應盡可能多采集與輸出量相關性大的信息。本文以某一時刻設備的電壓、電流、電容、環境溫度、濕度和介質損耗值所為網絡的輸入參數，所以網絡輸入層的神經元有6個。輸出層只有一個即預測時刻的介質損耗值，則輸出層只有一個神經元。
為了統一量綱和防止因凈輸入的絕對值過大而使神經元輸出飽和，繼而使權值調整進入誤差曲面的平坦區。BP神經網絡的訓練樣本在輸入網絡之前要進行必要的歸一化，也就是通過變換處理將網絡的輸入、輸出數據限制在[0，1]或[-l，1]區間內。歸一化方法有很多種形式，本文采用如下公式來進行樣本數據的歸一化：
令P為網絡的輸入向量，t為網絡的目標向量，p_test、t_test為網絡的測試樣本向量，利用MATLAB歸一化的代碼為：
歸一化后的輸入向量P
for i=1：6
P（i，：）=（p（i，：）-min（p（i，：）））/（max （p（i，：））-min（p（i，：）））;
end
歸一化后的輸入向量A
for i=1
T（i，：）=（t（i，：）-min（t（i，：）））/（max（t（i，：））-min（t（i，：）））;
end
測試樣本向量p_test和t-test的歸一化同輸入向量p和目標向量t的歸一化，歸一化后的向量為P_test和T_test。
4.2 隱層神經元數的選擇
在設計多層前饋網時，一般先考慮設一個隱層.當一個隱層的隱節點數很多仍不能改善網絡性能時，才考慮再增加一個隱層。由于本系統是一個比較小型的網絡，且各結點采用S型函數進行處理，故采用單隱層。
隱層的神經元數目選擇是一個非常復雜的問題，往往需要根據設計者的經驗和多次試驗來確定。隱單元的數目與問題的要求、輸入/輸出單元的數目都有直接的聯系。隱單元數目太多和會導致學習的時間過長、誤差不一定最佳，也會導致容錯性差、不能識別以前沒有看到的樣本。選擇最佳隱單元數的參考公式：
（1）
其中，k為樣本數，n1為隱單元數，n為輸入單元數。
（2）
其中，m為輸出神經元數，n為輸入神經元數，a為[1，10]之間的常數。
（3）
其中，n為輸入單元數。
由于單隱層BP網絡的非線性映射能力比較強，本文采用了單隱層的神經網絡，而中間層神經元個數需通過實驗來確定，輸入層神經元個數有6個，中間層神經元的個數選擇3個值，分別為13、15和20，并分別檢查網絡性能。通過實際的迭代訓練，設置多種不同的隱節點情況，用同一樣本集進行訓練，比較迭代訓練實驗的結果，從中確定網絡誤差最小時對應的神經元個數。
MATLAB代碼為：
隱層單元個數向量
a=[13 15 20];
for i=1：3
net=newff（threshold，[a（i），1]，{‘tansig’， ‘logsig’}，‘traindx’）;
net.trainparam.epochs=1000;
net.trainparam.goal=0.01;
init函數用于將網絡初始化
net=init（net）;
net=train（net，P，T）;
Y（i，：）=sim（net，P_test）;
end
figure;
繪制誤差曲線
中間神經元個數為13
polt（1：6，Y（1，：）-T_test）;
hold on;
中間神經元個數為15
polt（1：6，Y（2，：）-T_test）;
hold on;
中間神經元個數為20
polt（1：6，Y（3，：）-T_test）;
hold off;
通過3種情況下的誤差比較發現，中間層神經元個數為13、20時網絡的誤差比較大，當隱層節點數為15時，網絡誤差較小，收斂速度較快能得到最理想的輸出，網絡的預測性能最好。
通過上述分析，可以確定本文設計的神經網絡結構為6-15-1，網絡中間層的神經元傳遞函數，采用S型正切函數tansig，輸出層神經元傳遞函數采用S型對數函數logsig。這是因為函數的輸出位于區間[0，1]中，正好滿足網絡輸出的要求。
圖3 預測誤差對比曲線
本文所要解決的問題是根據環境等外界因素對設備的絕緣狀況進行預測，對網絡的訓練速度和穩定性有較高的要求，因此選擇traingdx函數作為訓練函數，該函數結合了動量梯度下降算法和自適應學習速率梯度下降算法。
該算法的基本過程為：首先計算出網絡的輸出誤差，然后在每次訓練結束之后，利用此時的學習率計算出網絡的權值和閾值，并且計算出網絡此時的輸出誤差。如果此時的輸出誤差與前一時刻的輸出誤差的比值大于預先定義的參數max_perf_inc，那么就減小學習率（通過乘以系數lr_dec來實現），反之，就增加學習率（通過乘以系數lr_inc來實現）。再重新計算網絡的權值和閾值以及輸出誤差，直到前后輸出誤差的比值小于參數max_perf_inc為止。
4.3 網絡學習速率和動量系數的選擇
學習速率大小的選擇，直接影響訓練時間，當學習速率的選擇不當，特別在嚴重時，將導致網絡完全不能訓練，這是因為1986年Rumelhart等人在證明BP訓練算法收斂中，假設了無限小的權重調節速率。實際上這是不可能的，因為這表示需要無限的訓練時間，所以，實際上必須選一個有限的學習速率大小，即η的值取0.01到1。一般來說要根據實驗或經驗來確定，還沒有一個理論指導。若η選得太小，收斂可能很慢：若η選得太大，可能出現麻痹現象。為了避免這種現象，通常會選擇減少η，但又會增加網絡的訓練時間。動量項可以加快BP算法的學習速度，但選項的時候應當注意避免學習時產生振蕩。
因此，本文在確定網絡的學習速率和動量系數的時候，采用不同的值的組合，利用55組訓練數據進行了若干次網絡的迭代訓練。本文根據比較結果確定學習速率為0.1，動量系數為0.7作為網絡訓練時的參數。
5.基于BP神經網絡介損值的預測應用
本文所建立的BP網絡是基于MATLAB中的GUI建立。圖形用戶界面GUI （Graphical User Interfaces）是神經網絡的工具箱提供的人機交互界面，它引導工程人員一步步的建立和訓練網絡，避免了代碼的編寫過程。借助圖形用戶界面GUI，可比直接利用工具箱函數更快捷和方便的完成神經網絡的設計與分析。
利用BP神經網絡理論和經過以上訓練得到的網絡參數，利用Matlab軟件提供的GUI構造出了基于環境等外界因素影響分析設備絕緣狀況的BP神經網絡模型。表1列出了本文研究中建立的BP網絡的各個參數和函數。
網絡所用的訓練數據和測試數據均出自于某110KV變電站主變套管的在線監測的數據]，本文采用其中的55組典型數據，其中50組數據用于網絡訓練（訓練次數為1000次，訓練目標為0.01），5組數據用于仿真預測，利用仿真函數獲得網絡的輸出，網絡的預測結果及誤差見表2，可見預測值與實際監測值之間的誤差非常小，能滿足實際要求。
表1 基于BP神經網絡的電容型設備絕緣診斷模型參數
名稱 參數
輸入層節點數 6
隱含層節點數 15
輸出層節點數 1
訓練函數 traingdx
學習函數 learngdm
學習速率 0.1
動量系數 0.7
表2 外界環境相同時介損值的實際值與預測值的對比
序號 電壓 電流 電容 溫度 濕度 實 際
介損值 預 測
介損值 誤差
1 119 7.047 326.479 18 50 0.003906 0.004025 0.000119
2 119 7.057 327.545 17 52 0.000440 0.004386 0.000014
3 118 7.022 328.078 17 55 0.003946 0.004108 0.000162
4 119 7.059 327.035 16 55 0.004471 0.004512 0.000041
5 119 7.069 327.406 17 59 0.003249 0.003178 0.000071
6.結束語
本章通過對BP網絡模型和學習算法的研究，深入分析了BP網絡在函數預測方面的優點，確定了用BP網絡來實現對容性設備介質損耗值的預測，得到的結論如下：
（1）通過對BP網絡結構的研究，將三層前向神經網絡結構進行了改進，適應了本文對介質損耗值的預測要求。
（2）BP網絡的預測結果的準確與否取決于學習樣本的優劣，本文根據實際情況選取了神經網絡的學習樣本并進行了仿真，結果表明該預測方法的誤差滿足工程誤差的要求，及基于人工神經網絡的介質損耗值的預測方法是可行的、正確的和有效的。
（3）數據預測具有一定的精度，但是還存在誤差，需選擇相關大的、較合理的輸入向量，還可以對網絡的結構和算法選擇方面進行改進，選擇更合適的訓練函數使其收斂速度更快，誤差更小。
參考文獻
[1]張寒，文習山，丁輝.用人工神經網絡預測基于泄漏電流、氣象因素的絕緣子等值附鹽密度預測[J].高壓電器，2003，39（6）：31-35.
[2]韓力群.人工神經網絡理論、設計及應用[M].北京：化學工業出版社，2002.
[3]閆志忠.BP神經網絡模型的改進及其應用研究[D].長春：吉林大學，2003.
[4]聞新.MATLAB神經網絡仿真與應用[M].北京：科學出版社，2000.
[5]許東，吳崢.基于MATLAB6.X的系統分析與設計-神經網絡（第二版）[M].西安：西安電子科技大學出版社，2002.
[6]叢爽.面向MATLAB工具箱的神經網絡理論與應用[M].合肥：中國科技大學出版社，1998
篇9
關鍵詞：BP神經網絡、圖像分割、特征提取
Abstract: the image recognition process including the image preprocessing, feature extraction, image understanding and analysis. Which BP artificial neural network in the image segmentation using better; In the feature extraction phase BP neural network is also very good find application, and obtain the better feature extraction results; In the image understanding and the analysis phase using neural network classifier design, can get accurate classification results.
Keywords: BP neural network, image segmentation, feature extraction
中圖分類號：TP183 文獻標識碼：A文章編號：
引言
BP人工神經網絡算法是現今應用較為廣泛的多層前向反饋式神經網絡算法，BP人工神經網絡有較好的容錯能力、魯棒性、并行協同處理能力和自適應能力，受到了國內外眾多領域學者的關注。由于神經網絡高效率的集體計算能力和較強的魯棒性，它在圖像分割方面的應用已經很廣泛，Jain和Karu采用了多通道濾波與前向神經網絡相結合的方法實現圖像紋理分割算法。神經網絡算法在特征提取階段，壓縮特征數量，以提高分類速度和精度。在圖像識別領域中神經網絡作為分類器的研究也得到了很大的進展，尤其是其學習能力和容錯性對于模式識別是非常有利的，在一定程度上提高了訓練速度和識別率。Le Cun等人提出了多層特征選擇(Multilayer Selection Procedure)方法用于字符識別，每一層神經網絡處理較低層次的特征，獲取該層特征信息并傳給上一層。
BP神經網絡的基本原理
人工神經網絡的研究起源于對生物神經系統的研究，它將若干處理單元（即神經元）通過一定的互連模型連結成一個網絡，這個網絡通過一定的機制可以模仿人的神經系統的動作過程，以達到識別分類的目的。人工神經網絡區別于其他識別方法的最大特點是它對待識別的對象不要求有太多的分析與了解，具有一定的智能化處理的特點。神經網絡的學習過程實際上就是不斷地調整權值和閾值的過程。根據有無訓練樣本的指導可以將神經網絡的學習方式分為兩種：監督學習方式和非監督學習方式，也稱為有導師指導學習方式和無導師指導學習方式。監督學習方式，是在給定固定的輸入輸出樣本集的情況下，由網絡根據一定的學習規則進行訓練學習，每一次學習完成后，通過對比實際的輸出和期望的輸出，以此決定網絡是否需要再學習，如果還沒有達到期望的誤差，則將實際誤差反饋到網絡，進行權值和閾值的調整，使實際的誤差隨著學習的反復進行而逐步減小，直至達到所要求的性能指標為止。非監督學習方式，是在沒有外界的指導下進行的學習方式，在學習過程中，調整網絡的權重不受外來教師的影響，但在網絡內部會對其性能進行自適應調節。
BP神經網絡分類器的設計
BP神經網絡是基于誤差反向傳播算法(Back Propagation Algorithm，BPA)的多層前向神經網絡，由輸入層、輸出層、一個或多個隱含層所組成。BP神經網絡結構確定之后，通過對輸出和輸入樣本集進行訓練，反復修正網絡的權值和閾值，達到學習訓練的期望誤差，以使網絡能夠實現給定的輸入輸出映射關系。BP人工神經網絡的學習過程分為兩個階段，第一階段是輸入己知的學習樣本數據，給定網絡的結構和初始連接權值和閾值，從輸入層逐層向后計算各神經元的輸出；第二階段是對權值和閾值進行修改，即根據網絡誤差從最后一層向前反饋計算各層權值和閾值的增減量，來逐層修正各層權值和閾值。以上正反兩個階段反復交替，直到網絡收斂。具體實現步驟如下：
(1) 網絡的初始化：首先對輸入的學習訓練樣本進行歸一化處理，對權值矩陣W和閾值向量賦初值，將網絡計數器和訓練次數計數器置為1，網絡誤差置為0。
(2) 輸入訓練樣本，計算輸入層，隱含層以及輸出層的實際輸出。
(3) 計算網絡輸出誤差。將實際的輸出和期望的輸出值進行對比，采用均方根誤差指標作為網絡的誤差性能函數。
(4) 若誤差還沒達到期望標準，則根據誤差信號，逐層調整權值矩陣和閾值向量。
(5) 若最終調整之后的網絡輸出達到了誤差范圍之內，則進行下一組訓練樣本繼續訓練網絡。
(6) 若全部的訓練樣本訓練完畢，并且達到了期望的誤差，則訓練結束，輸出最終的網絡聯接權值和閾值。
BP神經網絡可以逼近任意連續函數，具有很強的非線性映射能力，而且BP神經網絡中間層數、各層神經元數及網絡學習速率等參數均可以根據具體情況設定，靈活性較強，所以BP神經網絡在許多領域中廣泛應用。一般來說，神經網絡方法應同傳統的人工智能方法相聯系的。神經網絡本身結構及性能上的特點使其對問題的處理更富有彈性，更加穩健。神經網絡的基本特點是采用自下而上的設計思路，使其容易確定具體的目標分割或識別算法，在增加了不確定因素的同時也產生了網絡最優化的問題，這就是所謂的偽狀態(pseudo-trap)。盡管在實踐中并非所有的偽狀態對應完全失敗的結果，但是畢竟這不符合對之完美的或者說合理的期望。人工智能則一般采用自上而下的方法，偏重于邏輯推理建立系統模型。因此將神經網絡同人工智能結合起來，相當于賦予神經網絡高層指導的知識及邏輯推理的能力，具有潛在的優勢。
輸入層中間層 輸出層
圖1 BP人工神經網絡結構
BP神經網絡的訓練
4.1 BP神經網絡的設計
BP神經網絡的設計主要包括兩方面內容：一是神經網絡結構的確定，特別是隱含層層數及隱含層單元數目的確定；二是高精度收斂問題，隱含層和隱含層單元數過多，將導致訓練時間過長并出現過度擬和的問題，隱含層單元數過少又導致網絡收斂速度慢甚至不收斂，達不到誤差精度要求。在確定隱含層層數以及隱含層單元數目時，沒有一個嚴格的理論依據指導，需要根據特定的問題，結合經驗公式確定大致范圍來進行逐步試算比較得到。
4.2 數據預處理
為了加快網絡的訓練速度，通常在網絡訓練前進行神經網絡輸入和輸出數據預處理，即將每組數據都歸一化變為[-1,1]之間的數值的處理過程。
4.3 神經網絡的訓練
%當前輸入層權值和閾值
inputWeights=net.IW{1,1}
inputbias=net.b{1}
%當前網絡層權值和閾值
layerWeights=net.LW{2,1}
layerbias=net.b{2}
%設置訓練參數
net.trainParam.show = 1000;%限時訓練迭代過程
net.trainParam.lr = 0.1; %學習率，缺省為0.01
net.trainParam.epochs = 100000; %最大訓練次數，缺省為100
net.trainParam.goal = 0.001; %訓練要求精度，缺省為0
[net,tr]=train(net,P,T);%調用 TRAINGDM 算法訓練 BP 網絡
A = sim(net,P) %對 BP 網絡進行仿真
E = T - A;%計算仿真誤差
MSE=mse(E)
結束語
BP網絡因為具有較強的學習性、自適應型和容錯性，在很多領域均已經大量運用。本文將BP人工神經網絡運用于圖像的識別，探索人工神經網絡在圖像識別領域中的重要的現實意義。研究表明，BP人工神經網絡應用于圖像識別在一定程度上提高了識別的效率和準確率。但是，BP神經網絡算法還存在以下幾點不足之處：（1）權的調整方法存在局限性，容易陷入局部最優；（2）網絡的結構需要提前指定或者在訓練過程中不斷的修正；（3）過分依賴學習樣本，由于學習樣本是有限的或者學習樣本質量不高，那么會導致訓練達不到效果；（4）對于規模較大的模式映射問題，存在收斂速度慢、容易陷入局部極小點、判斷不準確等缺陷?？傊?，如何解決以上問題，如何進一步提高識別精度，擴大識別范圍，使之更具有更好的工程實用性，是有待進一步研究的內容。
參考文獻：
[1] WE Blanz，S L Gish．A Connectionist Classifier Architecture Applied to Image Segmentation．Proc．10th ICPR，1990，272-277．
[2] Y Le Cun，L D Jackel，B Boser，J S Denker，H P Graf，I Guyon，D Henderson，R E Howard，and W Hubbard，Handwriten Digit Recognition：Applications of Neural Network Chips and Automatic Learning，IEEE Comm．Magazine．Nov．1989．
[3] A K Jain and K Karu，Automatic Filter Design for Texture Discrimination，Proc．12th Int’l Conf．NeuralNetworks，Orlando，Oct．1994，454-458．
[4] 邊肇其，張學工．模式識別（第二版）[M]．清華大學出版社，北京．1999，12．
[5] 陳書海，傅錄祥．實用數字圖像處理[M]．科學出版社，北京．2005．
[6] 萬來毅，陳建勛．基于BP神經網絡的圖像識別研究[J]．武漢科技大學學報（自然科學版）．2006，6．
[7] 叢爽．面向MATLAB工具箱的神經網絡理論與應用（第2版）[M]．北京：中國科學技術出版社，2003．
[8] 王娟，慈林林等．特征方法綜述[J]．計算機工程與科學．2005．27（12）．68-71．
[9] 賈花萍．基于神經網絡的特征選擇與提取方法研究[J]．網絡安全．2008，7．33-35．
[10] 龔聲榮，劉純平等編著．數字圖像處理與分析[M]．清華大學出版社，北京．2006．7．
篇10
【關鍵詞】圖像分割；細胞特征；人工神經網絡
據統計，在各種癌癥中，子宮頸癌對婦女的威脅僅次于乳腺癌。全世界每年因子宮頸癌死亡的人數為30萬，確診和發現早期癥狀者各為45萬。雖然確診病人的年齡一般都在35歲以上，但存在這種疾病誘因的婦女卻往往遠在這一年齡以下。如果及時得到診斷，早期子宮頸癌是可以治愈的。因此借助于現代先進的計算機技術結合病理專家的實踐經驗，開發出計算機輔助細胞學診斷系統，才是解決這一問題的關鍵所在。
本文從圖像識別領域出發，應用人工神經網絡模型對子宮頸癌細胞圖像診斷進行探索。首先，對獲取的子宮頸癌圖像進行灰度轉換。由原來的24位彩色圖像轉化為灰度圖像。在對灰度圖像進行分割，主要采取基于門限閾值化的分割方法。分別對細胞，細胞核進行了分割。分割后轉化成為二值圖像，采用八向鏈碼算法對包括周長，面積似圓度，矩形度，核漿比等15個主要形態學參數進行測量。在取得了大量的數據樣本后進行人工神經網絡的訓練。
人工神經網絡是在對人腦神經網絡的基本認識的基礎上，從信息處理的角度對人腦神經網絡進行抽象，用數理方法建立起來的某種簡化模型[1]。通過模仿腦神經系統的組織結構以及某些活動機理，人工神經網絡可以呈現出人腦的許多特征，并具有人腦的一些基本功能[2]。1988年，Rinehart等人提出了用于前向神經網絡學習訓練的誤差逆傳播算法（Back propagation，簡稱BP算法），成功解決了多層網絡中隱含層神經元連接權值的學習問題[3]。BP算法是由教師指導的，適合于多層神經網絡的學習訓練，是建立在梯度下降算法基礎上的。主要思想是把學習過程分為兩個階段：第一階段（信號正向傳播過程），輸入信號通過輸入層經隱含層逐層處理并計算每個節點的實際輸出值；第二階段（誤差修正反向傳播過程），若在輸出層未得到期望的輸出值，則逐層遞歸地計算實際輸出與期望輸出之間的誤差，并已據此誤差來修正權值。在學習過程中，對于每一個輸入樣本逐次修正權值向量，若有n個樣本，那么一次學習過程中修正n次權值。
但是BP算法也存在一定的缺陷，如多解問題、學習算法的收斂速度慢以及網絡的隱含節點個數的選取尚缺少統一而完整的理論指導。為了優化BP算法，我們采用加入動向量的方法對BP算法進行改進?；贐P算法的神經網絡，在學習過程中，需要不斷地改變權值，而權值是和權值誤差導數成正比的。通常梯度下降方法的學習速率是一個常數，學習速率越大，權值的改變越大。所以要不斷地修改學習速率，使它包含有一個動向量，在每次加權調節量上加上一項正比例與前次加權變化量的值（即本次權值的修改表達式中引入前次的權值修改量）。設計模型時，人工神經網絡的輸入輸出變量是兩個重要的參數。輸入變量的選擇有兩個基本原則：其一必須選擇對輸出影響大并且能夠檢測或提取的變量，其二要求各個輸入變量之間互不相關或相關性很小。我們將細胞的形態學特征值作為人工神經網絡的輸入變量。輸出變量代表系統要實現的功能目標，這里以TBS分類法為依據，確定了人工神經網絡的三個輸出變量NORMAL（正常細胞），LSIL（低度鱗狀上皮內病變），HSIL（高度鱗狀上皮內病變）[4]。在人工神經網絡的輸入、輸出確定后，就可以得到網絡的結構圖，從而對測得的細胞特征值進行分類。
本文中所設計的神經網絡分類器，輸入層15個節點、隱含層30個節點、輸出層2個節點。細胞樣本共161例，使用87例細胞樣本數據對人工神經網絡的權值進行訓練。當誤差小于規定值后，再用剩余的74例數據樣本對人工神經網絡進行測試。主要采取的算法是增加動量的BP算法。經實驗，應用人工神經網絡模型識別每張圖片每個細胞，選出128個最有可能的異常細胞圖。通過大量實驗對比訓練樣本識別率最高達96.6%，測試樣本識別率最高達87.8%，總體樣本識別率最高達92.5%。
由實驗可以看出增加動量的BP算法（BP標準算法）的學習次數適中，分類基本準確。增加學習速率可以加快收斂的速度，但同時也看到由于學習速率過大，而導致系統的不穩定，引起震蕩。所以在增加學習不長的同時，動向量不能夠過大，否則會引起震蕩，影響分類的準確率。使用增加動量的BP算法對子宮頸癌細胞的識別效果比較理想，這在醫學研究以及臨床診斷方面具有一定的現實意義及比較廣闊的應用背景。
參考文獻
[1]何苗.徑向基人工神經網絡在宮頸細胞圖像識別中的應用[J].中國醫科大學學報，2006，35（1）.
[2]刑仁杰.計算機圖像處理[M].浙江：浙江大學出版社，1990：32-67.
[3]時淑舫.計算機輔助細胞檢測方法在宮頸細胞學檢查中的應用價值[J].臨床和實驗醫學雜志，2003，2（2）.
