古詩詞大全網 - 成語經典 - bp神經網絡的缺點

bp神經網絡的缺點

1)局部極小化問題:從數學角度看,傳統的BP神經網絡為壹種局部搜索的優化方法,它要解決的是壹個復雜非線性化問題,網絡的權值是通過沿局部改善的方向逐漸進行調整的,這樣會使算法陷入局部極值,權值收斂到局部極小點,從而導致網絡訓練失敗。加上BP神經網絡對初始網絡權重非常敏感,以不同的權重初始化網絡,其往往會收斂於不同的局部極小,這也是很多學者每次訓練得到不同結果的根本原因。

2)BP神經網絡算法的收斂速度慢:由於BP神經網絡算法本質上為梯度下降法,它所要優化的目標函數是非常復雜的,因此,必然會出現“鋸齒形現象”,這使得BP算法低效;又由於優化的目標函數很復雜,它必然會在神經元輸出接近0或1的情況下,出現壹些平坦區,在這些區域內,權值誤差改變很小,使訓練過程幾乎停頓。

3)BP神經網絡結構選擇不壹:BP神經網絡結構的選擇至今尚無壹種統壹而完整的理論指導,壹般只能由經驗選定。網絡結構選擇過大,訓練中效率不高,可能出現過擬合現象,造成網絡性能低,容錯性下降,若選擇過小,則又會造成網絡可能不收斂。而網絡的結構直接影響網絡的逼近能力及推廣性質。因此,應用中如何選擇合適的網絡結構是壹個重要的問題。

4)應用實例與網絡規模的矛盾問題:BP神經網絡難以解決應用問題的實例規模和網絡規模間的矛盾問題,其涉及到網絡容量的可能性與可行性的關系問題,即學習復雜性問題。

5)BP神經網絡預測能力和訓練能力的矛盾問題:預測能力也稱泛化能力或者推廣能力,而訓練能力也稱逼近能力或者學習能力。壹般情況下,訓練能力差時,預測能力也差。