合作型模塊化神經(jīng)網(wǎng)絡(luò)的研究與應(yīng)用.pdf

1、模塊化神經(jīng)網(wǎng)絡(luò)(MNN)是采用多個(gè)神經(jīng)網(wǎng)絡(luò)以合作或競爭的方式所構(gòu)建的學(xué)習(xí)系統(tǒng)，其試圖以多個(gè)神經(jīng)網(wǎng)絡(luò)來探索各個(gè)子學(xué)習(xí)機(jī)的不同行為，從而提高整個(gè)學(xué)習(xí)系統(tǒng)的精度和可靠性。面對大規(guī)模復(fù)雜問題，單一神經(jīng)網(wǎng)絡(luò)往往束手無策，其固有的缺陷顯得尤為突出，而作為一種非常有效的計(jì)算方法，模塊化神經(jīng)網(wǎng)絡(luò)往往能擔(dān)此重任。由于認(rèn)識到模塊化神經(jīng)網(wǎng)絡(luò)所蘊(yùn)含的巨大潛力和應(yīng)用前景，大量研究者涌入該領(lǐng)域，理論和成果不斷涌現(xiàn)，使得模塊化神經(jīng)網(wǎng)絡(luò)成為機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)領(lǐng)域的研究

2、熱點(diǎn)。 本文以回歸問題為例就模塊化神經(jīng)網(wǎng)絡(luò)系統(tǒng)中各個(gè)子網(wǎng)絡(luò)的訓(xùn)練及組合方法展開研究，充分考慮了各子網(wǎng)間的相互聯(lián)系和作用隨待解決問題的變化而需不斷調(diào)整這一事實(shí)，結(jié)合了遺傳算法的相關(guān)理論知識和現(xiàn)存的MNN的學(xué)習(xí)方法，提出了名為“合作自適應(yīng)”的MNN組合方法。該方法首先按照某種相似性測度將樣本集劃分為若干子集，并考量子網(wǎng)對不同樣本子集的適應(yīng)能力，然后動(dòng)態(tài)地為子網(wǎng)分配樣本子集用以訓(xùn)練，這樣產(chǎn)生的個(gè)體神經(jīng)網(wǎng)絡(luò)既擁有相對的準(zhǔn)確性，又不失其對

3、其他樣本的適應(yīng)性：將這樣的網(wǎng)絡(luò)進(jìn)行合適地組合后可有效提高系統(tǒng)的精度和泛化能力。針對8個(gè)回歸實(shí)例，本文給出了仿真測試，并對結(jié)果進(jìn)行了對比分析。 本文還描述了作者所開發(fā)的一套名為“NeuralCraft”的適合于模塊化神經(jīng)網(wǎng)絡(luò)研究的仿真系統(tǒng)，詳細(xì)介紹了該系統(tǒng)的總體架構(gòu)和各模塊的功能以及人機(jī)交互界面的設(shè)計(jì)等。該系統(tǒng)基于先進(jìn)的Visual Studio.NET集成開發(fā)環(huán)境，利用.NETframework提供的豐富類庫和己封裝好的展示控件