一種RBF神經(jīng)網(wǎng)絡(luò)的自適應(yīng)學(xué)習(xí)算法
整個(gè)算法的流程大體可分成三個(gè)部分。第一個(gè)部分是調(diào)節(jié)隱層節(jié)點(diǎn)的中心位置和隱層與輸出層之間的權(quán)值。本文采用梯度下降法,每循環(huán)一次,相應(yīng)地調(diào)節(jié)一次。第二個(gè)部分是執(zhí)行添加操作。添加的策略是根據(jù)輸出誤差在輸入空間分布的不均勻性而提出的。如果執(zhí)行該操作過(guò)頻,不但會(huì)減小隱層節(jié)點(diǎn)的中心位置和權(quán)值的調(diào)節(jié)速度,而且會(huì)造成隱層節(jié)點(diǎn)數(shù)目過(guò)多,計(jì)算量增大,導(dǎo)致過(guò)度擬合??紤]到以上因素,采用間歇的方式執(zhí)行添加操作,只有當(dāng)i=4n+1(n=0,1,2,…)時(shí),才執(zhí)行添加操作。第三個(gè)部分是執(zhí)行刪除操作。如果執(zhí)行該操作過(guò)頻,對(duì)于一些新增加的隱層節(jié)點(diǎn),其中心位置和權(quán)值有可能還沒來(lái)得及調(diào)整就已經(jīng)被刪除了,所以也采用間歇的方式執(zhí)行。當(dāng)i=8m+7(m=0,1,2,…)時(shí),才執(zhí)行刪除操作。
2.4 RBF網(wǎng)絡(luò)參數(shù)調(diào)整算法
本文采用梯度下降法調(diào)整RBF的隱層節(jié)點(diǎn)中心位置和權(quán)值。設(shè)隱層節(jié)點(diǎn)的數(shù)目為m,一共有N組訓(xùn)練樣本:(x,y)={(x1,y1),(x2,y2),…,(xN,yN)}。神經(jīng)網(wǎng)絡(luò)的實(shí)際輸出為:。選取均方差為誤差函數(shù),取ρ1和ρ2為學(xué)習(xí)率。
(1)調(diào)整隱層節(jié)點(diǎn)的權(quán)值
(2)調(diào)整隱層節(jié)點(diǎn)中心的位置
3 仿真實(shí)例
(1)對(duì)隨機(jī)曲面進(jìn)行恢復(fù)
仿真中定義曲面方程如下:
原始數(shù)據(jù)集所得曲面圖像如圖2所示。
評(píng)論