基于最大峰度準(zhǔn)則的非因果AR系統(tǒng)盲辨識(shí)
一、引 言
在地震勘探、通訊和水聲信號(hào)處理等許多領(lǐng)域,經(jīng)常需要辨識(shí)非因果系統(tǒng).要解決這類非因果系統(tǒng)的盲辨識(shí)問(wèn)題、單靠相關(guān)函數(shù)是不夠的,因?yàn)樗话到y(tǒng)的相位信息[1].
基于高階統(tǒng)計(jì)量的系統(tǒng)辨識(shí)方法在近年來(lái)受到了高度的重視.同基于相關(guān)函數(shù)的傳統(tǒng)辨識(shí)方法相比較,高階統(tǒng)計(jì)量的優(yōu)點(diǎn)在于:1.可保留系統(tǒng)的相位信息,從而有效地辨識(shí)非最小相位、非因果系統(tǒng).2.可以抑制加性有色噪聲的影響,提高算法的魯棒性.在各種高階統(tǒng)計(jì)量中,四階統(tǒng)計(jì)量由于計(jì)算相對(duì)簡(jiǎn)單,可以處理對(duì)稱分布信號(hào)而受到人們的特別重視,成為許多算法的基礎(chǔ).
在文獻(xiàn)[3]的基礎(chǔ)上,本文提出了最大峰度準(zhǔn)則,并將其應(yīng)用到非因果系統(tǒng)的辨識(shí)中.通過(guò)非線性優(yōu)化中的梯度法,本文設(shè)計(jì)了一種AR系統(tǒng)的盲辨識(shí)算法,并證明了它的全局收斂性,給出了算法在平衡點(diǎn)附近的收斂速度.算法通過(guò)構(gòu)造逆濾波器的方法來(lái)進(jìn)行盲辨識(shí),同時(shí)通過(guò)基于高階累積量的自學(xué)習(xí)算法用逆濾波器的系數(shù)逼近AR系統(tǒng)的參數(shù).這個(gè)算法可以辯識(shí)非因果系統(tǒng)并且也可用于反卷積或者盲均衡.由于采用了高階累積量,算法對(duì)高斯觀測(cè)噪聲有較好的魯棒性.
二、基于最大峰度準(zhǔn)則的系統(tǒng)辨識(shí)算法
設(shè)有一未知的線性時(shí)不變系統(tǒng)H,其輸入序列{u(n)}也未知,我們只觀測(cè)到其輸出序列{x(n)},n=0,1,…,N-1,其中N為測(cè)量序列的長(zhǎng)度.系統(tǒng)模型為
x(n)=u(n)*h(n)+w(n) (1)
其中{w(n)}是量測(cè)噪聲.h(n)是未知的線性時(shí)不變系統(tǒng)H的單位脈沖響應(yīng).
對(duì)這個(gè)模型中的信號(hào)特性做如下假設(shè):
(A1)線性時(shí)不變系統(tǒng)H是穩(wěn)定的,但它不一定是最小相位,也不一定是因果的,它存在一個(gè)穩(wěn)定的逆系統(tǒng)H-1.
(A2){u(n)}是平穩(wěn)的零均值非高斯實(shí)信號(hào),而且是一個(gè)獨(dú)立同分布信號(hào),它的m階累積量γm存在,m3.加性噪聲{w(n)}服從高斯分布,其統(tǒng)計(jì)特性未知,且與輸入信號(hào){u(n)}相獨(dú)立.
設(shè)對(duì)逆系統(tǒng)H-1的估計(jì)為V,則V的輸出{y(n)}為
y(n)=x(n)*v(n)=u(n)*g(n)+w′(n) (2)
其中w′(n)=w(n)*v(n)仍為一高斯噪聲,g(n)是由下式給出的穩(wěn)定的濾波器
g(n)=h(n)*v(n) (3)
與通常的峰度定義不同,定義信號(hào)x(t)的(規(guī)范化的)峰度K42x為
K42x=c4x(0,0,0)/[c2x(0)]2=γ4x/[σ2x]2 (4)
為了克服Shalvi Weinstein提出的準(zhǔn)則[2]中要求信號(hào)的方差相等的限制,可以把式(4)定義的(規(guī)范化)的峰度值做為準(zhǔn)則函數(shù),這使它更適合于實(shí)際應(yīng)用環(huán)境定義的準(zhǔn)則函數(shù)為
J(v(n))=|K42y|=|γ4y/(σ2y)2| (5)
需要說(shuō)明的是,這個(gè)準(zhǔn)則函數(shù)實(shí)際上是Chi Wu[3]提出的一大類準(zhǔn)則函數(shù)中的一個(gè)特例.他們提出的準(zhǔn)則函數(shù)為:
Jl+s,2s(v(n))=|γl+s,y|2s/|γ2s,y|l+s (6)
其中l(wèi)>s1.
顯然,式(5)是式(6)在l=3,s=1時(shí)的特例.該準(zhǔn)則函數(shù)的有效性在[3]中得到了證明,但本文將證明基于式(5)這個(gè)準(zhǔn)則的算法的全局收斂性和收斂速度.
對(duì)于非因果AR系統(tǒng),其逆濾波器是一個(gè)因果MA系統(tǒng)和一個(gè)反因果MA系統(tǒng)的極聯(lián),設(shè)這兩個(gè)系統(tǒng)分別為ω(i)和(i).針對(duì)上面的準(zhǔn)則函數(shù),可以利用非線性優(yōu)化中的梯度法,得到ω(i)和(i)的自學(xué)習(xí)算法為:
(7)
(8)
式中的數(shù)學(xué)期望在實(shí)際應(yīng)用中都由相應(yīng)的均值估計(jì)代替.當(dāng)K42x為正時(shí),x(t)為所謂超值,保證K42y不斷向正的方向增大;當(dāng)K42x為負(fù)時(shí),x(t)為亞高斯(Sub-Gaussian)信號(hào),α取負(fù)值,K42y不斷減小,|K42y|增大.
三、算法的全局收斂性
因?yàn)楸疚牟墒欠蔷€性優(yōu)化方法,這就必然涉及到一個(gè)問(wèn)題:算法收斂到的是全局極值點(diǎn)還是局部極值點(diǎn)?下面的定理表明算法必然收斂到全局極值點(diǎn).
定理:式(7),式(8)的算法的收斂點(diǎn)是全局極值點(diǎn).
證明:根據(jù)輸入和輸出之間高階累積量的關(guān)系,可以把準(zhǔn)則函數(shù)改寫為
J(v(n))=|K42u|∑g4(n)/[∑g2(n)]2 (9)
去掉其中與輸入有關(guān)的常數(shù),可以把目標(biāo)函數(shù)進(jìn)一步簡(jiǎn)化為
J(g(n))=∑g4(n)/[∑g2(n)]2 (10)
由式(10),得到下列駐點(diǎn)方程
j=1,2,… (11)
由式(11),駐點(diǎn)為g(j)=0或g2(j)=c,其中c=∑g4(i)/∑g2(i)為一常數(shù).為了便于敘述,定義由駐點(diǎn)gM(j)組成的集合GM,M=1,2,…,即
GM={gM:gM(j)符合式(11),且gM中有M個(gè)非零元素} (12)
由文獻(xiàn)[3]關(guān)于準(zhǔn)則有效性的證明,知道G1是由所有全局極值點(diǎn)組成的集合,下面證明GM,M2是由不穩(wěn)定平衡點(diǎn)(鞍點(diǎn))組成的集合,即利用本算法不會(huì)收斂到局部極值點(diǎn).
假定∈GM為
(13)
其中IM=(k1,…,KM)是一個(gè)有M個(gè)不重復(fù)正整數(shù)的集合.構(gòu)造一個(gè)向量.
(14)
它的準(zhǔn)則函數(shù)為
(15)
只要ε>0,上面的不等式就嚴(yán)格成立.也就是說(shuō),在的任何小的領(lǐng)域里,總存在使得J()>J(),所以∈GM不可能是局部極大值.下面證明它也不是局部極小值.
設(shè)kM+1IM,構(gòu)造如下的一個(gè)向量g)
(16)
它的準(zhǔn)則函數(shù)為
(17)
因?yàn)閏>ε>0,上面的不等式嚴(yán)格成立,所以∈GM不可能是局部極小值.
綜上所述,∈GM,M2是準(zhǔn)則函數(shù)的不穩(wěn)定平衡點(diǎn).因此按照式(7),式(8)的梯度尋優(yōu)算法收斂到的必然是全局極值點(diǎn).證畢.
上述定理表明,本算法對(duì)任何初始值都不會(huì)收斂到不希望的局部極值點(diǎn),這無(wú)疑是一個(gè)非常可貴的性質(zhì).本文例2的仿真結(jié)果說(shuō)明了這一性質(zhì).
四、算法的收斂速度
下面考慮算法的收斂速度.不失一般性,假設(shè)平衡點(diǎn)為(i)=δ(τ),g(i)為偏離平衡點(diǎn)的一個(gè)迭代值.
(18)
定義則有,
≈(1-4ε0)/|1+ε-2ε0|2-1(推導(dǎo)中去掉了分子中ε,ε0所有的二次以上項(xiàng))
≈(1-4ε0)|1-ε+2ε0|2-1
≈-2ε(推導(dǎo)中去掉了ε,ε0所有的二次以上項(xiàng)) (19)
由式(18)和(19),得到
J(g)-J()∝‖g-‖2 (20)
可見在全局極值點(diǎn)附近,準(zhǔn)則函數(shù)是以平方速度變化的.因此本文提出的基于梯度法尋優(yōu)的學(xué)習(xí)算法在平衡點(diǎn)附近將線性收斂.從下節(jié)例1的圖1和圖2中可以看到在接近收斂點(diǎn)附近,辨識(shí)的各個(gè)參數(shù)都以幾乎相同的斜率收斂到終值.
圖1 反因果部分辨識(shí)過(guò)程
圖2 因果部分辨識(shí)過(guò)程
五、仿真結(jié)果
此處給出兩種典型情況的仿真結(jié)果,在所有仿真中加性觀測(cè)噪聲為高斯白噪聲,輸入信號(hào)是指數(shù)分布的隨機(jī)過(guò)程(均值為零,λ=1),數(shù)據(jù)長(zhǎng)度為3000.學(xué)習(xí)常數(shù)開始時(shí)為0.5,在學(xué)習(xí)過(guò)程中逐漸減小為0.1.對(duì)每個(gè)例子均為30次Monte Carlo實(shí)驗(yàn).
例1.(非因果系統(tǒng)的辨識(shí))真實(shí)AR模型為
它的極點(diǎn)位于-0.0506±j0.6532,-0.6988,和-1.7500±h1.3919,信噪比SNR=10dB辨識(shí)時(shí)取m=5和n=5,即因果MA部分和反因果MA部分分別比實(shí)際模型高兩階和三階.辨識(shí)結(jié)果見表1和表2.
表1 非因果AR系統(tǒng)的因果部分辨識(shí)結(jié)果
a(1) | a(2) | a(3) | a(4) | a(5) | |
真實(shí)值 | 0.8 | 0.5 | 0.2 | 0 | 0 |
均值 | 0.7700 | 0.4524 | 0.2375 | -0.0296 | -0.0041 |
標(biāo)準(zhǔn)差 | 0.0654 | 0.0759 | 0.0741 | 0.0492 | 0.0322 |
表2 非因果AR系統(tǒng)的反因果部分辨識(shí)結(jié)果 |
b(1) | b(2) | b(3) | b(4) | b(5) | |
真實(shí)值 | 0.7 | 0.2 | 0 | 0 | 0 |
均值 | 0.6738 | 0.2015 | 0.0261 | 0.0215 | 0.0019 |
標(biāo)準(zhǔn)差 | 0.0812 | 0.0677 | 0.0485 | 0.0419 | 0.0337 |
圖2和圖3為最后一次Monte Carlo實(shí)驗(yàn)中b(i)和a(i)估計(jì)值的變化過(guò)程.由圖中可以看到,在經(jīng)過(guò)大約18次學(xué)習(xí)后,AR參數(shù)的估計(jì)值就收斂到真實(shí)值. |
圖3 g(i)的變化過(guò)程 例2 (反卷積:回響消除)假設(shè)房間的回響效果可以用以下的3階MA模型表示,它的參數(shù)為h(0)=l,h(l)=0.5,h(2)=0.2,h(3)=0.1.為了減小截?cái)嘈?yīng),仿真時(shí)取反卷積濾波器的階數(shù)為m=10.設(shè)g(i)=h(i)*a(i). 取反卷積濾波器的初始值為a(1)=1,a(2)=…=a(10)=0,迭代計(jì)算g(i)的結(jié)果如圖3所示.由圖可見,經(jīng)過(guò)8次迭代,g(i)就趨近于一個(gè)δ函數(shù),表示回響得到了很好的消除.其中g(shù)(i)的終值見表3第一行.它近似為δ(t).當(dāng)初始值為a(1)=…=a(10)=0.1時(shí)g(i)的終值見表3第二行.它近似為δ(t-4).兩個(gè)結(jié)果都是全局極值點(diǎn).這個(gè)結(jié)果說(shuō)明了算法是全局收斂的. 表3 g(i)的終值 |
g(1) | g(2) | g(3) | g(4) | g(5) | g(6) | g(7) | g(8) | g(9) | g(10) | |
終值 | 1.196 | 0.023 | 0.027 | 0.016 | 0.137 | -0.01 | -0.04 | -0.03 | -0.04 | -0.05 |
終值 | -0.01 | -0.02 | 0.001 | 0.057 | 1.296 | 0.023 | 0.025 | 0.023 | 0.151 | -0.02 |
六、結(jié) 論 在文獻(xiàn)[3]的基礎(chǔ)上,本文提出了基于二階和四階統(tǒng)計(jì)量的最大(規(guī)范化)峰度準(zhǔn)則,并設(shè)計(jì)了基于這種準(zhǔn)則的非因果AR系統(tǒng)辯識(shí)算法,這個(gè)算法同時(shí)也可以用于盲反卷積或盲均衡中.與文獻(xiàn)[3]未對(duì)算法作性能分析不同,本文證明了算法不但是全局收斂的,而且在平衡點(diǎn)附近將以線性速度進(jìn)行收斂.仿真的結(jié)果驗(yàn)證了我們的結(jié)論. |
評(píng)論