嵌入式片上存儲器有效使用的方法

引 言

　　隨著CPU速度的迅速提高，CPU與片外存儲器的速度差異越來越大，匹配CPU與外部存儲器的方法通常是采用Cache或者片上存儲器。對于嵌入式設(shè)備上數(shù)據(jù)密集的應(yīng)用，數(shù)據(jù)Cache與片上存儲器相比存在以下缺陷：①片上存儲器是固定的單周期訪問，可在設(shè)計時(不是運行時)研究數(shù)據(jù)訪問模式;而Cache還要考慮不命中的情況，因而有可變的數(shù)據(jù)訪問時間，執(zhí)行時間的預(yù)測更加困難。②使用Cache執(zhí)行時間的不可預(yù)測性影響編譯器的優(yōu)化。③細顆粒的Cache對于圖像編碼等的規(guī)則數(shù)據(jù)訪問并不合適，因而使用Cache對于嵌入式設(shè)備可能不是最優(yōu)的。

對于大多數(shù)應(yīng)用，使用片上存儲器比使用數(shù)據(jù)Cache能耗平均節(jié)省約40%，芯片面積與時間的乘積僅為Cache的46%，因而對于嵌入式多媒體處理器，片上RAM作為數(shù)據(jù)Cache的替代，功耗更低。片上存儲器的有效使用對于提高嵌入式應(yīng)用的速度、降低功耗具有重要的意義。

　　TMS320C55x(簡稱為“C55x”)具有極低的功耗(0.05 mW/MIPS)，本文以C55x上的視頻編碼器為例，討論片上存儲器的有效使用。

　　1 數(shù)據(jù)的片外、片上動態(tài)分配

　　因為片上存儲器比片外存儲器具有更強的數(shù)據(jù)訪問能力和更低的訪問功耗，所以盡可能分配數(shù)據(jù)到片上存儲器;未能分配到片上的數(shù)據(jù)可在CPU處理前轉(zhuǎn)移到片上;已經(jīng)轉(zhuǎn)移到片上的數(shù)據(jù)，應(yīng)盡可能在片上保存，直到其生命期結(jié)束，以便盡可能減少數(shù)據(jù)從片外存儲器到片上存儲器的數(shù)據(jù)轉(zhuǎn)移。在視頻編碼等應(yīng)用中，標量、常數(shù)相對矩陣而言，通常數(shù)量較少，可以分配到片上。若分配到片外，則在運算時直接存取片外數(shù)據(jù)，CPU流水線將會停滯。直接存儲器存取(DMA)可以在存儲器之間、存儲器與外設(shè)之間轉(zhuǎn)移數(shù)據(jù)，除了DMA通道參數(shù)初始化以外，DMA轉(zhuǎn)移數(shù)據(jù)和CPU處理數(shù)據(jù)可以并行進行。設(shè)置DMA通道參數(shù)需要一定的時間，用DMA來轉(zhuǎn)移單個變量或常數(shù)的開銷可能比直接存取更大，因此DMA適合轉(zhuǎn)移具有較多數(shù)據(jù)的矩陣，并不適合片外標量的轉(zhuǎn)移。包含大量元素的矩陣可以分配到片外，處理前使用DMA轉(zhuǎn)移到片上存儲器。

　　局部變量由編譯器分配到軟件棧上，C55x具有兩個軟件棧——數(shù)據(jù)棧和系統(tǒng)棧。C55x的棧有3種工作模式，可設(shè)置成雙16比特快返回模式，以減小棧所占的存儲器空間，并提高其運行速度。數(shù)據(jù)棧和系統(tǒng)棧在函數(shù)調(diào)用及返回時同時訪問，可將這兩個棧分配到DARAM塊或者不同的SARAM塊內(nèi)。

　　本文中數(shù)據(jù)存儲器的分配，強調(diào)從實際多媒體應(yīng)用處理的基本數(shù)據(jù)塊出發(fā)，分析簡單、直觀。多媒體算法總是將原始輸入數(shù)據(jù)分成一定大小的塊來處理，并產(chǎn)生對應(yīng)該輸入的最后輸出。如果片上沒有足夠的存儲器，則大量的輸入數(shù)據(jù)和最后結(jié)果僅能存儲在片外。對于元素較多的矩陣，可以根據(jù)算法特征，將矩陣分成若干數(shù)據(jù)子塊，如H.263編碼器中的宏塊和搜索窗等，或者單純根據(jù)可得到的片上存儲器數(shù)最分成適當大小的子塊逐個運算，然后分析數(shù)據(jù)子塊的生命期和使用頻率。

　　這里定義數(shù)據(jù)子塊的生命期為首次使用到最后一次使用之間的間隔，而通常變量的生命期為定義到最后使用之間的間隔。例如，定義整型數(shù)組int MB[384]，用來存儲待編碼宏塊的數(shù)據(jù)，圖像的某個宏塊的數(shù)據(jù)在該宏塊編碼結(jié)束后，該宏塊數(shù)據(jù)的生命期也就結(jié)束}然后該數(shù)組用來存儲下一宏塊的數(shù)據(jù)，因而變量的生命期遠比存儲在該變量中的某一具體數(shù)據(jù)的生命期要長。若數(shù)據(jù)子塊具有不相交的生命期，則可以共享相同的片上存儲器。很多數(shù)據(jù)子塊在運算中多次使用，可在首次運算前轉(zhuǎn)移到片上，并盡可能保存到生命期結(jié)束，即直到這些數(shù)據(jù)不再使用為止，因而這些數(shù)據(jù)僅需要一次轉(zhuǎn)移。將程序執(zhí)行時間看成是由很多連續(xù)的時間間隔組成的，若在下個時間間隔內(nèi)需要轉(zhuǎn)移新的數(shù)據(jù)到片上供CPU處理，而片上又沒有足夠的存儲器存儲這些數(shù)據(jù)，則這時將隨后需要蓮續(xù)頻繁使用的數(shù)據(jù)保留到片上。對于隨后較少使用的數(shù)據(jù)，若片外存儲器還保存有該數(shù)據(jù)的備份，則這些數(shù)據(jù)可直接覆蓋，等到下次使用時再從片外存儲器拷貝到片上;否則，在覆蓋前將數(shù)據(jù)轉(zhuǎn)移到片外。在片上分配一定的緩沖區(qū)，用來存儲需要再次使用的數(shù)據(jù)，可有效地減少片外存儲器的訪問。對于中間結(jié)果，盡量在使用前分階段計算，使用后釋放，以縮減存儲中間結(jié)果的存儲器需求。通過數(shù)據(jù)的這種動態(tài)分配，既可以減小或避免訪問片外慢速存儲器所引起的指令延遲，又可以減少片外到片上的數(shù)據(jù)轉(zhuǎn)移。

　　在H.263視頻編碼器中，編碼是按宏塊順序進行的。INTRA宏塊編碼不僅需要當前的編碼宏塊數(shù)據(jù)，還需要以當前宏塊為中心的重建圖像搜索窗。因此，根據(jù)算法特征將整幀輸入圖像劃分成宏塊，某個宏塊數(shù)據(jù)在編碼前轉(zhuǎn)移到片上，這一宏塊編碼結(jié)來后就不再使用，這部分片上存儲器就可釋放，用來存儲下一宏塊數(shù)據(jù)。若在編碼的同時采用DMA轉(zhuǎn)移下一個宏塊，則需要在片上分配兩個宏塊的存儲器空間，用來存儲編碼的原始圖像。

　　在進行INTER幀的編碼時，運動搜索需要使用前一幀的重建圖像作為參考。設(shè)搜索范圍為[-16，+16]，編碼該宏塊需要搜索參考圖像中以編碼宏塊位置為中心的9個宏塊，即前一幀中宏塊(x，y)的重建圖像，直到編碼(x+1，y+1)宏塊后生命期才結(jié)束。以CIF分辨率為例，不可能把一幀圖像的所有重建宏塊保存到生命期結(jié)束，因而部分重建圖像必須暫時存儲在片外。若在編碼(x-1，y-1)前將重建宏塊(x，y)拷貝到片上并一直保存到編碼(x+l，y+1)宏塊結(jié)束，則只需要在片上分配將近3個GOB的空間用來存儲參考圖像，就可以保證每個宏塊的重建圖像數(shù)據(jù)只需要一次片外到片上的轉(zhuǎn)移。

　　半像素內(nèi)插結(jié)果，用于在整像素運動搜索后作為半像素搜索的參考，因而可在整像素搜索后、半像素搜索前，圍繞整像素運動矢量，對整像素運動矢量對應(yīng)的匹配宏塊進行內(nèi)插。這樣就沒有必要在編碼INTER幀前將整幀圖像進行內(nèi)插，可顯著減少存儲內(nèi)插結(jié)果的存儲器數(shù)量，從而分配在片上。

　　2 片上數(shù)據(jù)的存儲器分配

　　C55x除了讀指令的地址、數(shù)據(jù)總線外，還有3條用于從存儲器讀操作數(shù)的地址、數(shù)據(jù)總線，2條寫操作數(shù)到存儲器的地址、數(shù)據(jù)總線。CPU在1個周期內(nèi)可完成多個操作數(shù)的讀寫，由于每個DARAM塊或SARAM塊的訪問能力有限，這些操作數(shù)位于適當?shù)腄ARAM或SARAM塊內(nèi)，才能在單周期內(nèi)完成多個數(shù)據(jù)的讀入或者數(shù)據(jù)的同時讀寫，而不產(chǎn)生延遲。

　　2.1 指令代碼的分配

　　應(yīng)用程序的指令代碼可以存儲在片外存儲器，通過指令Cache進行訪問，可以減少CPU讀指令代碼與CPU讀/寫片上存儲器內(nèi)數(shù)據(jù)的沖突，同時將空余更多的片上存儲器空間用于數(shù)據(jù)分配。若存儲程序代碼和數(shù)據(jù)所需的存儲器容量總和小于片上存儲器容量，那么將代碼分配到片外存儲器與代碼數(shù)據(jù)全部分配到片上存儲器相比，性能降低大約10%。因此當代碼和數(shù)據(jù)總和小于片上存儲器容量時，應(yīng)該全部分配到片上存儲器。通常程序代碼僅供CPU讀取，并不修改;而數(shù)據(jù)經(jīng)常需要同時讀寫，因而應(yīng)盡量將代碼存儲在SARAM內(nèi)，以便將訪問能力更強的DARAM用來存儲數(shù)據(jù)。在單個CPU周期內(nèi)，SARAM僅有一次訪問能力，同時讀取指令和數(shù)據(jù)必然產(chǎn)生延遲，為了保證讀取數(shù)據(jù)時不產(chǎn)生延遲，數(shù)據(jù)不能與訪問這些數(shù)據(jù)的代碼存儲在同一SARAM塊內(nèi)。也就是說，當程序代碼大小不是剛好整數(shù)個塊時，可通過調(diào)整代碼或者數(shù)據(jù)的存儲器分配，避免CPU讀代碼與讀/寫數(shù)據(jù)發(fā)生沖突。

　2.2 數(shù)據(jù)分配

　　前面已經(jīng)討論過變量和常數(shù)的分配，這里主要討論的耗時較多的矩陣運算，通常口丁以用C語言或者匯編語言編寫應(yīng)用程序，C語言編譯后可產(chǎn)生匯編代碼。在匯編語言的代碼中，找到處理矩陣操作數(shù)的指令，依次列舉這些指令不產(chǎn)生延遲的矩陣分配限制，并求解滿足這些限制條件的片上存儲器分配。

　　不產(chǎn)生延遲的約束條件可分成兩類基本約束條件：