實時高速數(shù)據(jù)采集與存儲系統(tǒng)的一種實現(xiàn)方法
摘要:PCI-7300A_RevB超高速數(shù)字I/O卡的應(yīng)用,介紹一種大容量、高速、實時數(shù)據(jù)采集與存儲系統(tǒng)的實現(xiàn)方法。并根據(jù)自己的開發(fā)經(jīng)驗,指出實現(xiàn)過程中應(yīng)該注意的一些問題。
關(guān)鍵詞:高速、實時、數(shù)據(jù)采集與存儲、PCI-7300A_RevB
1、引言
隨著信息科學(xué)的飛速發(fā)展,數(shù)據(jù)采集和存儲技術(shù)已經(jīng)是數(shù)字信號處理中非常重要的環(huán)節(jié),將決定整個系統(tǒng)的性能。它廣泛應(yīng)用于雷達,通信,遙測遙感等領(lǐng)域。它己經(jīng)成為人們獲得外界信息的重要手段?;诳偩€的數(shù)據(jù)采集與存儲系統(tǒng),由于可靠且易于實現(xiàn)、經(jīng)濟等優(yōu)點,得到了廣泛的應(yīng)用。但當(dāng)數(shù)據(jù)傳輸率很高時,保持高速數(shù)據(jù)存儲過程的可靠性、實時性將會成為一個比較棘手的問題。為此一些廠商提供了雙總線技術(shù)、64位/66MHzPCI總線系統(tǒng)來解決這問題。但這些技術(shù)較為昂貴,且忽略了現(xiàn)有的硬件設(shè)備。經(jīng)過實驗與探索,我們選用ADLINK公司的PCI-7300A_RevB超高速數(shù)字I/O卡,利用現(xiàn)有的單(32位/33MHz)PCI總線的計算機
系統(tǒng)構(gòu)成低成本的硬件平臺,并利用自己開發(fā)的軟件系統(tǒng),最終實現(xiàn)了高速(45Mbytes/sec)持續(xù)的數(shù)據(jù)采集于存儲。
2、硬件組成及注意事項
為了利用現(xiàn)有的硬件設(shè)備,降低成本;我們采用ADLINK公司出品的PCI-7300A_RevB超高速數(shù)字I/O卡作為數(shù)據(jù)采集部分。該卡的主要特性如下:
32位數(shù)字I/O通道
32位PCI總線
通過觸發(fā)信號控制數(shù)據(jù)采集操作的開始。
100針SCSI型連接器
分散/聚攏方式的DMA
最高傳輸速率80Mbytes/sec
要實現(xiàn)實時高速的數(shù)據(jù)存儲,使用的一般的硬盤是不行的。所以我們選用希捷公司出品的型號為ST3146707LC的SCSI硬盤,該硬盤的容量是146GB,能滿足記錄大量數(shù)據(jù)的需要,其轉(zhuǎn)速為10Krpm。相應(yīng)的SCSI硬盤控制器,選用Adaptec公司出品的型號為Adaptec19160的Ultra160-SCSI硬盤控制器.
在搭建硬件平臺的過程中有些問題是必須注意的,否則系統(tǒng)不能正常工作。首先,PCI-7300A_RevB卡雖然采用分散/聚攏方式的DMA,但它對CPU資源的占用率是非常高的。經(jīng)過實驗證明,要保證整個數(shù)據(jù)采集與存儲系統(tǒng)正常工作,只能使用奔四1.7G以上的計算機系統(tǒng)。其次,Windows系統(tǒng)允許多個設(shè)備共享一個中斷請求號(IRQ)。為了保證存儲過程的實時性,必須確保SCSI硬盤控制器和PCI-7300A_RevB卡使用不同的IRQ??梢栽谥靼錌IOS里把Pnp(即插即用) /PCI設(shè)備的IRQ進行手動配置。最后Windows 2000 Service Pack 2 (SP2) 及早期版本不支持大于137GB容量的硬盤。須要先安裝Service Pack 3,再在注冊表(HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesAtapiParameters)里添加一個REG_DWORD類型的參數(shù)EnableBigLba,并把值設(shè)成0x1。這樣146GB的硬盤才能工作正常。
3、軟件設(shè)計
軟件設(shè)計直接決定硬件是否能正常工作,以及能否充分發(fā)揮硬件的性能。
3.1PCIS-DASK及雙緩沖區(qū)模式的工作原理
PCIS-DASK是ADLINK公司為自己的產(chǎn)品提供的驅(qū)動程序包,提供了專門用于實現(xiàn)高速數(shù)據(jù)采集的連續(xù)多緩沖區(qū)操作的一組API函數(shù)。通過這組API函數(shù),我們可以按照雙緩沖區(qū)的原理,非常方便地實現(xiàn)對數(shù)據(jù)的實時、高速、連續(xù)的采集與存儲。
雙緩沖區(qū)模式,在工程上稱為“乒乓” 緩沖區(qū)模式。跟常用的單緩沖區(qū)模式相比雙緩沖區(qū)模式的優(yōu)點是,它可以使用較小容量的內(nèi)存,不間斷地緩沖幾乎無限量的數(shù)據(jù)(輸入與輸出端需協(xié)同工作)。這種緩沖區(qū)模式的工作原理是:在內(nèi)存里開辟兩塊容量相等的緩沖區(qū)(以下將分別它們稱為第一緩沖區(qū)和第二緩沖區(qū))作為連續(xù)數(shù)據(jù)輸入的緩沖區(qū)。工作開始時,數(shù)據(jù)采集卡首先將數(shù)據(jù)寫入第一緩沖區(qū)中,在數(shù)據(jù)采集卡開始把數(shù)據(jù)寫入第二緩沖區(qū)的同時,用戶程序可以根據(jù)自身需要取出第一緩沖區(qū)中的數(shù)據(jù)做特定的處理。當(dāng)?shù)诙彌_區(qū)被寫滿后,數(shù)據(jù)采集卡回到第一緩沖區(qū)的起始處,以覆蓋舊數(shù)據(jù)的方式,把新數(shù)據(jù)寫入第一緩沖區(qū)中;與此同時用戶程序取出第二緩沖區(qū)中的數(shù)據(jù)。整個數(shù)據(jù)采集處理過程可以如此不斷地循環(huán)進行下去。
3.2板卡驅(qū)動設(shè)置及注意的問題
對板卡驅(qū)動的深刻理解是編寫好數(shù)據(jù)采集于存儲程序的前提。在連續(xù)數(shù)據(jù)輸入模式下,板卡驅(qū)動程序需要在系統(tǒng)內(nèi)存里開辟一塊緩沖區(qū)做為二級緩存,用戶可以設(shè)置該緩沖區(qū)的大小 。方法是:從菜單開始/程序/PCI-DASK/NuDAQ PCI configuration Utility 打開DASK2000 Device Driver Configuration對話框,從Card Type組合框中選擇Pci7300A_RevB項,在DI欄輸入你想要開辟的緩沖區(qū)容量,點擊OK按鈕完成設(shè)置。需要注意的是板卡驅(qū)動設(shè)置的緩沖區(qū)(簡稱驅(qū)動緩沖區(qū))容量與用戶程序開辟的緩沖區(qū)(用戶緩沖區(qū))容量存在著一定關(guān)系。經(jīng)過我們多次實驗,得出驅(qū)動緩沖區(qū)容量大約是用戶緩沖區(qū)的3倍;因此,當(dāng)驅(qū)動緩沖區(qū)過小,而用戶緩沖區(qū)較大時,會出現(xiàn)錯誤。
3.3 VisualC++開發(fā)環(huán)境的設(shè)置
為了使用PCIS-DASK提供的實現(xiàn)連續(xù)多緩沖區(qū)操作的API函數(shù),以及初始化板卡、設(shè)置板卡工作方式的API函數(shù);需要VisualC++連接PCI-DASK提供的動態(tài)連接庫(Pci-dask.lib).具體方法是:打開工程,從菜單Project/Setting…打開Project Setting對話框,切換到Link選項卡,在Object/library modules攔中添加Pci-dask.lib,點擊OK按鈕完成設(shè)置。最后在工程中加入頭文件Dask.h.。
3.4多線程的實時數(shù)據(jù)存儲軟件設(shè)計
在要求高速、實時和連續(xù)采集和存儲的情況下,一方面要求系統(tǒng)不間斷地進行數(shù)據(jù)采集,同時還要進行數(shù)據(jù)實時地存儲,否則將會丟失數(shù)據(jù),造成數(shù)據(jù)不完整。為了解決這個問題,我們在軟件實現(xiàn)中,引入了Windows的多任務(wù)處理技術(shù)(multitasking)。在程序里創(chuàng)建兩個工作線程分別完成數(shù)據(jù)采集和數(shù)據(jù)存儲工作。緩沖方式采用上面所說雙緩沖區(qū)模式,當(dāng)數(shù)據(jù)采集線程(SampleThreadProc)把采集到的數(shù)據(jù)寫入第一緩沖區(qū)時,數(shù)據(jù)存儲線程(StorageThreadProc)把第二緩沖區(qū)的數(shù)據(jù)存入SCSI硬盤;當(dāng)數(shù)據(jù)采集線程把數(shù)據(jù)寫入第二緩沖區(qū)時,數(shù)據(jù)存儲線程把第一緩沖區(qū)的數(shù)據(jù)存入SCSI硬盤;如此循環(huán)。另外通過實際實驗測試Adaptec19160 Ultra160-SCSI硬盤控制器,配合希捷公司出品的ST3146707LC SCSI硬盤,持續(xù)寫入速率能達到80Mbytes/sec。遠大于45 Mbytes/sec的采集速率。所以當(dāng)數(shù)據(jù)采集線程寫滿其中一個緩沖區(qū)之前,數(shù)據(jù)存儲線程已經(jīng)把另一個緩沖區(qū)里的數(shù)據(jù)存儲入SCSI硬盤。所以這種方法能保證數(shù)據(jù)的實時性、完整性和連續(xù)性。其程序流程圖如圖1。
3.5軟件實現(xiàn)
由于篇幅所限,下面僅給出程序中核心的代碼。
BOOLEAN BufferID=0;//緩沖區(qū)的ID;1第一緩沖區(qū),0:第二緩沖區(qū)。
BOOLEAN Stop=0;//停止數(shù)據(jù)采集與存儲,1:停止,0:繼續(xù)。
U32 Buffer1 [data_size], Buffer2 [data_size];
//開辟塊緩沖區(qū)。
FILE *fp;//存儲數(shù)據(jù)的目錄。
UINT SampleThreadProc (LPVOID pParam)
{BOOLEAN HalfReady=0;//緩沖被寫滿標志
do {HalfReady=0;
do(DI_AsyncMultiBufferNextReady(card,HalfReady,viewidx))://等待驅(qū)動程序報告緩
//有沖區(qū)被寫滿。
}while(!HalfReady);//如果HalfReady!=0,
//明有緩沖區(qū)被寫滿。
BufferID = ! BufferID;
AfxBeginThread(StorageThreadProc,NULL);
//啟動數(shù)據(jù)存儲線程
評論