運用在嵌入式智能設備的測試中的Agent技術
1 前言
智能軟件Agent是能夠為用戶執(zhí)行特定的任務、具有一定程度的智能、能夠自主的執(zhí)行部分任務并以一種合適的方式和環(huán)境相互作用的軟件程序。Agent 有自主性、響應性、學習能力和社會性等特性。這使得它適合在高度動態(tài)的環(huán)境下做出及時的響應。
嵌入式技術和新一代移動通訊網(wǎng)絡的發(fā)展使得嵌入式智能設備大量的涌現(xiàn)。這些設備的大都具有嵌入式操作系統(tǒng)的支持, 并運行著越來越豐富的應用程序。如何對這些應用程序進行測試,就成為一個需要研究的課題。本文將Agent技術引入嵌入式智能設備的測試中,使用目標設備Agent, 測試控制Agent, 網(wǎng)絡環(huán)境Agent分別模擬和處理測試設備,測試工程師和測試環(huán)境的復雜性,利用Agent自身具有的特點,提出了一種有效的自動化測試的方法。
2 相關的研究及本文的思路
Agent 所具有的自主性、響應性、學習能力和社會性等特性,使得它很適合處理復雜測試系統(tǒng)中的問題。將Agent技術應用于測試領域已經(jīng)有一些相關的研究,下面是具體的介紹。
Jeongeun Choi 和 Byoungju Choi [1]提出了一個基于Agent技術的測試工具,它通過使用用戶接口Agent來處理和測試者的交互,使用測試用例選擇Agent來進行測試用例的選擇,并使用回歸測試Agent進行回歸測試,從而很好的實現(xiàn)了自動化的軟件測試。但是他們提出的測試用例選擇技術僅能在大量已有的測試用例中選擇最佳的用例,不能減少編寫測試用例本身的復雜性。
另外一些研究將Agent 技術應用到了某一領域的測試中。Yu Qi、 David Hung 和 Eric Wong [3] 提出了一個基于Agent 技術的Web 應用程序測試方法。他們使用Agent技術降低了網(wǎng)絡應用測試的復雜性。他們的方法不僅僅適用于Web應用程序的測試,也適合于嵌入式智能設備的測試。
在實際測試過程中,測試人員很大的一項任務仍然是編寫各種測試用例,要真正的提高測試效率,就要提高測試腳本的通用性,減少測試腳本的變化[2] [4]。常見的嵌入式智能設備測試工具(比如TestQuest)使用圖像比對來判斷目標設備的狀態(tài), 這種方法雖然實現(xiàn)了非侵入性的測試,但是存在兩個問題:
圖片的抓取和傳送消耗了大量測試資源.
不同手機的用戶界面風格變化很大,這使得測試腳本在用來進行新設備的測試時需要對腳本進行維護.
然而,實際的設備中,當重要的事件發(fā)生時,系統(tǒng)會產(chǎn)生敏感事件來激勵相關模塊進行處理.如果能夠在測試過程中捕獲這些敏感事件,就能更加高效的進行測試. 并且,只要操作系統(tǒng)相同,敏感事件的捕獲方式也是一樣,測試用例不會因為界面的變化而變化。本文用目標設備Agent抽象和捕獲測試過程中的敏感事件,并將敏感事件發(fā)送給測試控制Agent。而測試控制Agent收到敏感事件后,根據(jù)自己的知識,采取相應的動作的機制(如異常處理,重新調(diào)度測試等)加以處理。這正好可以作為Agent的推理規(guī)則,用Agent的智能性來屏蔽測試過程的復雜性。此外,考慮到目標設備處于復雜的網(wǎng)絡環(huán)境中,我們利用網(wǎng)絡環(huán)境Agent來控制目標設備所處的網(wǎng)絡信號,從而實現(xiàn)對設備所處網(wǎng)絡環(huán)境的控制。
3 基于Agent的測試系統(tǒng)
3.1 總體結構
測試系統(tǒng)的最終目標是實現(xiàn)一個移動數(shù)字終端的自動化測試平臺,能夠?qū)σ苿訑?shù)字終端上的系統(tǒng)軟件和應用層軟件建立模塊化、可重用的測試腳本庫,提高各種黑盒測試的效率,自動化測試結果的生成,并實現(xiàn)測試結果的回放。
圖1. 測試系統(tǒng)的整體架構
如圖1所示,測試平臺分為四層,包括用戶接口層,測試控制層,通訊層和設備Agent層。 其中,過程監(jiān)控模塊,測試環(huán)境控制模塊和設備Agent層采用Agent的思想進行設計,以更好的支持嵌入式設備的測試。
3.2 系統(tǒng)基本執(zhí)行流程
測試過程是對真實用戶使用手機時“輸入-反饋”模型的一個模擬。
系統(tǒng)的基本的使用用例如下,首先用戶通過腳本編輯器或者虛擬手機創(chuàng)建測試腳本并進行基本的配置,然后過程監(jiān)控模塊調(diào)度腳本開始執(zhí)行,當腳本解釋器解釋執(zhí)行腳本語句時,腳本解釋器通常使用通訊模塊向手機發(fā)送模擬按鍵,然腳本解釋器進入等待狀態(tài),目標設備Agent從通訊模塊得到按鍵,執(zhí)行按鍵動作,截取屏幕并返回給測試控制Agent,或者如果手機有敏感世事件的發(fā)生(如來電,短信,異常等)也會反饋給測試控制Agent,測試控制Agent接到數(shù)據(jù),再次激勵腳本運行,并同時將測試結果輸入存入測試資源庫。腳本繼續(xù)運行下面的語句,直到運行結束。
3.3 目標設備Agent
目標設備Agent駐留在被測試的智能設備中,實現(xiàn)對目標設備的建模。本系統(tǒng)中它接收從PC機中接收到的控制命令,然后在智能設備中進行相應的操作,包括模擬鍵盤事件,截取屏幕并返回給PC,以及根據(jù)知識庫中的配置的測試目標,通過推理,有所選擇的將必需的狀態(tài)信息主動通知測試宿主機。
3.3.1 設備Agent 依賴的決策規(guī)則
系統(tǒng)事件報告決策規(guī)則(SERD-RULE)
這個決策規(guī)則決定設備Agent在獲取到狀態(tài)信息時,是否將狀態(tài)信息反饋給上層系統(tǒng)。
異常處理規(guī)則(EM-RULE)
這個決策規(guī)則決定了當Agent發(fā)現(xiàn)測試中出現(xiàn)異常,要采取的處理方式。
3.3.2 Agent 屬性
目標設備Agent具有下面的屬性。
自主性
目標設備Agent使得測試用戶無需關注設備的細節(jié),它是設備功能和狀態(tài)的一個很好的抽象,通過目標代理Agent,上層測試框架只需要執(zhí)行相應的虛擬操作,則目標設備Agent會自動將這些虛擬操作映射為對手機的實際操作,并且手機的響應和其它狀態(tài)也能夠自動的反饋給客戶,這使得上層測試和底層的設備具體操作無關。
智能性
當目標設備Agent獲取到一個變化的被測系統(tǒng)狀態(tài)或信息時,它會根據(jù)推理規(guī)則,僅僅把和本次目標相關的信息發(fā)送給測試控制Agent。目標設備Agent還能夠根據(jù)異常處理規(guī)則,合理的處理測試中出現(xiàn)的異常。
3.4 測試控制 Agent
測試控制Agent 實現(xiàn)了對測試過程的建模。它主要實現(xiàn)三個目標:
在測試過程中,對測試人員感興趣的事件進行捕獲,當這些敏感事件發(fā)生后,系統(tǒng)立刻執(zhí)行預定義的動作,并為測試提供準確和詳盡的日志。
通過和腳本解釋器交互,實現(xiàn)異步的事件通知和交互測試用例的執(zhí)行。
處理測試過程中的異常,使得測試過程可以自我修復,進而多個腳本能夠按照預先的調(diào)度正常運行。
3.4.1 測試控制Agent的決策規(guī)則
事件-條件-行動規(guī)則(ECA-RULE)
這是測試控制Agent所依據(jù)的核心規(guī)則,它定義了某個測試所關心的事件,并根據(jù)比對條件,采取相應的動作。
異常處理規(guī)則(EM-RULE)
測試控制Agent也遵守異常處理規(guī)則,它能夠檢測測試過程中發(fā)生的異常事件,并執(zhí)行相應的解決方案,使得測試能夠順利的進行。
3.4.2 測試控制Agent 的屬性
1>自主性
自主性使得測試人員無需過分關注測試的細節(jié),測試人員僅僅需要選擇測試目標,測試控制Agent就能根據(jù)知識庫中的信息,自動生成ECA規(guī)則表,并在腳本運行時,按照ECA規(guī)則,捕捉敏感的事件并執(zhí)行相應的操作。
2>智能性
測試控制Agent能夠根據(jù)用戶選擇的測試目標,自動生成ECA規(guī)則表,并根據(jù)ECA規(guī)則,進行推理并采取相應的動作。測試控制Agent還能根據(jù)異常處理規(guī)則來處理測試過程中發(fā)身的異常,保障測試過程的自動,平穩(wěn)進行。
3.5 網(wǎng)絡環(huán)境Agent
網(wǎng)絡環(huán)境Agent 實現(xiàn)了對網(wǎng)絡環(huán)境的模擬和控制。為了測試手機的射頻性能,通常使用基站模擬系統(tǒng)來提供設備所處的無線網(wǎng)絡環(huán)境,并且利用編程接口,通過軟件對設備的環(huán)境進行控制,使得復雜網(wǎng)絡環(huán)境下對目標設備的測試成為可能。
4 系統(tǒng)評估
為了評價本系統(tǒng)的有效性,我們設計了一個比較實驗。試驗在信息產(chǎn)業(yè)部泰爾實驗室真實的測試項目中進行。我們將測試工程師分為兩組,第一組使用本文的系統(tǒng)MobileTest進行測試,第二組使用業(yè)界著名的TestQuest Pro 進行測試。測試的依據(jù)是中國通訊行業(yè)標準的數(shù)字移動臺測試部分。測試的內(nèi)容是根據(jù)這兩個系統(tǒng)各自已經(jīng)建立好的回歸測試用例對新的智能手機進行回歸測試,從而比較這兩個測試工具的測試效率和腳本的可維護性。
表1 回歸測試的結果
實驗度量了兩個工具在測試不同種類的測試用例時,自動化執(zhí)行的用例所占的百分比。從表中可見,雖然TestQuest 在功能測試上有更高的自動化率,在壓力測試,多狀態(tài)測試,多任務測試,臨界測試和總計中,MobileTest有更好的測試覆蓋率。這是因為在后四種測試中,測試用例需要不斷追蹤系統(tǒng)的狀態(tài),使用圖片比對機制的TestQuest 很難完成這些工作,而MobileTest 卻能使用Agent返回的敏感事件來進行處理。此外,MobileTest 完成測試任務的時間時15天,比TestQuest 的測試效率要高。
5 結論
本文提出了一個基于Agent技術的嵌入式智能設備的測試方法,它用Agent技術對嵌入式智能設備測試過程中的被測試設備,測試者和網(wǎng)絡環(huán)境進行模擬和控制,很好的屏蔽了嵌入式智能設備的復雜性,提高了測試的效率和腳本的可重用性。將來的研究工作中,我們會進一步拓展整個測試系統(tǒng),使之能夠支持整個測試的生命周期。
本文作者的創(chuàng)新點:本文將軟件Agent技術引入到嵌入式智能設備的自動化測試中,利用Agent的特性,很好的屏蔽了嵌入式智能設備測試中,測試者,待測設備,網(wǎng)絡環(huán)境的復雜性,提高了自動化測試的效率。
評論