自動化測試框架分類與思考
自動化測試一直是敏捷開發和敏捷測試的重要基石,也是DevOps和CI/CD必不可少的組成部分。由于不同項目的測試需求不同,以及各種不同的限制,導致需要的自動化測試框架和工具也不同。比如很多金融和能源類的企業就傾向于選擇收費的企業級自動化測試框架或者工具,而新型互聯網企業則傾向于開源免費的自動化測試框架或者工具,或者基于它們進行二次定制開發,或者重新開發適合自己的自動化測試框架、工具或者平臺。
我之前寫過一篇文章——《自動化測試框架Cucumber和RobotFramework的實戰對比》僅僅針對兩種自動化測試框架進行了討論,卻引發了大量的討論,由此可見業界對于自動化測試框架存在很多不同的理解和爭議。在我看來,沒有任何一個自動化測試框架是銀彈,并且適合所有類型的測試,所以“如何選擇一款適合自己的測試框架”變成為了一個首要問題。我將自動化測試進行了簡單的分層,見下圖。
自動化測試架構分層圖
其中測試庫和被測系統緊密相關,所以可以選擇的范圍不是很大,也很難進行統一分類。而測試框架與被測系統關系并不緊密,而是和技術棧,開發流程與組織管理等關系緊密相關,并且種類繁多,可選擇范圍很多,所以選擇也相對比較困難。
因此對測試框架進行統一分類可以更好的幫助團隊選擇適合自己的測試框架,從而更好進行自動化測試開發。
本文根據自動化測試用例的呈現方式和管理方式將其分為四種類型:函數行,單領域語言型,多領域語言型以及富文檔型。
四個類型:
1. 函數型
函數型自動化測試框架是第一代自動化測試框架,也是最輕量的測試框架。它只是通過函數的方式來定義測試用例,并且通過管理這些函數的調用來管理測試用例,從而快速的實現自動化測試,比如xUnit等。
例子JUnit:
- public class DemoTest {
- @Test
- public void testAddWithTwoNumbers() {
- //測試實現代碼
- }
- }
函數型自動化測試框架由來已久,開發快速,運行穩定。雖然它相對簡單與輕量,但是也存在缺點:很難通過函數名來描述測試用例的內容和細節,并且不方便對測試用例進行單獨管理,因為測試用例的描述函數名和測試實現通常都在一起。
2. 單領域語言型
由于函數型的自動化測試框架很難通過函數名去描述一個測試用例的內容。為了更清晰和容易的描述測試用例,就出現了單DSL型的自動化測試框架,比如RSpec,Jasmine,Mocha,RF等。
例子Jasmine:
- describe("The add function of the calculator can add two numbers", function() {
- it("should get the sum after add two numbers", function() {
- //測試實現代碼
- });
- });
單領域語言型可以通過自然語言或者關鍵字形式的領域語言來描述測試用例,從而以一種更加易讀和理解的方式來描述測試用例。但是每個測試用例只用一句DSL語言,并不能很好的描述測試用例和被測場景,不易形成一套好的活文檔。由于它的測試用例與測試實現通常也是在一起的,所以也不方便對測試用例進行單獨管理。
3. 多領域語言型
由于單DSL型框架中對于每個測試用例只能使用一句DSL來描述,并不能很好的體現測試用例場景,比如測試的前提,行為和結果等。為了能在測試用例層更為清晰的描述測試用例的行為和測試數據等型信息,出現了多領域語言型的自動化測試框架,比如Cucumber,JBehave,SpecFlow,RF等。
例子Cucumber:
測試用例代碼
- Feature: The add function of the calculator can add two numbers
- Scenario: add two numbers
- Given there are two numbers <Number 1> and <Number 2>
- When add these two numbers
- Then should get <Sum> of two numbers
- Examples:
- | Number 1 | Number 2 | Sum |
- | 1 | 2 | 3 |
- | -1 | 2 | 1 |
測試實現代碼
- Given(/^there are two numbers$/) do
- //測試實現代碼
- end
- When(/^add two numbers together$/) do
- //測試實現代碼
- end
- Then(/^should get sum of two numbers$/) do
- //測試實現代碼
- end
多領域語言型的框架可以通過多句或者多個關鍵字的領域語言來描述一個特定的場景,使得測試用例更容易閱讀和理解,并且比較容易做成一套活文檔系統。由于測試用例和測試實現是分離的,還可以對測試用例進行獨立管理。
但是缺點也是比較明顯的,開發、管理和維護成本較高,并且如果沒有業務分析或者產品人員等非技術人員參與協作開發,那么它的投入產出比就很低,大家往往會認為它是事倍功半。
4. 富文檔型
對于一些場景十分復雜,需要通過富文檔的方式來描述軟件測試場景,甚至需要一些業務流程圖或者系統用戶界面等,比如Concordion,Fitnesse,Guage等。
例子 Condordion:
測試用例代碼,其中包含部分測試代碼,比如斷言等,其中concordion.css使用的是官方樣例代碼
- <html xmlns:concordion="http://www.concordion.org/2007/concordion">
- <link href="concordion.css" rel="stylesheet" type="text/css" />
- <body>
- <h1>Test Demo</h1>
- <p> Test the add function of the calculator can add two numbers </p>
- <p> The Caculator:</p>
- <div> <img src="./Calculator.png"/> </div>
- <div concordion:example="add">
- <h3>Examples</h3>
- <table>
- <tr>
- <th>Number 1</th>
- <th>Number 2</th>
- <th>Sum</th>
- </tr>
- <tr concordion:execute="#sum = addWithTwoNumbers(#number1,number2)">
- <td concordion:set="#number1">1</td>
- <td concordion:set="#number2">2</td>
- <td concordion:assert-equals="#sum">3</td>
- </tr>
- <tr concordion:execute="#sum = addWithTwoNumbers(#number1,number2)">
- <td concordion:set="#number1">-1</td>
- <td concordion:set="#number2">2</td>
- <td concordion:assert-equals="#sum">1</td>
- </tr>
- </table>
- </div>
- </body>
- </html>
測試用例呈現文檔:
測試用例中的函數實現代碼:
- @RunWith(ConcordionRunner.class)
- public class CaculatorFixture {
- public String addWithTwoNumbers(String number1, String number2) {
- //測試實現代碼
- }
- }
(注:雖然說最新版的Concordion已經支持MarkDown了,從而降低了一些開發成本,但是其對MarkDown的特性支持有待增加。所以如果需要更為豐富的文檔形式,仍然需要使用HTML來開發測試用例。)
富文檔型的框架比多領域語言型擁有更為豐富的文檔,更容易閱讀和理解,從而能做成說明書式的活文檔,使得所有角色的人都能審閱。并且其測試用例和測試實現也是分離的。但是當前業界存在的富文檔型測試框架的易用性和協作性都還不是很好,導致其開發,管理和維護成本相比前三種是最高的。并且當沒有其它各個角色來協同開發,管理和維護時,其投入產出比也是最低的,所以它在行業中的使用率也是很低的。這類測試框架在易用性和協作性方面還有很大的發展空間,并且也是自動化測試框架和活文檔系統的一個重要的發展方向。
思考與選擇
自動化測試的代碼實現層一般是與編程語言強相關的,而主流的編程語言比較少,所以選擇比較容易:一般建議選擇團隊大部分成員都熟悉的編程語言(這樣可以促使整個團隊來對自動化測試進行開發和維護)或者是有特定測試庫的編程語言(比如需要使用Scapy時就只能選擇基于Python的自動化測試框架)。當確認自動化測試開發語言后,真正的問題是如何在如此眾多的自動化測試框架里面選擇合適自己的自動化測試框架。選擇方法可以根據以上四種類型來進行選擇,從而縮小選擇范圍。
如果團隊只是需要快速實現自動化測試,沒有知識的傳遞問題,也不需要與業務分析和產品經歷等非技術人員進行協作開發時,可以選擇函數型自動化測試框架。
如果為了解決知識傳遞問題,讓測試用例更可讀和易懂,并且沒有非技術人員參與協作開發,這時可以選擇單領域語言型。
如果為了進一步解決和非技術人員協作開發的問題,并且想有一套簡版的活文檔,可以選擇多領域語言型自動化測試框架。
如果為了讓測試用例擁有更為豐富的表現力,比如包含一個流程圖來說明被測場景的流程,或者使用不同的格式或者表格來描述用例的細節,以及擁有一套豐富的活文檔,這時就可以使用富文檔型。不過由于當前的富文檔型測試框架在編寫用例時需要一定的技能,所以非技術人員很難直接參與協作編寫。并且其編寫以及維護成本更高,可能使得自動化測試開發人員使用的意愿也不是很高。參考自動化測試工具選項金字塔:
當確認了測試框架類型之后,比如只有一個可選項(Java->函數型->JUnit),那么就直接使用了,但是如果存在多選項(JavaScript-> 單領域語言型->Jasmine vs Mocha),就還需要對其進行深入比較,從而最終選擇自己適合的自動化測試框架。
【本文是51CTO專欄作者“ThoughtWorks”的原創稿件,微信公眾號:思特沃克,轉載請聯系原作者】