揭秘:RCFile高效存儲結(jié)構(gòu)

　　圖3顯示了在HDFS上按照列組存儲表格的例子。在這個例子中，列A和列B存儲在同一列組，而列C和列D分別存儲在單獨的列組。查詢時列存儲能夠避免讀不必要的列，并且壓縮一個列中的相似數(shù)據(jù)能夠達(dá)到較高的壓縮比。然而，由于元組重構(gòu)的較高開銷，它并不能提供基于Hadoop系統(tǒng)的快速查詢處理。列存儲不能保證同一記錄的所有域都存儲在同一集群節(jié)點，例如圖2的例子中，記錄的4個域存儲在位于不同節(jié)點的3個HDFS塊中。因此，記錄的重構(gòu)將導(dǎo)致通過集群節(jié)點網(wǎng)絡(luò)的大量數(shù)據(jù)傳輸。盡管預(yù)先分組后，多個列在一起能夠減少開銷，但是對于高度動態(tài)的負(fù)載模式，它并不具備很好的適應(yīng)性。除非所有列組根據(jù)可能的查詢預(yù)先創(chuàng)建，否則對于一個查詢需要一個不可預(yù)知的列組合，一個記錄的重構(gòu)或許需要2個或多個列組。再者由于多個組之間的列交疊，列組可能會創(chuàng)建多余的列數(shù)據(jù)存儲，這導(dǎo)致存儲利用率的降低。

　　圖3 HDFS塊內(nèi)列存儲的例子

　　PAX混合存儲

　　PAX存儲模型(用于Data Morphing存儲技術(shù))使用混合存儲方式，目的在于提升CPU Cache性能。對于記錄中來自不同列的多個域，PAX將它們放在一個磁盤頁中。在每個磁盤頁中，PAX使用一個迷你頁來存儲屬于每個列的所有域，并使用一個頁頭來存儲迷你頁的指針。類似于行存儲，PAX對多種動態(tài)查詢有很強(qiáng)的適應(yīng)能力。然而，它并不能滿足大型分布式系統(tǒng)對于高存儲空間利用率和快速查詢處理的需求，原因在于：首先，PAX沒有數(shù)據(jù)壓縮的相關(guān)工作，這部分與Cache優(yōu)化關(guān)系不大，但對于大規(guī)模數(shù)據(jù)處理系統(tǒng)是非常關(guān)鍵的，它提供了列維度數(shù)據(jù)壓縮的可能性;其次，PAX不能提升I/O性能，因為它不能改變實際的頁內(nèi)容，該限制使得大規(guī)模數(shù)據(jù)掃描時不易實現(xiàn)快速查詢處理;再次，PAX用固定的頁作為數(shù)據(jù)組織的基本單位，按照這個大小，在海量數(shù)據(jù)處理系統(tǒng)中，PAX將不會有效存儲不同大小類型的數(shù)據(jù)域。本文介紹的是RCF i l e 數(shù)據(jù)存儲結(jié)構(gòu)在Hadoop系統(tǒng)上的實現(xiàn)。該結(jié)構(gòu)強(qiáng)調(diào)：第一，RCFile存儲的表是水平劃分的，分為多個行組， 每個行組再被垂直劃分， 以便每列單獨存儲;第二，RCFile在每個行組中利用一個列維度的數(shù)據(jù)壓縮，并提供一種Lazy解壓(decompression)技術(shù)來在查詢執(zhí)行時避免不必要的列解壓;第三，RCFile支持彈性的行組大小，行組大小需要權(quán)衡數(shù)據(jù)壓縮性能和查詢性能兩方面。

　　RCFile的設(shè)計與實現(xiàn)

　　RCFile(Record Columnar File)存儲結(jié)構(gòu)遵循的是“先水平劃分，再垂直劃分”的設(shè)計理念，這個想法來源于PAX。它結(jié)合了行存儲和列存儲的優(yōu)點：首先，RCFile保證同一行的數(shù)據(jù)位于同一節(jié)點，因此元組重構(gòu)的開銷很低;其次，像列存儲一樣，RCFile能夠利用列維度的數(shù)據(jù)壓縮，并且能跳過不必要的列讀取。圖4是一個HDFS塊內(nèi)RCFile方式存儲的例子。

　　圖4 HDFS塊內(nèi)RCFile方式存儲的例子