深入探討數(shù)據(jù)倉庫緩慢變化維的解決方案
緩慢變化維定義 Wikipedia中的定義:
Dimension is a term in data management and data warehousing that refers to logical groupings of data such as geographical location, customer information, or product information.Slowly Changing Dimensions (SCD) are dimensions that have data that slowly changes.
大意是說數(shù)據(jù)會(huì)發(fā)生緩慢變化的維度就叫”緩慢變化維”。
舉個(gè)例子就清楚了:
在一個(gè)零售業(yè)數(shù)據(jù)倉庫中,事實(shí)表保存著各銷售人員的銷售記錄,某天一個(gè)銷售人員從北京分公司調(diào)到上海分公司了,那么如何來保存這個(gè)變化呢?也就是說銷售人員維度要怎么恰當(dāng)?shù)奶幚磉@一變化。先來回答一個(gè)問題,為什么要處理,或保存這一變化?如果我們要統(tǒng)計(jì)北京地區(qū)或上海地區(qū)的總銷售情況的時(shí)候,這個(gè)銷售人員的銷售記錄應(yīng)該算在北京還是算在上海?當(dāng)然是調(diào)離前的算在北京,調(diào)離后的算在上海,但是如標(biāo)記這個(gè)銷售人員所屬區(qū)域?這里就需要處理一下這個(gè)維度的數(shù)據(jù),即我們緩慢變化維需要做的事情。
處理緩慢變化維一般按不同情況有以下幾種解決方案:
一、新數(shù)據(jù)覆蓋舊數(shù)據(jù)
此方法必須有前提條件,即你不關(guān)心這個(gè)數(shù)劇的變化。例如,某個(gè)銷售人員的英文名改了,如果你不關(guān)心員工的英文名有什么變化則可直接覆蓋(修改)數(shù)據(jù)倉庫中的數(shù)據(jù)。
二、保存多條記錄,并添加字段加以區(qū)分
這種情況下直接新添一條記錄,同時(shí)保留原有記錄,并用單獨(dú)的專用的字段保存區(qū)別。如:
(以下表格中Supplier_State表示上面例子中所屬區(qū)域,為描述清晰,不用代理鍵表示)
|
或:
|
以上兩種是添加數(shù)據(jù)版本信息或是否可用來標(biāo)識(shí)新舊數(shù)據(jù)。
下面一種則是添加記錄的生效日期和失效日期來標(biāo)識(shí)新舊數(shù)據(jù):
|
空的End_Date表示當(dāng)前版本數(shù)據(jù),或者你也可一用一個(gè)默認(rèn)的大時(shí)間 (如: 12/31/9999)來代替空值, 這樣數(shù)據(jù)還能被索引識(shí)別到.
三、不同字段保存不同值
|
這種方法用不同的字段保存變化痕跡.但是這種方法不能象第二種方法一樣保存所有變化記錄,它只能保存兩次變化記錄.適用于變化不超過兩次的維度。
四、另外建表保存歷史記錄
即另外建一個(gè)歷史表來表存變化的歷史記錄,而維度只保存當(dāng)前數(shù)據(jù)。
|
這種方法僅僅記錄一下變化歷史痕跡,其實(shí)做起統(tǒng)計(jì)運(yùn)算來還是不方便的。
五、混合模式
這種模式是以上幾種模式的混合體,相對而言此種方法更全面,更能應(yīng)對錯(cuò)綜復(fù)雜且易變化的用戶需求,也是較為常用的。
|
此中方法有以下幾條優(yōu)點(diǎn):
1. 能用簡單的過濾條件選出維度當(dāng)前的值。
2. 能較容易的關(guān)聯(lián)出歷史任意一時(shí)刻事實(shí)數(shù)據(jù)的值。
3. 如果事實(shí)表中有一些時(shí)間字段(如:Order Date, Shipping Date, Confirmation Date),那么我們很容易選擇哪一條維度數(shù)據(jù)進(jìn)行關(guān)聯(lián)分析。
其中Row_Key和 Current Indicator字段是可有可無的,加上去更方便,畢竟維度表的數(shù)據(jù)都不大,多點(diǎn)冗余字段不占太大空間但能提高查詢效率。
這種設(shè)計(jì)模式下事實(shí)表應(yīng)以Supplier_key為外鍵,雖然這個(gè)字段不能***標(biāo)識(shí)一條維度數(shù)據(jù),從而形成了事實(shí)表與維表多對多的關(guān)系,因此在做事實(shí)和維度做關(guān)聯(lián)時(shí)應(yīng)加上時(shí)間戳字段(或Indicator字段)。
六、非常規(guī)混合模式
上面說到第五種實(shí)現(xiàn)方式有點(diǎn)弊端,那就是事實(shí)表和維表不是多對一關(guān)系,而是多對多關(guān)系,這種關(guān)系不能在建模時(shí)解決只能在報(bào)表層面,在報(bào)表運(yùn)行時(shí)解決,且在BI語意層建模時(shí)需要添加時(shí)間過濾條件,比較繁瑣。
下面這種解決方案可以解決此多對多關(guān)系,但是得修改一下事實(shí)表:
|
Fact Delivery: (為描述清晰,同樣不使用代理鍵標(biāo)識(shí)維度)
|
此方案中向維表中的當(dāng)前數(shù)據(jù)版本號始終為0,即插入維度數(shù)據(jù)時(shí)先將老版本的數(shù)據(jù)的version_number改成1(遞增),然后再插入當(dāng)前數(shù)據(jù),此時(shí)才能保持當(dāng)前數(shù)據(jù)版本號始終為0。
事實(shí)表中插入數(shù)據(jù)時(shí)所有的維度數(shù)據(jù)版本號始終全部為0。
因此此方案完全可解決事實(shí)表和維表多對多關(guān)系問題,另外還有個(gè)優(yōu)點(diǎn)是能保證事實(shí)表和維表的參照完整性,而且我們在用ERwin,PowerDesigner等建模工具建模時(shí),Version_Number和Supplier_key可作為復(fù)合主鍵在兩實(shí)體間建立鏈接。
【編輯推薦】