成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

聊聊數倉模型雜燴

大數據 數據分析
人的大腦算力有限,世界又太過于復雜。需要將你的關注點抽象出簡單模型,用于問題的研究和解決。

 [[379616]]

本文轉載自微信公眾號「曾二爺」,作者曾二爺。轉載本文請聯系曾二爺公眾號。

一、什么是建模

人的大腦算力有限,世界又太過于復雜。需要將你的關注點抽象出簡單模型,用于問題的研究和解決。

比如數學建模,將關注的問題抽象成數學模型進行解決;比如AAARR增長黑客模型,抽象出用戶的5個生命周期進行研究和指導行動。

而數據建模便是將問題域用數據表示出。

二、業務模型

接下來我們以下面的公立校業務場景來進行探討:

老師創建作業布置到多個班級

班級里的學生做完后提交作業(一個學生只有一個班級)

這里涉四種實體(老師、作業、班級、學生)及四個業務流程(創建作業、布置作業、做作業、交作業)。

三、關系型三范式模型

服務端的同學為了在關系型數據庫中滿足業務快速增刪改查,盡量減少數據冗余,常常采用三范式進行數據建模。

針對上述業務一般會有(老師、作業、班級、學生)四種實體表和(班級-作業、學生-作業)兩個關系表。

創建作業這個業務弱化到了作業表中

布置作業體現在班級-作業關系表中

做作業和交作業融合到學生-作業關系表中

這樣我們6個表的增刪改查就可以實現這個業務。

四、數倉模型

4.1 維度建模

到了數倉我們主要將數據用于分析,一般采用維度建模將三范式模型進行重構。劃分維度和事實,建立不同層級的數據,滿足多種分析場景。

當我們需要分析的是老師布置作業到班級這個業務過程時,作業-班級就相當于事實表,維度表有班級、作業。

4.2 粒度

業務過程會有不同的粒度,比如學生-作業的粒度就比班級-作業更細。粗粒度的班級-作業能匯總學生-作業的一些信息,比如某份作業某個班級有多少人提交。

一般我們會重點建設各個業務過程的最細粒度的事實表,方便后面的多級粒度的匯總。

4.3 歷史與現在

通常來說數倉從業務庫同步過來的數據都是當前數據的一個鏡像,業務庫的模型都是針對于當前業務的,不會保存歷史的信息。比如新的學期班級表中的年級屬性會變更,業務庫就直接進行更改。

到了數倉如果我們要計算歷史作業的提交信息,那就得保存學生提交作業的當時他所在的年級。像年級慢慢變化的維度我們稱之為緩慢變化維。

處理方式既可以建立一個班級歷史信息表,關聯的時候帶上時間,也可以將年級信息‘退化’到學生-作業的事實表中不再放維度表。

4.4 多事實融合

所謂寬表既可能是多個維度退化到事實表形成的,也可能是多個有關聯的事實融合而來。

比如 文中的例子我們可以通過信息的冗余和置空實現一個最極端的寬表:老師-作業-班級-學生

該表記錄了所以老師的信息,如果沒有創建過作業那其他的信息都為空

如果老師有創建過多個作業那老師的信息冗余存儲到每條作業信息

班級和學生信息也全都記錄到這個表上,如果沒有作業信息,那老師、作業信息都為空,如果有多條作業信息也進行冗余存儲

使用的時候就需要按需去重或者過濾空值

這樣融合了多個業務流程的明細,可以支撐各種業務的分析,但維護成本、存儲成本等都是很高的。

 

責任編輯:武曉燕 來源: 曾二爺
相關推薦

2022-03-01 17:16:16

數倉建模ID Mapping

2021-01-04 05:42:48

數倉模型設計

2022-12-08 10:16:58

數據模型

2021-09-01 07:21:41

數倉RFM模型

2022-08-22 17:46:56

虛擬數倉Impala

2024-08-20 08:39:41

大數據天穹數倉數據治理

2022-07-26 15:38:58

數據倉數據治理數據團隊

2023-01-03 17:43:39

網易郵箱數倉

2021-09-06 08:26:08

JavaScript數獨 LeetCode

2023-11-20 08:01:38

并發處理數Tomcat

2024-12-12 00:02:58

2021-12-02 08:41:30

數倉建模設計

2025-06-11 02:45:00

2023-11-23 16:53:56

數據倉庫大數據

2022-02-18 09:02:04

數據倉庫治理

2022-01-13 10:45:48

數倉對象主題域

2023-08-07 01:25:39

2021-08-11 07:53:22

數倉維度建模

2021-01-05 05:30:30

數倉維度SCD

2022-12-06 17:52:57

離線數倉治理
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 色女人天堂 | 国产精品久久久久久久免费大片 | 激情综合五月 | 亚洲精品一二三区 | 久久青视频| www久久久 | 国产乱性 | 91久久久精品国产一区二区蜜臀 | 亚洲午夜电影 | 午夜视频一区二区三区 | 青青草视频网站 | 综合激情久久 | 日韩精品一二三 | 免费观看毛片 | 国产美女自拍视频 | 欧美精品福利 | 久久久爽爽爽美女图片 | www.成人.com| 91色在线视频 | av网站在线看 | 日韩成人高清 | 在线免费观看黄网 | 天天拍天天草 | 国产99视频精品免费播放照片 | 99久久精品一区二区毛片吞精 | 91大片| 成人激情视频 | 精品国产乱码久久久久久中文 | 久久综合一区 | 欧美日韩久久久 | 国产91久久久久蜜臀青青天草二 | 亚洲国产日本 | 天天干天天爽 | 中文字幕视频三区 | 婷婷久久久久 | 免费三级av | 成人av观看 | 中文字幕一区在线观看视频 | 精品久久久久久亚洲精品 | 超级乱淫av片免费播放 | 亚洲精品视频在线观看视频 |