成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

好代碼實踐:基于Redis的輕量級分布式均衡消費隊列

開發 開發工具 存儲軟件 分布式 Redis
回到根源,我們寫代碼的目的是干嘛?為的是把我們的所思所想通過計算機認識的指令告訴它,讓它來替我們做我們想做的事情。好代碼,不僅可以簡單地完成我們的所思所想,更能夠快速、高效、完備地執行。讓我們的code一起在計算機上起舞吧。

 [[393103]]

一、我對好代碼的看法

1.什么是好代碼

如果你讀過《設計模式之美》,你可能會覺得玩轉各種設計模式,符合設計模式的6大基本原則的代碼就是好代碼;如果讀過《clean code》,你可能會覺得好代碼的一個標準是——整潔;如果你經常研讀Spring源碼,你可能會覺得精妙的設計、高度的抽象、靈活的配置才是好代碼,就像是一本書,一千個讀者眼中有一千個哈姆雷特,每個人按照自己的認知都會有自己的判斷。

2.我認為的好代碼

如前文所述,不同的人對好代碼的認知標準是不同的,我認為的好代碼,也局限于我的認知水平,也許今天我覺得是好代碼,隨著認知的提升,改天也會有不同的想法;就目前的認知而言,我認為的好代碼的一些特點:

可用性

對,你沒看錯,好代碼,一定是可用的,可以work的,如果一段代碼只是看著好看,用了各種花里胡哨的編碼技巧、手法,但是不能work,那就失去了它存在的意義了。所以,好代碼,最最最重要的一個特點就是可用性。

可讀性

我認為好代碼的第二個特點就是可讀性,我們的寫代碼的目標用戶有兩類,第一類是給編譯器看的;第二類是給維護它的程序員看的。針對第一類用戶,只要你符合它的語法規范,它就認識,它就可以執行;而第二類用戶,就是后期不斷的維護它、升級它的程序員同學,如果這段代碼,維護它的人都讀不懂,那他的長期存在的意義也就不大了。

其他優秀的特點

可維護性、可擴展性、可復用性、強魯棒性、可測試性等。

好代碼的其他優秀特點太多了,不一一列舉了。

3.讓code在計算機上起舞

回到根源,我們寫代碼的目的是干嘛?為的是把我們的所思所想通過計算機認識的指令告訴它,讓它來替我們做我們想做的事情。好代碼,不僅可以簡單地完成我們的所思所想,更能夠快速、高效、完備地執行。讓我們的code一起在計算機上起舞吧。

二、我們為什么要做

2020年五一期間,當大家都在享受五一假期的快樂時光時,我們突然收到hbase報警,整個hbase的IO壓力已經接近瓶頸,直接影響數據讀寫,臨時擴容hbase才勉強支撐過去。按照這個發展趨勢,一旦遇到業務高峰時,hbase的讀寫直接會給整個業務鏈路帶來瓶頸問題。為了能夠解決海量巴槍數據實時寫入hbase+solr時產生的高IO壓力,我們設計出一款基于redis實現的輕量級分布式均衡消費隊列,實現巴槍數據按照一定規則進行sharding到不同的隊列中,實現批量數據攢批去重,然后按批寫入hbase+solr,從而降低hbase+solr的IO壓力。

三、我們怎么做的

組件整體設計思路:

整個組件主要分為三大核心模塊,master(主節點)、writer(數據寫入節點)、worker(工作節點)。

設計機制:弱中心機制,任何一個配置好的節點都可能成為master(主節點)、writer(數據寫入節點)、worker(工作節點),具備高可用能力,不存在單機單點瓶頸問題。

master(主節點)職責:

  • 負責實時探活worker(工作節點)是否有變化,掉線情況;
  • 負責分配任務隊列到存活的worker(工作節點);
  • 負責實時檢測整個redis隊列的負載情況。

writer(數據寫入節點)職責:

  • 負責分配實時寫入任務sharding到不同的隊列;
  • 負責檢測當前寫入隊列的負載情況。

worker(工作節點)職責:

  • 負責實時匯報當前worker(工作節點)的狀態,保持心跳;
  • 負責定時消費該worker(工作節點)負責的數據。

偉大的linux大神曾說過,"Talk is cheap,讓我看看代碼"。

四、我們做了什么

1.整個組件的包結構圖

2.簡潔的代碼結構

  • 清晰的注釋,介紹類的作用和職責
  • 啟動項配置,靈活的配置,控制模塊是否啟動。
  • lambda-logger/lambda表達式,通過簡潔語法結構,輕量化代碼冗余,提高代碼簡潔度。
  • 斷言判斷,替換傳統的if-else判斷,提高代碼的可讀性。

整個工程一共60個類,核心代碼共1623行, 平均每個類的代碼行數為27.05行,最大的一個類代碼行數不超過200行。

3.強大的擴展性

通過鉤子回調方式的設計,方便接入的用戶能夠快速的注入自己的回調實現方法,進行快速擴展業務能力。

4.線上日志展示截圖

日志文件

master隊列分配日志

worker數據消費日志

writer隊列負載檢測日志

redis消費隊列監控大盤

五、我們的收益

組件部署上線之時,hbase服務端監控指標變化,實現hbase整體使用水位接近50%的優化。

hbase IOPS使用監控

hbase CPU使用監控

六、我們的展望

  • 獨立抽象組件,基于Redis的輕量級分布式均衡消費隊列,是一個全自主創新研發出來的,高可用,可擴展的基礎組件,目前已經封裝成為一個獨立的spring-boot-starter,具備高復用性和高擴展性能力。
  • 廣闊的使用場景,基于組件靈活的配置,在涉及的分布式任務隊列場景時,都可以使用到它,例如任務中心分發等可以做到天然的均衡負載。
  • 擁抱開源,未來希望將組件開源出去。

七、我的一些理解

好代碼,給人第一個印象的感覺,就像一篇好文章一樣,讀起來朗朗上口。不同的文章有不同的風格體裁,不同的代碼也有不同的編程風格要求。Python有嚴格的縮進,像詩歌一樣工整對仗;C語言面向過程像散文一樣形散神聚,意境深邃;Java語言面向對象又像是寫小說一樣,能勾勒出一個一個人物形象。但是無論哪一種文章體裁,他的可讀性和可理解性都非常重要,只有文章是可讀的可理解的,才會吸引更多的讀者去讀它,讓他流傳下去,代碼也一樣,它的可維護性和可讀性也非常重要,保證代碼可用性,提高代碼的簡潔程度和可維護程度,才能讓我們的代碼在計算機上跑的更遠,更久。

 

責任編輯:武曉燕 來源: 阿里技術
相關推薦

2015-06-17 14:10:34

Redis分布式系統協調

2017-10-11 16:12:19

內存

2021-10-30 19:30:23

分布式Celery隊列

2024-04-29 08:42:23

2023-12-18 10:24:59

2014-06-11 09:17:39

負載均衡

2014-05-23 10:30:25

負載均衡分布式架構

2022-03-08 15:24:23

BitMapRedis數據

2019-06-19 15:40:06

分布式鎖RedisJava

2019-07-17 22:23:01

分布式系統負載均衡架構

2015-07-28 10:14:33

HBasehadoop

2024-06-11 13:50:43

2022-03-01 16:26:09

鏈路監控日志監控分布式系統

2021-06-03 00:02:43

RedisRedlock算法

2021-07-30 00:09:21

Redlock算法Redis

2022-03-08 07:22:48

Redis腳本分布式鎖

2024-07-16 08:09:32

載均衡技術Pulsar分布式系統

2017-10-24 11:28:23

Zookeeper分布式鎖架構

2015-04-21 09:39:03

javajava分布式爬蟲

2018-07-19 11:18:45

餓了么時序數據庫監控系統
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 欧美一页 | av官网在线| 中文字幕电影在线观看 | 国产一极毛片 | 国产一卡二卡三卡 | 黄网站涩免费蜜桃网站 | 国产一区免费 | 久久一区二区三区四区 | 成人在线免费av | 免费视频99 | 超碰激情 | 国产视频在线一区二区 | 国产精品永久免费 | 黄色在线免费观看 | 国产精品一区在线观看 | 久草在线视频中文 | www精品| 国产免国产免费 | 99成人 | 国产污视频在线 | 福利视频一区二区三区 | 五月天国产| 久久国产综合 | 久久久久久99 | 日本不卡免费新一二三区 | 在线国产视频观看 | 精品国产乱码久久久久久果冻传媒 | 91精品国产色综合久久 | 一区二区三区在线 | 亚洲精品1 | 天天影视色综合 | 九色视频网站 | www4虎| 日韩一区二区三区在线观看 | 日韩在线中文 | h视频免费在线观看 | 日本超碰 | 欧美日韩国产一区二区三区 | 九一在线观看 | 欧美视频三区 | 亚洲精品一区二区 |