成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

RocketMQ 為什么性能不如 Kafka?

云計算 Kafka
我們知道,消息隊列的消息為了防止進程崩潰后丟失,一般不會放內存里,而是放磁盤上。那么問題就來了,消息從消息隊列的磁盤,發送到消費者,過程是怎么樣的呢?

在上篇文章《rocketmq 是什么》中,我們了解到 RocketMQ 的架構其實參考了 kafka 的設計思想,同時又在 kafka 的基礎上做了一些調整。看起來,RocketMQ 好像各方面都比 kafka 更能打。

圖片圖片

但 kafka 卻一直沒被淘汰,說明 RocketMQ 必然是有著不如 kafka 的地方。是啥呢? 性能,嚴格來說是吞吐量。阿里中間件團隊對它們做過壓測,同樣條件下,kafka 比 RocketMQ 快 50%左右。但即使這樣,RocketMQ 依然能每秒處理 10w 量級的數據,依舊非常能打。你不能說 RocketMQ 弱,只能說 Kafka 性能太強了。

不過這就很奇怪了,為什么 RocketMQ 參考了 kafka 的架構,卻不能跟 kafka 保持一樣的性能呢?在回答這個問題之前,我們來聊下什么是零拷貝。

零拷貝是什么

我們知道,消息隊列的消息為了防止進程崩潰后丟失,一般不會放內存里,而是放磁盤上。那么問題就來了,消息從消息隊列的磁盤,發送到消費者,過程是怎么樣的呢?

消息的發送過程

操作系統分為用戶空間和內核空間。程序處于用戶空間,而磁盤屬于硬件,操作系統本質上是程序和硬件設備的一個中間層。程序需要通過操作系統去調用硬件能力。

圖片圖片

如果用戶想要將數據從磁盤發送到網絡。那么就會發生下面這幾件事:程序會發起系統調用read(),嘗試讀取磁盤數據,

? 磁盤數據從設備拷貝到內核空間的緩沖區。

? 再從內核空間的緩沖區拷貝到用戶空間。

程序再發起系統調用write(),將讀到的數據發到網絡:

? 數據從用戶空間拷貝到 socket 發送緩沖區

? 再從 socket 發送緩沖區拷貝到網卡。

最終數據就會經過網絡到達消費者。

圖片圖片

整個過程,本機內發生了 2 次系統調用,對應 4 次用戶空間和內核空間的切換,以及 4 次數據拷貝。

圖片圖片

一頓操作猛如虎,結果就是同樣一份數據來回拷貝。有沒有辦法優化呢?有,它就是零拷貝技術,常見的方案有兩種,分別是 mmap 和 sendfile。我們來看下它們是什么。

mmap 是什么

mmap 是操作系統內核提供的一個方法,可以將內核空間的緩沖區映射到用戶空間。

圖片圖片

用了它,整個發送流程就有了一些變化。程序發起系統調用mmap(),嘗試讀取磁盤數據,具體情況如下:

? 磁盤數據從設備拷貝到內核空間的緩沖區。

? 內核空間的緩沖區映射到用戶空間,這里不需要拷貝。

程序再發起系統調用write(),將讀到的數據發到網絡:

? 數據從內核空間緩沖區拷貝到 socket 發送緩沖區。

? 再從 socket 發送緩沖區拷貝到網卡。

圖片圖片

整個過程,發生了 2 次系統調用,對應 4 次用戶空間和內核空間的切換,以及 3 次數據拷貝,對比之前,省下一次內核空間到用戶空間的拷貝。

圖片圖片

看到這里大家估計也蒙了,不是說零拷貝嗎?怎么還有 3 次拷貝。mmap 作為一種零拷貝技術,指的是用戶空間到內核空間這個過程不需要拷貝,而不是指數據從磁盤到發送到網卡這個過程零拷貝。

圖片圖片

確實省了一點,但不多。有沒有更徹底的零拷貝?有,用 sendfile.

sendfile 是什么

sendfile,也是內核提供的一個方法,從名字可以看出,就是用來發送文件數據的。程序發起系統調用sendfile(),內核會嘗試讀取磁盤數據然后發送,具體情況如下:

? 磁盤數據從設備拷貝到內核空間的緩沖區。

? 內核空間緩沖區里的數據可以直接拷貝到網卡。

圖片圖片

整個過程,發生了 1 次系統調用,對應 2 次用戶空間和內核空間的切換,以及 2 次數據拷貝。這時候問題很多的小明就有意見了,說好的零拷貝怎么還有 2 次拷貝?

圖片圖片

其實,這里的零拷貝指的是零 CPU拷貝。也就是說 sendfile 場景下,需要的兩次拷貝,都不是 CPU 直接參與的拷貝,而是其他硬件設備技術做的拷貝,不耽誤我們 CPU 跑程序。

kafka 為什么性能比 RocketMQ 好

聊完兩種零拷貝技術,我們回過頭來看下 kafka 為什么性能比 RocketMQ 好。這是因為 RocketMQ 使用的是 mmap 零拷貝技術,而 kafka 使用的是 sendfile。kafka 以更少的拷貝次數以及系統內核切換次數,獲得了更高的性能。但問題又來了,為什么 RocketMQ 不使用 sendfile?參考 kafka 抄個作業也不難啊?我們來看下 sendfile 函數長啥樣。

ssize_t sendfile(int out_fd, int in_fd, off_t* offset, size_t count);
// num = sendfile(xxx);

再來看下 mmap 函數長啥樣。

void *mmap(void *addr, size_t length, int prot, int flags,
           int fd, off_t offset);
// buf = mmap(xxx)

注釋里寫的是兩個函數的用法,mmap 返回的是數據的具體內容,應用層能獲取到消息內容并進行一些邏輯處理。

圖片圖片

而 sendfile 返回的則是發送成功了幾個字節數,具體發了什么內容,應用層根本不知道。

圖片圖片

而 RocketMQ 的一些功能,卻需要了解具體這個消息內容,方便二次投遞等,比如將消費失敗的消息重新投遞到死信隊列中,如果 RocketMQ 使用 sendfile,那根本沒機會獲取到消息內容長什么樣子,也就沒辦法實現一些好用的功能了。

圖片圖片

而 kafka 卻沒有這些功能特性,追求極致性能,正好可以使用 sendfile。

除了零拷貝以外,kafka 高性能的原因還有很多,比如什么批處理,數據壓縮啥的,但那些優化手段 rocketMQ 也都能借鑒一波,唯獨這個零拷貝,那是毫無辦法。

圖片圖片

所以還是那句話,沒有一種架構是完美的,一種架構往往用于適配某些場景,你很難做到既要又要還要。當場景不同,我們就需要做一些定制化改造,通過犧牲一部分能力去換取另一部分能力。做架構,做到最后都是在做折中。是不是感覺升華了。

kafka 和 RocketMQ 怎么選?

這時候大家估計還是想知道 kafka 和 RocketMQ 到底該怎么選,用哪個。官方點的回答是"這個要看場景的"。說了等于沒說。這不是我的風格。我的標準只有一個,如果是大數據場景,比如你能頻繁聽到 spark,flink 這些關鍵詞的時候,那就用 kafka。除此之外,如果公司組件支持,盡量用 RocketMQ。

現在大家通了嗎?

責任編輯:武曉燕 來源: 小白debug
相關推薦

2020-09-24 06:41:33

通信IT行業

2022-09-24 09:52:42

TopicQueuekafka

2024-08-19 00:10:05

RocketMQ應用SDK

2021-03-01 10:45:45

開發技能代碼

2024-02-26 21:15:20

Kafka緩存參數

2018-08-10 09:40:02

數據庫MySQL存儲過程

2021-08-05 12:41:57

高并發性能CAS

2021-12-29 21:46:20

iOS蘋果系統

2022-04-30 08:09:37

面試開發閱讀源碼

2020-03-30 15:05:46

Kafka消息數據

2024-10-17 16:41:57

KafkaZooKeeper

2021-01-21 07:16:03

RocketMQKafka中間件

2021-02-01 07:20:51

KafkaPulsar搜索

2020-08-13 09:19:10

Kafka存儲MQ

2021-05-31 07:44:08

Kafka分布式系統

2022-05-10 15:24:34

KafkaZooKeeperKafka Raft

2021-03-17 15:54:32

IO零拷貝方式

2011-08-09 16:08:53

數據庫連接

2017-03-16 07:28:35

科技新聞早報

2022-08-22 15:32:59

C++C代碼
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 中文字幕免费 | 日韩免费视频一区二区 | 国产精品久久久久久久久久久久 | 中文字幕亚洲一区 | 亚洲精品一二三区 | 日本久草| 国产一区免费视频 | 亚洲第一色站 | 69视频在线播放 | 久久99久久99久久 | 天天操天天干天天曰 | 黄色一级毛片 | 欧美成ee人免费视频 | 黄色在线免费观看 | 精品丝袜在线 | 精品久久久久久久久久久下田 | 日韩网站免费观看 | 久久一区精品 | 日韩一级电影免费观看 | 麻豆精品一区二区三区在线观看 | 久草热线 | 色成人免费网站 | 国产目拍亚洲精品99久久精品 | 国产午夜精品一区二区三区 | 国产成人精品网站 | 91看国产 | 日韩一级欧美一级 | 成人乱人乱一区二区三区软件 | 中文字幕一级毛片 | 日韩欧美在线观看 | 久久精品国产99国产精品 | 国产精品三级 | 国产一区二区三区视频免费观看 | 911网站大全在线观看 | 久久精品亚洲欧美日韩久久 | 亚洲视频一区 | 午夜色婷婷 | 三级黄视频在线观看 | 天天操综合网站 | 伦理午夜电影免费观看 | 精品av|