你知道嗎?Pulsar 也會重復消費?
背景
許久沒有分享 Java 相關的問題排查了,最近幫同事一起排查了一個問題:
在使用 Pulsar 消費時,發生了同一條消息反復消費的情況。
排查
當他告訴我這個現象的時候我就持懷疑態度,根據之前使用的經驗 Pulsar 在官方文檔以及 API 中都解釋過:
只有當設置了消費的 ackTimeout 并超時消費時才會重復投遞消息,默認情況下是關閉的,查看代碼也確實沒有開啟。
那會不會是調用了 negativeAcknowledge() 方法呢(調用該方法也會觸發重新投遞),因為我們使用了一個第三方庫 https://github.com/majusko/pulsar-java-spring-boot-starter 只有當拋出異常時才會調用該方法。
查閱代碼之后也沒有地方拋出異常,甚至整個過程中都沒看到異常產生;這就有點詭異了。
復現
為了捋清楚整個事情的來龍去脈,詳細了解了他的使用流程;
其實也就是業務出現了 bug,他在消息消費時 debug 然后進行單步調試,當走完一次調試后,沒多久馬上又收到了同樣的消息。
但奇怪的是也不是每次 debug 后都能重復消費,我們都說如果一個 bug 能 100% 完全復現,那基本上就解決一大半了。
所以我們排查的第一步就是完全復現這個問題。
為了排除掉是 IDEA 的問題(雖然極大概率不太可能)既然是 debug 的時候產生的問題,那其實轉換到代碼也就是 sleep 嘛,所以我們打算在消費邏輯里直接 sleep 一段時間看能否復現。
經過測試,sleep 幾秒到幾十秒都無法復現,最后索性 sleep 一分鐘,神奇的事情發生了,每次都成功復現!
既然能成功復現那就好說了,因為我自己的業務代碼也有使用到 Pulsar 的地方,為了方便調試就準備在自己的項目里再復現一次。
結果詭異的事情再次發生,我這里又不能復現了。
雖然這才是符合預期的,但這就沒法調了呀。
本著相信現代科學的前提,我們倆唯一的區別就是項目不一樣了,為此我對比了兩邊的代碼。
@PulsarConsumer(
topic = xx,
clazz = Xx.class,
subscriptionType = SubscriptionType.Shared
)
public void consume(Data msg) {
log.info("consume msg:{}", msg.getOrderId());
Lock lock = redisLockRegistry.obtain(msg.getOrderId());
if (lock.tryLock()) {
try {
orderService.do(msg.getOrderId());
} catch (Exception e) {
log.error("consumer msg:{} err:", msg.toString(), e);
} finally {
lock.unlock();
}
}
}
結果不出所料,同事那邊的代碼加了鎖;一個基于 Redis 的分布式鎖,這時我一拍大腿不會是解鎖的時候超時了導致拋了異常吧。
為了驗證這個問題,在能復現的基礎上我在框架的 Pulsar 消費處打了斷點:
果然破案了,異常提示已經非常清楚了:加鎖已經過了超時時間。
進入異常后直接 negative 消息,同時異常也被吃掉了,所以之前沒有發現。
查閱了 RedisLockRegistry 的源碼,默認超時時間正好是一分鐘,所以之前我們 sleep 幾十秒也無法復現這個問題。
總結
事后我向同事了解了下為啥這里要加鎖,因為我看下來完全沒有加鎖的必要;結果他是因為從別人那里復制的代碼才加上的,壓根沒想那么多。
所以這事也能得出一些教訓:
- ctrl C/V 雖然方便,但也得充分考慮自己的業務場景。
- 使用一些第三方 API 時,需要充分了解其作用、參數。