成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

一口氣說出 6種 延時隊列的實現方法,面試官也得服

開發 架構
下邊會介紹多種實現延時隊列的思路,文末提供有幾種實現方式的 github地址。其實哪種方式都沒有絕對的好與壞,只是看把它用在什么業務場景中,技術這東西沒有最好的只有最合適的。

 五一期間原計劃是寫兩篇文章,看一本技術類書籍,結果這五天由于自律性過于差,禁不住各種誘惑,我連電腦都沒打開過,計劃完美宣告失敗。所以在這能看出和大佬之間的差距,人家沒白沒夜的更文,比你優秀的人比你更努力,難以望其項背,真是讓我自愧不如。

[[325171]]

知恥而后勇,這不逼著自己又學起來了,個人比較喜歡一些實踐類的東西,既學習到知識又能讓技術落地,能搞出個demo最好,本來不知道該分享什么主題,好在最近項目緊急招人中,而我有幸做了回面試官,就給大家整理分享一道面試題:“如何實現延時隊列?”。

下邊會介紹多種實現延時隊列的思路,文末提供有幾種實現方式的 github地址。其實哪種方式都沒有絕對的好與壞,只是看把它用在什么業務場景中,技術這東西沒有最好的只有最合適的。

一、延時隊列的應用

什么是延時隊列?顧名思義:首先它要具有隊列的特性,再給它附加一個延遲消費隊列消息的功能,也就是說可以指定隊列中的消息在哪個時間點被消費。

延時隊列在項目中的應用還是比較多的,尤其像電商類平臺:

1、訂單成功后,在30分鐘內沒有支付,自動取消訂單

2、外賣平臺發送訂餐通知,下單成功后60s給用戶推送短信。

3、如果訂單一直處于某一個未完結狀態時,及時處理關單,并退還庫存

4、淘寶新建商戶一個月內還沒上傳商品信息,將凍結商鋪等

。。。。

上邊的這些場景都可以應用延時隊列解決。

二、延時隊列的實現

我個人一直秉承的觀點:工作上能用JDK自帶API實現的功能,就不要輕易自己重復造輪子,或者引入三方中間件。一方面自己封裝很容易出問題(大佬除外),再加上調試驗證產生許多不必要的工作量;另一方面一旦接入三方的中間件就會讓系統復雜度成倍的增加,維護成本也大大的增加。

1、DelayQueue 延時隊列

JDK 中提供了一組實現延遲隊列的API,位于Java.util.concurrent包下DelayQueue。

DelayQueue是一個BlockingQueue(無界阻塞)隊列,它本質就是封裝了一個PriorityQueue(優先隊列),PriorityQueue內部使用完全二叉堆(不知道的自行了解哈)來實現隊列元素排序,我們在向DelayQueue隊列中添加元素時,會給元素一個Delay(延遲時間)作為排序條件,隊列中最小的元素會優先放在隊首。隊列中的元素只有到了Delay時間才允許從隊列中取出。隊列中可以放基本數據類型或自定義實體類,在存放基本數據類型時,優先隊列中元素默認升序排列,自定義實體類就需要我們根據類屬性值比較計算了。

先簡單實現一下看看效果,添加三個order入隊DelayQueue,分別設置訂單在當前時間的5秒、10秒、15秒后取消。

 

要實現DelayQueue延時隊列,隊中元素要implements Delayed 接口,這哥接口里只有一個getDelay方法,用于設置延期時間。Order類中compareTo方法負責對隊列中的元素進行排序。

  1. public class Order implements Delayed { 
  2.     /** 
  3.      * 延遲時間 
  4.      */ 
  5.     @JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss"
  6.     private long time
  7.     String name
  8.      
  9.     public Order(String name, long time, TimeUnit unit) { 
  10.         this.name = name
  11.         this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0); 
  12.     } 
  13.      
  14.     @Override 
  15.     public long getDelay(TimeUnit unit) { 
  16.         return time - System.currentTimeMillis(); 
  17.     } 
  18.     @Override 
  19.     public int compareTo(Delayed o) { 
  20.         Order Order = (Order) o; 
  21.         long diff = this.time - Order.time
  22.         if (diff <= 0) { 
  23.             return -1; 
  24.         } else { 
  25.             return 1; 
  26.         } 
  27.     } 

DelayQueue的put方法是線程安全的,因為put方法內部使用了ReentrantLock鎖進行線程同步。DelayQueue還提供了兩種出隊的方法 poll() 和 take() , poll() 為非阻塞獲取,沒有到期的元素直接返回null;take() 阻塞方式獲取,沒有到期的元素線程將會等待。

  1. public class DelayQueueDemo { 
  2.  
  3.     public static void main(String[] args) throws InterruptedException { 
  4.         Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS); 
  5.         Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS); 
  6.         Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS); 
  7.         DelayQueue<Order> delayQueue = new DelayQueue<>(); 
  8.         delayQueue.put(Order1); 
  9.         delayQueue.put(Order2); 
  10.         delayQueue.put(Order3); 
  11.  
  12.         System.out.println("訂單延遲隊列開始時間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss"))); 
  13.         while (delayQueue.size() != 0) { 
  14.             /** 
  15.              * 取隊列頭部元素是否過期 
  16.              */ 
  17.             Order task = delayQueue.poll(); 
  18.             if (task != null) { 
  19.                 System.out.format("訂單:{%s}被取消, 取消時間:{%s}\n", task.name, LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss"))); 
  20.             } 
  21.             Thread.sleep(1000); 
  22.         } 
  23.     } 

上邊只是簡單的實現入隊與出隊的操作,實際開發中會有專門的線程,負責消息的入隊與消費。

執行后看到結果如下,Order1、Order2、Order3 分別在 5秒、10秒、15秒后被執行,至此就用DelayQueue實現了延時隊列。

  1. 訂單延遲隊列開始時間:2020-05-06 14:59:09 
  2. 訂單:{Order1}被取消, 取消時間:{2020-05-06 14:59:14} 
  3. 訂單:{Order2}被取消, 取消時間:{2020-05-06 14:59:19} 
  4. 訂單:{Order3}被取消, 取消時間:{2020-05-06 14:59:24} 

2、Quartz 定時任務

Quartz一款非常經典任務調度框架,在Redis、RabbitMQ還未廣泛應用時,超時未支付取消訂單功能都是由定時任務實現的。定時任務它有一定的周期性,可能很多單子已經超時,但還沒到達觸發執行的時間點,那么就會造成訂單處理的不夠及時。

引入quartz框架依賴包

  1. <dependency> 
  2.      <groupId>org.springframework.boot</groupId> 
  3.      <artifactId>spring-boot-starter-quartz</artifactId> 
  4. </dependency> 

在啟動類中使用@EnableScheduling注解開啟定時任務功能。

  1. @EnableScheduling 
  2. @SpringBootApplication 
  3. public class DelayqueueApplication { 
  4.  public static void main(String[] args) { 
  5.   SpringApplication.run(DelayqueueApplication.class, args); 
  6.  } 

編寫一個定時任務,每個5秒執行一次。

  1. @Component 
  2. public class QuartzDemo { 
  3.  
  4.     //每隔五秒 
  5.     @Scheduled(cron = "0/5 * * * * ? "
  6.     public void process(){ 
  7.         System.out.println("我是定時任務!"); 
  8.     } 

Redis的數據結構Zset,同樣可以實現延遲隊列的效果,主要利用它的score屬性,redis通過score來為集合中的成員進行從小到大的排序。

通過zadd命令向隊列delayqueue 中添加元素,并設置score值表示元素過期的時間;向delayqueue 添加三個order1、order2、order3,分別是10秒、20秒、30秒后過期。

  1. zadd delayqueue 3 order3 

消費端輪詢隊列delayqueue, 將元素排序后取最小時間與當前時間比對,如小于當前時間代表已經過期移除key。

  1. /** 
  2.      * 消費消息 
  3.      */ 
  4.     public void pollOrderQueue() { 
  5.  
  6.         while (true) { 
  7.             Set<Tuple> set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0); 
  8.  
  9.             String value = ((Tuple) set.toArray()[0]).getElement(); 
  10.             int score = (int) ((Tuple) set.toArray()[0]).getScore(); 
  11.              
  12.             Calendar cal = Calendar.getInstance(); 
  13.             int nowSecond = (int) (cal.getTimeInMillis() / 1000); 
  14.             if (nowSecond >= score) { 
  15.                 jedis.zrem(DELAY_QUEUE, value); 
  16.                 System.out.println(sdf.format(new Date()) + " removed key:" + value); 
  17.             } 
  18.  
  19.             if (jedis.zcard(DELAY_QUEUE) <= 0) { 
  20.                 System.out.println(sdf.format(new Date()) + " zset empty "); 
  21.                 return
  22.             } 
  23.             Thread.sleep(1000); 
  24.         } 
  25.     } 

我們看到執行結果符合預期

  1. 2020-05-07 13:24:09 add finished. 
  2. 2020-05-07 13:24:19 removed key:order1 
  3. 2020-05-07 13:24:29 removed key:order2 
  4. 2020-05-07 13:24:39 removed key:order3 
  5. 2020-05-07 13:24:39 zset empty  

4、Redis 過期回調

Redis 的key過期回調事件,也能達到延遲隊列的效果,簡單來說我們開啟監聽key是否過期的事件,一旦key過期會觸發一個callback事件。

修改redis.conf文件開啟notify-keyspace-events Ex

  1. notify-keyspace-events Ex 

Redis監聽配置,注入Bean RedisMessageListenerContainer

  1. @Configuration 
  2. public class RedisListenerConfig { 
  3.     @Bean 
  4.     RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) { 
  5.  
  6.         RedisMessageListenerContainer container = new RedisMessageListenerContainer(); 
  7.         container.setConnectionFactory(connectionFactory); 
  8.         return container; 
  9.     } 

編寫Redis過期回調監聽方法,必須繼承KeyExpirationEventMessageListener ,有點類似于MQ的消息監聽。

  1. @Component 
  2. public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener { 
  3.   
  4.     public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) { 
  5.         super(listenerContainer); 
  6.     } 
  7.     @Override 
  8.     public void onMessage(Message message, byte[] pattern) { 
  9.         String expiredKey = message.toString(); 
  10.         System.out.println("監聽到key:" + expiredKey + "已過期"); 
  11.     } 

到這代碼就編寫完成,非常的簡單,接下來測試一下效果,在redis-cli客戶端添加一個key 并給定3s的過期時間。

  1. set xiaofu 123 ex 3 

在控制臺成功監聽到了這個過期的key。

  1. 監聽到過期的key為:xiaofu 

5、RabbitMQ 延時隊列

利用 RabbitMQ 做延時隊列是比較常見的一種方式,而實際上RabbitMQ 自身并沒有直接支持提供延遲隊列功能,而是通過 RabbitMQ 消息隊列的 TTL和 DXL這兩個屬性間接實現的。

先來認識一下 TTL和 DXL兩個概念:

Time To Live(TTL) :

TTL 顧名思義:指的是消息的存活時間,RabbitMQ可以通過x-message-tt參數來設置指定Queue(隊列)和 Message(消息)上消息的存活時間,它的值是一個非負整數,單位為微秒。

RabbitMQ 可以從兩種維度設置消息過期時間,分別是隊列和消息本身

  • 設置隊列過期時間,那么隊列中所有消息都具有相同的過期時間。
  • 設置消息過期時間,對隊列中的某一條消息設置過期時間,每條消息TTL都可以不同。

如果同時設置隊列和隊列中消息的TTL,則TTL值以兩者中較小的值為準。而隊列中的消息存在隊列中的時間,一旦超過TTL過期時間則成為Dead Letter(死信)。

Dead Letter Exchanges(DLX)

DLX即死信交換機,綁定在死信交換機上的即死信隊列。RabbitMQ的 Queue(隊列)可以配置兩個參數x-dead-letter-exchange 和 x-dead-letter-routing-key(可選),一旦隊列內出現了Dead Letter(死信),則按照這兩個參數可以將消息重新路由到另一個Exchange(交換機),讓消息重新被消費。

x-dead-letter-exchange:隊列中出現Dead Letter后將Dead Letter重新路由轉發到指定 exchange(交換機)。

x-dead-letter-routing-key:指定routing-key發送,一般為要指定轉發的隊列。

隊列出現Dead Letter的情況有:

  • 消息或者隊列的TTL過期
  • 隊列達到最大長度
  • 消息被消費端拒絕(basic.reject or basic.nack)

下邊結合一張圖看看如何實現超30分鐘未支付關單功能,我們將訂單消息A0001發送到延遲隊列order.delay.queue,并設置x-message-tt消息存活時間為30分鐘,當到達30分鐘后訂單消息A0001成為了Dead Letter(死信),延遲隊列檢測到有死信,通過配置x-dead-letter-exchange,將死信重新轉發到能正常消費的關單隊列,直接監聽關單隊列處理關單邏輯即可。

 

發送消息時指定消息延遲的時間

  1. public void send(String delayTimes) { 
  2.         amqpTemplate.convertAndSend("order.pay.exchange""order.pay.queue","大家好我是延遲數據", message -> { 
  3.             // 設置延遲毫秒值 
  4.             message.getMessageProperties().setExpiration(String.valueOf(delayTimes)); 
  5.             return message; 
  6.         }); 
  7.     } 

設置延遲隊列出現死信后的轉發規則

  1. /** 
  2.      * 延時隊列 
  3.      */ 
  4.     @Bean(name = "order.delay.queue"
  5.     public Queue getMessageQueue() { 
  6.         return QueueBuilder 
  7.                 .durable(RabbitConstant.DEAD_LETTER_QUEUE) 
  8.                 // 配置到期后轉發的交換 
  9.                 .withArgument("x-dead-letter-exchange""order.close.exchange"
  10.                 // 配置到期后轉發的路由鍵 
  11.                 .withArgument("x-dead-letter-routing-key""order.close.queue"
  12.                 .build(); 
  13.     } 

6、時間輪

前邊幾種延時隊列的實現方法相對簡單,比較容易理解,時間輪算法就稍微有點抽象了。kafka、netty都有基于時間輪算法實現延時隊列,下邊主要實踐Netty的延時隊列講一下時間輪是什么原理。

先來看一張時間輪的原理圖,解讀一下時間輪的幾個基本概念

wheel :時間輪,圖中的圓盤可以看作是鐘表的刻度。比如一圈round 長度為24秒,刻度數為 8,那么每一個刻度表示 3秒。那么時間精度就是 3秒。時間長度 / 刻度數值越大,精度越大。

 

當添加一個定時、延時任務A,假如會延遲25秒后才會執行,可時間輪一圈round 的長度才24秒,那么此時會根據時間輪長度和刻度得到一個圈數 round和對應的指針位置 index,也是就任務A會繞一圈指向0格子上,此時時間輪會記錄該任務的round和index信息。當round=0,index=0 ,指針指向0格子 任務A并不會執行,因為 round=0不滿足要求。

所以每一個格子代表的是一些時間,比如1秒和25秒 都會指向0格子上,而任務則放在每個格子對應的鏈表中,這點和HashMap的數據有些類似。

Netty構建延時隊列主要用HashedWheelTimer,HashedWheelTimer底層數據結構依然是使用DelayedQueue,只是采用時間輪的算法來實現。

下面我們用Netty 簡單實現延時隊列,HashedWheelTimer構造函數比較多,解釋一下各參數的含義。

ThreadFactory :表示用于生成工作線程,一般采用線程池;

tickDuration和unit:每格的時間間隔,默認100ms;

ticksPerWheel:一圈下來有幾格,默認512,而如果傳入數值的不是2的N次方,則會調整為大于等于該參數的一個2的N次方數值,有利于優化hash值的計算。

  1. public HashedWheelTimer(ThreadFactory threadFactory, long tickDuration, TimeUnit unit, int ticksPerWheel) { 
  2.         this(threadFactory, tickDuration, unit, ticksPerWheel, true); 
  3.     } 
  • TimerTask:一個定時任務的實現接口,其中run方法包裝了定時任務的邏輯。
  • Timeout:一個定時任務提交到Timer之后返回的句柄,通過這個句柄外部可以取消這個定時任務,并對定時任務的狀態進行一些基本的判斷。
  • Timer:是HashedWheelTimer實現的父接口,僅定義了如何提交定時任務和如何停止整個定時機制。
  1. public class NettyDelayQueue { 
  2.  
  3.     public static void main(String[] args) { 
  4.  
  5.         final Timer timer = new HashedWheelTimer(Executors.defaultThreadFactory(), 5, TimeUnit.SECONDS, 2); 
  6.  
  7.         //定時任務 
  8.         TimerTask task1 = new TimerTask() { 
  9.             public void run(Timeout timeout) throws Exception { 
  10.                 System.out.println("order1  5s 后執行 "); 
  11.                 timer.newTimeout(this, 5, TimeUnit.SECONDS);//結束時候再次注冊 
  12.             } 
  13.         }; 
  14.         timer.newTimeout(task1, 5, TimeUnit.SECONDS); 
  15.         TimerTask task2 = new TimerTask() { 
  16.             public void run(Timeout timeout) throws Exception { 
  17.                 System.out.println("order2  10s 后執行"); 
  18.                 timer.newTimeout(this, 10, TimeUnit.SECONDS);//結束時候再注冊 
  19.             } 
  20.         }; 
  21.  
  22.         timer.newTimeout(task2, 10, TimeUnit.SECONDS); 
  23.  
  24.         //延遲任務 
  25.         timer.newTimeout(new TimerTask() { 
  26.             public void run(Timeout timeout) throws Exception { 
  27.                 System.out.println("order3  15s 后執行一次"); 
  28.             } 
  29.         }, 15, TimeUnit.SECONDS); 
  30.  
  31.     } 

從執行的結果看,order3、order3延時任務只執行了一次,而order2、order1為定時任務,按照不同的周期重復執行。

  1. order1  5s 后執行  
  2. order2  10s 后執行 
  3. order3  15s 后執行一次 
  4. order1  5s 后執行  
  5. order2  10s 后執行 

總結

為了讓大家更容易理解,上邊的代碼寫的都比較簡單粗糙,幾種實現方式的demo已經都提交到github 地址:https://github.com/chengxy-nds/delayqueue,感興趣的小伙伴可以下載跑一跑。

這篇文章肝了挺長時間,寫作一點也不比上班干活輕松,查證資料反復驗證demo的可行性,搭建各種RabbitMQ、Redis環境,只想說我太難了!

可能寫的有不夠完善的地方,如哪里有錯誤或者不明了的,歡迎大家踴躍指正!!!

責任編輯:武曉燕 來源: 程序員內點事
相關推薦

2020-04-16 12:42:42

附近的人共享單車App

2020-08-12 09:55:07

附近的人數據庫MySQL

2022-05-24 11:50:46

延時消息分布式

2020-04-14 13:32:56

@Transacti失效場景

2021-12-06 08:30:49

SpringSpring Bean面試題

2020-03-31 08:12:25

Kafka架構數據庫

2020-11-04 14:20:58

分布式數據庫MySQL

2020-07-31 10:15:32

分布式ID數據庫MySQL

2020-07-08 07:45:44

OAuth2.0授權

2020-09-24 09:08:04

分布式系統架構

2020-12-21 06:07:35

Mybatis設計模式

2020-07-10 07:44:26

Session方式Web

2021-06-08 22:43:07

IPC方式Qt

2020-06-04 07:45:07

過濾器和攔截器

2021-03-29 12:22:25

微信iOS蘋果

2023-12-18 23:09:25

開源優化引擎

2025-05-14 01:55:00

FCMCPAI

2020-10-22 12:30:33

MySQL

2024-03-26 09:42:27

分片算法應用

2021-05-18 09:03:16

Gomapslice
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 91麻豆精品一区二区三区 | 日本不卡一区二区三区 | 亚洲91精品 | 免费激情网站 | 亚洲午夜小视频 | 国产精品视频不卡 | av在线视 | 国产你懂的在线观看 | 91精品在线观看入口 | 中文在线а√在线8 | 中文字幕一区在线观看视频 | 色吧综合| 亚洲福利视频一区二区 | 亚洲国产精品自拍 | 中文字幕视频免费 | 欧美三级在线 | 日韩一区二区视频 | 男女羞羞视频在线免费观看 | 成人h视频| 久草新在线 | 久久久久久高潮国产精品视 | wwwww在线观看 | 国精日本亚洲欧州国产中文久久 | 国产人成精品一区二区三 | 国产精品不卡视频 | 秋霞在线一区 | 一级国产精品一级国产精品片 | 精品一区二区久久久久久久网站 | 综合久久亚洲 | 2021狠狠干 | 一级大黄 | 在线观看中文字幕视频 | 视频在线一区 | 羞羞的视频在线 | 精品视频在线免费观看 | 成人亚洲性情网站www在线观看 | 欧美日韩精品 | 国产欧美精品一区二区 | 国产在线一区二区 | 久久久xxx| 精品国产一二三区 |