Sentinel是如何實(shí)現(xiàn)限流的？

作者：磊哥 2024-11-05 15:02:41

限流它的目的是確保系統(tǒng)能夠在承受范圍內(nèi)提供穩(wěn)定和可靠的服務(wù)，避免因過(guò)多的請(qǐng)求而導(dǎo)致系統(tǒng)崩潰、資源耗盡或響應(yīng)延遲過(guò)高的情況發(fā)生。

限流是一種通過(guò)控制系統(tǒng)對(duì)外提供的資源、服務(wù)或接口的訪問(wèn)數(shù)量或速率，以保護(hù)系統(tǒng)免受過(guò)載的一種策略。

它的目的是確保系統(tǒng)能夠在承受范圍內(nèi)提供穩(wěn)定和可靠的服務(wù)，避免因過(guò)多的請(qǐng)求而導(dǎo)致系統(tǒng)崩潰、資源耗盡或響應(yīng)延遲過(guò)高的情況發(fā)生。

在 Sentinel 中，實(shí)現(xiàn)限流的方法有以下兩種：

通過(guò)代碼方法實(shí)現(xiàn)限流。
通過(guò) Sentinel 控制臺(tái)設(shè)置實(shí)現(xiàn)限流。

一、通過(guò)代碼實(shí)現(xiàn)限流

通過(guò)代碼實(shí)現(xiàn)限流需要以下兩步方可實(shí)現(xiàn)：

定義資源

通過(guò)代碼定義資源。
通過(guò)注解定義資源。

定義限流規(guī)則

具體實(shí)現(xiàn)如下。

1.定義資源

定義資源可以通過(guò)代碼方式或注解方式來(lái)實(shí)現(xiàn)，具體實(shí)現(xiàn)如下。

（1）通過(guò)代碼定義資源

可以通過(guò)代碼的的方式 SphU.entry("resourceName") 來(lái)定義資源，具體實(shí)現(xiàn)代碼如下：

@RequestMapping("/getuser")
public String getUser() {
    try (Entry entry = SphU.entry("getuser")) {
        // 被保護(hù)邏輯
        return "User";
    } catch (Exception e) {
        // 限流之后的業(yè)務(wù)邏輯
        return "被限流了";
    }
}

PS：SphU 是 Sentinel Protection Hotspot Util 的縮寫(xiě)，Sentinel 熱點(diǎn)保護(hù)工具類。

（2）通過(guò)注解方式定義資源

通過(guò)注解 @SentinelResource 也可以實(shí)現(xiàn)資源的定義，如下代碼所示：

// 定義資源和限流后觸發(fā)的方法
@SentinelResource(value = "resourceName", blockHandler = "myBlockHandler")
@RequestMapping("/getnamebyid")
public String getNameById(Integer id) {
return id + "-lei";
}
// 限流后觸發(fā)的方法
public String myBlockHandler(Integer id, BlockException blockException) {
    String msg = "Do myBlockHandler method.";
    System.out.println(msg);
    return msg;
}

其中，value 屬性定義的資源名稱，blockHandler 定義的是原方法被限流/降級(jí)/系統(tǒng)保護(hù)之后執(zhí)行的方法。

注意事項(xiàng)

定義的限流方法 myBlockHandler 必須和原方法的返回值、參數(shù)保持一致。
限流方法必須添加 BlockException 參數(shù)，不然會(huì)因?yàn)檎也坏胶线m的限流后執(zhí)行方法，而提示以下錯(cuò)誤：

PS：其中“csp”表示 Concurrent Service Protection，即并發(fā)服務(wù)保護(hù)。

@SentinelResource 注解屬性說(shuō)明：

value：資源名稱，必需項(xiàng)（不能為空）。
entryType：資源調(diào)用的流量類型：入口流量（EntryType.IN）和出口流量（EntryType.OUT），注意系統(tǒng)規(guī)則只對(duì) IN 生效。
blockHandler/blockHandlerClass: 限流和熔斷時(shí)執(zhí)行 BlockException 所對(duì)應(yīng)的方法名。
fallback/fallbackClass：非 BlockException 時(shí)，其他非限流、非熔斷時(shí)異常對(duì)應(yīng)的方法。
exceptionsToIgnore：用于指定哪些異常被排除掉，不會(huì)計(jì)入異常統(tǒng)計(jì)中，也不會(huì)進(jìn)入 fallback 邏輯中，而是會(huì)原樣拋出。

注：1.6.0 之前的版本 fallback 函數(shù)只針對(duì)熔斷降級(jí)異常（DegradeException）進(jìn)行處理，不能針對(duì)業(yè)務(wù)異常進(jìn)行處理。

2.定義限流規(guī)則

在 Spring Boot 項(xiàng)目中，只需要將限流規(guī)則添加到項(xiàng)目啟動(dòng)時(shí)執(zhí)行即可，如下代碼所示：

public static void main(String[] args) {
    SpringApplication.run(SentinelDemoApplication.class, args);
    // 加載限流規(guī)則
    initFlowRules();
}

而限流規(guī)則定義如下：

private static void initFlowRules() {
    List<FlowRule> rules = new ArrayList<>();
    FlowRule rule = new FlowRule();
    rule.setResource("resourceName"); // 資源名稱
    rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // 根據(jù) QPS 限流
    rule.setCount(1); // QPS 閾值【每秒只允許通過(guò)一個(gè)請(qǐng)求】
    rule.setStrategy(RuleConstant.STRATEGY_DIRECT); // 調(diào)用關(guān)系限流策略【非必須設(shè)置】
    rule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_DEFAULT); // 流控效果【非必須設(shè)置】
    rule.setClusterMode(false); // 是否集群限流【非必須設(shè)置，默認(rèn)非集群】
    rules.add(rule);
    FlowRuleManager.loadRules(rules);
}

其中：

setStrategy：設(shè)置調(diào)用關(guān)系限流策略，包含的值有：

直接（RuleConstant._STRATEGY_DIRECT_）【默認(rèn)值】
鏈路（RuleConstant._STRATEGY_RELATE_）
關(guān)聯(lián)（RuleConstant._STRATEGY_CHAIN_）

setControlBehavior：設(shè)置流控效果，包含的值有：
直接拒絕（RuleConstant.CONTROL_BEHAVIOR_DEFAULT）【默認(rèn)值】
冷啟動(dòng)（RuleConstant.CONTROL_BEHAVIOR_WARM_UP）
勻速啟動(dòng)（RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER）
冷啟動(dòng)+勻速啟動(dòng)（RuleConstant._CONTROL_BEHAVIOR_WARM_UP_RATE_LIMITER_）

二、通過(guò)控制臺(tái)實(shí)現(xiàn)限流

Sentinel 還可以使用控制臺(tái)的方式進(jìn)行限流，不過(guò)默認(rèn)情況下限流規(guī)則是保存在內(nèi)存中，所以重啟之后規(guī)則會(huì)丟失，默認(rèn)情況下下的推送流程如下：

它的實(shí)現(xiàn)步驟如下：

下載并運(yùn)行 Sentinel Dashboard（控制臺(tái)）。
在程序中加入并配置 Sentinel Dashboard。
在 Sentinel Dashboard 配置限流/熔斷等規(guī)則。
驗(yàn)證效果。

1.下載并運(yùn)行Sentinel控制臺(tái)

我們可以從 Sentinel 官方倉(cāng)庫(kù)下載最新版本的控制臺(tái) jar 包，訪問(wèn)地址：https://github.com/alibaba/Sentinel/releases

使用如下命令啟動(dòng)控制臺(tái)：

java -jar sentinel-dashboard.jar --server.port=18080

從 Sentinel 1.6.0 起，Sentinel 控制臺(tái)引入基本的登錄功能，默認(rèn)用戶名和密碼都是 sentinel。可以參考鑒權(quán)模塊文檔配置用戶名和密碼，命令如下：

java -Dserver.port=18080 -Dsentinel.dashboard.auth.username=sentinel -Dsentinel.dashboard.auth.password=123456 -jar sentinel-dashboard.jar

Sentinel 控制臺(tái)啟動(dòng)時(shí)的可選配置項(xiàng)：

配置項(xiàng)	默認(rèn)值	描述
server.port	8080	指定端口
csp.sentinel.dashboard.server	localhost:8080	指定地址
project.name	-	指定程序的名稱
sentinel.dashboard.auth.username	sentinel	Dashboard 登錄賬號(hào)（需要版本1.6+）
sentinel.dashboard.auth.password	sentinel	Dashboard 登錄密碼（需要版本1.6+）
server.servlet.session.timeout	30分鐘	登錄 Session 過(guò)期時(shí)間（需要版本1.6+）
配置為 7200 表示 7200 秒
配置為 60m 表示 60 分鐘

2.在程序中加入并配置 Sentinel

在需要進(jìn)行流控的項(xiàng)目中加入 Sentinel 依賴：

<dependency>
  <groupId>com.alibaba.cloud</groupId>
  <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

在項(xiàng)目中配置 Sentinel Dashboard 地址：

spring:
  application:
    name: sentinel-dashboard-demo
  cloud:
    sentinel:
      transport:
        dashboard: localhost:18080
        client-ip: 127.0.0.1 
        port: 8721
        heartbeat-interval-ms: 10000

其中，只有 dashboard 是必輸項(xiàng)，其他的都可以省略，他們的含義如下：

dashboard：sentinel 控制臺(tái)地址。
client-ip：當(dāng)前客戶端 IP，不設(shè)置自動(dòng)選擇一個(gè) IP 注冊(cè)。
port：與 sentinel 通訊的端口，如不設(shè)置，會(huì)從 8719 開(kāi)始掃描，依次 +1，直到找到未被占用的接口。
heartbeat-interval-ms：心跳發(fā)送周期，默認(rèn)值是 10s。

3.設(shè)置規(guī)則

4.新增限流規(guī)則

參數(shù)說(shuō)明：

針對(duì)來(lái)源：Sentinel 可以針對(duì)調(diào)用者進(jìn)行限流，填寫(xiě)具體微服務(wù)名時(shí)，指定對(duì)此微服務(wù)進(jìn)行限流，默認(rèn)值為 default（不區(qū)分來(lái)源，全部限制）。
閾值類型/單機(jī)閾值：用于限制和控制流量的一種度量標(biāo)準(zhǔn)的類型，可以為 QPS（Queries Per Second，每秒請(qǐng)求數(shù)）也可以為“并發(fā)線程數(shù)”。

QPS：每秒請(qǐng)求達(dá)到此值開(kāi)始限流。
并發(fā)線程數(shù)：請(qǐng)求此資源的線程達(dá)到某個(gè)值時(shí)限流。每個(gè)請(qǐng)求分配一個(gè)線程，當(dāng)請(qǐng)求執(zhí)行時(shí)間長(zhǎng)時(shí)，很快就會(huì)觸發(fā)限流，相反如果線程執(zhí)行速度快，那么限流觸發(fā)就會(huì)概率就會(huì)比較小。

流控模式：流量控制模式。
直接：接口達(dá)到限流條件時(shí)，直接限流。
關(guān)聯(lián)：當(dāng)關(guān)聯(lián)的資源達(dá)到閾值時(shí)，就限流自己。
鏈路：指定資源從入口資源進(jìn)來(lái)的流量，如果達(dá)到閾值，就進(jìn)行限流。
流控效果：流量控制效果。
快速失敗：該方式是默認(rèn)的流量控制方式，比如 QPS 超過(guò)任意規(guī)則的閾值后，新的請(qǐng)求就會(huì)被立即拒絕，拒絕方式為拋出 FlowException。這種方式適用于對(duì)系統(tǒng)處理能力確切已知的情況下，比如通過(guò)壓測(cè)確定了系統(tǒng)的準(zhǔn)確水位時(shí)。
排隊(duì)等待（也叫勻速通過(guò)）：排隊(duì)等待會(huì)嚴(yán)格控制請(qǐng)求通過(guò)的間隔時(shí)間，讓請(qǐng)求穩(wěn)定且勻速的通過(guò)，可以用來(lái)處理間隔性突發(fā)的高流量。例如搶票軟件，在某一秒或者一分鐘內(nèi)有大量的請(qǐng)求到來(lái)，而接下來(lái)的一段時(shí)間里處于空閑狀態(tài)，我們希望系統(tǒng)能夠在接下來(lái)的空余時(shí)間里也能出去這些請(qǐng)求，而不是直接拒絕。在設(shè)置排隊(duì)等待時(shí)，需要填寫(xiě)超時(shí)時(shí)間。
Warm Up：此項(xiàng)叫做預(yù)熱或者冷啟動(dòng)方式，此模式主要是防止流量突然增加時(shí)，直接把系統(tǒng)拉升到高水位可能瞬間把系統(tǒng)壓垮，通過(guò)"冷啟動(dòng)"，讓通過(guò)的流量緩慢增加，在一定時(shí)間內(nèi)逐漸增加到閾值上限，給冷系統(tǒng)一個(gè)預(yù)熱的時(shí)間，避免冷系統(tǒng)被壓垮。當(dāng)使用 Warm Up 模式時(shí)，我們還需要指定啟動(dòng)時(shí)開(kāi)放的 QPS 比例（DEFAULT_COLD_FACTOR，默認(rèn)值為 3，代表 30%），以及系統(tǒng)預(yù)熱所需時(shí)長(zhǎng)（warmUpPeriodSec，默認(rèn)值是 10 秒）。

限流頁(yè)面當(dāng)“是否集群”選中之后，就會(huì)是這樣的界面：

其中最后一項(xiàng)“失敗退化”中的 Token Server 含義如下：Token Server 是 Sentinel 用于集群流量控制的關(guān)鍵組件，它負(fù)責(zé)分發(fā)令牌并進(jìn)行流量控制。當(dāng) Sentinel 的應(yīng)用程序配置為集群限流模式時(shí)，它會(huì)向 Token Server 請(qǐng)求令牌，然后根據(jù)令牌情況來(lái)進(jìn)行流量控制。如果 Token Server 不可用，可能是由于網(wǎng)絡(luò)故障、Token Server 實(shí)例崩潰等原因，這時(shí)候無(wú)法從 Token Server 獲取令牌。Token Server 配置的含義如下：

當(dāng)配置選項(xiàng)為"是"時(shí)：表示當(dāng) Token Server 不可用時(shí)，Sentinel 會(huì)自動(dòng)切換為單機(jī)限流模式。在單機(jī)限流模式中，Sentine 會(huì)從本地的限流規(guī)則進(jìn)行流量控制，不再依賴 Token Server。這樣可以保證即使 Token Server 不可用，也能夠繼續(xù)對(duì)流量進(jìn)行限制。
當(dāng)配置選項(xiàng)為"否"時(shí)：表示當(dāng) Token Server 不可用時(shí)，Sentinel 不會(huì)自動(dòng)切換為單機(jī)限流模式，流量控制會(huì)被暫停，即無(wú)法進(jìn)行限流，可能會(huì)導(dǎo)致服務(wù)負(fù)載過(guò)高。

責(zé)任編輯：姜華來(lái)源：磊哥和Java