Menu
快讀
  • 旅遊
  • 生活
    • 美食
    • 寵物
    • 養生
    • 親子
  • 娛樂
    • 動漫
  • 時尚
  • 社會
  • 探索
  • 故事
  • 科技
  • 軍事
  • 国际
快讀

微服務網關如何防止雪崩?阿裏開源項目之Sentinel限流、熔斷

2020 年 1 月 6 日 老顾聊技术

歡迎關注頭條號:老顧聊技術

精品原創技術分享,知識的組裝工


目錄

  1. 前言
  2. Sentinel是什麽
  3. 部署Sentinel Dashboard
  4. Sentinel對網關的支持
  5. 網關限流規則
  6. 網關流控實現原理
  7. 總結

前言

爲什麽需要服務熔斷和降級?微服務是當前業界的一大趨勢,原理就是將單一職責的功能模塊獨立化爲子服務,降低服務間的耦合,服務間互相調用。但是這樣也會出現一些問題:

微服務網關如何防止雪崩?阿裏開源項目之Sentinel限流、熔斷

上圖中大量微服務互相調用,存在大量的依賴關系,難免會出現某個服務故障,如ServiceD出現問題,導致ServiceG、ServiceF、ServiceA、ServiceB都出現問題,然後再會影響其他服務,變成級聯故障,最終導致系統不可用的坍塌,也就是服務雪崩。

當然還有某些場景,在一些時間段某些服務會出現高並發的情況,而某些服務占用著那些緊缺的資源顯然是不太合理的,這時就需要對一些服務進行降級處理,削弱占用的系統資源。

熟悉Spring Cloud的小夥伴,第一反應應該就是Hystrix。但是比較可惜的是Netflix已經宣布對Hystrix停止更新。那麽還有什麽更好的選擇呢?除了Spring Cloud官方推薦的resilience4j之外,目前Spring Cloud Alibaba下整合的Sentinel小夥伴們可以重點考察和選型的目標。

Sentinel是什麽

Sentinel 是一款由阿裏開發的面向分布式服務架構的輕量級流量控制産品,主要以流量爲切入點,從流量控制、熔斷降級、系統負載保護等多個維度來幫助我們保護服務的穩定性。

Sentinel的使用分爲兩部分:

1、sentinel-dashboard:與hystrix-dashboard類似,但是它更爲強大一些。除了與hystrix-dashboard一樣提供實時監控之外,還提供了流控規則、熔斷規則的在線維護等功能。

2、客戶端整合:每個微服務客戶端都需要整合sentinel的客戶端封裝與配置,才能將監控信息上報給dashboard展示以及實時的更改限流或熔斷規則等。

部署Sentinel Dashboard

下載地址

到github上面搜素sentinel看看他的releases,現在最新的版本V1.6.3,點擊下載

運行Sentinel.jar

Sentinel的默認端口是8080,當然你也可以換別的端口,在啓動的時候設置一下就行了。我們啓動時候要讓他在後台運行。

nohup java -jar sentinel-dashboard-1.6.3.jar &

登陸Sentinel控制台

ip+端口號訪問服務,用戶名和密碼都是:sentinel

微服務網關如何防止雪崩?阿裏開源項目之Sentinel限流、熔斷

登陸進去後,能看到流控和降級規則設置

微服務網關如何防止雪崩?阿裏開源項目之Sentinel限流、熔斷

Sentinel對網關的支持

Sentinel 支持對 Spring Cloud Gateway、Zuul 等主流的 API Gateway 進行限流。

微服務網關如何防止雪崩?阿裏開源項目之Sentinel限流、熔斷

Sentinel 1.6.0 引入了 Sentinel API Gateway Adapter Common 模塊,此模塊中包含網關限流的規則和自定義 API 的實體和管理邏輯:

1、GatewayFlowRule:網關限流規則,這個根據網關的自身的路由場景設計的,可以針對不同 route 或自定義的 API 分組進行限流,支持針對請求中的參數、Header、來源 IP 等進行定制化的限流。

2、ApiDefinition:用戶自定義的 API 定義分組,可以看做是一些 URL 匹配的組合。比如我們可以定義一個 API 叫 my_api,請求 path 模式爲 /foo/** 和 /baz/** 的都歸到 my_api 這個 API 分組下面。限流的時候可以針對這個自定義的 API 分組維度進行限流。

網關限流規則 GatewayFlowRule

字段解釋如下:

1、resource:資源名稱

網關中的 route 名稱或者用戶自定義的API 分組名稱。

2、resourceMode

規則是針對 API Gateway 的route(RESOURCE_MODE_ROUTE_ID)還是用戶在 Sentinel 中自定義的API 分組(RESOURCE_MODE_CUSTOM_API_NAME),默認是route。

3、grade

限流指標維度,同限流規則的grade字段。

4、count:限流阈值

5、intervalSec

統計時間窗口,單位是秒,默認是1 秒(目前僅對參數限流生效)。

6、controlBehavior

流量整形的控制效果,同限流規則的 controlBehavior 字段,目前支持快速失敗和勻速排隊兩種模式,默認是快速失敗。

7、burst

應對突發請求時額外允許的請求數目(目前僅對參數限流生效)。

8、maxQueueingTimeoutMs

勻速排隊模式下的最長排隊時間,單位是毫秒,僅在勻速排隊模式下生效。

9、paramItem

參數限流配置。若不提供,則代表不針對參數進行限流,該網關規則將會被轉換成普通流控規則;否則會轉換成熱點規則。其中的字段:

parseStrategy:從請求中提取參數的策略,目前支持四種模式提取來源

  • IP(PARAM_PARSE_STRATEGY_CLIENT_IP)
  • Host(PARAM_PARSE_STRATEGY_HOST)
  • 任意 Header(PARAM_PARSE_STRATEGY_HEADER)
  • 任意 URL 參數(PARAM_PARSE_STRATEGY_URL_PARAM)

fieldName:若提取策略選擇 Header 模式或 URL 參數模式,則需要指定對應的 header 名稱或 URL 參數名稱。

pattern 和 matchStrategy:爲參數匹配特性預留

可以通過 GatewayRuleManager.loadRules(rules)手動加載網關規則,或通過 GatewayRuleManager.register2Property(property)注冊動態規則源動態推送(推薦方式)

網關流控實現原理

微服務網關如何防止雪崩?阿裏開源項目之Sentinel限流、熔斷

上圖的整體流程如下:

1、外部請求進入API Gateway時會經過Sentinel實現的filter,其中會依次進行 路由/API 分組匹配、請求屬性解析和參數組裝。

2、Sentinel 會根據配置的網關流控規則來解析請求屬性,並依照參數索引順序組裝參數數組,最終傳入SphU.entry(res, args) 中。

3、Sentinel API Gateway Adapter Common 模塊向 Slot Chain 中添加了一個 GatewayFlowSlot,專門用來做網關規則的檢查。

4、GatewayFlowSlot會從GatewayRuleManager中提取生成的熱點參數規則,根據傳入的參數依次進行規則檢查。若某條規則不針對請求屬性,則會在參數最後一個位置置入預設的常量,達到普通流控的效果。

注意:

當通過 GatewayRuleManager 加載網關流控規則GatewayFlowRule時,無論是否針對請求屬性進行限流,Sentinel底層都會將網關流控規則轉化爲熱點參數規則ParamFlowRule,存儲在GatewayRuleManager 中,與正常的熱點參數規則相隔離。轉換時Sentinel會根據請求屬性配置,爲網關流控規則設置參數索引idx,並同步到生成的熱點參數規則中

總結

從Sentinel的1.6.0版本開始,提供了SpringCloud Gateway的適配模塊,可以提供兩種資源維度的限流:

1、route 維度:即在Spring配置文件中配置的路由條目,資源名爲對應的routeId

2、自定義 API 維度:用戶可以利用 Sentinel 提供的 API 來自定義一些 API 分組

具體用法,老顧下一篇介紹,今天就介紹到這裏,謝謝!!!


—End—

最近老顧上傳了微服務網關的分享課程,請大家多多支持

推薦閱讀

1、面試必備:網關異常了怎麽辦?如何做全局異常處理?

2、Gateway網關系列(二):SpringCloud Gateway入門實戰,路由規則

3、Gateway網關系列開篇:SpringCloud的官方網關Gateway介紹

4、API網關在微服務架構中的應用,這一篇就夠了

5、學習Lambda表達式看這篇就夠了,不會讓你失望的哦(續篇)

6、Lambda用在哪裏?幾種場景?

7、爲什麽會出現Lambda表達式,你知道嗎?

8、不說“分布式事務”理論,直接上大廠阿裏的解決方案,絕對實用

9、女程序員問到這個問題,讓我思考了半天,Mysql的“三高”架構

10、大廠二面:CAP原則爲什麽只能滿足其中兩項?而不能同時滿足

11、阿裏P7二面:聊聊零拷貝的原理

12、秒殺系統的核心點都在這裏,快來取

13、你了解如何利用token方式實現分布式Session嗎?

14、Mysql索引結構演變,爲什麽最終會是那個結構呢?讓你一看就懂

15、一場比賽涉及到的知識,用通俗易通的方式介紹並發協調

16、企業實戰Redis全方面思考,你思考了嗎?

17、面試題:Thread的start和run的區別

18、面試題:什麽是CAS?CAS的作用以及缺點

19、如何訪問redis中的海量數據?避免事故産生

20、如何解決Redis熱點問題?以及如何發現熱點?

21、如何設計API接口,實現統一格式返回?

22、你真的知道在生産環境下如何部署tomcat嗎?

23、分享一線互聯網大廠分布式唯一ID設計 之 snowflake方案

24、分享大廠分布式唯一ID設計方案,快來圍觀

25、你想了解一線大廠的分布式唯一ID生成方案嗎?

26、你知道如何處理大數據量嗎?(數據拆分篇)

27、如何永不遷移數據和避免熱點? 根據服務器指標分配數據量(揭秘篇)

28、你知道怎麽分庫分表嗎?如何做到永不遷移數據和避免熱點嗎?

29、你了解大型網站的頁面靜態化嗎?

30、你知道如何更新緩存嗎?如何保證緩存和數據庫雙寫一致性?

31、你知道怎麽解決DB讀寫分離,導致數據不一致問題嗎?

32、DB讀寫分離情況下,如何解決緩存和數據庫不一致性問題?

33、你真的知道怎麽使用緩存嗎?

34、如何利用鎖,防止緩存擊穿?重構思想的重要性

35、海量訂單産生的業務高峰期,如何避免消息的重複消費?

36、你知道如何保障生産端100%消息投遞成功嗎?

37、微服務下的分布式session該如何管理?

38、阿裏二面:filter、interceptor、aspect應如何選擇?很多人中招

39、互聯網架構重要組員CDN,很多高級開發都沒有實操過,來看這裏

40、阿裏二面:CDN緩存控制原理,看看能不能難住你

相關文章:

  • 烤鴨湯、豬骨湯、魚湯……煲湯真的能養生嗎?
  • 新加坡興起“共享電動滑板車”,它離我們遙遠嗎?
  • 女性切除了一個子宮對身體有什麼影響?
  • 英超最新積分榜:3-0完勝喜鵲!26歲前鋒弑殺舊主,5萬人徹底絕望
  • 明天 (1月3日),山鷹可轉債上市,首日價格將漲停
  • 煤電與可再生能源:互補還是替代?
科技

發佈留言 取消回覆

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

©2023 快讀 | 服務協議 | DMCA | 聯繫我們