歡迎關注頭條號:老顧聊技術
精品原創技術分享,知識的組裝工
目錄
- 前言
- Sentinel是什麽
- 部署Sentinel Dashboard
- Sentinel對網關的支持
- 網關限流規則
- 網關流控實現原理
- 總結
前言
爲什麽需要服務熔斷和降級?微服務是當前業界的一大趨勢,原理就是將單一職責的功能模塊獨立化爲子服務,降低服務間的耦合,服務間互相調用。但是這樣也會出現一些問題:
上圖中大量微服務互相調用,存在大量的依賴關系,難免會出現某個服務故障,如ServiceD出現問題,導致ServiceG、ServiceF、ServiceA、ServiceB都出現問題,然後再會影響其他服務,變成級聯故障,最終導致系統不可用的坍塌,也就是服務雪崩。
當然還有某些場景,在一些時間段某些服務會出現高並發的情況,而某些服務占用著那些緊缺的資源顯然是不太合理的,這時就需要對一些服務進行降級處理,削弱占用的系統資源。
熟悉Spring Cloud的小夥伴,第一反應應該就是Hystrix。但是比較可惜的是Netflix已經宣布對Hystrix停止更新。那麽還有什麽更好的選擇呢?除了Spring Cloud官方推薦的resilience4j之外,目前Spring Cloud Alibaba下整合的Sentinel小夥伴們可以重點考察和選型的目標。
Sentinel是什麽
Sentinel 是一款由阿裏開發的面向分布式服務架構的輕量級流量控制産品,主要以流量爲切入點,從流量控制、熔斷降級、系統負載保護等多個維度來幫助我們保護服務的穩定性。
Sentinel的使用分爲兩部分:
1、sentinel-dashboard:與hystrix-dashboard類似,但是它更爲強大一些。除了與hystrix-dashboard一樣提供實時監控之外,還提供了流控規則、熔斷規則的在線維護等功能。
2、客戶端整合:每個微服務客戶端都需要整合sentinel的客戶端封裝與配置,才能將監控信息上報給dashboard展示以及實時的更改限流或熔斷規則等。
部署Sentinel Dashboard
下載地址
到github上面搜素sentinel看看他的releases,現在最新的版本V1.6.3,點擊下載
運行Sentinel.jar
Sentinel的默認端口是8080,當然你也可以換別的端口,在啓動的時候設置一下就行了。我們啓動時候要讓他在後台運行。
nohup java -jar sentinel-dashboard-1.6.3.jar &
登陸Sentinel控制台
ip+端口號訪問服務,用戶名和密碼都是:sentinel
登陸進去後,能看到流控和降級規則設置
Sentinel對網關的支持
Sentinel 支持對 Spring Cloud Gateway、Zuul 等主流的 API Gateway 進行限流。
Sentinel 1.6.0 引入了 Sentinel API Gateway Adapter Common 模塊,此模塊中包含網關限流的規則和自定義 API 的實體和管理邏輯:
1、GatewayFlowRule:網關限流規則,這個根據網關的自身的路由場景設計的,可以針對不同 route 或自定義的 API 分組進行限流,支持針對請求中的參數、Header、來源 IP 等進行定制化的限流。
2、ApiDefinition:用戶自定義的 API 定義分組,可以看做是一些 URL 匹配的組合。比如我們可以定義一個 API 叫 my_api,請求 path 模式爲 /foo/** 和 /baz/** 的都歸到 my_api 這個 API 分組下面。限流的時候可以針對這個自定義的 API 分組維度進行限流。
網關限流規則 GatewayFlowRule
字段解釋如下:
1、resource:資源名稱
網關中的 route 名稱或者用戶自定義的API 分組名稱。
2、resourceMode
規則是針對 API Gateway 的route(RESOURCE_MODE_ROUTE_ID)還是用戶在 Sentinel 中自定義的API 分組(RESOURCE_MODE_CUSTOM_API_NAME),默認是route。
3、grade
限流指標維度,同限流規則的grade字段。
4、count:限流阈值
5、intervalSec
統計時間窗口,單位是秒,默認是1 秒(目前僅對參數限流生效)。
6、controlBehavior
流量整形的控制效果,同限流規則的 controlBehavior 字段,目前支持快速失敗和勻速排隊兩種模式,默認是快速失敗。
7、burst
應對突發請求時額外允許的請求數目(目前僅對參數限流生效)。
8、maxQueueingTimeoutMs
勻速排隊模式下的最長排隊時間,單位是毫秒,僅在勻速排隊模式下生效。
9、paramItem
參數限流配置。若不提供,則代表不針對參數進行限流,該網關規則將會被轉換成普通流控規則;否則會轉換成熱點規則。其中的字段:
parseStrategy:從請求中提取參數的策略,目前支持四種模式提取來源
- IP(PARAM_PARSE_STRATEGY_CLIENT_IP)
- Host(PARAM_PARSE_STRATEGY_HOST)
- 任意 Header(PARAM_PARSE_STRATEGY_HEADER)
- 任意 URL 參數(PARAM_PARSE_STRATEGY_URL_PARAM)
fieldName:若提取策略選擇 Header 模式或 URL 參數模式,則需要指定對應的 header 名稱或 URL 參數名稱。
pattern 和 matchStrategy:爲參數匹配特性預留
可以通過 GatewayRuleManager.loadRules(rules)手動加載網關規則,或通過 GatewayRuleManager.register2Property(property)注冊動態規則源動態推送(推薦方式)
網關流控實現原理
上圖的整體流程如下:
1、外部請求進入API Gateway時會經過Sentinel實現的filter,其中會依次進行 路由/API 分組匹配、請求屬性解析和參數組裝。
2、Sentinel 會根據配置的網關流控規則來解析請求屬性,並依照參數索引順序組裝參數數組,最終傳入SphU.entry(res, args) 中。
3、Sentinel API Gateway Adapter Common 模塊向 Slot Chain 中添加了一個 GatewayFlowSlot,專門用來做網關規則的檢查。
4、GatewayFlowSlot會從GatewayRuleManager中提取生成的熱點參數規則,根據傳入的參數依次進行規則檢查。若某條規則不針對請求屬性,則會在參數最後一個位置置入預設的常量,達到普通流控的效果。
注意:
當通過 GatewayRuleManager 加載網關流控規則GatewayFlowRule時,無論是否針對請求屬性進行限流,Sentinel底層都會將網關流控規則轉化爲熱點參數規則ParamFlowRule,存儲在GatewayRuleManager 中,與正常的熱點參數規則相隔離。轉換時Sentinel會根據請求屬性配置,爲網關流控規則設置參數索引idx,並同步到生成的熱點參數規則中
總結
從Sentinel的1.6.0版本開始,提供了SpringCloud Gateway的適配模塊,可以提供兩種資源維度的限流:
1、route 維度:即在Spring配置文件中配置的路由條目,資源名爲對應的routeId
2、自定義 API 維度:用戶可以利用 Sentinel 提供的 API 來自定義一些 API 分組
具體用法,老顧下一篇介紹,今天就介紹到這裏,謝謝!!!
—End—
最近老顧上傳了微服務網關的分享課程,請大家多多支持
推薦閱讀
2、Gateway網關系列(二):SpringCloud Gateway入門實戰,路由規則
3、Gateway網關系列開篇:SpringCloud的官方網關Gateway介紹
5、學習Lambda表達式看這篇就夠了,不會讓你失望的哦(續篇)
8、不說“分布式事務”理論,直接上大廠阿裏的解決方案,絕對實用
9、女程序員問到這個問題,讓我思考了半天,Mysql的“三高”架構
10、大廠二面:CAP原則爲什麽只能滿足其中兩項?而不能同時滿足
13、你了解如何利用token方式實現分布式Session嗎?
14、Mysql索引結構演變,爲什麽最終會是那個結構呢?讓你一看就懂
23、分享一線互聯網大廠分布式唯一ID設計 之 snowflake方案
27、如何永不遷移數據和避免熱點? 根據服務器指標分配數據量(揭秘篇)
28、你知道怎麽分庫分表嗎?如何做到永不遷移數據和避免熱點嗎?
30、你知道如何更新緩存嗎?如何保證緩存和數據庫雙寫一致性?
32、DB讀寫分離情況下,如何解決緩存和數據庫不一致性問題?
38、阿裏二面:filter、interceptor、aspect應如何選擇?很多人中招