104學習精靈

Concurrent computing

Concurrent computing
關注
邀請朋友
邀請朋友

Line

Facebook

複製連結

取消
關於教室
關注人數 0 人
104人力銀行從職缺中挑選出常見技能所成立的官方教室,提供大家進行共學互動。
學習主持人
持續分享知識,
有機會成為官方教室主持人
關於教室
關注人數 0 人
104人力銀行從職缺中挑選出常見技能所成立的官方教室,提供大家進行共學互動。
學習主持人
持續分享知識,
有機會成為官方教室主持人
Hi~ 歡迎分享學習資源,有學習問題可匿名向Giver發問!
我要分享
我要提問

Concurrent computing 學習推薦

全部
影片
文章
一零四邦尼學習

2022/08/16

使用併行管理系統避免壅塞造成的服務中斷-呂學洲
現行在很多高通量的服務(例如 APIm)之中會使用一些限流(熔斷)機制,例如記錄每個 IP 能打進這個服務的次數或限制同時能夠擁有的連線數。但是這會造成幾個問題:
1. 應用程式避免被熔斷通常都會高估使用量,例如高峰每秒只會打 10 個請求,但卻申請 15 個的 quota
2. 服務為了滿足各個 client 在限制下的流量通常都會拉高承載力(capacity),例如 client A 和 client B 限制每秒 10 個請求,這時這個服務就要有約每秒 25 個請求的承載力,就會造成大部分時間資源的浪費
3. 當有合理的流量上升,會阻擋到非必要限制的使用者,例如某服務突然變得很有名,限流的設定卻是舊的
4. 以 APIm 為例,上游承載能力是會動態浮動的,所以原本限流 20 可以避免上游服務崩壞,但是某天上游服務突然變得很慢,每秒 5 個請求就會讓他崩壞,限流的保護機制如同虛設
併行管理系統就是要解決這些問題,這些東西並不新,在 TCP 設計時就有很多這種機制,包括 AIMD、Vegas、Gradient 等等,現行的服務都應該要有這些東西,但我們卻很少意識到這件事。
這次分享主要會實際展示「適應併行處理」在處理這些東西時會有什麼樣的結果,我們在https://github.com/evan361425/playground-adaptive-concurrency/tree/master
放一些原始碼,並提供給參與者。
本文與連結相關資源非經取得作者授權,不得任意轉載或公開傳輸
7 0 353 1
學習精靈

02/23 00:00

0 0
學習精靈

07/30 00:00

0 0

推薦給你

緯育TibaMe

02/04 10:33

優惠只到今晚11:59⏰ 補齊今年的學習目標趁現在,全站職場進修課皆享 85 折
開工紅包最後領取機會👉 https://bit.ly/4jLnbLu
趁限再將第一季想進修的課程一次打包,領券不限金額享 85 折優惠!
🧧 送祝福卡還能抽 AI 虛擬人物製作工具免費用、LINE POINTS等好以禮
過年安太歲、點光明燈......
開工日別忘了向同事、客戶送上祝福,讓 2025 年合作順順利利
🧧🧧 萬元紅包抽獎名額最後倒數
今年的職場目標訂好了嗎?
記得在明日 23:59以前,前往寫下你的目標還能加碼拿 #萬元 獎勵金!
🧧🧧🧧 全站課程不限金額 85 折
不論你今年想要進修 AI 應用、自動化流程、軟體開發等技能
結帳時輸入 「 NEWYEAR 」即享 85 折優惠
(紅包只能用到 2/4 23:59,千萬別錯過~)
熱門推薦好課>> https://bit.ly/4jLnbLu
0 0 2924 0
你可能感興趣的教室