104學習精靈
Concurrent computing
Concurrent computing
關注
邀請朋友 
Facebook
Line
複製連結
關於教室
關注人數 0 人
104人力銀行從職缺中挑選出常見技能所成立的官方教室，提供大家進行共學互動。
學習主持人
持續分享知識，
有機會成為官方教室主持人
有機會成為官方教室主持人
教室標籤
關於教室
關注人數 0 人
104人力銀行從職缺中挑選出常見技能所成立的官方教室，提供大家進行共學互動。
學習主持人
持續分享知識，
有機會成為官方教室主持人
有機會成為官方教室主持人
教室標籤
Hi~ 歡迎分享學習資源，有學習問題可匿名向Giver發問！
我要分享
我要提問
Concurrent computing 學習推薦
全部
影片
文章
使用併行管理系統避免壅塞造成的服務中斷-呂學洲
現行在很多高通量的服務（例如 APIm）之中會使用一些限流（熔斷）機制，例如記錄每個 IP 能打進這個服務的次數或限制同時能夠擁有的連線數。但是這會造成幾個問題：
1. 應用程式避免被熔斷通常都會高估使用量，例如高峰每秒只會打 10 個請求，但卻申請 15 個的 quota
2. 服務為了滿足各個 client 在限制下的流量通常都會拉高承載力（capacity），例如 client A 和 client B 限制每秒 10 個請求，這時這個服務就要有約每秒 25 個請求的承載力，就會造成大部分時間資源的浪費
3. 當有合理的流量上升，會阻擋到非必要限制的使用者，例如某服務突然變得很有名，限流的設定卻是舊的
4. 以 APIm 為例，上游承載能力是會動態浮動的，所以原本限流 20 可以避免上游服務崩壞，但是某天上游服務突然變得很慢，每秒 5 個請求就會讓他崩壞，限流的保護機制如同虛設
併行管理系統就是要解決這些問題，這些東西並不新，在 TCP 設計時就有很多這種機制，包括 AIMD、Vegas、Gradient 等等，現行的服務都應該要有這些東西，但我們卻很少意識到這件事。
這次分享主要會實際展示「適應併行處理」在處理這些東西時會有什麼樣的結果，我們在https://github.com/evan361425/playground-adaptive-concurrency/tree/master
放一些原始碼，並提供給參與者。
本文與連結相關資源非經取得作者授權，不得任意轉載或公開傳輸
7
0
348 1
拍手
留言
分享
Line
複製連結
收藏
學習精靈
02/23 00:00
youtube.com
What is CONCURRENT COMPUTING? What does CONCURRENT COMPUTING mean?
0 0
分享
Line
複製連結
收藏
學習精靈
07/30 00:00
youtube.com
Actors.jl: Concurrent Computing with the Actor Model | Paul Bayer | JuliaCon2021
0 0
分享
Line
複製連結
收藏
推薦給你
Google發表：Gemini 2.0 全新AI模組介紹、四大亮點一次看
在ChatGPT傳出全球大當機災情的同一天，Google 發布了全新 AI 模型 Gemini 2.0。
不僅支援多模態物件，Gemini 2.0採用更精準、強大的代理式AI系統，幫助使用者主動提前思考並完善指令，打造更符合使用者需求的全方位AI人工智慧助理！
▍Gemini 2.0 亮點搶先看
※ 深度學習有效處理複雜問題：採用「深度研究」學習技術功能，大量運用高級推理和長上下文功能充當研究助理，探索複雜的主題並代表使用者編寫報告。
※ 多模態能力生成準確內容： 除了文字生成外，Gemini 2.0 還能直接生成圖片和音訊，並且能有效處理口音問題轉化成更準確的訊息內容。
※ 實現代理式 AI 的多元運用： 不只是AI助理，Gemini 2.0升級的代理式AI系統，能更主動的做出決策，為使用者提前思考，並在使用者的監督下執行任務。Gemini 2.0將以此為基石，使用在Project Astra助理工具與其他開發者工具中。
※ 活化並整合 Google 產品： Gemini 2.0 將逐步整合到 Google 的搜尋、地圖等產品中，為使用者帶來更智能、更個人化的體驗。
Gemini 2.0預計2025年1月正式推出，在此之前，使用者們可以透過Google AI Studio網站搶先體驗Gemini 2.0測試版的與眾不同。
➤ 立即試用：
➤ 歡迎在104學習精靈關注【AI趨勢報－科技愛好者的產地】獲得更多科技新知！
0
0
2049 1
拍手
留言
分享
Line
複製連結
收藏
你可能感興趣的教室