104學習
台灣用GPU跑AI的企業，我覺得2026年要注意的幾件事
AI這個領域變化太快，我每隔一段時間就要重新整理一下自己對市場的看法。今年初到現在，我跟很多台灣企業聊過，對於他們在GPU運算這塊會面對的事情，我有幾個觀察想說。
第一個是GPU供給的問題。過去幾年H100的缺貨很嚴重，很多企業想要但搶不到。現在情況有所改善，但好的GPU主機資源仍然是有限的。如果你的AI計畫在今年要真正落地，早點確認你的算力來源是必要的，不要等到要用的時候才去找。
第二個是模型變化帶來的算力需求調整。開源模型的發展很快，越來越多企業開始考慮在自己的主機上跑客製化的模型，而不是依賴別人的API。這個趨勢讓GPU主機的需求增加，同時也讓如何選擇正確的GPU規格變得更重要。我最近看到不少企業一開始選了太小的GPU，跑到一半才發現記憶體不夠，要升規格或換卡，很麻煩。
第三個是資料主權的意識在增強。台灣的企業，尤其是有境外業務或受法規約束的行業，對於把資料放在海外GPU服務上開始有更多的警覺。把AI工作負載跑在台灣的主機上，這個需求我感覺是在上升的。
第四個是成本控制變得更重要。2024、2025年很多企業在AI這塊投了不少預算，2026年大家開始要算ROI了。「這個AI投資到底帶來了什麼？」這個問題被越來越多老闆認真在問。這讓選擇算力方案的時候，不是挑最貴的最好，而是挑最合適的才對。
對我來說，這些觀察都指向同一個方向：台灣企業在GPU運算這塊需要的，不是一個賣規格的供應商，而是一個能夠根據你的實際需求給出建議、在你遇到問題的時候快速回應的合作夥伴。
我在這個行業做了二十六年，服務了三萬多家企業客戶，我知道技術問題的背後通常是業務問題，正確的方案是從業務需求出發的，不是從規格表出發的。這也是我們在提供GPU主機服務的時候，一直強調顧問導向而不是商品導向的原因。
0
0
36 0
拍手
留言
分享
Line
複製連結
收藏