AI下一站：從「訓練模型」走向真正落地
【符致華】過去幾年，人工智能（AI）的競賽焦點一直放在誰能訓練出更大、更強的模型。科技企業花重金購入AI晶片、興建數據中心，GPU及雲端運算股份亦因此備受追捧。不過，隨着AI模型日趨成熟，市場焦點開始由「訓練模型」轉向「推理」（Inference），即將AI真正應用到日常生活及商業場景，例如回答問題、生成文件、分析醫療影像，以及協助汽車判斷路況等。
研究機構Gartner預計，AI基建開支中用於推理的比例，將由2026年的55%升至2029年的65%，反映AI投資周期正由模型訓練逐步走向實際應用。
AI不能只依靠雲端？
訓練大型語言模型需要大量晶片同時運算，因此幾乎全部在大型雲端數據中心完成。但推理的要求卻有所不同，除了運算能力，速度、成本、私隱及穩定性同樣重要。若每次AI回應都要把資料傳送到遙遠的雲端，再將結果傳回用戶，不但增加延遲，亦會提高網絡及運算成本。
因此，「邊緣AI」（Edge AI）便應運而生。邊緣AI是指由手機、汽車、工業設備等終端裝置，或鄰近使用者的小型數據中心處理部分AI工作，而非全部交由大型雲端平台負責。
這並不代表邊緣AI會取代雲端，而是兩者各司其職：較複雜、需要大量運算的工作仍由雲端處理；講求即時反應及成本效益的應用，則可在終端裝置或附近的服務節點完成。例如自動駕駛汽車需要即時判斷路況，智能眼鏡及穿戴式裝置要求隨時可用，工業機械人重視穩定運作，而醫療應用則更講求私隱保障，這些都十分適合採用邊緣AI。
投資機遇向外擴散
邊緣AI的興起，亦令原本主要用於傳送影片、遊戲及網頁內容的內容傳遞網絡（CDN）重新受到市場關注。這些遍布全球的服務節點，過去主要協助串流平台更快把內容送到用戶手上，如今亦可用作執行AI推理，其長遠增長潛力值得重視。
AI推理逐步走向邊緣端，意味受惠者不再局限於大型雲端平台及GPU供應商，整條科技價值鏈都有望迎來新需求。首先是光通訊網絡。當AI運算由少數大型數據中心，擴展至全球數以千計的服務節點，資料需要高速傳輸，光通訊設備的重要性自然提升。
其次是類比（Analog）半導體。隨着AI逐步應用於汽車、工業設備及醫療等現實場景，市場對類比晶片的需求亦有望增加，因為類比晶片正是連接數碼系統與現實世界的橋樑。
記憶體同樣值得留意。除了高頻寬記憶體（HBM）及DRAM外，隨着AI推理日益普及，市場對不同類型記憶體的需求亦有望擴大。以AI對話為例，系統需要暫時記住早前的內容，否則每次生成新句子時都會像「失憶」一樣忘記上文。這類短期記憶需要快速存取的記憶體支援，為行業帶來新的增長動力。
邊緣AI並非要取代雲端，而是令AI更便宜快捷的方式融入日常生活，市場焦點亦逐步轉向如何有效地部署AI應用。對投資者而言，AI機遇不再只是少數科技龍頭的專利，內容傳遞網絡、光通訊、類比半導體、記憶體及網絡安全等企業，都有望創造可持續的商業價值，成為下一階段的受惠者。
