活動報導

台灣雲協舉辦「Smarter, Faster, Lighter」為題的 AI 解決方案論壇,以智慧.速度.輕量化:引領未來的 AI 解決方案

字級:
小字級
中字級
大字級
友善列印

AI 不再只是雲端技術的代名詞。在 COMPUTEX 2025, CIAT 舉辦以「 Smarter, Faster, Lighter」為題的 AI 解決方案論壇,四場講題涵蓋運算架構、邊緣部署、視覺智慧與 AI 開發治理,串起一條從基礎技術到產業應用的清晰脈絡。會後觀展也可見這些技術實際應用於智慧製造、零售與企業內部系統, AI 已正逐步走入現場。

AMD| AI 運算多元化:晶片設計與模型需求的雙向牽引 
Heterogeneous Computing Powers the Future of AI AMD

一一

本次重點強調的是異質運算架構如何回應生成式 AI 的計算需求。透過 MI300X/MI325X GPU系列與最新 EPYC 處理器平台, AMD 展現其為超大型模型如 LLaMA 3.1 405B 所設計的支援架構,不僅在全球 AI 效能評測指標 MLPerf 中表現亮眼,也已被 Meta 選為其 405B 模型的實際部署平台,證實能同時滿足高效能與低能耗的需求。

這裡反映出一個重要趨勢:AI 模型越趨專用與複雜,硬體端也正朝向「模組化、高記憶體、高頻寬」的方向發展。而如 Ryzen AI 這類 Copilot+ PC 平台,也正在將 AI 計算能力從雲端帶回終端裝置,這對企業 IT 架構意味著一場去中心化的再思考。

What to Watch: 未來的 AI 架構將不再只有「上雲」一條路,而是同時擁抱雲、邊、端的協同佈署策 略,企業需要重新設計自己的運算資源地圖。

GIGABYTE|邊緣運算不再只是通訊詞彙,而是 AI 模型的「新棲地」
Edge Servers for Lightweight AI: The Backbone of Endpoint Deployment

一一

GIGABYTE 的展示從伺服器架構切入,但更值得關注的是它們觀察到的產業需求變化:企業不再只 是佈建一個大資料中心,而是逐步向「分布式 AI 即時運算」邁進。從支援 Omniverse 的 BIM 現場部署,到 5G 雲遊戲串流與智慧製造應用, GIGAPOD 的模組化設計呈現了對 AI 能力部署方式 的根本重構。

許多展出案例也顯示出「資料在那裡,模型也該在那裡」的架構理念正在落地。從邊緣伺服器搭配 RTX 6000 GPU 的建置中可以看出,未來的模型推論可能更多發生在製造端、門市、甚至交通節點 中。

What to Watch: AI 模型訓練仍多在核心資料中心,但推論已快速邁向邊緣( inference at the edge)。混合架構與模型精簡化將成為系統整合重點。

ITRI|從影像理解到空間解析: AI 讓視覺感知走進群眾場域 
AI-Driven Visual Intelligence Application: Person Analytics and Markerless 3D Motion Capture

一一

工研院提出的「 AI 視覺智慧應用」強調兩個面向:第一是跨鏡頭的個體辨識與人流分析,第二是無標記 3D 動作捕捉技術。不同於商業產品導向,這些系統提供的是一種模組化、可疊加的分析能力,特別適合用於複雜空間與多鏡頭環境,如百貨公司、車站、工廠或多點工地。

在無需穿戴設備的情況下重建人體動作,不只應用於娛樂與運動,更可能帶動醫療復健、工安檢測 與智慧教學等場域的深層變革。而「不錄影、不上雲」的隱私架構設計,對日後在歐盟與北美市場的部署尤為關鍵。

What to Watch: Markerless Motion Capture 將成為下一波「空間智慧」基礎,未來與 XR、數位孿生、或智慧監控結合潛力巨大。

MyelinTek|MLOps 不再是工程術語,而是企業 AI 成功的中樞神經
Rapid AI Iteration: High-Efficiency AI Development, Deployment, and Governance

一一

MyelinTek1 與技嘉深度合作, 展示一站式 AI 開發與管理平台 MLSteam 整合 MLOps 工作流程, 展示如何利用生成式 AI 工具(如資料自動標註、HPO、自動測試腳本生成等)提高模型開發速度並降低錯誤率並透過管理將資源運用最大化,讓企業看見 AI 不只停在「做出來」, 也「養得起」。

值得注意的是, MyelinTek 特別強調支援輕量模型(如 distill LLaMA)與私有部署,在企業面臨成本與資料主權兩難時,提供一個平衡選項。對台灣與亞太市場的企業來說,這樣的解決方案更具落地可行性。

What to Watch: 未來企業 IT 架構不只是用 AI,而是會「養 AI」,從模型選型、訓練、部署到監控,全流程治理將是關鍵核心能力。

總結|The Takeaway

COMPUTEX 2025 AI 的新紀元,不再是單點技術的炫技,而是完整生態系的協作。從晶片、架構、邊緣佈署到視覺認知與運維平台,AI 正加速進化為企業營運的常態工具。未來企業不只要懂得怎麼「導入AI」,更要會「規劃、架構」將資源效能最大化,這也是下一階段企業數位轉型的競爭焦點。

活動議程|Agenda

黃維中
台灣雲協 AI SIG 總召集人

黃偉喬
AMD資深業務協理

王昭力
技鋼科技市場發展經理

蘇奕宇
工研院博士
李威儒
邁爾凌營運長

活動剪影

TOP