7/13 舉辦的「Agentic AI 時代：雲端管理的變革與矽谷最新趨勢」分享會中，台灣雲協 AI SIG 特別邀請到美洲中工會前會長、AI Group Chair 暨 AI 新創公司技術長馬思平（Simon Ma）先生，為大家解密矽谷最新 AI 發展，剖析 AI Native 組織轉型、雲端架構演變，以及當前美國面臨的公共治理挑戰。

從 Chatbot 走向 Agentic AI：工作流的根本顛覆

馬思平指出，AI 發展已從「AI 工具」走向「工作流中的 AI」，最終將邁向「AI Native 組織」。其核心變化在於「把流程交給 Agent 執行」並重新設計工作流程：

• 從回答問題到執行工作： 過去的 Chatbot 多為人類驅動的單次問答，工具使用率低；現在的 AI Agent 則是「目標驅動」，能自主拆解任務、執行多步驟行動並高頻率呼叫外部工具。
• 最愛用 Agent 的是「非技術人員」： 根據 OpenAI 2026 年的 Codex 數據顯示，有 28.6% 的用戶在單週內平行管理 5 個以上的 AI 代理。出乎意料的是，最常使用 Agent 的並非工程師，而是行銷、法務、HR 等非技術背景人員（使用率高達工程師的 189 倍）。
• 追蹤 Token 的新思維： 雖然 Meta、Disney 等標竿企業會追蹤員工的 AI 使用量，但盲目消耗 Token 已成為弊病，因此 Token 用量不再是判斷企業是否 AI Native 的指標。企業應轉向評估 Token 效率（Token efficiency） 與 Token 對工作帶來的實質價值。此外，研究指出資深工程師使用 AI 獲得的效益遠大於資淺人員。

停止下提示，開始寫迴圈：雲端架構重新洗牌

「迴圈工程（Loop Engineering）」的核心概念是「停止下提示，開始寫迴圈」。

• Agentic Loop 運作： 讓 Agent 在「思考（Think）→ 行動（Act）→ 觀察（Observe）→ 修正（Reflect）→ 重試（Retry）」的閉環中自主運作。
• 系統瓶頸外溢至 CPU： 隨著長上下文 RAG、工具呼叫與自我修正的需求大增，研究顯示，工具處理（Tool processing）在 CPU 上可能佔了 Agent 工作負載總延遲的 50% 至 90% 以上。
• 硬體配比的轉變： 雲端底層正從「以 GPU 為中心」走向「系統均衡架構」，使 CPU、Memory、I/O 與 Network 重新回到架構核心。雲端伺服器的 CPU 與 GPU 配置比例也從傳統的 1:8 轉變為 1:4 甚至 1:1。

雲端維運（SRE）的 AI 節費與安全機制

在雲端管理上，AI Agent 能扮演 24 小時不睡覺的資深 SRE：

• 主動診斷與節費： Agent 可透過分析 CPU、Memory、Network 及歷史帳單等數據，找出資源過度配置（over-provisioning）或閒置資源，主動提出優化與省錢方案。
• 必須導入「人類審批」： 雖然 Agent 能自動處理流程，但直接讓其執行仍具風險。安全的運作機制應為：「診斷（Diagnose）→ 建議（Recommend）→ 人類審批（Human Approval）→ 執行（Execute）」，確保人類始終留在管理迴圈中（Human-in-the-loop）。

美國「反 AI 浪潮」：資料中心成為公共治理議題

隨著資料中心用電量與水資源消耗暴增，美國地方電價與環境壓力急遽上升，伴隨白領與藍領的工作流失焦慮，引發了高達 70% 的美國民眾反對在社區興建高耗能資料中心。這使得資料中心建設已從「技術議題」升級為「公共治理議題」：

• 各州立法限制（2026 年）： 美國至少有 14 個州正在推動暫停資料中心建設，過去 6 週內已提交超過 300 項相關法案。
• 聯邦提案： 聯邦議員 Sanders 與 Curtis 已提出全國性的暫停資料中心建設提案（National Data Center Moratorium Proposal）。

未來的雲端競爭力，取決於企業能否在兼顧安全、公共治理與「Human-in-the-loop（人機協同）」的架構下，掌握 AI 浪潮並高效運用 AI 代理人，重塑企業的營運護城河！