台灣雲協技術專家、中華電信研究院副院長 黃志雄
產業趨勢
近年來隨著科技不斷地進步，智慧交通系統正逐漸改變著城市的面貌，路口監控相關應用也如雨後春筍般出現。隨著物聯網（IoT）和人工智慧（AI）技術的快速發展，Edge AI在智慧交通領域引起了廣泛關注。相較於過去使用雲端運算技術（Cloud Computing）將大量資料傳送到遠端伺服器，藉由伺服器優勢進行高效能AI運算與平行化處理，現今有另一主流發展趨勢，是運用邊緣運算（Edge Computing）技術直接在本地裝置上進行AI運算，實現即時的數據分析和決策。
為何會選擇運算效能遠遠不及雲端伺服器的邊緣設備作為運算裝置呢？其中最關鍵的原因是看上其「省頻寬」、「低延遲」及「低功耗」的特性。由於將大數據從感知裝置傳送到雲端需要大量頻寬，長距離的數據傳輸更容易引發網路延遲，對於一些需要高度即時性需求的場域（如自駕車、無人機等應用）影響甚鉅，此外，雲端伺服器的電力需求及機房的冷氣的高耗能因素，讓原本在伺服器上的算力需求移轉至邊緣設備上，可以有效節約能源。因此Edge AI透過將AI模型和計算能力直接佈署在嵌入式設備上，以邊緣運算技術實現即時的AI數據分析和決策，從而為智慧交通系統帶來了一系列的優勢。
技術現況
影像辨識是Edge AI在智慧交通領域上之常見應用，主要對象包含對於人、車、號誌等物件偵測與識別，相較於傳統採用VD（車輛偵測器）或RFID等感測設備，攝影機可提供更細緻的物件資訊與更精準的感測數據，但同時也伴隨著需要更高的算力。為解決算力議題，常見方法會以輕量化AI模型進行推論（Inference），並結合事件偵測演算法進行智慧辨識應用開發。以輕量化模型為基礎設計，主要是為了適應嵌入式設備的有限運算能力，儘可能在不影響影像辨識率的情況下，簡化模型運算量或採用較低的精度來換取更快的推論效率，達成影像辨識的目的。
就智慧交通應用現況而言，前端AI推論設備普遍具有低延遲與低功耗的特色，依照使用方式的不同，主要裝置有兩種：
- AI BOX 一般泛指所有搭載AI人工智慧處理功能的輕巧型主機，通常搭配多台攝影機共同連線使用，應用方式為由攝影機取得影像串流，經由AI BOX進行AI運算。AI BOX的共同特色是比一般主機更小與輕量，搭載先進的AI加速晶片，因此具有強大平行運算能力，能夠支援較複雜的AI模型加速運算，最知名的兩大供應商為輝達（NVIDIA）及英特爾（Intel），他們提供相當完整的Edge AI解決方案，同時也包含功能完整的軟體開發套件SDK，即輝達的TensorRT及英特爾的OpenVINO，讓用戶能夠方便且快速地開發不同的AI應用。 除了上述提到的方案外，還有一種專門設計用於加速神經網路運算的硬體單元為NPU（Neural processing unit），其特別針對AI任務導向所設計且具有低功耗的特性，在相同功耗比較下其性能遠高於GPU百倍以上。搭載NPU的裝置一般會結合影像晶片，能夠實現高效的影像處理和AI計算，可望提昇運算能力同時兼顧良好的散熱表現，其不易過熱的特性也更適合放置於炎熱的路側端環境。較知名的供應商如高通（Qualcomm）、耐能（Kneron）及Hailo。
- AI IPCAM： 一般泛指所有搭載AI SoC（System on Chip）的網路攝影機（IPCAM），與AI BOX最大的不同是裝置可直接外接鏡頭進行取像，本質上就是一台具有AI運算加速功能的攝影機。SoC封裝多種不同核心功能，除了整合AI加速的功能外，同時也包含影像信號處理器（ISP）和視頻編解碼器（Video Codec）。就物聯網IoT的嵌入式裝置而言，AI IPCAM更貼近邊緣運算的核心概念，同樣具備低功耗的特性與不錯的算力，因此在成本上也更有優勢。具代表性的晶片供應商例如：安霸（Ambarella）、聯詠（Novatek）等。
應用落地關鍵議題
Edge AI是指在嵌入式設備、感應器等邊緣計算節點上執行人工智慧演算法的應用。Edge AI影像辨識於智慧交通應用落地，有一些關鍵議題需要考量：
- AI模型設計與訓練資料 現今許多公開的通用模型或許已足夠完成大部份任務，就物件偵測而言，最常見且被廣泛使用的偵測模型為YOLO（You Only Look Once）。但想要做出差異化，勢必要因應不同應用的需求去設計專門的AI模型，並蒐集更多元的訓練資料來提昇模型的場景適應性。但正所謂"Garbage in, garbage out"，訓練資料也非越多越好，在訓練階段模型除了取決於這些訓練資料的多樣性及獨特性，還有資料標註的品質好壞，因此，建立高品質的影像資料庫對於模型表現至關重要，這需要針對實際道路場景，收集包含各種不同天候、光影、成像角度等不同條件下的資料，才能確保AI模型的優異表現。 以車牌辨識在道路應用為例，實際取得的影像取決於案場攝影機架設角度及場景光暗變化，且每一國家的車牌、車型都不相同，因此設計應用模型時通常要考慮各場景實際使用的情況。除此之外在智慧交通應用中，車牌/車輛辨識應用對於低延遲有極高的需求，在模型設計時還須特別考慮模型運算量與推論速度，也不能一昧地為了提昇適應性而增加模型參數量，反而會因為運算量過大而導致運算時間過長。
- AI模型佈署與推論設備 目前Edge AI推論設備選擇眾多，各家廠商陸續推出不同功能的裝置來提供AI服務。所謂"工欲善其事，必先利其器"，隨著市場需求的變化與技術發展趨勢，如何挑選適合的設備作為軟體載具也是相當重要。從AI推論設備或晶片的選擇來看，除了要能夠在性能與價格之間取得好的性價比平衡外，還須考慮許多因素，例如：開發套件對於AI模型運算的支援完整性與相容性，或是裝置能夠支援多個不同模型應用的可擴充性，亦或是搭配攝影機鏡頭成像的品質與畫面幀數，還有其他如功耗及散熱效能議題等等。綜上所述，在選擇AI推論設備時需要考慮很多面向，找到最適合且符合需求的方案才能提昇市產競爭力。
- 功耗與算力評估 通常在運算裝置的選擇與評估時，須同時考量到算力與功耗等因素，功耗的多寡會直接影響設備的耗電量。相較於一般PC主機功耗動輒需要上百瓦特(W, watt)，AI BOX一般功耗只須約30W上下，而AI IPCAM的功耗僅需約10W；而算力部分通常則是呈現反比，以TOPs(Tera Operations Per Second)即每秒萬億次運算為單位進行比較的話，AI IPCAM的範圍一般落在3~15 TOPs，AI BOX以具代表性的Xavier為例則是約為30 TOPs。通常在IPCAM受限於較低的算力，AI晶片一般會經由量化來精簡運算量，例如:將浮點數運算(Floating point)改為定點數運算(Fix Point) ，因此在評估算力時也須考量AI模型應用所需精度與耗時。綜觀上述分析可知，沒有最完美的設備，只有最適合應用的運算設備，在應用落地須考量諸多因素，才能找到最符合需求的架構。
應用案例
- 車流分析 透過Edge AI技術直接於路側進行高清影像即時辨識，針對道路上人車物件做軌跡分析，並將所得數據回報給後端平台，不僅有效降低網路頻寬需求，更可精準掌握車種、車流量、路口車輛轉向量等資訊，提供後端平台即時路況資訊，並可作為道路、交通號誌時制規劃參考依據，相較於傳統車輛感測器(Vehicle Detector)，人工智慧技術可提供更精準、更細緻、更多樣化的感測資訊。
- 動態號控 將Edge AI技術運用於路口、路段資訊分析，透過影像辨識技術，可分析道路佔有率、綠燈到達率、停等長度等資訊，並可即時分析上下游路口關聯訊息，進一步連動交通號誌時制計畫，或是於行穿線、閃紅/黃燈路口發現有行人尚未完成穿越或車輛停等時，可進行行人綠燈號誌延長或是號誌啟用等動態號控操作，提升用路安全與道路使用率、縮短旅行時間、降低車輛碳排放量。
- 交通科技執法 交通科技執法運用人工智慧技術進行道路人車分析，可有效降低員警執勤人力，達到全天候執法、降低道路事故發生。相較於傳統執法設備(如感應線圈、雷達…等)，AI影像辨識執法應用可提供更多元化的執法項目，如未依標線或號誌行駛、區間平均速率等，並提供高精準車牌辨識，配合後端執法平台與入案系統整合，提升整體行政作業效率，降低道路危險行為發生率，提供友善用路環境。 • 環保科技執法 違法改裝排氣管的車輛，容易造成空氣汙染與環境噪音，藉由架設Edge AI 攝影機與分貝計，由攝影機進行車牌辨識同時結合改裝排氣管辨識，同時記錄分貝計所量得數值，可以協助環保單位快速找出改裝排氣管的噪音車輛，進而通知車主回廠受檢，檢驗後若有違規事證，則可依法舉發。藉此減少環境噪音污染。
- 人車電子圍籬 人車電子圍籬是一種基於現代科技的智慧安防解決方案，旨在確保行人和車輛在特定區域內的安全。該系統通常使用感應器、監視攝影機和AI智慧影像辨識技術，達成即時監控特定區域的活動。當有行人或車輛進入特定的區域，系統會主動發出警報，提醒使用者注意潛在的風險，能夠在第一時間接收到事件告警並及早做出因應。
未來展望
Edge AI在智慧交通的應用有許多顯著的優勢，也很符合現今AIoT的發展趨勢。首先，Edge AI減少了傳輸大量串流數據到雲端伺服器的需求，直接在本地進行快速資料處理與決策分析，具有低延遲、低頻寬需求的特性，因而能節省頻寬和運營成本。另外邊緣運算還提供較高的系統隱私性，因為敏感數據可以在本地及時進行處理，無需傳輸到外部伺服器，這對於保護用戶的隱私和數據安全至關重要。
近年來AI的發展速度驚人，人工智慧技術已經成為科技領域的一個重要驅動力。它不僅為人類帶來了更便利和更安全的生活體驗，還開啟了無限的可能性。隨著科技不斷地進步與發展，可預見在未來的幾年中，將會出現更多突破性的AI應用，這些應用將為社會和環境帶來積極的變革，並讓人類生活走向更美好的未來。
