過去幾年,隨著英偉達推出Jetson系列開始,搭載各種AI算力芯片的邊緣設備相繼問世。因為外觀形似盒子,具備算法推理能力,為區分一般傳統工控機,行業多稱之為邊緣盒子、AI Box、算法盒子等。
隨著算法的豐富和多樣,邊緣盒子已廣泛應用于連鎖門店,加油站、化工廠、工地、廠區、電力系統、電信機房、智能安防、智慧社區、校園、景區、園區等場景,快速實現對檢測、分類、分割和特征提取等視覺算法的支持。
AI邊緣計算盒子搭配哪些算力芯片?
AI邊緣計算盒子通常可以搭配多種AI算力芯片,具體取決于其設計目標、應用場景以及性能需求。常見的芯片類型包括:
GPU:雖然GPU最初是為圖形渲染而設計的,但它們現在也被廣泛用于深度學習和其他AI任務。GPU具有大量的并行處理單元,可以高效地執行矩陣運算,這對于神經網絡訓練和推理非常有用。
NPU:NPU專門設計用于執行神經網絡計算,特別是深度學習任務。它們通常具有高并行度、低功耗和優化的浮點運算能力,非常適合在邊緣計算設備上部署和運行復雜的AI模型。
ASIC:ASIC是為特定應用定制的芯片,對于某些特定的AI任務,ASIC可以提供極高的性能和能效比。
FPGA:FPGA是一種可編程的芯片,用戶可以根據需要配置其邏輯功能。
CPU:雖然CPU不是專門為AI任務設計的,但它們仍然是邊緣計算設備中的關鍵組件。現代的CPU通常包含一些用于加速AI任務的指令集和特性。
具體到某個AI邊緣計算盒子,它可能搭載上述的一種或多種芯片。例如,某些盒子可能采用高性能的NPU和GPU的組合,以提供強大的AI計算能力。目前市面上眾多AI邊緣計算盒子采用英偉達Jetson系列。
如研華科技(Advantech),深圳國際電子展elexcon2025展商,作為全球領先的工業物聯網品牌,推出了多款基于英偉達Jetson AGX Orin?、Jetson Orin? NX和Jetson Orin? Nano等平臺的AI邊緣計算盒子,這些產品憑借強大的算力、低功耗和豐富的應用場景,為智能邊緣計算提供了高效、可靠的解決方案。
國產AI邊緣盒子算力芯片有哪些?
目前也有不少廠商采用國產芯片,如深圳市金海創電子有限公司,深圳國際電子展elexcon2025展商,基于瑞芯微RK3568/3399/3588處理器,內置AI加速器NPU及選配2個算力卡,最高提供12T算力,支持多種主流的深度學習框架,賦能千行百業AI應用場景。
此外,還有安勤科技(Avalue),深圳國際電子展elexcon2025展商,是一家全球領先的工業計算供應商,基于瑞芯微RK3588推出的AIB-3588高性能算力盒,專為邊緣計算與AIoT場景設計的工業級智能終端設備,憑借高性能處理器、靈活擴展能力及綠色節能設計,成為智能制造、智慧城市等領域的核心解決方案。
瑞芯微長期深耕AIoT領域,形成了各種算力、各種場景的AIoT SoC系列芯片平臺,并深入布局視覺、音頻、視頻等AI算法,同時高效支持主流模型架構,滿足小模型在邊緣側、端側部署的需求,賦能邊緣側、端側的各種AIoT智能硬件產品,為百行百業的智能化升級和數字化轉型提供了強力支持。
也有廠商采用寒武紀的AI芯片,風潮互動官網有一款其合作品牌的C16邊緣計算盒,搭載的就是寒武紀純國產AI推理加速芯片MLU220,INT8等效算力高達16Tops。該產品具有超強計算性能、大容量存儲、配置靈活、體積小、支持溫度范圍寬、環境適應性強、易于維護管理等特點。
還有一些邊緣計算盒子采用算能的芯片,如華頡科技,其之前基于算能BM1684高性能芯片開發邊緣計算AI BOX,整機擁有17.6 TOPS INT8算力,支持TensorFlow、Caffe、PyTorch等主流深度學習框架,面向工業應用領域,具有優異計算性能、高效率被動散熱、工業標準設計等特點。
此外,還有一些邊緣計算盒子采用華為昇騰310/910處理器,如維視智能,該公司AI邊緣計算盒子Metis A180是一款基于華為昇騰310P處理器的采集分析一體化平臺產品,具備強大的視頻解碼能力和實時分析推理能力,廣泛應用于邊緣AI計算推理場景。
就如人工智能的實現離不開算力、算法,AI邊緣計算盒子也是算力和算法的集合體。在算力層面,AI邊緣計算盒子離不開AI算力芯片的支持,如上述提到的英偉達的Jetson系列,瑞芯微的RK3568/RK3588芯片,寒武紀的MLU220,以及算能的BM1684/BM1684X等。此外,也有不少企業能提供AI算力芯片支持,如全志科技、地平線、云天勵飛、燧原科技、壁仞科技、沐曦、鯤云科技、國科微、超星未來等。
深圳國際電子展
elexcon2025嵌入式展
作為中國電子行業的風向標,由博聞創意會展主辦的深圳國際電子展elexcon2025將于8月26-28日在深圳會展中心(福田)舉辦,以 “AII for AI, AIl for GREEN:為AI與雙碳提供全棧技術與供應鏈支持” 為主題。展會將集中展示 AI與算力芯片、存儲、嵌入式與AIoT、電源及能源電子、Chiplet異構集成生態等前沿產品與技術及解決方案,全面覆蓋人工智能、新能源汽車、工業自動化、消費類電子、物聯網、醫療、機器人等熱門領域,推動技術創新與產業發展。當前展位正在火熱預定中,歡迎報名!
elexcon2025嵌入式展
展示范圍:嵌入式和端側AI、邊緣AI計算平臺、AI工業電腦、嵌入式處理器/SoC/MCU/MPU、高算力處理器核心板、高速存儲、RISC-V與開源、智慧顯示/HMI、工業電源、無線通訊、OS操作系統、軟件與工具、其他零組件、解決方案等。
目標觀眾:人工智能、機器視覺、工業、汽車、通訊、軌道交通、醫療、物聯網等行業以及大專院校、科研院所的專業人士。
第七屆中國嵌入式技術大會
論壇一:AI與邊緣智能融合
議題:嵌入式AI芯片架構創新、輕量化算法部署、邊緣端實時決策應用(如端側AI )。
論壇二:開源生態與國產化機遇
議題:RISC-V在IoT/車規級場景應用、中國開源芯片生態共建、RISC-V與ARM生態競合、樹莓派生態、RT-Thread操作系統。
論壇三:工業控制與應用
議題:工業與汽車芯片、工業嵌入式基礎軟件、電機控制與驅動、工業有線和無線網絡、功能安全和物聯網安全、工業智能終端、顯示技術以及低功耗MCU創新應用。
論壇四:AIoT智能物聯網系統
議題:端邊云協同AI架構、AIoT芯片定制化趨勢、垂直行業融合應用(智慧醫療、智慧零售、智能家居)、工業物聯網等。
論壇五:具身機器人嵌入式系統與應用
議題:實時運動控制算法、邊緣AI在機器人決策中的應用(如視覺伺服控制)、機器人操作系統(ROS 2.0)與實時性優化、模塊化機器人硬件架構設計。
論壇六:存儲技術論壇
議題:車規級/工業級存儲器件可靠性、新型非易失存儲器應用、存儲計算一體化、邊緣端時序數據庫(TSDB)優化、端側數據安全擦除與隱私保護、存算芯片在AI推理中的實踐。
參考資料:
WSCE
舉辦地區:廣東
展會日期:2025年08月27日-2025年08月29日
開閉館時間:09:00-18:00
舉辦地址:深圳市福田區福華三路深圳會展中心
展覽面積:60000
觀眾數量:50000
舉辦周期:1年1屆
主辦單位:中國汽車工程學會