內建NPU的ARM邊緣運算平台,面臨AI革新挑戰
隨著生成式AI(Gen AI)與邊緣運算(Edge Computing)的高速發展,對於邊緣AI應用的需求和部署也在快速增長,尤其是對緊湊型、低功耗的ARM邊緣運算設備需求也日益增強。
然而,面對AI晶片迅速迭代的環境下,內建神經處理單元(NPU)的ARM邊緣運算設備,每次更新AI晶片時,整台邊緣運算平台都須重新開發。這意味著最終用戶往往需要長時間等待,才能獲得搭載最新AI晶片的ARM邊緣設備,這樣的更新速度,往往趕不上終端用戶對於高效節能的新AI技術的迫切需求。