隨著生成式AI與開源模型快速發展,AI的應用場景正從雲端逐步延伸至工廠、自動化設備、交通系統與智慧城市等終端場域。過去傳統的邊緣設備(Edge Device)主要負責感測資料收集、簡單分析與設備控制,但在AI技術導入後,邊緣設備已逐漸轉變為具備即時推論與決策能力的Edge AI核心節點,讓 AI 能真正落地至實際應用場景。
然而,AI是否能真正落地,關鍵早已不只是模型本身,而是整體系統能否在真實環境中長時間穩定運作。現今的工業電腦(Industrial PC)若要執行AI 推論,除了導入AI模型外,更需要搭配AI加速運算單元(NPU)與高速儲存架構,才能支援大量資料即時處理與高速推論需求。這也意味著Edge AI系統在追求高效能的同時,必須同步面對高熱源、高負載與長時間運作所帶來的穩定性挑戰。
尤其Edge AI設備多半部署於無人值守、環境嚴苛或網路頻寬有限的場域,例如智慧工廠、交通路口、偏遠監測站或戶外設備。一旦系統因斷電、更新失敗、資料損毀或軟體異常而停止運作,往往不只是設備停機,更可能造成產線中斷、服務失效,甚至衍生營運與安全風險。在這樣的應用環境下,系統恢復速度的重要性,甚至高於單純的儲存效能。
傳統工業設備在系統發生異常時,通常需要由維護人員到現場進行故障排除與系統重建,不僅耗費大量人力與交通成本,也會隨著停機時間拉長而擴大營運損失。因此,我們在研發Edge AI儲存架構設計上,更重視系統韌性(System Resilience)與快速恢復能力。透過CoreSnapshot快照備援技術,可利用韌體增量資料映射演算法進行秒級本地備份;當系統發生異常時,只需重新開機即可快速完成系統還原,讓Edge AI設備持續維持AI推論與服務運作能力,降低現場維護與停機風險,以及可能造成的營運損失。
在實際運作中,SSD的主要熱源來自主控制器與NAND Flash。傳統散熱設計通常將兩者視為同一熱區處理,但實際上,控制器與NAND對溫度的敏感度並不相同。控制器因高頻運作而快速產生大量熱能,而NAND作為資料儲存核心,對溫度變化則更為敏感。若高熱源持續傳導至NAND,不僅可能影響資料保存穩定性,也會降低長時間運作可靠度。
因此,我們在散熱架構設計上,重新思考SSD熱管理方式,開發 CoreGlacier 2極速散熱技術,將控制器與NAND採用獨立散熱路徑設計,透過雙層交錯鰭片架構,在有限空間內提升整體散熱效率。以M.2儲存模組為例,即使在高度受限的工業設備空間中,仍能有效降低高熱源影響,兼顧高速運算需求、資料穩定性與長時間運作可靠性。
隨著Edge AI朝向更高算力、更即時推論與更大模型發展,未來儲存裝置的競爭,將不再只是容量與速度,而是能否在高負載與長時間運作環境下,持續維持穩定性與可靠性。從系統恢復、資料保護到熱管理設計,底層基礎架構的重要性將持續提升。唯有兼顧效能、穩定與可靠性的Edge AI系統架構,才能真正支撐AI在智慧製造、智慧交通與智慧城市等應用場域全面落地。
Contact us or become a member to discover Apacer’s solutions.