智慧醫療領域Edge AI應用越來越廣泛,從高精細的影像推理模型的診斷到執行日常任務的自主服務機器人,大量資料需要傳輸與分析,所以都需要的高運算能力來支援深度學習演算法。其次,在ICU裡,病患身上要連接許多的儀器,如心電圖(ECG)監視器、血氧儀和溫度感測器等,安全無虞的無線傳輸是必要的。這次客戶選用研揚的MIX-Q670A1加上GAR-A750E是因為其高效能的運算速度及透過使用Intel® Distribution of OpenVINO™工具包,可將AI模型轉換並優化為適用於該應用程式,這使得將軟體和硬體結合在一起的過程更加簡化。除此之外,客戶希望使用醫療物聯網(IoT)設備,通過無線方式傳輸所需資訊。要穩定地把大量資料傳輸到加護病房監控站裡,強調高效能和傳輸安全性的研揚邊緣AI板卡是最大功臣。
研揚的MIX-Q670A1主機板相容12代、13代和14代Intel® Core™處理器,並支援最高64GB的雙通道DDR5記憶體,客戶選擇了Intel® Core™ i7-13700處理器,這不僅為資料整合、系統協調和UI渲染等來符合高功能需求任務,還透過CPU的性能混合架構高效分配了後臺進程的計算資源。這個設計幫助保持了可管理的平衡,確保主機板專用CPU風扇的散熱能力沒有被超出。另一個原因是,ICU監測站所需的AI推理和複雜資料分析任務,則由Intel® Arc™ A750E GPU驅動的GAR-A750E來處理。MIX-Q670A1的16通道PCIe Gen 5插槽安裝,GAR-A750E的目的是加速AI推理,並通過Intel Deep Link集成作為CPU和GPU之間的橋樑。這種配置確保了計算和AI負載的最有效分配,最大限度地減少延遲。GAR-A750E的28個Xe核心和448個Intel® XMX引擎,使其能夠執行大規模的矩陣乘法和其他神經網路推理任務。這種能力使得可以並存執行系統接收到的患者資料推理任務,並從而説明檢測異常情況。