耐能創辦人兼執行長劉峻誠表示:「運行 AI 功能需要專用 AI 晶片,其體系架構與我們以前瞭解的晶片完全不同。簡單地重新使用相鄰技術(如圖形處理專用的 GPU 晶片),不能很好地勝任這項工作。KL730 將會是邊緣 AI 的革新者。憑藉其前所未有的效率和對 Transformer 等框架的支持,我們正在為各行各業提供強大的 AI 能力,在極具安全性和保護資料隱私的情況下充分發揮人工智慧的潛力。」
耐能長期專注於邊緣 AI,並研發了一系列輕量且可擴展的 AI 晶片,以安全地推動 AI 能力的發展。2021 年,耐能發佈了首款支援 Transformer 神經網路架構的邊緣 AI 晶片 KL530。而 Transformer 神經網路架構是所有 GPT(Generative Pre-trained Transformer)模型的基礎。KL730 晶片進一步豐富該產品系列,提供每秒 0.35 - 4 tera 有效計算能力,擴展了支援最先進的輕量級 GPT 大型語言模型(如 nanoGPT)的能力。
KL730 具有獨特的定位,可以改變 AIoT 領域的安全性,從而使用戶能夠部分或完全離線地在終端運行 GPT 模型。該晶片配合耐能的私有安全邊緣 AI 網路 KNEO,讓 AI 運行在用戶的邊緣設備上,從而讓他們更好地保護資料隱私。這些應用是全行業的:從企業伺服器解決方案到智慧駕駛車輛再到以 AI 驅動的醫療設備,所增加的安全性允許設備之間進行更大的協作,同時保護資料的安全。例如,工程師可以設計新的半導體晶片,而無需與大型雲端公司營運的資料中心共用機密數據。