BrainChip推出Sequora邊緣AI處理器IP:讓生成式AI在電池裝置上運行 模型規模達30億參數
BrainChip宣佈其Sequora邊緣AI處理器IP正式商用授權,可在功耗極低的邊緣裝置上運行生成式AI及大型語言模型,支援最高約30億參數。這項基於類神經形態(神經形態)架構的技術,有望將LLM能力引入工業、汽車、醫療及消費電子領域,對邊緣AI生態帶來深遠影響。
澳洲神經形態運算公司 BrainChip Holdings(ASX: BRN)於10月14日正式宣佈,其新一代邊緣AI處理器IP核心 Sequora 已完成開發,即日起向半導體及系統開發商提供商業授權。這項產品可讓生成式AI及大型語言模型(LLM)直接在電池驅動的邊緣裝置上運行,支援模型規模最高達約30億參數。
從感知到理解:Sequora的技術突破
傳統邊緣AI晶片擅長處理感測器信號分類——例如辨識語音指令、檢測異常振動——但面對需要理解和生成的任務(如對話回應、內容總結)則力不從心。問題在於生成式模型的內存帶寬需求極高,且隨對話上下文增長,每詞元的計算成本持續攀升,這對電池裝置而言是致命制約。
Sequora的解決方案來自其狀態空間架構(State-Space Design):無論數據流或多輪對話持續多長,內存佔用保持恆定。這意味著設備不需要為長上下文支付指數級的記憶體代價。在此基礎上,Sequora可從數百萬參數的小模型擴展至約30億參數的大模型,覆蓋從簡單的關鍵詞觸發到複雜的語言理解任務。
與BrainChip原有Akida平台配合使用時,Sequora可實現「感知+生成」雙工作負載:Akida處理連續傳感器數據(振動、音頻、雷達、射頻信號),Sequora則運行生成式AI和序列AI,包括設備端LLM、語音到語音交互及AI代理。
關鍵應用場景
Sequora的出現填補了邊緣AI市場的一個重要空白。BrainChip CEO Sean Hehir 表示:「客戶要求的不是單純的信號分類器或語言模型,而是兩者在同一產品、同一顆電池上同時運行。」
工業與物聯網領域,Sequora可應用於預測性維護——設備端即時分析振動和溫度數據,同時以自然語言報告問題——無需上傳雲端即可決策。在航空航天和國防應用中,Sequora讓邊緣系統在擁擠和對抗環境中實現即時處理與決策,同時最小化尺寸、重量和功耗。
ForwardEdge ASIC CEO Frank Ferrante 指出:「我們的商業及航空航天/國防客戶正在將AI設計到下一代邊緣系統中。Sequora將生成式AI放入低功耗IP核心,滿足許多定制矽晶片的需求,為任務關鍵型邊緣ASIC添加設備端智能。」
汽車領域——Sequora的運行時分支預測功能使其符合汽車、醫療和航空電子認證標準,這對安全至上的應用場景至關重要。 消費電子方面,耳機、穿戴設備和智能家居產品可以在無需雲端連接的情況下實現語音交互、個人助理等體驗。
商業模式:IP授權而非晶片銷售
與直接銷售成品晶片的傳統模式不同,Sequora採用半導體IP授權方式。客戶將Sequora設計整合到自己的系統級晶片(SoC)中,然後在自選的代工廠和工藝節點上生產。授權包包括可綜合的RTL代碼、驗證IP和測試平台、綜合腳本以及一套SDK(靜態圖編譯器、C++運行時庫和模型庫)。
此模式的優勢在於客戶可以將Sequora邏輯與自己的DSP、微控制器或應用處理器混合在同一晶片中,不受BrainChip功耗和內存決定的限制。
邊緣AI IP授權市場競爭激烈,主要參與者包括Syntiant、Hailo、Arm Ethos及Ceva NeuPro系列。Sequora的差異化優勢在於其**事件驅動、脈衝神經網絡操作——這對始終在線的關鍵詞檢測、預測性維護等工作負載尤為高效——在傳統CNN加速器大部分時間閒置的場景中則更具優勢。
對香港科技產業鏈的啟示
BrainChip的Sequora授權模式對香港電子製造和半導體設計產業有一定參考價值。香港擁有活躍的電子元件分銷和供應鏈管理能力,不少本地企業在消費電子、穿戴設備和物聯網解決方案中佔有一席之地。隨著AI從雲端走向邊緣,能夠在設備端運行LLM的晶片IP,將為香港ODM/OEM廠商提供產品差異化的新維度。
特別是在香港政府大力推動新型工業化的背景下,本地晶片設計初創和電子製造企業可關注此類可授權IP的整合機會,避免從零開發AI加速器的高昂成本。
結語
BrainChip Sequora的正式商用授權,代表邊緣AI從「純粹識別」向「理解與回應」邁進的重要一步。當生成式AI不再是雲端大廠的專利,而是可以嵌入每一台工業感測器、汽車儀表盤甚至一對無線耳機時,整個產業生態的重塑才剛剛開始。對於香港科技企業和投資者而言,邊緣生成式AI的商業化機會,將是繼雲端AI之後的下一個值得關注的增長賽道。