🔥HotNews.pub

中國科大訊飛推出Spark X2.6 完全以國產晶片訓練

HotNews 編輯部閱讀時間 2 分鐘HOT
中國科大訊飛推出Spark X2.6 完全以國產晶片訓練

中國人工智慧公司科大訊飛於週四舉辦年度1024開發者節,推出Spark X2.6端雲大型模型,聲稱這是首個在程式編寫與代理能力上均取得突破、且完全以國內算力訓練的模型。董事長劉慶峰對觀眾表示,在打造大型模型的公司中,科大訊飛是唯一純粹以中國製造晶片訓練的業者,幾乎所有其他公司都使用輝達硬體。他補充說,其模型規模也是主要參與者中最小的。

端雲標籤描述的是一種架構:繁重運算在資料中心進行,較輕量的任務則在裝置上執行,此設計旨在讓服務保持回應速度並降低服務數百萬用戶的成本。對科大訊飛而言,賣點不在於原始規模,而在於從受限硬體中榨出有用的效能。

這項限制有個名字:記憶體頻寬。國產AI晶片通常提供的頻寬低於頂級輝達加速器,這會拖慢現代代理所依賴的長鏈推理。科大訊飛表示,Spark X2.6的設計正是圍繞這項限制,運用長程任務技術來彌補較窄的資料通道。該公司在簡報中並未揭露基準測試分數或參數數量。

賭注不僅止於單一產品。中國AI產業多年來一直打造輝達CUDA軟體生態系及其晶片的替代方案,而一款在國產矽晶片上表現良好的模型,為這項努力提供了實證。若程式助理與代理能在中國硬體上穩定運行,那麼該國AI進展受制於外國處理器取得管道的論點就會大幅減弱。

1024開發者節以1千位元組中的1,024位元組命名,是科大訊飛的年度展示活動,已成為這家總部位於合肥的公司將自身定位為全端參與者的場合,從晶片、模型到翻譯機與錄音筆等消費裝置。今年的活動將國內運算置於核心位置。

競爭十分激烈。深度求索、阿里巴巴與字節跳動都推出能力出眾的模型,且多家業者強調效率與低推論成本,而非單純的規模。科大訊飛的差異化在於宣稱擁有完全國內的技術堆疊,這對偏好本土技術的產業企業買家具有份量。

尚未獲得證明的是效能。宣布具備程式編寫與代理能力,不等同於在獨立測試中與最佳模型匹敵,而科大訊飛並未公布比較結果。開發者將是裁判:未來幾週該模型在程式任務與代理工作流程上的接受度,將顯示一款國產晶片模型能否憑實力而非出身來競爭。

隨機開啟一篇文章

話題關聯圖譜

連線越粗代表共現越頻繁 · 點擊節點開啟標籤頁