🔥HotNews.pub

騰訊新AI技巧讓模型在迴圈中自我教學

閱讀時間 2 分鐘
騰訊新AI技巧讓模型在迴圈中自我教學

騰訊公佈了一種名為Terminal-RSI的訓練技術,允許大型語言模型通過生成自己的練習題並解決它們來自我改進。該公司將這種方法描述為賦予模型一種自我導向的學習迴圈,減少對人類編寫的訓練數據的依賴。據科技媒體鈦媒體報導,這一聲明表明中國AI開發者越來越關注讓模型更強大,而不僅僅是餵給它們更多文本。

核心思想是模型可以同時扮演學生和老師。它提出任務,嘗試完成任務,根據可驗證的結果檢查結果,並從錯誤中學習。經過反復迴圈,模型在其發明的任務上的表現會提高。騰訊稱這是遞迴自我改進的小規模版本,這個概念長期以來一直吸引著AI研究人員,但仍然難以可靠地實現。該公司的表述表明,它認為這種方法是獲得更高推理能力的實用途徑。

騰訊的舉措正值中國AI行業分裂成不同的陣營。DeepSeek,這家總部位於杭州的實驗室以其低成本模型震驚世界,專注於效率和開源發佈。由月之暗面開發的Kimi則專注於長上下文文檔處理。騰訊,這家總部位於深圳、以微信聞名的互聯網巨頭,一直在構建其混元系列模型,並將AI整合到其消費者和企業產品中。Terminal-RSI的工作似乎旨在縮小推理方面的差距,而美國模型在這方面往往領先。

時機值得注意。DeepSeek最近開始在其API中對網頁搜索收費,這表明中國AI公司在經歷了一段激烈的價格競爭後,正朝著可持續的商業模式邁進。相比之下,騰訊的研究關注的是能力而非成本。如果模型能夠在更少的人工監督下自我改進,AI開發的經濟性可能會發生變化,使達到更高性能變得更便宜,並可能加速發佈的步伐。

儘管如此,自我改進的模型引發了問題。一個生成自己訓練數據的模型可能會強化自身的缺陷,這個問題被稱為模型崩潰。騰訊的方法依賴於有可驗證答案的任務,這限制了它可以工作的領域。創意寫作、開放式推理和現實世界規劃更難自動檢查。該公司尚未說明哪些產品或未來的混元模型將使用該技術。

更廣泛的背景是中國AI市場變得既擁擠又富有創造力。初創公司和巨頭都在嘗試代理系統、搜索工具和個人助理。騰訊的Terminal-RSI符合這種模式:一項研究進展可以融入產品,從雲服務到消費應用。對於全球觀察者來說,這提醒人們,中國AI的進步不僅在於追趕原始規模,還在於尋找新的方式來訓練和部署模型。

接下來會發生什麼取決於結果。騰訊幾乎沒有公佈基準測試的細節,獨立驗證將很重要。但方向是明確的。中國實驗室不再只是跟隨;他們正在為AI中最難的問題提出自己的答案,即如何在不耗盡數據或資金的情況下讓模型更聰明。

隨機開啟一篇文章

話題關聯圖譜

連線越粗代表共現越頻繁 · 點擊節點開啟標籤頁