韓國電信運營商 LG U+ 宣佈,其兩篇關於 AI Token 優化技術的研究論文已獲得 NeurIPS 2026 端側智能(On-Device Intelligence)研討會接收。該技術針對手機等計算資源受限的設備,通過降低 AI 模型的計算開銷,提高處理速度並減少電量消耗。其中,針對通話服務的小型語言模型的優化方案,相比傳統方式可將處理速度提高約 4.5 倍,電池消耗減少約 77%。
AI 模型在處理資訊時,會將文本等內容拆分成 Token,這是模型進行計算的基本單位。隨著端側 AI 功能的增多,手機需要在有限的內存、處理器算力和電池容量下運行模型,計算效率將直接影響響應速度與續航表現。LG U+ 此次研究圍繞 Token 處理效率展開,旨在降低模型推理過程中的延遲和能耗,以提升 AI 功能在手機本地運行的效率。
LG U+ 的 AI Token 優化技術顯著提升手機性能
在通話服務場景中,LG U+ 將模型輕量化與推理加速技術應用於小型語言模型(sLM)。與直接依賴雲端大型模型相比,小型語言模型對計算資源的需求相對較低,更適合在手機等設備上運行。LG U+ 公佈的測試結果顯示,經過優化後,相關模型的處理速度達到原有方式的約 4.5 倍,電池消耗則下降約 77%。
此外,LG U+ 還開發了能夠在智能手機內部繼續訓練 AI 模型的技術。傳統 AI 訓練通常需要將數據傳輸到伺服器處理,而這項技術通過減少計算量和內存佔用,使模型能夠在設備本地學習用戶數據。LG U+ 表示,實際手機測試中,本地訓練模型取得了與伺服器訓練模型相近的準確率,且用戶數據無需離開設備,也能用於改善模型對個人使用環境的適應能力。
項目 規格 處理速度提升 約 4.5 倍 電池消耗減少 約 77%
利益聲明:本文包含合作商戶產品連結,如你透過連結購買,TechRitual 可能獲得佣金收入,但不影響產品評價及推薦。詳情請參閱私隱政策。

