科普時報記者 陳 杰
1月8日,OPPO發布植入70億參數的端側大模型智能手機新品。大模型終于不再僅僅以APP的形式出現在手機里,而是直接嵌入手機,這樣的改變會給我們帶來什么?
其實,自2023年下半年起,人工智能的熱潮已經從軟件應用開始轉向硬件領域,更多大模型手機、人工智能電腦呼之欲出。“隨著技術創新的深入及產品的不斷迭代,大模型正在重構當前的芯片、硬件、軟件、云服務和應用體系,并有望重新定義數字時代的智能終端。”賽智產業研究院院長趙剛接受科普時報記者采訪時表示。
大模型終端異軍突起
大模型在智能終端的應用主要分為云側應用和端側植入。趙剛表示,云側應用就是在現有的智能終端上安裝大模型應用APP,端側是直接將大模型部署在終端,不用聯網本地就可調取應用。“目前,智能手機和筆記本電腦都進行端側大模型相關的產業布局,手機領域的動作則更具看頭。”
智能手機由于受芯片和存儲能力限制,很難支撐起端側大模型的應用。直到谷歌宣布要在Pixel上內置端側大模型之后,包括三星、華為、小米、OPPO、榮耀等主流手機廠商陸續被曝將在手機端支持大模型。OPPO的Find X7則首開先河,將70億參數的大模型AndesGPT通過量化壓縮及優化后裝進了手機。“完全不同于云端的大模型APP應用,端側大模型可以在保障用戶隱私安全的前提下,帶來響應更快、處理能力更強、生成質量更高的本地AI體驗。”OPPO軟件創新中心總經理張峻告訴記者。
對于通用大模型,70億的參數或許不值一提,但也正是由于這70億參數大模型的加持,手機的AIGC(人工智能生成內容)能力迅速增強。張峻透露,Find X7在文本內容摘要場景下,200字的摘要首字生成僅需0.2秒;在通話語音轉文字方面,通話結束后端側大模型就能準確地理解對話內容并生成重點明確、細節不遺漏的摘要內容。
在PC領域,大模型戰略則略顯低調。直到2023年的最后幾天,英特爾基于全新的酷睿Ultra處理器和第五代至強可擴展處理器正式發布AI戰略,并聯合多家PC廠商正式拉開AIPC(人工智能個人電腦)時代的大幕。
端云結合是技術主流
不論是基于大模型手機還是AIPC,目前產業界傳遞出來的聲音似乎都在強調端側大模型更具應用優勢。而實際情況是,即便是硬件強悍如擁有專用AI芯片的AIPC,英特爾也只能給出130億參數的端側大模型解決方案,略強于智能手機的端側方案,但相較于動輒數千億級參數的通用大模型,也就顯得不太夠看了。
趙剛認為,云側和端側大模型各具優劣。“云端大模型參數級別高,不會增加移動端的硬件成本,但數據和隱私有泄露的風險;端側大模型則是低參數的輕量級大模型,對終端的芯片、存儲、操作系統等都有新要求,但可以離線使用,對用戶的個人數據安全保障能力更強。”
OPPO成功將大模型裝進到手機端,但并沒有將其能力限制在端側。張峻認為,在移動終端,大模型應用需要大量的計算資源和存儲空間,同時還需要進行高效的分布式訓練和數據處理,而這些需求只有通過云端結合的方式才能得到滿足。
行業人士也普遍認為,以目前硬件技術的迭代水平,云端結合才是大模型終端主流的技術路線。
上一篇:人工智能:讓學習自然發生
下一篇:返回列表
【免責聲明】本文轉載自網絡,與科技網無關。科技網站對文中陳述、觀點判斷保持中立,不對所包含內容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔全部責任。