每經記者 王琳????每經編輯 梁梟????

　　“百模大戰”告一階段，國內大模型領域開始進入到各行各業的應用探索階段。

　　12月6日，“2024 AI+數字筆跡創新應用發展論壇”在重慶舉行。《每日經濟新聞》記者在現場注意到，阿里云副總裁、產業智能首席科學家張磊表示，大模型真正變成生產力可能會經歷三個階段，最終將打破固有的生產關系。越往深層走，大模型作為一個新質生產力產生的業務價值、社會價值將會越來越大。

　　隨著大模型的應用進入日常生活以及生產經營領域，其安全短板也亟待解決。電子科技大學網絡空間安全學院院長、俄羅斯工程院外籍院士張小松認為，大模型的背后是機器學習，而機器學習存在脆弱性，需通過多種措施加以應對。

　　行業重點向應用層遷移

　　近年來，國內的大模型領域經歷了“百模大戰”，各行各業的開源、閉源大模型層出不窮。

　　在張磊看來，大模型產業中長期可能有兩個比較重要的發展趨勢：一是從大模型利用或者需求的角度來說，肯定會呈現大模型越來越多、百花齊放的普惠效應趨勢；二是在整個大模型技術、基礎設施的供給上，全球范圍內又將是一個比較極化的效應趨勢，即寡頭格局、強者愈強。

　　因此，張磊認為，在大模型的供給方面，需要生態圈里最頭部的廠商抱團，包括云計算廠商、運營商、硬件廠商等，從而形成一個完整的產業鏈。

　　與此同時，值得注意的是，隨著“百模大戰”需要的投入越來越大，行業發展的重點也逐漸向應用層遷移。

　　張磊表示，大模型真正變成生產力可能有三個階段：第一個階段是沒有行業屬性的大模型應用，包括客服、問答、數據分析、報表總結、文本及圖片生成、會議紀要生成、招聘輔助等，各行各業都可以用；第二個階段是大模型通過智能體、私域數據庫、小助手的方式進入有行業屬性的實際場景的業務流程中，開始為現有的業務流程降本提效；第三個階段是大模型將產生新的能力，開始去重構業務流程，打破固有的生產關系。

　　而對于推動大模型產業的發展，張磊也給出了自己的建議，包括統籌算力、構建高質量的數據集、大力推動人才培養以及加速示范應用。

　　安全問題不容忽視

　　在大模型逐漸進入應用階段之際，數據安全和算法漏洞等問題也愈發受到各方關注。

　　張小松指出，大模型的實踐手段是機器學習。在機器學習的早期，存在幾個威脅：一是機器學習的算法非常脆弱，脆弱到甚至還不如幾歲的小孩，稍微把圖形圖像的內容進行篡改就會發生識別錯誤；二是部分人利用機器學習的錯誤來操縱大模型，例如有意喂錯樣本進行投毒攻擊或對抗攻擊，通過有選擇性地學習進行逃逸攻擊。

　　“所以一是要對學習過程進行完整性檢測，二是要對推理過程進行防錯性檢測，三是要對機器學習內容樣本進行隱私保護處理?！睆埿∷裳a充道。

　　值得一提的是，在人工智能時代，由深度偽造等帶來的挑戰也愈發顯現，網絡安全中的身份認證問題亟待解決。

　　《2024人工智能數字筆跡技術白皮書》在論壇現場發布。根據白皮書內容，AI數字筆跡將成為多模態生物特征識別的重要手段之一，并作為數字交易中確權和授權的底層基礎技術，在數字經濟高質量發展中發揮非常重要的作用。

　　“AI在提高數字筆跡識別準確率方面可發揮關鍵作用，通過卷積神經網絡（CNN）等深度學習模型，未來本人數字筆跡識別的識別通過率將提高到99.99%。”白皮書顯示。

　　翻譯

　　搜索

　　復制