眾多企業加速布局邊緣AI 加速大模型降本
【眾多企業加速布局邊緣AI】生成式人工智能的快速發展為諸多行業帶來新的機遇。當下,眾多企業加速布局邊緣AI,加速大模型降本,也推進了具身機器人、數字人等智能終端的迭代發展。
在7月24日舉行的第十七屆英特爾網絡與邊緣計算行業大會上,機器人、深信服、數碼視訊、中科創達等上市公司企業代表現身,分享了其在邊緣AI領域布局的最新進展。英特爾方面表示,將與中國企業持續深度布局邊緣算力,以加速AI大模型在實際場景中的應用落地。
“隨著大模型和算力的底層技術不斷完善,生成式AI帶動應用端革命,大模型部署在邊緣側成為必然趨勢,邊緣AI將成為各科技巨頭搶占的下一塊高地。AI與邊緣計算的融合,也為產業鏈發展帶來新機遇。”中國聯合國采購促進會副秘書長宋嘉在接受《證券日報》記者采訪時表示。
搖晃著身體不斷與參觀者互動,在大會展區現場,一個名為“小英”的AI“3D”虛擬數智人引起參觀者關注。相關工作人員表示,“小英”是一個完全部署于邊緣端的數智人,基于英特爾酷睿處理器與獨立顯卡技術,集成了先進的大語言模型和RAG技術,可以擔任營業廳客服代表等多類職務。
隨著芯片算力、虛擬現實、大模型的飛速發展,數智人技術已經從科幻走向現實,其不僅外觀高度逼真,更以強大的交互能力與智能算法,落地各行業應用。上述工作人員告訴記者:“隨著生成式AI對算力需求及應用要求的提升,眾多云端生成式AI正向邊緣側和端側遷移,釋放生成式AI的更多潛力。”
在大會的展覽區域,具身機器人、機械臂、AI數字人、智能網聯汽車路測設備以及低空預警和5G邊網融合場景紛紛得到展示。
科東(廣州)軟件科技有限公司AI研究員研發工程師張雷表示:“融入最新的語言大模型及多模態環境感知技術,基于英特爾最新一代計算平臺,科東智能機械臂控制系統可以通過自然語言驅動機械臂執行任務,滿足工業場景中輕量化本地部署需求,同時做到數據不出廠,大幅提高效率。”
據了解,隨著生成式AI快速發展,云端算力面臨成本以及供給壓力,逐步無法承載AI需求,AI應用的范圍與深度也漸漸被限制。為突破這一瓶頸,眾多廠商聯合搶先布局邊緣AI,從而解決延遲、隱私和成本等關鍵問題,讓AI技術在更多領域得到應用。
“邊緣計算很好地解決了數據本地化需求,降低大模型部署成本,有力推動具身智能機器人、數字人等終端及應用的迭代發展。”張雷說。
多家企業積極備戰邊緣AI,推進大模型在邊緣場景的部署。深信服工程師表示,公司實現在垂直領域安全大模型的高效能部署,極大提升了大語言模型的處理速度,進一步降低了運營成本。數碼視訊相關負責人稱,采用AI分辨率軟件,公司轉碼器實現了圖像重建等功能,并可以利用生成式AI算法自動產生超高清視頻內容。
英特爾副總裁兼網絡與邊緣計算事業部中國區總經理陳偉表示,基于對邊緣AI趨勢的洞察,公司推出了專為邊緣和網絡AI設計的模塊化平臺,從而推動企業加速AI在邊緣和網絡的開發應用等,已經落地制造、交通、醫療等多個領域。
邊緣AI市場不斷升溫,成為當下企業競爭的熱門領域。除上述企業外,高通、英偉達均在進軍邊緣計算領域,國內三大運營商、網宿科技等企業也均在從不同路徑布局邊緣AI市場。
生成式AI技術與邊緣計算的融合,也有望釋放巨大的產業空間。據調研機構Gartner預測,到2026年,80%的全球企業將使用生成式AI,50%的全球邊緣部署將包含AI。
英特爾中國區總經理王稚聰表示,AI正在成為經濟重要的驅動力。英特爾將基于邊緣AI研發,進一步推動與中國本地大模型廠商進行適配優化,提升各行業的生產效能和產品創新。
與此同時,芯片端巨頭、大模型玩家、制造企業加速邊緣AI相關布局,也在帶動邊緣計算規模提升以及產業鏈升級。
根據機構STL Partners預測,到2030年,全球邊緣計算潛在市場規模將增長到4450億美元,行業復合年增長率高達48%。民生證券認為,在邊緣側推理的輕量化大語言模型有望帶動邊緣AI計算成長,加速邊緣硬件市場更新迭代。邊緣側終端、算力、芯片等產業鏈環節均有望迎來規模性發展。
責任編輯:李海嘯