從Infra到Agent，AI創(chuàng)新的無(wú)盡前沿

來(lái)源：湖北國(guó)菱計(jì)算機(jī)科技有限公司-湖北國(guó)聯(lián)計(jì)算機(jī)科技有限公司-荊州網(wǎng)站建設(shè)-荊州軟件開(kāi)發(fā)-政府網(wǎng)站建設(shè)公司 時(shí)間：2025-03-10

2024年回顧

2024年：計(jì)算機(jī)暫未走出獨(dú)立行情

2025年展望：以AI為核心的科技創(chuàng)新

大模型降本趨勢(shì)顯著，為應(yīng)用爆發(fā)奠定基礎(chǔ)。 2024年7月，OpenAI 發(fā)布高性價(jià)比模型 GPT-4o mini，性能逼近原版 GPT-4，成 本相比 GPT-3.5 Turbo 便宜 60%以上。Sam Altman表示，兩年前OpenAI最好的模型還是 GPT-3 的 text-davinci003 版本，與 GPT-4o mini相比性能差得多，但卻貴 100 倍，即大模型成本在兩年內(nèi)下降了 99%。按照這個(gè)趨勢(shì)，我們預(yù)計(jì)大模型的成本有望 繼續(xù)快速下降，每百萬(wàn) tokens的推理成本或?qū)⒃趦赡陜?nèi)下降2個(gè)數(shù)量級(jí)至美分量級(jí)。 生成式AI領(lǐng)域?qū)⒉粩嘤楷F(xiàn)新的技術(shù)成果，為應(yīng)用生態(tài)建設(shè)注入活力。更強(qiáng)大的基礎(chǔ)模型如OpenAI的Orion、Anthropic的Claude 3.5 Opus等有望發(fā)布。Agent生態(tài)有望逐步繁榮。硅谷投資風(fēng)向標(biāo)YC的AI初創(chuàng)數(shù)量越來(lái)越多，大模型創(chuàng)新不止，在今年S24共255 個(gè)項(xiàng)目中，其中有170個(gè)與AI相關(guān)，占比達(dá)到67%。11月，在接受YC總裁Garry Tan采訪時(shí)，針對(duì)最后一個(gè)問(wèn)題“2025年什么會(huì)讓 你期待與興奮”，Sam Altman回答“AGI”。

生成式AI模型性能不斷提升，或處于更大規(guī)模放量前夕，推理需求有望高速增長(zhǎng)。推理算力未來(lái)有望超過(guò)訓(xùn)練算力，最終訓(xùn)練芯片與推理 芯片數(shù)量之比或達(dá)到2：8。目前生成式AI模型仍處于快速迭代，各廠商相互追趕的階段，隨著模型性能的逐步穩(wěn)定和應(yīng)用的陸續(xù)落地，算 力的推理需求有望超過(guò)訓(xùn)練需求。而推理需求與訓(xùn)練需求在計(jì)算量、精度要求以及部署位置上存在差異。一方面，訓(xùn)練需求的精度要求較 推理需求更高，因此訓(xùn)練芯片也就要求有更高的精度范圍，在高精度場(chǎng)景下同樣需要具備較強(qiáng)的性能。另一方面，訓(xùn)練芯片主要部署在數(shù) 據(jù)中心（云側(cè)），推理芯片則會(huì)兼顧云側(cè)與邊緣側(cè)的算力需求。根據(jù)施耐德電氣的測(cè)算，到2028年人工智能的推理負(fù)載有望占比達(dá)到85%。 我們認(rèn)為，隨著AI應(yīng)用發(fā)展，算力芯片在推理側(cè)會(huì)呈現(xiàn)更多的產(chǎn)業(yè)機(jī)遇，高速推理將成為AI芯片發(fā)展的新坐標(biāo)。1）高速推理使得開(kāi)發(fā)者可 以在極短時(shí)間內(nèi)完成大模型應(yīng)用的測(cè)試和調(diào)優(yōu)循環(huán)，不僅能加速開(kāi)發(fā)過(guò)程，還有助于更深入全面的模型評(píng)估和應(yīng)用優(yōu)化；2）高速推理還意 味著現(xiàn)有大模型交互效率的飛躍，將大大縮小人機(jī)交互的時(shí)間差，為更自然、更流暢的交互體驗(yàn)鋪平了道路。 軟件層面，通過(guò)架構(gòu)迭代、 流式輸入、量化等方式，GPT-4o延時(shí)相對(duì)GPT-4已下降一個(gè)數(shù)量級(jí)；硬件層面，高速推理探索不斷，AI芯片推理速度有望更上一層樓。

2025年展望：國(guó)產(chǎn)化的本土產(chǎn)業(yè)鏈重要性愈發(fā)凸顯

美國(guó)對(duì)華制裁不斷升級(jí)，意在抑制中國(guó)AI產(chǎn)業(yè)鏈發(fā)展以及本土半導(dǎo)體生態(tài)系統(tǒng)建設(shè)，我國(guó)產(chǎn)業(yè)鏈自主可控迫在眉睫。11月，集微 網(wǎng)消息稱，臺(tái)積電已經(jīng)向目前所有中國(guó)大陸AI芯片客戶發(fā)送正式電子郵件，宣布自11月11日起，暫停向中國(guó)大陸AI/GPU客戶供應(yīng) 所有7納米（nm）及更先進(jìn)工藝的芯片。12月，美國(guó)商務(wù)部工業(yè)和安全局（BIS）修訂了新的《出口管理?xiàng)l例》（EAR），將136 個(gè)中國(guó)相關(guān)實(shí)體添加到“實(shí)體清單”，清單包括了半導(dǎo)體產(chǎn)業(yè)鏈上的多個(gè)環(huán)節(jié)，如涵蓋了涂膠顯影、刻蝕、薄膜沉積、清洗、去 膠、離子注入、CMP、封裝測(cè)試等半導(dǎo)體設(shè)備的大部分領(lǐng)域，還有半導(dǎo)體材料公司、EDA公司、芯片公司等。此外，這次制裁對(duì) HBM實(shí)施新控制。 近年來(lái)國(guó)內(nèi)芯片設(shè)計(jì)、晶圓制造與國(guó)際先進(jìn)水平差距不斷縮小，封裝測(cè)試技術(shù)逐步接近國(guó)際先進(jìn)水平，整體技術(shù)水平不斷提升。 操作系統(tǒng)方面，華為發(fā)布HarmonyOS NEXT，完全基于華為自己的技術(shù)棧和設(shè)計(jì)理念構(gòu)建的操作系統(tǒng)，不依賴或兼容其他操作系 統(tǒng)的架構(gòu)，是真正獨(dú)立于安卓、iOS的操作系統(tǒng)，未來(lái)有望在信創(chuàng)中扮演重要角色。此外，其它基礎(chǔ)軟硬件也由可用逐步變?yōu)楹?用，信創(chuàng)生態(tài)走向繁榮。

2025年字節(jié)現(xiàn)有的AI硬件產(chǎn)品: AI玩偶

字節(jié)“顯眼包”是一款基于大模型開(kāi)發(fā)的情感陪伴玩偶，集合了火山引擎的多項(xiàng)人工智能技術(shù)，如豆包大模型、扣子專業(yè)版、語(yǔ)音識(shí)別、語(yǔ)音合成 等。“顯眼包”并非字節(jié)對(duì)外直接售賣的產(chǎn)品，而是今年中秋節(jié)作為字節(jié)公司內(nèi)部的伴手禮。這個(gè)藍(lán)白配色形似小山的毛絨玩具，內(nèi)嵌了FoloToy 的大模型AI機(jī)芯Magicbox（其中搭載了樂(lè)鑫科技的產(chǎn)品esptool），而Magicbox可以搭載并呈現(xiàn)豆包大模型和扣子專業(yè)版的能力。玩具配置比較簡(jiǎn) 單，能一問(wèn)一答進(jìn)行互動(dòng)，但不支持一次性的多輪對(duì)話，也不支持自動(dòng)喚醒。盡管功能相對(duì)單一，但“顯眼包”依舊在市場(chǎng)上得到了眾多關(guān)注?？?以預(yù)期，如若未來(lái)疊加視覺(jué)能力，AI玩偶將會(huì)帶來(lái)更強(qiáng)的交互沉浸感，進(jìn)而給予用戶更大的情感價(jià)值，也將具備更大的市場(chǎng)潛力。

2025年看好方向：端側(cè)AI

基于成本、能耗、可靠性和時(shí)延、隱私和安全、個(gè)性化服務(wù)等考慮，端云融合的AI才是AI的未來(lái)，高通認(rèn)為終端側(cè)AI能力是賦 能混合AI并讓生成式AI實(shí)現(xiàn)全球規(guī)?；瘮U(kuò)展的關(guān)鍵。高通曾發(fā)布白皮書(shū)稱混合AI 是AI的未來(lái)。只有云和終端都能承擔(dān)AI處理的 任務(wù)，才能實(shí)現(xiàn)AI的規(guī)?；瘮U(kuò)展并發(fā)揮其最大潛能。我們認(rèn)為，未來(lái)AI處理將以終端為中心，必要時(shí)向云端分求助；而在以云為 中心的場(chǎng)景下，終端將根據(jù)自身能力，在可能的情況下從云端分擔(dān)部分AI 工作負(fù)載。 蘋(píng)果發(fā)布Apple Intelligence，基于“端側(cè)模型+私有云計(jì)算+第三方大模型”三層架構(gòu)，有望驅(qū)動(dòng)手機(jī)銷量進(jìn)一步增長(zhǎng)。AFM 代表 Apple Foundation Model，端側(cè)模型AFM-on-device參數(shù)量約 30 億；更大的基于服務(wù)器的模型為 AFM-server，可以高效、準(zhǔn)確和負(fù)責(zé) 地執(zhí)行專門(mén)的任務(wù)。此外，Apple Intelligence會(huì)根據(jù)不同地區(qū)的需求接入不同的外部第三方模型， 用戶可以選擇是否共享信息。

2025年看好方向：智能終端——AI眼鏡

多模態(tài)大模型有望重塑智能硬件，端側(cè)AI賦能下AI眼鏡有望成為比肩手機(jī)的下一代終端產(chǎn)品，我們看好AI眼鏡起量。我們認(rèn)為，AI眼鏡搭 載交互型多模態(tài)大模型后，一方面，交互模式由“硬件服務(wù)用戶”轉(zhuǎn)變?yōu)椤按竽Ｐ头?wù)用戶”進(jìn)而簡(jiǎn)化產(chǎn)品設(shè)計(jì)：多模態(tài)大模型能夠融合 和處理來(lái)自不同傳感器的數(shù)據(jù)，使設(shè)備在更少的硬件組件下實(shí)現(xiàn)更多的功能。另一方面，大模型將幫助眼鏡產(chǎn)品實(shí)現(xiàn)更高效簡(jiǎn)潔的人機(jī)交 互進(jìn)而提升用戶接受度：多模態(tài)大模型可以理解語(yǔ)音、圖像等多種輸入方式，用戶僅需通過(guò)語(yǔ)音、眼動(dòng)、開(kāi)啟攝像頭等方式即可實(shí)現(xiàn)人機(jī) 交互。因此，在后續(xù)產(chǎn)品功能升級(jí)迭代的過(guò)程中，模型訓(xùn)練升級(jí)將承擔(dān)用戶對(duì)新功能的學(xué)習(xí)成本，進(jìn)而提升用戶接受度。 科技巨頭積極布局，2025年有望成為AI眼鏡爆發(fā)元年。根據(jù)VR陀螺數(shù)據(jù)，截至11月20日行業(yè)內(nèi)已公開(kāi)、被披露入局AI眼鏡的廠商高達(dá)36家 （含海外），涉及產(chǎn)品數(shù)量預(yù)計(jì)超過(guò)50+。展望2025年，更多科技巨頭將涌入眼鏡賽道。根據(jù)wellsenn XR預(yù)測(cè)，從2025年開(kāi)始，AI智能眼 鏡將在傳統(tǒng)眼鏡銷量保持穩(wěn)定增長(zhǎng)的大背景下快速向傳統(tǒng)眼鏡滲透；2029年，AI智能眼鏡年銷售量有望達(dá)到5500萬(wàn)副。

2025年看好方向：智能終端——智能汽車

自動(dòng)駕駛Scaling Law逐步驗(yàn)證，端到端融合為大勢(shì)所趨。傳統(tǒng)自動(dòng)駕駛基于規(guī)則及高精度地圖，但有限的規(guī)則難以應(yīng)對(duì)無(wú)限的道路場(chǎng)景， 尤其國(guó)內(nèi)路況極為復(fù)雜且車輛眾多，如果自動(dòng)駕駛車輛行駛到高精地圖之外的區(qū)域、遇到規(guī)則之外的道路障礙物，可能就會(huì)束手無(wú)策，陷 入困境。從2021年開(kāi)始，特斯拉開(kāi)始重構(gòu)底層系統(tǒng)代碼，將Transformer架構(gòu)引入了感知領(lǐng)域，將攝像頭的2D圖像轉(zhuǎn)化為3D圖景，也稱鳥(niǎo) 瞰圖BEV。隨后，特斯拉持續(xù)用AI神經(jīng)網(wǎng)絡(luò)重塑規(guī)劃控制模塊，端到端模型方案雛形漸成。特斯拉于2023年發(fā)布端到端自動(dòng)駕駛系統(tǒng)FSD v12，并于2024年初在一定范圍內(nèi)推送FSD v12。今年9月，特斯拉宣布，F(xiàn)SD 將于 2025 年Q1在中國(guó)和歐洲推出。 從目前國(guó)內(nèi)車企的發(fā)力重點(diǎn)來(lái)看，端到端也已成為主流自動(dòng)駕駛技術(shù)路線。華為、小鵬、小馬智行、Momenta、極佳科技、地平線等都在 積極跟進(jìn)，紛紛推出了面向量產(chǎn)的端到端自動(dòng)駕駛解決方案和車型。

大模型賦能座艙場(chǎng)景升級(jí)，人機(jī)交互界面迭代升級(jí)進(jìn)行時(shí)，智能座艙進(jìn)階4.0時(shí)代。相較于智能座艙3.0時(shí)代的生態(tài)構(gòu)成，4.0時(shí)代不僅是 芯片算力的比拼，還新增了數(shù)據(jù)、算法等新元素的比拼；中間層除了操作系統(tǒng)的比拼外，也誕生了大模型、AI Agents以及模型服務(wù)等新 的元素的比拼。2023年12月，理想汽車開(kāi)始批量推送OTA5.0，多模態(tài)認(rèn)知大模型Mind GPT首次上車，賦能理想同學(xué)擁有類似于 ChatGPT、 Midjourney 等生成式 AI 的能力，拉開(kāi)了智能座艙的AI競(jìng)爭(zhēng)序幕。2024年4月，蔚來(lái)自研的AI大模型NOMI GPT正式上線，可以實(shí)現(xiàn)視覺(jué) （圖像）、聽(tīng)覺(jué)（聲音）、觸覺(jué)（車身傳感器信息）等維度的感知能力，具備包括語(yǔ)音、視覺(jué)和文本等多種形式的交互能力。5月，小鵬 汽車首發(fā)全域大語(yǔ)言模型，將AI大語(yǔ)言模型的推理能力融合到用車的全場(chǎng)景中，實(shí)現(xiàn)了自研 XPGT 大模型、阿里通義大模型以及智譜 AI 大模型的融合。