全國政協(xié)委員、京東集團(tuán)技術(shù)委員會主席曹鵬在今年兩會期間提交了一份《關(guān)于推進(jìn)異構(gòu)算力基礎(chǔ)設(shè)施建設(shè),助力新質(zhì)生產(chǎn)力發(fā)展》的提案,聚焦大模型應(yīng)用落地中的算力門檻、技術(shù)復(fù)雜性與成本高等問題,提出從自主可控的異構(gòu)算力基礎(chǔ)設(shè)施升級、智能體創(chuàng)新應(yīng)用、算力資源共享機(jī)制等方面破局,為實(shí)體經(jīng)濟(jì)智能化轉(zhuǎn)型提供“用得上、用得起”的解決方案。
加強(qiáng)異構(gòu)算力建設(shè):降低智算成本讓企業(yè)“用得起”
隨著年初國產(chǎn)大模型DeepSeek的爆火,大模型技術(shù)正加速滲透千行百業(yè),但算力資源的結(jié)構(gòu)性矛盾日益凸顯。企業(yè)落地AI應(yīng)用過程中,面臨兩大困境:一方面,GPU等高性能算力成本高昂,且系統(tǒng)互不兼容,造成顯卡資源浪費(fèi);另一方面,安全和效率很難兼顧,擔(dān)心數(shù)據(jù)泄露同時,又怕推理速度耽誤業(yè)務(wù)進(jìn)度。某新能源汽車頭部企廠商曾表示:“每個模型訓(xùn)練的系統(tǒng)都不一樣,跨平臺調(diào)度效率又很低,起碼有40%算力資源在機(jī)房睡大覺,嚴(yán)重拖垮研發(fā)進(jìn)度?!?/p>
對此,曹鵬在提案中提出核心路徑:建設(shè)全國一體化的異構(gòu)算力基礎(chǔ)設(shè)施,通過統(tǒng)一調(diào)度多元算力資源,打破地域與架構(gòu)壁壘,從而降低智算成本,讓企業(yè)都“用得起”。在近期京東云深圳城市大會,京東云推出八大智算產(chǎn)品,其中vGPU AI算力平臺,能夠?qū)崿F(xiàn)異構(gòu)算力的智能調(diào)度:一邊自動分配多元算力,實(shí)時響應(yīng)業(yè)務(wù)需求,把GPU利率用提上來;另一邊創(chuàng)建全生命周期AI開發(fā)環(huán)境,開箱即用,大幅壓縮大模型訓(xùn)練周期。目前,這個平臺支持企業(yè)智能駕駛、人形機(jī)器人等20多個場景,精細(xì)化管理千卡AI算力集群,預(yù)計(jì)1年內(nèi),省下的算力相當(dāng)一兩座數(shù)據(jù)中心的算力!
基礎(chǔ)設(shè)施方面,除了算力之外,曹鵬還在提案中強(qiáng)調(diào)了存儲的重要作用?!督鹑谛袠I(yè)先進(jìn)AI存力報(bào)告》報(bào)告中提到,在同樣的GPU算力規(guī)模下,存儲性能的高低可能造成模型訓(xùn)練周期3倍的差異。只有存儲與算力協(xié)同并重,才能在降低能耗的同時進(jìn)一步提升系統(tǒng)性能,助力智算進(jìn)一步普及。京東云云海以單節(jié)點(diǎn)95GB/s的讀帶寬、60GB/s的寫帶寬,進(jìn)一步拉低了國產(chǎn)存儲與國際老牌廠商的差距,可以同時滿足DeepSeek、ChatGPT、LLaMA等20余種主流大模型的存力需求,助力更多企業(yè)把智算用起來。
智能體創(chuàng)新:讓大模型“輕裝跑進(jìn)生產(chǎn)線”
場景的碎片化,讓如何平衡極致性能和極致性價比,成為大模型落地的關(guān)鍵。智能體作為大模型最輕量化的落地形式,已成為大模型落地的熱點(diǎn)。曹鵬在提案中強(qiáng)調(diào),要抓住這輪大模型發(fā)展的契機(jī),鼓勵企業(yè)在實(shí)際業(yè)務(wù)中探索智能體、應(yīng)用智能體,推動智能體技術(shù)與各行業(yè)深度融合,以加速產(chǎn)業(yè)轉(zhuǎn)型和智能化進(jìn)程。
作為智能體落地的先驅(qū),目前京東自有的多場景中,已落地超1萬個智能體,累計(jì)提升人效上億元?;诖?,京東云作為京東集團(tuán)對外輸出技術(shù)與服務(wù)的核心平臺,充分解耦京東智能體實(shí)戰(zhàn)經(jīng)驗(yàn),總結(jié)出五大核心場景:協(xié)同辦公、專業(yè)助手、客戶服務(wù)、營銷推廣和數(shù)據(jù)應(yīng)用。
這些場景已在京東內(nèi)部發(fā)揮巨大業(yè)務(wù)價值。例如在專業(yè)助手方面,我們的JoyCoder智能編碼助手,能幫助開發(fā)者預(yù)測代碼、生成注釋、進(jìn)行智能評審,生成的代碼采納率超過40%,開發(fā)周期縮短30%。在營銷上,通過AIGC技術(shù)可以快速生成高質(zhì)量的營銷文案和商品場景圖,制作效率提升高達(dá)90%。比如,言犀數(shù)字人能自動生成直播腳本,已經(jīng)覆蓋9000個直播間,帶貨GMV總量超百億。
目前京東云將這些智能體能力,沉淀在言犀智能體平臺,對外支持更多企業(yè)在智能體方面探索。食品行業(yè)上下游角色分散,會議對決策管理至關(guān)重要。在味全食品,京東云搭建了一套會議管理系統(tǒng),可自動生成會議文本記錄,并分類歸檔,有效提升公司運(yùn)轉(zhuǎn)效率;在中國飛機(jī)租賃,專業(yè)知識復(fù)雜,人工查詢影響決策效率,京東云構(gòu)建一個智能問答系統(tǒng),提供高效、準(zhǔn)確的問答交互,并依據(jù)反饋持續(xù)優(yōu)化性能,大幅提升員工辦公效率。“輕量化不是妥協(xié),而是讓技術(shù)精準(zhǔn)匹配需求。”曹鵬表示,這一路徑可降低企業(yè)AI開發(fā)對高性能算力的依賴,推動大模型“輕裝跑進(jìn)生產(chǎn)線”。
普惠實(shí)踐:鏈主企業(yè)推動,智算實(shí)現(xiàn)“千企共享”
如何讓算力從“稀缺資源”變?yōu)椤捌栈莘?wù)”?曹鵬提出“鏈主企業(yè)+云平臺”的共享模式:鏈主企業(yè)和云平臺開放智算配額,向中小企業(yè)提供低成本、高質(zhì)量的智算服務(wù),將緊跟時代的先進(jìn)技術(shù)通過產(chǎn)品化、平臺化,普惠化地對外開放,降低應(yīng)用和部署門檻,打造開箱即用的產(chǎn)品服務(wù),讓更多企業(yè)和個人無差別地享受技術(shù)創(chuàng)新的紅利,引導(dǎo)技術(shù)創(chuàng)新走出實(shí)驗(yàn)室和大公司的圍墻,在產(chǎn)業(yè)場景發(fā)揮價值。
“對我和我們數(shù)字化中心來講,今年初DeepSeek發(fā)布以來,我們重新調(diào)整了所有的工作節(jié)奏?!蹦臣揖蛹瘓F(tuán)數(shù)字化中心總經(jīng)理表示。之前公司已有一些人工智能應(yīng)用,現(xiàn)在正嘗試用DeepSeek重新做一遍。在人工智能競爭全球化的背景下,曹鵬委員的提案將技術(shù)突破與產(chǎn)業(yè)需求深度融合,為算力普惠化提供了切實(shí)路徑。隨著兩會熱議的展開,這份聚焦“底層生產(chǎn)力”的提案能否進(jìn)一步推動政策與市場的共振,值得期待。