6月26日,2024年上海世界移動通信大會啟幕,中興通訊總裁徐子陽應(yīng)邀出席同日舉辦的“人工智能先行”主題演講和以“5G-A×AI”為主題的GTI國際產(chǎn)業(yè)大會(上海),分享中興通訊在人工智能浪潮下的數(shù)智實(shí)踐與創(chuàng)新。
在“人工智能先行”主題演講中,徐子陽以《匠心筑基,開放共贏》為題展開分享。他表示,當(dāng)前全球已經(jīng)進(jìn)入AI驅(qū)動的產(chǎn)業(yè)革命,但除了幻覺、安全和倫理等問題外,生成式AI發(fā)展還面臨算力、能耗、數(shù)據(jù)集、標(biāo)準(zhǔn)化及商業(yè)應(yīng)用等挑戰(zhàn)。對于AI進(jìn)階,中興通訊秉承開放解耦、以網(wǎng)強(qiáng)算、訓(xùn)推并舉的核心主張,同時以客戶價值為核心,提供從算力、網(wǎng)絡(luò)、能力、智力到應(yīng)用的全棧全場景智算解決方案,以硬實(shí)力筑基,以軟實(shí)力啟智,靈活實(shí)現(xiàn)與客戶能力的優(yōu)勢互補(bǔ)和強(qiáng)強(qiáng)協(xié)作,賦能千行百業(yè)的數(shù)智化轉(zhuǎn)型需求,為經(jīng)濟(jì)高質(zhì)量發(fā)展注入源源不斷的動能,共筑AI時代的美好未來。
在GTI國際產(chǎn)業(yè)大會(上海)中,徐子陽參加GTI-GSMA 5G-A×AI合作簽約儀式并圍繞5G-A×AI這一主題,以《算網(wǎng)進(jìn)階,智創(chuàng)未來》為題發(fā)表演講。他結(jié)合當(dāng)下核心挑戰(zhàn)、解決方案和實(shí)踐案例,闡釋了傳統(tǒng)工業(yè)化向新型工業(yè)化的升級路徑,最重要的就是:結(jié)合數(shù)智技術(shù)在底層的核心突破、基礎(chǔ)設(shè)施的效率和能力升級、與行業(yè)Know-How的深度融合,加速數(shù)字和物理世界的交融,提升生產(chǎn)和交易效率,并構(gòu)建敏捷和自適應(yīng)組織,在不確定的未來中行穩(wěn)致遠(yuǎn)。中興通訊主張圍繞數(shù)字化、網(wǎng)絡(luò)化、智能化和低碳化四個緯度,突破現(xiàn)階段核心挑戰(zhàn)或掣肘,承前啟后繼往開來。中興通訊將始終秉持創(chuàng)新引領(lǐng)、多樣互補(bǔ)、開放利他的原則,以“開放解耦、以網(wǎng)強(qiáng)算、以智升維、以綠奠基” 全力支持產(chǎn)業(yè)鏈健康可持續(xù)發(fā)展,繁榮數(shù)字經(jīng)濟(jì)。
以下為徐子陽《匠心筑基,開放共贏》主旨演講全文:
應(yīng)勢而變,賦能智能進(jìn)階
過去的一年多,大模型和生成式AI為數(shù)智浪潮推波助瀾,技術(shù)高速迭代,產(chǎn)品層出不窮,新場景和新業(yè)態(tài)蓄勢待發(fā)。雖然生成式AI依然處于發(fā)展初期,但大家已經(jīng)有普遍共識,即全球已經(jīng)進(jìn)入AI驅(qū)動的產(chǎn)業(yè)革命,AI將對生產(chǎn)生活的方方面面產(chǎn)生深遠(yuǎn)的影響和變革。人工智能將深刻重塑全球經(jīng)濟(jì)格局。業(yè)界咨詢機(jī)構(gòu)預(yù)測,至2030年,AI將顯著推動中國GDP增長26%,北美GDP增長14.5%,預(yù)計為全球貢獻(xiàn)約10.7萬億美元的經(jīng)濟(jì)增長,占據(jù)全球影響的近七成。這一變革將為零售、金融服務(wù)和醫(yī)療保健等行業(yè)帶來前所未有的商業(yè)機(jī)遇。
除了幻覺、安全和倫理等問題外,生成式AI發(fā)展還面臨算力、能耗、數(shù)據(jù)集、標(biāo)準(zhǔn)化及商業(yè)應(yīng)用等挑戰(zhàn),因此,需要從多個方面實(shí)現(xiàn)進(jìn)階發(fā)展,中興通訊提出算網(wǎng)進(jìn)階、訓(xùn)推并舉、開放解耦的核心主張。首先是突破技術(shù)瓶頸,加強(qiáng)架構(gòu)、算法、算網(wǎng)和軟硬件協(xié)同優(yōu)化等研究,提升AI訓(xùn)練和推理效率;其次,以RAG、Agents等多種解決方案確??煽啃?、安全性和可解釋性,以實(shí)現(xiàn)大模型的廣泛應(yīng)用和更高價值,構(gòu)建數(shù)據(jù)飛輪,兼顧能力提升和商業(yè)閉環(huán);最后,以“開放解耦”加速標(biāo)準(zhǔn)化,構(gòu)建繁榮的產(chǎn)業(yè)和商業(yè)生態(tài)。
算網(wǎng)進(jìn)階,打造高效基座
首先是算網(wǎng)進(jìn)階,打造高效基座。在智算領(lǐng)域,高速網(wǎng)絡(luò)連接不僅不可或缺,而且至關(guān)重要,無論是芯片內(nèi)裸Die互聯(lián)、芯片之間、服務(wù)器之間、DC之間,網(wǎng)絡(luò)連接技術(shù)的持續(xù)創(chuàng)新和突破,將極大的提升智算的性能與效率。
Die2Die即芯片內(nèi)的裸Die間高速互聯(lián)網(wǎng)絡(luò),結(jié)合自研的并口/串口全系列IP、成熟的2.5D/3D先進(jìn)封裝,支持異構(gòu)解構(gòu)和集成,一定程度上突破摩爾定律失效和工藝方面的制約,實(shí)現(xiàn)異構(gòu)計算和網(wǎng)絡(luò)處理在內(nèi)的多種芯片架構(gòu),提供更高的性能表現(xiàn)和更優(yōu)的性價比。
Chip2Chip即跨芯片之間的互聯(lián)網(wǎng)絡(luò),通過芯片間可分布式高速交換互聯(lián),及PCIe5/6、56G/112G/224G SerDes全系列高速接口結(jié)合的解決方案,更好地解決目前Mesh互聯(lián)靈活性差和帶寬利用率低的問題,并進(jìn)一步突破算力芯片TP8/16互聯(lián)的規(guī)模瓶頸,更好地適應(yīng)復(fù)雜的大規(guī)模智算應(yīng)用場景的需求,為客戶提供差異化的競爭優(yōu)勢。中興通訊也在積極參與中移全向智感高速互聯(lián)架構(gòu)(OISA)的推進(jìn)。另外,面向下一代102.4T網(wǎng)絡(luò)交換機(jī)光電異構(gòu)集成的需求,LPO(Linear-drive Pluggable Optics,線性驅(qū)動可插拔光模塊)光電融合互聯(lián)和CPO(Co-packaged Optics,光電共封裝),均可極大地提升互聯(lián)密度,并降低能耗,同時,布局光互連I/O,其在帶寬密度、功率效率、延遲方面將實(shí)現(xiàn)革命性的提升。
Server 2 Server即智算集群的互聯(lián)場景,中興通訊正全力配合中國移動,完善全調(diào)度以太網(wǎng)(GSE)產(chǎn)業(yè)生態(tài),打造無阻塞、高帶寬及超低時延的新型智算中心網(wǎng)絡(luò),在今年2月份,中興通訊積極參與了中國移動組織的GSE原型機(jī)互聯(lián)互通測試,后續(xù)基于千卡和萬卡場景驅(qū)動,共智合力,加速突破,積極助力鏈長壯大產(chǎn)業(yè)發(fā)展。在自身能力上,中興通訊將持續(xù)推動關(guān)鍵芯片的轉(zhuǎn)發(fā)能力從12.8T向51.2T能力升格,通過提供單層/盒盒/框盒的多樣化方案,更好的服務(wù)全域智算訓(xùn)練場景需要。
DC 2 DC屬廣域連接場景,400G光傳輸產(chǎn)業(yè)在中國運(yùn)營商的引領(lǐng)下蓬勃發(fā)展,為“光電貫東西、一網(wǎng)通九州”的算間智聯(lián)打下了堅實(shí)基礎(chǔ)。中興通訊正在全力支持國內(nèi)運(yùn)營商全球規(guī)模最大400G OTN 商用網(wǎng)絡(luò)部署,驗(yàn)證了全場景Real 400G的大容量連接能力,聯(lián)合國內(nèi)運(yùn)營商完成了基于S+C+L波段的單波T比特實(shí)時系統(tǒng)傳輸實(shí)驗(yàn),并創(chuàng)造了傳輸容量的世界記錄。后續(xù),中興通訊也將繼續(xù)發(fā)揮連接優(yōu)勢,以網(wǎng)強(qiáng)算,打造算力網(wǎng)絡(luò)高效全光底座。
訓(xùn)推并舉,賦能實(shí)體經(jīng)濟(jì)
對于大模型在各行業(yè)的落地應(yīng)用,除了常規(guī)的幻覺、安全和倫理等問題,還需要解決專業(yè)性、準(zhǔn)確性、魯棒性和可追溯性等一系列剛性場景下的挑戰(zhàn),同時在基礎(chǔ)大模型基礎(chǔ)上構(gòu)建領(lǐng)域模型時,專業(yè)數(shù)據(jù)治理、增量訓(xùn)練等工程經(jīng)驗(yàn)和工具集等也至關(guān)重要。以電信自智網(wǎng)絡(luò)場景為例,大小模型結(jié)合、RAG(Retrieval Augmented Generation)、多智能體(Agents)協(xié)同、數(shù)字孿生、多模態(tài)CoT(Chain-of-Thought)等等技術(shù)創(chuàng)新,都已經(jīng)有所成效。
在AI應(yīng)用商業(yè)化的征途上,訓(xùn)推并舉是驅(qū)動實(shí)體經(jīng)濟(jì)騰飛的關(guān)鍵。中國憑借豐富的應(yīng)用場景和私域數(shù)據(jù)資源,可以為全球AI產(chǎn)業(yè)做出巨大貢獻(xiàn)。為了充分發(fā)揮這一優(yōu)勢,我們需要注重準(zhǔn)確性、專業(yè)性和推理效率的提升,同時加強(qiáng)領(lǐng)域數(shù)據(jù)治理和數(shù)字孿生技術(shù)的應(yīng)用。訓(xùn)推并舉,以訓(xùn)練創(chuàng)造能力,以推理和應(yīng)用驗(yàn)證價值,構(gòu)建數(shù)據(jù)飛輪,雙循環(huán)將進(jìn)一步促進(jìn)AI能力迭代和商業(yè)變現(xiàn),從而鍛造核心優(yōu)勢。
具體操作上,我們主張錨定高價值行業(yè)和天使客戶。天使客戶通常是行業(yè)中最具影響力的企業(yè),數(shù)字化基礎(chǔ)好,同時積極擁抱技術(shù)變革,并可以引領(lǐng)整個行業(yè)數(shù)智化進(jìn)程。通過與天使客戶的合作,數(shù)智技術(shù)與Know-How結(jié)合,優(yōu)勢互補(bǔ),并快速驗(yàn)證迭代技術(shù)方案,樹立標(biāo)桿?;谧匝谢蜷_源基礎(chǔ)大模型,利用豐富的行業(yè)數(shù)據(jù)和知識工程構(gòu)建領(lǐng)域大模型,打造行業(yè)樣板,實(shí)現(xiàn)從0到1突破?;陬I(lǐng)域大模型,結(jié)合不同場景實(shí)現(xiàn)從1到N的應(yīng)用拓展。
開放解耦,構(gòu)建繁榮生態(tài)
最后是開放解耦,構(gòu)建繁榮生態(tài)。AI技術(shù)處于高速迭代期,但當(dāng)下依然普遍生態(tài)封閉,同時缺乏行業(yè)標(biāo)準(zhǔn),并帶來一系列問題,比如重復(fù)開發(fā)和資源浪費(fèi)、技術(shù)孤立和風(fēng)險集中、選擇受限和供應(yīng)壟斷等,制約了AI的快速良性發(fā)展。
中興通訊倡導(dǎo)構(gòu)建全棧開放的智算方案。在基礎(chǔ)設(shè)施層面,軟硬協(xié)同,最大化資源效率。硬件兼容適配國內(nèi)外主流GPU/CPU,支持OSIA、RoCE/GSE等開放標(biāo)準(zhǔn)的高速無損互聯(lián),為客戶提供多樣化的選擇;軟件支持異構(gòu)資源管理、訓(xùn)推作業(yè)調(diào)度和異構(gòu)集合通信等,在強(qiáng)化對多廠家GPU支持的同時,為模型運(yùn)行提供高性能、高可靠的運(yùn)行環(huán)境;通過算力卸載及在網(wǎng)計算等技術(shù),大幅縮減數(shù)據(jù)讀寫與傳輸時間,提升算力利用率。在能力平臺層面,適配PyTorch、TensorFlow等主流框架,自動實(shí)現(xiàn)向后端平臺編譯和優(yōu)化,并提供從數(shù)據(jù)處理、模型開發(fā)/訓(xùn)練/優(yōu)化/評估/部署等端到端的工程工具集,在支持全生命周期保障和管理的同時,還應(yīng)支持算力原生、混池訓(xùn)練、高效推理、數(shù)據(jù)飛輪構(gòu)建等。在算力網(wǎng)絡(luò)層面,強(qiáng)化算網(wǎng)協(xié)同,支持應(yīng)用全域無感遷移。
“一花獨(dú)放不是春,百花齊放春滿園”,全棧開放的智算方案將有利于開放的技術(shù)生態(tài)和共贏的商業(yè)生態(tài)的構(gòu)建,是智算良性發(fā)展的關(guān)鍵。通過軟硬解耦、訓(xùn)推解耦、模型解耦,推動各類能力組件化和共享賦能,加速AI技術(shù)的創(chuàng)新、研發(fā)、應(yīng)用和商業(yè)化進(jìn)程,構(gòu)建開放的技術(shù)生態(tài);通過產(chǎn)業(yè)內(nèi)的芯片廠商、ICT硬件廠商、應(yīng)用開發(fā)者、集成商、運(yùn)營商的生態(tài)定位和優(yōu)勢互補(bǔ),共同做大做強(qiáng),實(shí)現(xiàn)共贏的商業(yè)生態(tài)。
筑基啟智,共創(chuàng)美好未來
中興通訊始終以客戶價值為核心,提供從算力、網(wǎng)絡(luò)、能力、智力到應(yīng)用的全棧全場景智算解決方案,并已形成高速互聯(lián)、在網(wǎng)計算、算力原生、無感遷移、數(shù)據(jù)處理和算法優(yōu)化等多個關(guān)鍵技術(shù)積累。一方面,中興通訊聚焦算力網(wǎng)絡(luò)的高效、綠色、安全,以硬實(shí)力筑基,以及能力應(yīng)用的靈活、敏捷、智慧,以軟實(shí)力啟智;另一方面以數(shù)字星云的組件式交易的全開放研發(fā)架構(gòu),可分可合,靈活實(shí)現(xiàn)與客戶能力的優(yōu)勢互補(bǔ)和強(qiáng)強(qiáng)協(xié)作,賦能千行百業(yè)的數(shù)智化轉(zhuǎn)型需求。
在基礎(chǔ)設(shè)施領(lǐng)域,提供算、存、網(wǎng)、數(shù)據(jù)中心等全系列產(chǎn)品及方案,全面滿足從中心到邊緣的多樣化智算中心建設(shè)需求。在算力維度,芯片側(cè)兼容適配國內(nèi)外多廠家GPU/CPU,自研定海芯片支持RDMA標(biāo)卡、智能網(wǎng)卡、DPU卡等多種形態(tài),提供高性能、多樣化的算力內(nèi)核和硬件加速;整機(jī)側(cè),基于扣卡模組/PCIe插卡AI服務(wù)器、訓(xùn)推一體機(jī)等系列產(chǎn)品,靈活適配差異化場景;數(shù)據(jù)中心側(cè),依托風(fēng)液融合、彈性配電等節(jié)能技術(shù),打造PUE低至1.1、機(jī)柜功率密度最高達(dá)60kW的新型智算中心。在網(wǎng)絡(luò)維度,中興通訊與產(chǎn)業(yè)伙伴一起建立開放的GPU互聯(lián)標(biāo)準(zhǔn)Olink(Openlink),也將全面融入中移OSIA架構(gòu),在兼容現(xiàn)有RDMA協(xié)議實(shí)現(xiàn)機(jī)內(nèi)機(jī)間統(tǒng)一互聯(lián)技術(shù)的同時,重點(diǎn)推動機(jī)內(nèi)通信從Mesh互聯(lián)轉(zhuǎn)向交換互聯(lián)支持單機(jī)更大規(guī)模TP計算,降低連接復(fù)雜度,提升集群規(guī)模和效能;自研的RoCE網(wǎng)卡和盒式、框式RDMA交換機(jī),支持構(gòu)建百卡-萬卡規(guī)模的智算集;Real 400G助力打造算力網(wǎng)絡(luò)高效全光底座。
在能力領(lǐng)域,算力統(tǒng)一云管平臺ZTE TECS支持異構(gòu)資源管理、訓(xùn)推作業(yè)調(diào)度和異構(gòu)集合通信;ZTE AIS訓(xùn)推平臺,則支持擁有面向大模型的數(shù)據(jù)處理和模型開發(fā)平臺,提供大模型工程化全棧工具和引擎。在具體應(yīng)用場景中,如無感遷移可以實(shí)現(xiàn)5天可用,15天好用;高效推理實(shí)現(xiàn)千億模型單卡部署;數(shù)據(jù)自動標(biāo)注,時間節(jié)約80%等等。
在智力方面,中興星云大模型集中發(fā)力算法創(chuàng)新、數(shù)據(jù)工程和高效算力平臺。星云基礎(chǔ)大模型包括2.5B/16B/40B/100B多種規(guī)模,可以覆蓋從手機(jī)、邊緣到中心云各種部署場景。在訓(xùn)練階段采用多階段預(yù)訓(xùn)練、中文詞表改進(jìn)、高質(zhì)量語料精煉、合成數(shù)據(jù)訓(xùn)練等多項技術(shù)創(chuàng)新,在算力需求降低50%的同時保證了模型訓(xùn)練效果。在推理效率方面,在保證模型準(zhǔn)確率不受影響的情況下,以權(quán)重INT4量化和KVCache FP8量化算法,節(jié)省推理資源3倍。星云通信大模型已完成千億級(9*20B)MoE(混合專家)大模型的訓(xùn)練,并且支持多模態(tài)輸入及十二萬的有效上下文窗口,對通信業(yè)務(wù)場景提供通信專家級的見解和幫助。星云研發(fā)大模型通過多模型協(xié)作技術(shù),可以支持需求、設(shè)計、編程、測試等不同階段全流程30多種場景,多種編程語言如Python、Java、C/C++、Go、Java script代碼生成能力可以達(dá)到GPT4水平,并且在單元測試準(zhǔn)確率、覆蓋率大幅超越GPT4-Turbo,可以根據(jù)需求直接生成測試用例(測試驅(qū)動開發(fā))。
在應(yīng)用方面,中興通訊積極探索大模型在行業(yè)中的實(shí)際應(yīng)用,先后在研發(fā)提效、通信網(wǎng)絡(luò)運(yùn)維、城市治理、工業(yè)園區(qū)等多個方向推出大模型應(yīng)用。其中,星云編程大模型在HumanEval的評分位列業(yè)界編碼模型第一梯隊,目前日活用戶已超過1.3萬,日請求數(shù)達(dá)到11萬+,日吞吐量達(dá)3.3億 tokens,編碼提效30%,整體研發(fā)提效10%。同時基于端到端智算平臺為客戶提供全流程大模型工具鏈,降低客戶進(jìn)入門檻和開發(fā)、使用成本,助力大模型在行業(yè)的普惠應(yīng)用。
中興通訊始終秉持多樣互補(bǔ)、開放利他的原則,堅定不移的支持并推動產(chǎn)業(yè)繁榮發(fā)展;同時強(qiáng)化內(nèi)外雙循環(huán),持續(xù)引領(lǐng)創(chuàng)新發(fā)展。未來,中興通訊將持續(xù)加大投入,致力于在多個領(lǐng)域?qū)崿F(xiàn)技術(shù)引領(lǐng),進(jìn)一步推動智算產(chǎn)業(yè)的壯大與發(fā)展,為經(jīng)濟(jì)的繁榮貢獻(xiàn)力量。
關(guān)于CNMO | 聯(lián)系我們 | 站點(diǎn)地圖 | 精英招聘 | CNMO記事 | 家長監(jiān)護(hù)工程 | 舉報不良信息
Copyright © 2007 -
北京沃德斯瑪特網(wǎng)絡(luò)科技有限責(zé)任公司.All rights reserved 發(fā)郵件給我們
京ICP證-070681號 京ICP備09081256號 京公網(wǎng)安備 11010502036320號