9月5日,在騰訊全球數(shù)字生態(tài)大會上,騰訊集團副總裁、云與智慧產(chǎn)業(yè)事業(yè)群COO兼騰訊云總裁邱躍鵬發(fā)布“騰訊云智算”品牌,幫助產(chǎn)業(yè)突破技術瓶頸,加速釋放AI生產(chǎn)力。
作為“算存網(wǎng)數(shù)一體”的高性能智算底座,騰訊云智算在穩(wěn)定性和性能上都有不錯的表現(xiàn):集群千卡單日故障數(shù)已經(jīng)刷新到0.16,是行業(yè)水平的1/3;1分鐘就能完成萬卡checkpoint寫入,數(shù)據(jù)讀寫效率是業(yè)界10倍;千卡集群的通信時間縮短到6%,是業(yè)界一半。通過整合軟硬件技術能力,騰訊云智算集群從機器上架到開始訓練還可以做到只需1天,相比業(yè)界以月為單位也大為縮短。
在下午的AI基礎設施專場上,騰訊云副總裁李力表示,騰訊云智算具有三個特點,包括同源同構、云原生、以及場景驅(qū)動。一方面,騰訊云多年的發(fā)展歷程中,持續(xù)堅持公有云、專有云、分布式云走統(tǒng)一的技術路線,代碼一致,這些經(jīng)驗將在騰訊云智算中得到體現(xiàn);另一方面,騰訊云已經(jīng)支撐騰訊集團自有業(yè)務完成了上云,完成了業(yè)界最大的云原生實踐,騰訊云智算會將云原生上所有的生態(tài)體系與AI融合,打造AI原生云。另外,騰訊云智算是在200多萬客戶過去十年給騰訊云的磨煉中誕生的,有充分的場景驗證)。
(騰訊云副總裁 李力)
集合優(yōu)勢云產(chǎn)品,打造高性能AI基礎設施
騰訊云智算整合了騰訊云高性能計算HCC、高性能網(wǎng)絡IHN星脈、高性能云存儲、加速框架、容器、向量數(shù)據(jù)庫、智算套件等騰訊云優(yōu)勢產(chǎn)品,能夠為AI創(chuàng)新輸出性能領先、多芯兼容、靈活部署的智算產(chǎn)品能力。
騰訊云異構計算副總經(jīng)理宋丹丹介紹,騰訊云HCC高性能計算集群擁有全球領先的算力性能,可以達到比原廠商推薦優(yōu)化19%到30%的性能。HCC可以提供業(yè)界最高的3.2T超高互聯(lián)帶寬,算力性能較前代提升高達3倍。
騰訊云智算除了具有領先的性能表現(xiàn),在部署上也非常靈活,支持公有云、私有云以及分布式云的部署。騰訊專有云TCE研發(fā)負責人王旻表示,不同客戶對彈性、靈活性、數(shù)據(jù)隱私和自主可控的需求各不相同,智算基礎設施也需要滿足公有云和專有云等多種模式。同時,除了智算能力外,也會給私有化客戶帶來其他一些收益:全面安全合規(guī)、開放兼容,覆蓋智算、通算、超算等多種場景的全棧智能解決方案,行業(yè)云能力,以及騰訊云完整運營/運維的產(chǎn)品與理念。
騰訊云虛擬化產(chǎn)品總經(jīng)理陳立東介紹了新發(fā)布的AI大模型加速解決方案TACO。其中,TACO-LLM,加速語言生成的效率,可以獲得1.8倍到2.5倍的性能提升,百萬Token推理成本低于0.5美元,運營成本降低超過一倍,并與業(yè)界的開源模型都完成了適配;TACO-DiT是一款專為DiT模型設計的并行推理引擎,旨在解決高清圖像與長時一致性視頻生成中,因輸入序列增長導致的計算量激增問題;面向傳統(tǒng)AI,騰訊云提供qGPU技術提升GPU的利用率。
騰訊云網(wǎng)絡VPC產(chǎn)品負責人王營表示,騰訊云智能高性能網(wǎng)絡IHN星脈面向AI場景,打造超高速規(guī)模網(wǎng)絡。IHN支持超10萬卡的集群,并支持異構網(wǎng)絡接入。
AI時代,場景對存儲的需求也發(fā)生了很大變化。騰訊云存儲產(chǎn)品總經(jīng)理陳崢表示,騰訊云智算所采用的AIGC云存儲解決方案可實現(xiàn)對AIGC生命周期的全覆蓋,高度匹配大模型的各類存儲需求。在數(shù)據(jù)采集環(huán)節(jié)騰訊云提供數(shù)據(jù)遷移服務;數(shù)據(jù)清洗環(huán)節(jié)和訓練推理環(huán)節(jié),騰訊云通過GooseFS提供分布式緩存能力,可以將數(shù)據(jù)調(diào)度到近計算節(jié)點,加速數(shù)據(jù)的訪問;數(shù)據(jù)治理環(huán)節(jié),數(shù)據(jù)萬象服務可以為海量的預訓練數(shù)據(jù)和推理數(shù)據(jù)提供數(shù)據(jù)質(zhì)量的保證,確保數(shù)據(jù)的合規(guī)性,保障大模型輸入和輸出都有可靠的質(zhì)量。
騰訊云分布式云產(chǎn)品負責人楊志華在分享中表示,騰訊云分布式云的解決方案通過把公有云部署在本地,使得公有云能力可以1:1復制到用戶的本地,并提供高達400種云產(chǎn)品的選擇,既包括常用的計算網(wǎng)絡存儲、數(shù)據(jù)庫、中間件,也包括眾多的辦公協(xié)同、營銷工具。目前,分布式云已有超過20個行業(yè)得到了廣泛的實踐和產(chǎn)品的打磨,幫助企業(yè)構建數(shù)據(jù)本地化的云平臺。
騰訊云AI企業(yè)級自研分布式向量數(shù)據(jù)庫接入AI的效率比傳統(tǒng)方案提升10倍,運行穩(wěn)定性高達99.99%。支持千億級向量規(guī)模、500萬并發(fā)吞吐,并且相同成本情況下性能達到業(yè)界的1.5-5倍。
多場景落地,釋放AI生產(chǎn)力
這目前,騰訊云智算服務了90%以上的國內(nèi)頭部大模型頭部企業(yè),也幫助了一大批IDC廠商走向AIDC轉(zhuǎn)型,在互聯(lián)網(wǎng)企業(yè)、大模型廠商、金融行業(yè)、政企行業(yè)、AI開發(fā)等多個場景,騰訊云智算也在助力客戶加速釋放AI生產(chǎn)力。
元象科技的大語言模型是廣東省2023年第一批通過國家備案的大語言模型,最新版本的MoE模型只用了數(shù)百億級別的預算量就可以達到數(shù)千億級別的模型效果。元象大模型產(chǎn)品中心總監(jiān)張玥介紹,騰訊云提供的充足的算力、可靠的算力平臺和先進的網(wǎng)絡,有效支持了元象的大語言模型的順利落地,讓大語言模型更好的發(fā)揮了效能。
廣州尚航信息科技股份有限公司深耕算力基礎設施服務領域,提供業(yè)界領先的智算中心、AI算力、云計算。為互聯(lián)網(wǎng)、人工智能、政府、新能源等多個行業(yè)提供AIDC綜合服務、AI算力、云綜合服務等,是客戶及合作伙伴最可靠的智算基礎設施服務商。尚航科技與騰訊云戰(zhàn)略合作以來,雙方基于互信共贏的發(fā)展戰(zhàn)略,共筑AI算力底座。尚航科技借助騰訊云技術拓展業(yè)務版圖,打造尚云SunClouds云算力平臺,依托尚航堅實的AIDC基礎設施、GPU算力集群、本地網(wǎng)絡和騰訊云TCE技術,尚航搭建了具有全棧IaaS+PaaS+安全能力的綜合型算力平臺,為眾多行業(yè)客戶提供高效、穩(wěn)定且安全的算力資源。尚航與騰訊云的戰(zhàn)略合作,將為客戶提供更便捷的一站式算力服務體驗,同時也將推動AI算力行業(yè)的發(fā)展。未來期待與更多行業(yè)伙伴攜手,響應國家戰(zhàn)略,助推新質(zhì)生產(chǎn)力發(fā)展,為數(shù)字經(jīng)濟的發(fā)展貢獻力量。
會上,騰訊云智算還宣布和海南怡和中能實業(yè)投資有限公司、上海燧原科技股份有限公司、廣州尚航信息科技股份有限公司等共建產(chǎn)業(yè)高效能云智算中心。本次合作簽約,將充分發(fā)揮各方優(yōu)勢互補,圍繞研發(fā)、服務、銷售等全領域開展企業(yè)數(shù)智化轉(zhuǎn)型合作和,共同推進云計算和人工智能產(chǎn)業(yè)融合、創(chuàng)新及發(fā)展。
“生成式AI的興起給整個云基礎設施建設提出了更高的要求,隨著騰訊云智算的發(fā)布,我們希望能夠一站式地把高性能計算、高性能存儲、高性能網(wǎng)絡等各方面的優(yōu)勢技術能力,為企業(yè)客戶的AI創(chuàng)新探索,創(chuàng)造更多價值?！彬v訊云副總裁沙開波表示。
