9月7日，2023騰訊全球數(shù)字生態(tài)大會于深圳成功舉辦。會上，騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實驗室負(fù)責(zé)人吳運聲發(fā)表主題演講，重點分享了騰訊云行業(yè)大模型的最新能力升級、落地實踐。

他提到，隨著大模型逐步走出“嘗鮮期”的探索階段，產(chǎn)業(yè)實踐已成為衡量這些模型價值的重要標(biāo)準(zhǔn)。“智能化的后半場，騰訊云智能在堅持投入AI技術(shù)研發(fā)的同時，一直專注于產(chǎn)業(yè)實踐，強調(diào)技術(shù)的務(wù)實可行和產(chǎn)品的安全可靠。”

基于此，過去這段時間以來，騰訊云MaaS能力不斷升級，希望能夠助力客戶更快、更經(jīng)濟(jì)地應(yīng)用大模型，以抓住AI大模型時代的發(fā)展機(jī)遇。

（騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實驗室負(fù)責(zé)人吳運聲）

吳運聲認(rèn)為，AI大模型的應(yīng)用正逐步滲透到千行百業(yè)的各個環(huán)節(jié)，包括設(shè)計、研發(fā)、生產(chǎn)、營銷和服務(wù)等。從對話式客服到營銷內(nèi)容生成，再到跨模態(tài)檢索和風(fēng)險控制，大模型的應(yīng)用正在展現(xiàn)出更強的能力、更高的效率、更廣泛的應(yīng)用場景和更深的潛力。一場由“大模型”驅(qū)動的“效能革命”正在悄然發(fā)生。

在此背景下，騰訊云從產(chǎn)業(yè)客戶實際需求出發(fā)，基于自研的騰訊混元大模型，同時支持業(yè)內(nèi)主流的開源模型應(yīng)用，從技術(shù)底座、平臺能力和智能應(yīng)用三個維度不斷升級MaaS能力，助力客戶構(gòu)建專屬大模型和智能應(yīng)用，推動大模型在產(chǎn)業(yè)中的落地應(yīng)用。

在大會現(xiàn)場，吳運聲也針對三大升級點進(jìn)行了逐一詳解。技術(shù)底座升級使得騰訊云能夠為客戶提供更強大、多樣化的基礎(chǔ)模型；TI平臺工具鏈的升級，保證了訓(xùn)練任務(wù)的高效穩(wěn)定運行，同時提供了任務(wù)管理、模型優(yōu)化和部署支持，使客戶能夠更輕松地實現(xiàn)模型的落地應(yīng)用；通過智能應(yīng)用的升級，騰訊云為客戶提供了多款即插即用的產(chǎn)品，這些產(chǎn)品將AI大模型技術(shù)與實際業(yè)務(wù)相結(jié)合，為客戶提供更高效、更自然、更智能的解決方案。

作為騰訊產(chǎn)業(yè)互聯(lián)網(wǎng)生態(tài)系統(tǒng)中的重要組成部分，騰訊云智能始終強調(diào)“云智一體”的重要性和必要性。致力于在技術(shù)研發(fā)和產(chǎn)業(yè)實踐之間取得平衡，不斷拓展AI在產(chǎn)業(yè)領(lǐng)域應(yīng)用的“縱深度”。

吳運聲表示，“未來，我們將持續(xù)打磨MaaS能力，攜手廣大客戶和合作伙伴，共同擁抱AI大模型時代的‘效能革命’。”

以下為演講全文：

大家下午好！

我是騰訊的吳運聲，今天我的分享主題是《騰訊云MaaS升級，深耕產(chǎn)業(yè)推進(jìn)“效能革命”》。

剛剛大家也看到了湯道生與蒙牛盧總數(shù)智人互動。

接入AI大模型能力后，數(shù)智分身可以根據(jù)提問，實時生成答案，并匹配相應(yīng)的表情和動作。這也是過去這段時間，我們的MaaS能力升級成果之一。

兩個多月前，我們正式發(fā)布了騰訊云行業(yè)大模型解決方案，致力于打造模型精選商店，為客戶提供一站式MaaS服務(wù)。我們認(rèn)為，產(chǎn)業(yè)場景是大模型最佳練兵場，這一方向，也很快成為行業(yè)共識。

過去這段時間，我們也在持續(xù)迭代、升級MaaS能力，希望幫助更多的客戶，快速、低成本落地大模型，搶先抓住AI大模型時代的發(fā)展機(jī)遇。

當(dāng)前，AI大模型的發(fā)展與應(yīng)用，給整個云服務(wù)市場帶來了新的增量。大模型的應(yīng)用，正在逐步貫穿到企業(yè)的設(shè)計、研發(fā)、生產(chǎn)、營銷、服務(wù)全流程，助力企業(yè)創(chuàng)新的同時，幫助員工提效，加速云智一體進(jìn)程。

當(dāng)前，國內(nèi)大模型發(fā)展可謂是“百花齊放”，據(jù)不完全統(tǒng)計，參數(shù)在10億規(guī)模以上的大模型就超過70個；經(jīng)過過去一段時間的發(fā)展，企業(yè)在大模型方向的探索已經(jīng)度過了“嘗鮮期”，“產(chǎn)業(yè)落地”成為評估大模型價值的重要標(biāo)準(zhǔn)。在今天上午的生態(tài)大會上，騰訊也正式公布了自研混元通用大模型，為我們行業(yè)大模型服務(wù)提供堅實的底座能力。

尤其大模型在金融、零售、文旅、政務(wù)、出行等各個領(lǐng)域的深度應(yīng)用，其“提質(zhì)增效”的效果已逐步顯現(xiàn)，大模型的應(yīng)用場景也涵蓋了對話類客服、營銷內(nèi)容創(chuàng)造、跨模態(tài)檢索、風(fēng)控等企業(yè)核心生產(chǎn)和經(jīng)營環(huán)節(jié)，表現(xiàn)出更強的能力、更高的效率、更廣的場景、更深的應(yīng)用。一場由“大模型”驅(qū)動的效能革命正在發(fā)生。

依托騰訊云多年深耕產(chǎn)業(yè)互聯(lián)網(wǎng)的經(jīng)驗，我們從產(chǎn)業(yè)客戶需求場景出發(fā)，基于自研騰訊混元大模型，同時支持業(yè)內(nèi)主流開源模型應(yīng)用，從技術(shù)底座、平臺能力、智能應(yīng)用三個維度持續(xù)升級MaaS能力，助力客戶構(gòu)建專屬大模型及智能應(yīng)用，加速模型產(chǎn)業(yè)落地。

我們打造的模型精選商店，為客戶提供了不同規(guī)模的模型。通過升級大模型訓(xùn)練、精調(diào)工具鏈，可以幫助客戶更快、更低成本的打造專屬模型。同時，騰訊云有非常廣泛的PaaS、SaaS產(chǎn)品，這些是我們行業(yè)大模型非常好的試煉場。

通過技術(shù)底座的升級，我們可以為客戶提供能力更強、更多元的基底模型。

混元大模型，構(gòu)筑了騰訊云MaaS堅實的底座。今天，混元也正式面向行業(yè)客戶開放，客戶可直接在騰訊云上通過前端交互和API調(diào)用體驗；也可以以混元作為基底模型，直接在公有云精調(diào)。

同時，騰訊云TI平臺也全面接入了Llama 2、Falcon、Dolly等主流開源模型，支持系列模型的直接部署調(diào)用、應(yīng)用流程簡單。

客戶可根據(jù)需要，在TI平臺上一鍵完成模型部署，測試這些開源模型的效果，實現(xiàn)模型選型。

客戶也可以通過TI平臺一鍵啟動精調(diào)任務(wù)，對這些開源大模型進(jìn)行精調(diào)。騰訊云TI平臺提供的多機(jī)多卡、斷點續(xù)訓(xùn)的能力，可以保障訓(xùn)練任務(wù)穩(wěn)定高效地運行；訓(xùn)練監(jiān)控能力，可實時監(jiān)測訓(xùn)練指標(biāo)和資源利用率情況；任務(wù)管理能力，可自動管理模型多次迭代的訓(xùn)練任務(wù)，記錄每次訓(xùn)練任務(wù)的超參快照，快速還原訓(xùn)練現(xiàn)場。

通過平臺能力的升級，我們可以為客戶提供更完善的工具鏈。

升級后的TI平臺工具鏈，具備高性能的大模型精調(diào)與部署能力，覆蓋大模型開發(fā)、應(yīng)用全生命周期。我們在大模型精調(diào)最核心的算力、存儲方面進(jìn)行了大幅升級。比如，算力方面接入了騰訊云HCC高性能計算節(jié)點及星脈高性能計算網(wǎng)絡(luò)，提供3.2Tbps的網(wǎng)絡(luò)帶寬；存儲方面接入了Turbo-CFS分布式存儲，最大帶寬可達(dá)到100GiB/s，大幅提升了跨機(jī)器的多機(jī)多卡訓(xùn)練性能。

在全新升級的TI平臺工具鏈加持下，客戶只需加入自己獨有的場景數(shù)據(jù)，進(jìn)行精調(diào)訓(xùn)練，就可快速嘗試多種大模型，并根據(jù)自身業(yè)務(wù)場景需求，在短時間內(nèi)精調(diào)出專屬的模型方案。

在加速方面，全新升級的太極Angel大模型加速框架，通過異步調(diào)度優(yōu)化、顯存優(yōu)化、計算優(yōu)化等方式，相比行業(yè)常用方案性能提升30%以上。

通過智能應(yīng)用升級，為客戶提供豐富的、即插即用的產(chǎn)品。

騰訊在AI技術(shù)領(lǐng)域有長期投入和積累。過去我們非常多的AI能力，都是率先在內(nèi)部產(chǎn)品中應(yīng)用，這是騰訊AI的內(nèi)生動能。

今天，我們的大模型能力，也正在重塑騰訊云廣泛的PaaS、SaaS產(chǎn)品。這些探索實踐，也進(jìn)一步驗證了我們MaaS能力的可用性、易用性。

圍繞客服場景，今年6月騰訊企點發(fā)布了全新一代智能客服，引入大模型能力，針對對話交互、人工輔助和知識構(gòu)建三個層面進(jìn)行提升。過去兩個月，我們進(jìn)一步升級了管理端配置能力，提升知識構(gòu)建效率，優(yōu)化C端用戶體驗。同時，我們積極與各行各業(yè)進(jìn)行產(chǎn)業(yè)實踐，在文旅、政務(wù)、地產(chǎn)等領(lǐng)域落地標(biāo)桿案例。

基于分析大模型，我們升級推出騰訊企點分析AI助手，覆蓋對話式分析，輔助數(shù)據(jù)配置，提取智能結(jié)論、一鍵生成報告四大場景。今年9月，企點分析AI助手正式向大客戶開放內(nèi)測申請。未來，人人都能擁有專業(yè)數(shù)據(jù)分析能力，讓數(shù)據(jù)跑得更快，為業(yè)務(wù)一線提供決策支持。

此前，我們推出了數(shù)智人工廠。今天，在AI大模型技術(shù)的加持下，我們?nèi)掳l(fā)布“通用口型”版小樣本數(shù)智人，無需訓(xùn)練，上傳素材后，將小樣本數(shù)智人的生產(chǎn)周期，從原來的24小時縮短到只需要1個小時，大大提升了數(shù)智人的生產(chǎn)效率。在大模型技術(shù)的加持下，我們的數(shù)智人可以實現(xiàn)更高效、更自然、更智能的效果。

在內(nèi)容創(chuàng)作領(lǐng)域，我們與閱文集團(tuán)在文生圖、圖生圖的推理部署和加速中達(dá)成合作。

在文生圖、圖生圖場景中，面向C端用戶提供高QPS、低耗時的方案。而且模型本身推理部署成本高昂，推理吞吐和時延存在瓶頸。閱文基于騰訊云TI平臺搭載的Angel推理加速引擎，推理能力平均提升30%，在文生文領(lǐng)域，更是把成本降低到原來的四分之一。此外，TI平臺提供動態(tài)batch和自動服務(wù)調(diào)度機(jī)制，大幅提高了服務(wù)吞吐量。

作為數(shù)字化助手，我們將持續(xù)打磨MaaS能力，攜手廣大客戶、合作伙伴一起，共同擁抱AI大模型時代的這場“效能革命”。