
10月27日,2025年度广东省科学技术奖名单正式公布,227项项目(人)摘得荣誉。
由腾讯联合中山大学、北京大学等单位开展的“超大规模跨模态人工智能应用平台关键技术与产业化应用”项目,获得广东省科学技术奖科技进步奖特等奖。
人工智能大模型快速迭代,背后是一场算力、网络和工程能力的综合比拼。面对文字、图像、语音、视频、3D等多模态数据,模型训练所需的算力规模、通信频率和存储压力同步增长。如何将成千上万张GPU高效连接、统一调度,并以可承受的成本支撑产业应用,成为人工智能基础设施建设的重要课题。
该平台核心由网络层和框架层构成:前者解决大规模算力互联问题,后者负责计算、通信、存储协同优化及异构算力调度,为多模态人工智能研发和应用提供底层支撑。
“它不是一个单纯的大模型平台,而是支撑AI研发和应用的基础设施。”腾讯技术委员会主任王巨宏介绍。
换道突围:自研高性能网络追平IB网络效率
“如果把芯片比作AI的能源,我们的平台就是连接和调度能源的底层系统。”王巨宏说,这套AI基础设施的核心能力主要分为两层,一是通过网络层解决芯片之间的连接问题,二是通过框架层解决计算、通信、存储、协同优化和调度问题。
平台建设最初源于业务需求。2014年,腾讯用户量已达10亿级,传统计算框架逐渐难以满足海量数据处理需求,团队由此开始建设机器学习平台。2019年,Angel机器学习平台从Linux基金会相关开源项目体系中正式毕业,并持续向产业界开放。
进入大模型时代,模型参数从十亿级、千亿级不断增长,算力集群也从千卡走向万卡乃至更大规模。如何将大量GPU稳定、高效地连接起来,成为平台必须解决的首要问题。
传统高性能计算集群普遍采用IB网络。项目网络研发负责人何春志介绍,IB网络在高带宽、低时延和大规模高性能计算领域具有优势,但采购和使用成本较高,大规模应用还可能面临外部技术依赖风险。
团队由此选择基于开放、通用的以太网进行攻关,重点解决大规模组网环境下通信效率和稳定性不足的问题。

“GPU就像高速路上的跑车,网络就是道路。道路不够宽、不够平,跑车的性能就发挥不出来。”何春志说,网络团队所做的,就是尽可能把道路“修得又平又宽”,让GPU充分发挥性能。
据项目团队介绍,目前自研高性能网络的整体效率已与IB网络基本持平,成本约为后者的30%,即成本降低约70%。
与此同时,在万卡集群中,稳定运行同样是一项挑战。一张出现异常或运行缓慢的GPU,就可能像木桶上的短板一样,拖慢整个训练任务。
“过去在上万张卡中寻找一张慢卡,如果依靠上层框架或服务器逐台排查,可能需要一天甚至数天。”何春志介绍。团队通过分析异常GPU在通信流量上的特征,研发出面向GPU实时训练的定位系统,将排查时间缩短到十分钟甚至几分钟,并能在无需人工干预的情况下完成故障恢复。
目前,平台可支持6.4万张GPU同时协同工作,并支持24小时不间断运行。面对大模型爆款应用带来的突发流量,平台也经受住了实际业务检验,并将网络通信库优化经验贡献到开源社区。
破解算力碎片化:
国产芯片从“各自为战”到“抱团发力”
随着国产人工智能产业快速发展,不同厂商、不同架构的算力芯片不断涌现。与此同时,芯片能力各不相同、软件生态互不兼容,也给大规模算力协同和资源调度带来新的难题。
针对这一问题,项目团队研发了跨平台算子编译和异构混合计算技术,尝试打通不同算力资源之间的技术壁垒。
“不同GPU卡的能力不一样,生态也不兼容,本来很难协同。”王巨宏解释,跨平台算子编译技术就像建立一种“通用语言”,让原本互不认识的算力资源能够在同一平台协同计算。
把算力连接起来后,下一步是根据任务需求进行调度。王巨宏以学生做题作比喻:复杂任务需要匹配高性能算力,就像高难度问题要交给博士生,简单任务则可以使用相对普通的算力资源,如同基础运算可以由小学生完成。通过异构调度,平台能够根据不同任务的复杂度和性能需求匹配相应算力,减少资源错配。
这套平台不仅支撑腾讯混元等自研模型,也可以适配开源大模型以及不同类型的多模态应用。个人用户使用元宝、WorkBuddy等AI应用时,虽然看不到这套平台,但应用背后的训练、推理和算力调度,都离不开底层基础设施的支撑。
为降低企业应用AI的门槛,腾讯还通过腾讯云,将算力、框架等能力封装成PaaS服务对外开放。无论大型企业还是中小企业,都无需自行建设大规模算力集群,即可根据业务需求使用相关算力和多模态AI能力。
产学研闭环:
让AI硬核技术赋能实体经济
这一项目也是大湾区产学研协同创新的一项实践。腾讯依托产业场景、业务数据和工程系统提出实际问题,中山大学等高校团队开展前瞻探索和技术验证,再将研究成果放回产业系统中检验应用。

“科研既要顶天,也要立地;既要面向国家重大战略需求,也要服务地方企业和产业发展。”中山大学副教授杨建权表示。
合作中,中山大学团队重点开展AI可信推理和AI安全防御研究。AI可信推理技术帮助模型判断是否出错、在哪里出错以及如何纠正;安全防御技术则用于防范数据投毒、恶意欺骗、隐私泄露和有害内容等风险,为AI规模化应用提供保障。
企业拥有真实场景、海量数据和工程化能力,高校则更适合开展周期较长、风险较高的前瞻探索。合作各方由此形成“产业提出问题、高校探索验证、工程系统检验、成果产业化应用”的创新闭环。
目前,相关技术已在多个行业落地。广东企业拓竹科技利用平台多模态能力优化产品设计和建模流程。过去,从设计方案到实体样品,需要经过设计、多轮修改、打印等;如今可以借助混元3D、图像模型等能力快速生成和调整方案。据项目团队介绍,相关应用使其3D建模效率相比人工提升80倍以上。
在新能源领域,腾讯云与宁德时代围绕产品质检展开合作,通过多模态框架识别和分析生产图像,相关项目已完成试点。在医疗领域,跨模态技术已在瑞金医院、中山大学附属第一医院等三甲医院落地。在高端制造领域,中国商飞也依托平台能力缩短模型训练和部署周期。
此外,平台还服务招商银行、南方电网、粤海水务、广州地铁等企业和项目。根据项目介绍,依托该平台获得服务的广东企业已超过20万家。
面向未来,团队将继续支撑更大规模的AI研发和应用,优化计算、通信和存储效率,在保证性能与稳定性的同时降低算力和系统运行成本,为人工智能走向千行百业筑牢底座。
文、视频|记者 杨进怡 黎秋玲
图|受访者提供
羊城晚报·羊城派原创,未经授权不得转载
