英语语境的“Token”,中文被译为“词元”。随着人工智能的普及,不少企业在调用大模型时,需要耗费大量词元。记者从广州市海珠区人工智能发展局获悉,第五届琶洲算法大赛报名参赛队伍登甲智能,其自研的词元计量计费引擎已开始服务算力需求用户,缓解用户在使用算力时所遇到的痛点问题。

据悉,随着大模型在企业侧规模化铺开,成本管控的矛盾日渐凸显。不少企业引入大模型之后,不同部门、不同智能体反复调用模型,词元消耗分散,缺少统一台账,既难以管控预算,也无法评估AI业务真实价值。
登甲智能总经理孙鹏表示:“企业大规模用上大模型之后,最大的难题不只在于模型效果,而是算不清、管不住持续增长的词元消耗,词元早已不只是技术参数,更是AI产业的‘成本账本’。”
针对这一现实痛点,登甲智能参加本届琶洲算法大赛的方案,为自研词元计量计费引擎,并基于该引擎打造词元管理的统一接入、明细追溯、限额管控、智能路由、价值核算五大核心能力,能够针对各业务部门、智能体、每一次模型调用生成可审计的词元台账。
依托智能路由完成任务分流、借助本地缓存实现请求复用,这套方案能够帮助客户将词元综合成本降低30%以上;通过词元多维度统计指标,真正实现AI业务投入产出的可量化对比。
据悉,该引擎目前日均处理词元超3000亿,月均API调用约9万亿,70%的调用量来自海外业务,对算力调度稳定性、跨境数据可审计能力提出严苛考验。凭借统一计量、跨芯片算力调度能力,平台保障跨境业务稳定可审计,有效降低企业对单一算力资源的依赖。

记者从海珠区人工智能发展局了解到,海珠区持续通过多种方式缓解词元用户痛点。2026年8月,海珠区落地全省首个词元经济专项金融产品“Token贷”,并配套出台“词元八条”,覆盖词元生产、流通、应用、金融、出海全链条。多家银行将词元消耗、经营数据纳入授信评估,中国银行“算力Token贷”试单授信已达2800万元。
对登甲智能这类轻资产、高研发的算力企业而言,词元经营数据正在成为授信评估的重要参考,出海业务的数据跨境、收结汇与算力成本等痛点,也迎来实打实的政策抓手。
记者从登甲智能了解到,企业后续将依托海珠区人工智能局、琶洲算法大赛持续迭代“算力+算法”成果,打磨计量计费、跨芯片调度、智能降本核心能力,深耕制造业AI成本治理、科研机构私有化部署、词元出海三大重点场景,力争成长为琶洲算力赋能实体经济的标杆企业。
文|记者 梁怿韬 通讯员 海宣
图|通讯员提供
羊城晚报·羊城派原创,未经授权不得转载
