第九届数字中国建设峰会昨天迎来公众开放日,现场体验区开放将持续至5月4日。词元是大模型处理信息的最小单元,是今年AI领域里的热词。这两天,在现场体验区记者发现,业内关于词元的讨论不断,相关新的硬件和新的服务模式也纷纷亮相。
02:36
眼下,我国词元调用量呈现指数级增长。专业人士告诉记者,这背后的关键驱动来自AI的规模化落地,特别是智能体的大爆发。
腾讯公司副总裁韩开创:词元确实反映了智能经济的发展热度,但是单就词元发展而言,应该有一个比较综合的衡量因素。好比我们开车,不能只关注油耗,还要关注引擎的经济性和输出的能力,大家其实是越来越关注词元消耗的性价比,更关注如何降低词元调用的成本。

算力越强,词元处理速度就越快,单位成本就越低。记者观察到,新一代国产算力基础设施在峰会上亮相。这样一个“超节点”算力集群被直接搬到了现场。
除了升级硬件、提升算力,各种减少词元消耗、降低成本的新服务也不断出现。有企业把100多个主流大模型都放到一个服务平台上,当用户提出需求后,平台会自动匹配最合适的模型来解决问题。
天翼云智算平台事业部产品专家王曼:如果你需要做视频,我们就给你选择最适合做视频的模型,如果你提出的是一个非常简单的查天气的问题,那就调用小模型解决。这样就不会出现小问题也用高阶模型来解决,降低了词元的使用成本。

本届峰会上,围绕词元经济延伸出的“人工智能工厂”新概念也受到关注,简单来说就是像造汽车一样造智能体。
浪潮云信息技术股份公司总经理颜亮:通过流水线生产智能体,并持续优化,能够减少无效计算,更能大幅度降低词元的消耗。