聚焦Token服务关键议题,致网科技亮相第六期“AI风向标”沙龙

4月27日,由中国信息通信研究院人工智能研究所与IT168联合举办的大模型Token服务技术研讨会暨第六期“AI风向标”沙龙顺利举行。词元(Token)作为大模型处理信息的最小单位,正日益成为衡量调用规模、成本与价值的关键指标。随着智能体、多模态生成、AI编程工具等AI原生应用加快发展,Token需求持续增长,围绕Token服务能力建设、运行质效提升、可观测性增强以及模型服务标准化与普惠化落地的讨论不断深化。

图片 1

聚焦Token服务关键议题,与行业前沿共同推进能力建设

本次活动以“Token服务如何为大模型应用按下‘加速键’”为主题,汇聚业内专家开展专题分享,为大模型应用及产业生态完善提供了重要交流平台。会上,中国信通院从产业发展视角系统介绍了Token服务的背景、挑战与研究进展,指出MaaS平台正从模型服务载体向Token生产、传输和应用的基础设施演进,未来将围绕服务质量、计量调度、运营管理和可信评估等方向持续完善标准体系。致网科技从Token计量与态势感知角度出发,系统阐述了Token全流程可度量、可感知、可优化的实现方法,并探索标准化解决方案。

从网络流量切入,探索Token计量与态势感知的可行路径

在主题演讲环节,致网科技围绕《基于网络流量的大模型Token计量与态势感知研究》进行了分享。当前,Token生产与消费规模持续扩大,行业对Token服务运行态势的认知仍较为有限,Token流向、产量及模型身份缺乏有效观测手段。针对上述痛点问题,致网科技提出了“能否从网络流量中看见Token”的研究思路。基于DNS、NetFlow、XDR等多源数据,围绕“发现Token工厂、估算Token产量、鉴别模型身份”三个核心目标展开研究:

  • Token工厂识别:通过域名特征、流量行为特征和主动验证机制识别大模型服务节点,回答“谁在生产Token”。
  • Token产量估算建立流量—Token映射模型,实现对Token消耗规模的有效估算。
  • 模型身份鉴别:用问答式模型指纹识别方法及机器学习推理策略,提升对主流大模型版本的识别能力。

本次分享提出了构建互联网Token态势感知平台的总体思路,可应用于大模型服务测绘、Token消耗态势分析、市场格局观测、备案合规辅助及服务质量监测等场景,能够有效推动Token服务从“看不清、测不准”向“可观测、可分析、可治理”演进。

下一步,致网科技将继续推进大模型与智能体态势感知、大模型与智能体关联分析等方向的研究,为行业把握Token服务运行规律、支撑大模型规模化应用落地提供更加体系化的技术支撑。

图片 4

持续深化研究布局,夯实Token服务观测与治理支撑能力

从本次分享内容来看,致网科技围绕Token技术的研究已形成清晰的技术路线和能力布局。一方面,团队持续聚焦Token工厂识别、Token产量估算、模型身份鉴别等关键问题,不断完善基于网络流量的感知与分析方法;另一方面,基于互联网Token态势感知平台建设思路,进一步拓展大模型服务测绘、Token消耗态势分析、备案合规辅助、服务质量监测等支撑能力。

同时,结合大模型与智能体加快发展的趋势,致网科技也在持续推进面向智能体态势感知、大模型—智能体关联分析等方向的研究探索,不断提升对Token服务运行态势的洞察能力以及对行业治理需求的支撑能力。

图片 6

作为业界领先的AI基础设施软件及服务提供商,致网科技将继续围绕Token计量、态势感知、服务测绘和运行治理等方向深化研究,推动相关成果向平台化、体系化能力加速演进。致网科技立足行业前沿需求,持续加强与产业链各方的交流协作,共同推动Token服务体系向更加开放、透明、高效、可信的方向发展,不断提升对大模型规模化应用、行业治理能力建设及人工智能产业高质量发展的支撑水平,更好服务国家战略需求和产业创新实践。