PPIO亮相AICC算力大会:以智能Token工厂打造Agent时代的智能生产线
作者:龚作仁 文章来源:Laborer
2026-09-24 11:07
作者:龚作仁 文章来源:Laborer
2026-09-24 11:07
邦小白快读
近日,PPIO受邀参加AICC 2026人工智能计算大会。
PPIO研发副总裁李星星发表了题为《PPIO的 Token工厂与智能模型网关实践》的主题演讲,分享了PPIO在智能模型网关、推理加速引擎、全球算力调度与Agent沙箱等核心能力,系统阐述了面向Agent时代的智能Token工厂方法论与全球化实践。
从人使用Token,到Agent使用Token
Token工厂这一概念由英伟达较早提出,今年以来随着AI产业的高速发展,Token工厂正式进入爆发期。李星星指出,5G时代比拼的是手机流量,AI时代比拼的则是Token。
来自工业和信息化部、国家数据局的最新数据显示,截至2026年 6月,我国日均Token调用量已突破500万亿,较2024年增长约5000倍。在OpenRouter全球平台上,中国开源模型的Token调用量连续多周超越美国模型,位居全球第一。
李星星总结了Token爆发的双重驱动力。第一重驱动力,来自于大模型智能的持续跃升以及成本的断崖式下降。以海外模型为例,Anthropic与 OpenAI正在SOTA模型上激烈竞逐,接连攻克多项长期悬而未决的数学难题。与此同时,行业Token价格较GPT-3.5/4时代已下降约100至 200倍,单价跌破1 美元/百万Token,AI推理全面进入普惠阶段。
第二重驱动力,则来自于Agent的爆发。Hermes Agent、OpenClaw这类Agent产品已经成为Openrouter平台最大的Token消耗方,PPIO平台上的Token消耗也以Agent任务为主。
Agent使用云的行为模式与人类截然不同。传统云服务以“请求—响应”的同步交互为主,使用节奏与人的作息一致;而Agent被交付复杂任务后可以持续自主探索,任务时长从分钟级的对话、10分钟级的PPT生成,延伸到小时级、天级乃至周级的复杂调研,并具备自主重试、策略调整与自我纠错能力。
“云基础设施需要被重新定义——从为人提供资源转向为Agent提供智能生产环境。”李星星总结道。
PPIO智能Token工厂:为Agent时代打造智能生产线
针对Agent时代的智能新命题,PPIO提出了“智能Token工厂”的系统性解法,并给出一条生产力公式:Agent生产力 =Token智能密度 ×Agent Loop时长。Token智能密度指单位Token所携带的智能总量,Agent Loop时长则对应任务复杂度。
围绕这一公式,PPIO的智能Token工厂构建了以下核心能力:
一是智能模型网关。 面对累计已上架数百款模型带来的“选择困难”,PPIO把繁复的评测榜单内化进网关,根据用户输入内容与使用场景(写作、Coding等)自动调度不同模型,用Auto智能调度与Fusion融合模型“双引擎”分工协作。
Auto模式按任务复杂度动态路由最优模型,简单任务用轻量模型、复杂任务用强模型,辅以冗余上下文压缩、预算护栏与失败回退机制,实测可节省60% 的Token开销。
Fusion模式则将一次请求同时分发给多个专家模型并行作答,通过思考编排与交叉验证融合生成最终答案,用约1/10的成本实现了旗舰模型的智能水平。
“我们不是卖最贵的‘超级模型’,也不是卖最便宜的‘乞丐模型’,而是用工程化手段,把模型的‘智商分’稳定在头部梯队,同时把价格打到中低梯队。”李星星表示,这正是智能模型网关“Auto调度降本 +Fusion会诊提质”方法论的核心价值。
二是推理加速引擎。PPIO从算子优化到推理加速实现全栈自研,通过PD分离、KV Cache优化、批处理调度、显存管理等核心技术,在同等硬件条件下实现更高吞吐与更低延迟,可实现300% 的吞吐提升,性能超越模型原厂与开源社区。
PPIO在今年6 月入选中国信息通信研究院Token服务能力攀登计划,在通用场景下PPIO模型服务可实现TPS≥55个/秒、TTFT≤0.9秒、调用成功率 ≥99.9%。
三是全球算力调度。PPIO构建了全球算力网络,覆盖6 大洲、5000+ 节点、1500+ 县市。PPIO利用东西半球的峰谷差实现算力跨时区潮汐复用,智能调度系统根据实时负载、网络延迟、电力成本等多维因素动态分配推理任务,GPU平均利用率达75% 以上,远高于行业平均水平。
四是Agent Harness与安全沙箱。 通过统一封装工具调用、支持ReAct、Plan-and-Execute等多步推理编排以及分层记忆管理,配合虚拟机级隔离的沙箱执行环境、细粒度权限管控和全链路审计,让Agent真正从“会说”走向“会做”。
李星星指出,当前主流的Agent Harness产品大多只能在本地运行,PPIO做的一件事是把Harness搬到云端——复杂任务可以24小时连续不间断执行,用户甚至能用手机管理任务,无需本地电脑长期开机;同时所有运行都在云端隔离沙箱内完成,支持大量试错、代码编写与验证,不安全操作被限制在独立环境中。目前已有不少大模型厂商使用PPIO的安全沙箱进行强化学习验证,沙箱推出一年后已实现超百倍增长。
Token出海,PPIO的技术全球化实践
李星星还分享了PPIO的全球化布局与中国AI技术出海实践。
PPIO通过东西半球潮汐调度实现算力跨半球流动——亚洲白天高峰调度至美洲夜间低谷、欧洲高峰调度至亚太夜间,实现全球算力利用率最大化;同时以200+ 主流模型的多语言多模型支持、遵循各地区数据保护法规的本地化部署方案,服务全球开发者生态。
PPIO深度融入全球AI开源生态,与GitHub、Hugging Face、OpenRouter、vLLM、SGLang等全球主流开发者社区建立紧密合作,与数十家AI工具与产品完成生态对接合作。
李星星表示,从互联网、移动互联网时代“产品创新在中国、技术创新在美国”的格局,到AI时代中国的技术能力同样强劲、并更多面向全球输出,PPIO希望把Token工厂的服务带到全世界。PPIO的全球化实践证明,中国AI企业不仅能在本土市场取得成功,更能通过技术创新和基础设施布局参与全球AI产业竞争。智能Token工厂模式为中国AI技术出海提供了可复制的基础设施范式。
PPIO致力于构建面向Agent时代的智能Token工厂,以技术创新驱动AI产业可持续发展,让智能算力像水电一样普惠可用,与行业伙伴和开发者社区共创智能未来。
注:文/龚作仁,文章来源:Laborer,本文为作者独立观点,不代表亿邦动力立场。
【版权提示】亿邦动力倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至run@ebrun.com,我们将及时沟通与处理。
已点赞
{{ praise_text }}
好文章,值得被更多人看到
FAQ回顾
智能Token工厂是什么?
Token工厂概念由英伟达较早提出,指将Token生产、调度与优化变成标准化基础设施。PPIO进一步提出智能Token工厂,通过智能模型网关、推理加速引擎、全球算力调度与Agent沙箱,为Agent时代构建智能生产线,其生产力公式为Agent生产力=Token智能密度×Agent Loop时长。
AI时代Token调用量增长有多快?
据工业和信息化部、国家数据局数据,截至2026年6月,中国日均Token调用量已突破500万亿,较2024年增长约5000倍;在OpenRouter全球平台上,中国开源模型的Token调用量连续多周超越美国模型,位居全球第一。
Token价格为什么会大幅下降?
主要受大模型智能跃升和成本断崖式下降驱动。Anthropic、OpenAI在SOTA模型上展开竞赛,推动能力持续提升;行业Token价格较GPT-3.5/4时代下降约100至200倍,单价跌破1美元/百万Token,AI推理全面进入普惠阶段。
Agent对云基础设施提出了哪些新要求?
Agent被交付复杂任务后可自主探索,任务时长从分钟级延伸到小时、天甚至周级,并能自主重试、自我纠错。传统以“请求—响应”同步交互、按人作息设计的云服务不再适用,云基础设施需从为人提供资源转向为Agent提供智能生产环境。
PPIO智能模型网关的Auto调度和Fusion模式有什么优势?
Auto模式按任务复杂度动态路由模型,简单任务用轻量模型、复杂任务用强模型,实测可节省60% Token开销;Fusion模式将一次请求分发给多个专家模型并行作答并交叉验证,用约1/10成本实现旗舰模型智能水平,体现“Auto调度降本、Fusion会诊提质”的价值。
下一篇
里斯品类创新战略咨询温玉川:从跟随爆款到品类创新
“外贸青蓝计划·品牌跃迁”第二期课程在杭州萧山举行,里斯品类创新战略咨询海外事业部总监温玉川分享了从跟随爆款走向品类创新的方法。
















