IT时代网8月28日消息,海光信息昨日首发"Agent to Token开放计算架构",依托CPU与DCU双芯协同及开放互连,为词元经济规模化发展提供从芯片到应用的全新算力框架。
大模型加速向产业场景渗透,Agent正成为AI落地真实业务的核心抓手。词元作为连接业务需求、算力投入与服务产出的关键载体,其生产效率与单位成本直接决定Agent应用的深度。该架构通过"CPU+DCU"双芯及开放互连体系,把Agent调度与词元生成纳入统一算力架构。
海光CPU承担Agent业务流的系统枢纽职能,覆盖数据预处理、任务编排决策、记忆体分级存储、向量数据库检索等核心模块。DCU聚焦词元生成侧的并行计算加速,承担批量解码、KV缓存优化、预处理加速、长序列支撑等任务。双芯协同可根据Agent并发规模与任务复杂度动态调配资源。
该架构在算力、互连、安全、软件栈四个维度全面开放:算力开放支持双芯原生组合;互连开放以自研HSL协议突破带宽瓶颈;安全开放依托芯片级内生安全提供全链路可信;软件栈开放适配百余种AI框架。这是海光面向词元经济的体系化算力升级,推动国产CPU、DCU和不同加速卡在统一计算体系下调配应用。
注:本文中包含AI辅助创作的内容。