首页
学习
活动
专区
圈层
工具
发布

国内首个端侧AI算力工作站团体标准发布 奥尼电子提出

观点网讯:8月26日,奥尼AI算力端边云协同创新论坛在深圳国际会展中心举行。论坛上,由奥尼电子提出、深圳市人工智能产业协会归口的团体标准《端侧人工智能算力工作站通用技术规范》正式发布。

该标准是国内首个针对端侧AI算力工作站的团体标准,将于9月1日起实施。

当前端侧AI算力设备行业长期存在指标不统一、产品分级模糊、评测依据缺失等痛点,制约本地大模型和AI智能体硬件载体形成技术共识。

此次发布的标准严格按照GB/T 1.1编制要求,针对端侧人工智能算力工作站设置消费级、专业级、企业级三级配置划分,覆盖推理性能、AI智能体运行环境、断网可用性、信息安全、兼容性、环境可靠性等技术要求,并配套完整的测试与检验方法。

标准明确了算力、内存、存储、可支持模型参数量等硬指标,规范了首Token延迟、吞吐量等推理性能测试方法及测试模型、推理引擎、测试参数。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OJj3tbkcbmHBJz1DBYIBwQXA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券