观点网讯:8月26日,奥尼AI算力端边云协同创新论坛在深圳国际会展中心举行。论坛上,由奥尼电子提出、深圳市人工智能产业协会归口的团体标准《端侧人工智能算力工作站通用技术规范》正式发布。
该标准是国内首个针对端侧AI算力工作站的团体标准,将于9月1日起实施。
当前端侧AI算力设备行业长期存在指标不统一、产品分级模糊、评测依据缺失等痛点,制约本地大模型和AI智能体硬件载体形成技术共识。
此次发布的标准严格按照GB/T 1.1编制要求,针对端侧人工智能算力工作站设置消费级、专业级、企业级三级配置划分,覆盖推理性能、AI智能体运行环境、断网可用性、信息安全、兼容性、环境可靠性等技术要求,并配套完整的测试与检验方法。
标准明确了算力、内存、存储、可支持模型参数量等硬指标,规范了首Token延迟、吞吐量等推理性能测试方法及测试模型、推理引擎、测试参数。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。