标准编号：GB/Z 243-2026
标准名称：人工智能 端侧大模型推理引擎技术要求
英文名称：Artificial intelligence—Technical requirements for on-device large-scale model inference engine
发布部门：国家市场监督管理总局 国家标准化管理委员会
起草单位：上海交通大学、中国电子技术标准化研究院、浙江大学、淘宝（中国）软件有限公司、联想（北京）有限公司、中兴通讯股份有限公司、中国电信集团有限公司、青岛国创智能家电研究院有限公司、济南浪潮数据技术有限公司、中国电力科学研究院有限公司、中国移动通信集团终端有限公司、中国电信股份有限公司上海分公司、蔚来控股有限公司、上海壁仞科技股份有限公司、OPPO广东移动通信有限公司、天津大学、南京大学
标准状态：现行
发布日期：2026-08-27
实施日期：2026-08-27
标准格式：PDF
内容简介
本文件确立了功能视角下的端侧大模型推理引擎参考架构,规定了大模型在端侧部署的技术要求。
本文件适用于端侧大模型推理引擎的设计、开发、测试和部署。
本文件适用于端侧大模型推理引擎的设计、开发、测试和部署。
下载地址