中国信通院首轮“智能终端大模型计算性能基准评估”正式启动

关注ICT领域的 PTEXPO

随着模型轻量化和终端算力提升，大模型正在向端侧迁移，手机、PC、机器人、家居等设备越来越多的开始支持大模型本地部署和推理计算。国内外已经有多家芯片、终端厂商发布端侧大模型产品，能运行大模型的AI PC成为2024年CES展热点之一。搭载本地大模型的终端将实现全新的AI原生操作和功能，如能够提供更加个性化的智能助理、AIGC等服务。与此同时，端侧大模型的部署将对终端设备的计算性能提出新的挑战，大模型轻量化技术、终端软硬件算力平台承载大模型的能力水平，将直接影响消费者用户的AI体验。

为科学度量终端AI计算水平，促进端侧软硬件平台与大模型应用适配，以测促选，以评促进，助力消费者选型AI终端，助力端侧智能产业发展，中国信息通信研究院（简称“中国信通院”）以多年终端BENCHMARK标准研究工作、“泰慧测AI” 基准测试工具为基础，现联合电信终端产业协会正式启动首轮“智能终端大模型计算性能基准评估”，征集支持大模型应用的终端产品参加测试评估，活动安排如下：

1. 报名渠道：应征主体应于2024年4月30日前填写附件《智能终端大模型计算性能基准评估报名表》，发送至邮箱liuenqi@caict.ac.cn。

2. 基准共建：2024年5月30日前确定测评基准数据集、基准模型。评估基准将由报名单位共同参与建设、由专家评审最终确定。

3. 产品测评：中国信通院泰尔终端实验室组织开展测试评估，定向（非公开）通知企业产品测评结果水平。

4. 结果发布：2024年6月30日前，评选出优秀产品名单。第一批相关评估结果根据企业自愿的原则，拟在2024年度北京等地区年度重量级会议（如中国国际信息通信展等）进行发布，授予证书。享受现场展览展示、官网、官微同步进行推广宣传等优质权益。

本次征集拟聚焦支持端侧大模型部署的芯片、终端企业，通过测评遴选出标杆性的优秀产品，推动AI终端产业的创新和发展，欢迎相关产品企业踊跃报名。

附件.《智能终端大模型计算性能基准评估报名表》.docx