“词元”是AI处理语言的最小单元,可以是字、词或符号。AI聊天、写文章、读内容时,都会把文字拆成词元来计算。它决定AI能记住多长内容、生成多少文字,关系到使用的计费和算力消耗,是人工智能最基础的计量标准。
(图片由豆包AI生成)
2026年3月23日,在中国发展高层论坛2026年年会上,国家数据局局长刘烈宏正式给出Token的中文名——“词元”。
作者姓名:袁莹
作者单位:西北师范大学
作者邮箱:yuanying@stu.huanghuai.edu.cn
编辑:朱真逸
审核:佘婉宁
分享快讯到朋友圈