• 2026最新赛程 “Token”有了中语名“词元”,那么Token(词元)到底是什么
  • 2026FIFA世界杯中国比分网
世界杯赛程
热点资讯
推荐资讯

2026最新赛程 “Token”有了中语名“词元”,那么Token(词元)到底是什么

发布日期:2026-05-22 08:09 点击次数:171

2026最新赛程 “Token”有了中语名“词元”,那么Token(词元)到底是什么

在不久前举行的中国发展高层论坛年会上,国度数据局局长刘烈宏给一个东谈主工智能界限的中枢认识Token赋予了中语名——词元。那么,Token(词元)到底是什么?东谈主工智能和数据产业的将来会怎么?请听中国工程院院士王坚在央视财经频谈“中国经济大讲堂”上的解读。

中国工程院院士王坚。(府上图片)

『大模子处理文本的最小单元』

东谈主类发展的速率终点快,之前是信息时间,很快又干预了AI时间。关联词,在很永劫候里,咱们并莫得把信息和数据进行很好的隔离。咱们曩昔讲的比特、字节齐是信息的计量单元,在很永劫候里咱们也用这些计量单元来筹办数据。而Token(词元)这一认识的出现,使数据有了明确的计量单元。这是把数据和信息隔离开来的一个终点紧迫的分水岭。

Token(词元)是大模子意会、处理、生成信息的最小单元。打个譬如,在曩昔的信息界限,一般情况下咱们是用两个字节抒发一个汉字,是以,要是要抒发“我心爱你”,加起来即是8个字节。而在AI模子中,如何把“我心爱你”这4个字拆成最小的数据单元呢?按照咱们的意会,“我”是一个最小的单元,“心爱”是一个最小的单元,“你”是一个最小的单元。但是从Token的角度来看并不是这样,“我心爱”可能是一个最小的单元,那么“我心爱你”就变成了两个Token。在许多场景中,它跟咱们平时的警告是不一致的。是以,Token(词元)是以它我方的表情组合、供模子处理信息的最小基础单元,它更像是一个“词块”,不错是一个齐备的词、一个常见短语,致使是一个标点标记或额外字符。

同期,Token(词元)亦然AI界限的计量单元。用鄙俗的话来说,Token(词元)这个认识像咱们平时讲的斤、两之类的计量单元。而且,就像生存中一斤肉比一斤青菜贵雷同,不同的Token(词元)也有不同的价值。要是一种Token(词元)背后消耗的资源比较多、生成比较复杂,那么它本人就比较有价值,可能这种Token(词元)就会贵一些。是以,Token(词元)不可肤浅地等同于货币,它是数据的通用计量单元。

Token(词元)在东谈主工智能界限被人人所强劲,是因为2017年发表的一篇著述《你所需要的仅仅翔实力》。这篇著述由谷歌的8位科学家创作,其中建议的Transformer架组成为东谈主工智能模子的基石,同期也建议了Token(词元)这个认识。Token(词元)的出现,意味着数据有了我方的“东谈主格”,数据有了我方独处的身份。也即是说,任何数据要是莫得Token(词元)的身份,就进不了东谈主工智能模子。

咱们平时使用的普通的数据,也称为原始数据。东谈主工智能模子使用原始数据之前,领先必须把扫数的数据Token(词元)化。咱们不错把模子意会成一个“笔墨翻译器”,但它并不像东谈主类那样径直意会句子或段落,它必须先将输入的笔墨切分红一个个小块,然后给每个小块分拨一个惟一的数字ID,再把这些数字交给神经积累进行筹办。这些被切分出来的“小块”,即是Token(词元)。它既不是英文里的单词,也不是中语里的字,它是以它我方的表情组合的最小单元。

东谈主工智能模子的初始逻辑,即是找到不同Token(词元)之间的关系。试想一下,要熟识一个大谈话模子,可能要用上亿个Token(词元),是以就要找准它们之间的关系,况且很好地在模子中抒发出来。当大模子与某个期骗聚首时,比如你向大模子发问,它就会在算力“算”完后输出相应的Token(词元)行为谜底。

总之,Token(词元)是大模子处理文本的最小单元,它玄虚反馈了数据的价值以及模子的锐利、算力的些许,是以,Token(词元)是AI系统初始的中枢。

(视觉中国供图)

『符号着数据成分市集的开启』

在东谈主工智能大模子界限,Token(词元)是掂量算力与老本的计量单元,因此它具有可计量、可订价、可走动的特征。

在Token(词元)出现之前,数据的价值很难界定。但跟着东谈主工智能的发展,原始数据变成了Token(词元),Token(词元)通过大模子以一定的表情进行畅通,并向那些期骗东谈主工智能的消费者收取一定的用度。不错说,Token(词元)使数据本人完成了丽都转型。

要是莫得基本的计量单元,是不可能酿成一个新兴产业的。打个譬如,你跑到菜市集去买菜,要是莫得计量单元,称不出几斤几两,这个菜市集就不建立。卖鱼的、卖肉的、卖鸡鸭的齐莫得调治的计量单元,那是难以酿成一定的经济界限的。这亦然曩昔数据成分市集一直莫得建立起来的主要原因。

因此,Token(词元)的出现,事实上符号着数据成分市集的开启。这是一件具有潜入酷好的事情。咱们知谈,一个东西在市集上畅通时,它会经过许多东谈主的手,每次过手的时候,它齐要作念一次结算。有了Token(词元)这样一个可计量、可计价的单元,就意味着扫数的数据在畅通经过中不错自动结算,这将使产业链的老本大大裁减,畅通速率大大加速,并成为东谈主工智能产业营业化的紧迫旅途。将来,当一个企业为另一个企业出产Token(词元)时,它们在积累上不错约略完成走动,因此,数据成分市集将比其他成分市集愈加高效。

莫得任何一家企业是不错不和出产成分市集打交谈的。是以,咱们一定要把Token(词元)放到数据成分市集的布景下,而不是肤浅地放到东谈主工智能的布景下去意会。

我认为,新的数据成分市集的出现,对翻新式企业、中小企业、初创企业可能会愈加友好。因为,大多数传统企业会更多享受传统成分市集的公正,而对新的数据成分市集可能会有一定的惰性。是以,这是企业翻新发展的一个最佳的时机。

从数据成分市集的角度来说,它还将成心于数据和算力的全球畅通。比如,你今天拿入部下手机到南好意思一个地点期骗了AI,这就意味着Token(词元)从中国到了南好意思。要是一个南好意思的诱骗者用中国的模子诱骗了期骗,并向南好意思消费者提供办事的话,自关联词然Token(词元)就畅通到了南好意思。是以,当东谈主工智能平台办事全球的时候,Token(词元)就变成了一种结算表情。

此前,许多东谈主对东谈主工智能的温雅大多停留在大模子的技能竞速上,而Token(词元)的价值显现正在把一场深层的产业变革带到扫数东谈主的眼前,它不仅反馈在技能层面,更将重构通盘行业、通盘产业的老本结构、营业模式和互助表情,继而全面影响东谈主们的生存。

『“小龙虾”一会儿爆火的背后』

白金会(PlatinumGaming)官网手机版

2026年1月底,一款名为Open Claw(昵称“小龙虾”)的开源AI智能体一会儿爆火,从技能圈飞速席卷全网,开启了全民“养虾”时间。这款以卡通小龙虾为Logo的智能体,透顶防碍了传统AI只会聊天、不会干活的局限,凭借感知、决议、实行的闭环材干和24小时自主初始,成为有时摄取提醒、调用器具、读写文献、实行剧本的全功能数字助手。

但是,确切用过“小龙虾”的诱骗者和用户齐知谈一个痛点:Token(词元)消耗太猛了。一个看似肤浅的查询,球队数据与历史记录就能消耗几十万Token(词元),从而让消费者收到超出设想的高额账单。

其实,在曩昔几年,东谈主工智能的背后如故有Token(词元)的认识了。东谈主们使用豆包或千问时,你问一句,它答一句,Token(词元)的消费量没那么大,也即是说算力的消费量没那么大,是以公众不错免费使用豆包或千问。

但是,像“小龙虾”之类的期骗,意味着东谈主工智能发展到了一定水平,它对数据的需求大大增多。为什么此次“小龙虾”的出现会引爆Token(词元)这个认识呢?因为“小龙虾”的Token(词元)消耗不是按需触发,而是执续产生的,是以其消费的Token(词元)量大大超出了原来那些东谈主工智能的期骗,从而导致使用者需要为消耗的巨量Token(词元)支付账单。“小龙虾”在骨子上与其他的东谈主工智能期骗比拟,由于Token(词元)调用量高出大,才使这个问题暴透露来。

无独到偶,2026年3月25日,好意思国东谈主工智能公司OpenAI晓喻断绝旗下AI视频生成模子Sora扫数的办事与运营。事实上,自2024年2月初次亮相以来,Sora在约25个月的运营时候里,期骗要领的总收入仅约210万好意思元。而据福布斯测算,Sora名堂年化运营老本高达50多亿好意思元。逐日数亿级的Token(词元)消耗,让即使得回了无数投资的OpenAI仍感不胜重担,只可忍痛将其关停。像Sora这样的事件,恰是因为生成视频需要破钞比人人设想多得多的Token(词元),收尾,破钞那么多Token(词元)生成的视频的价值还抵不外Token(词元)本人的价值,是以营业逻辑无法建立。

AI大模子出现以后,人人一直有这样一个困惑的问题:到底用什么方式、什么步调来使用东谈主工智能模子呢?这在曩昔是一个问题。而“小龙虾”的出现,阐发东谈主工智能有它我方寥落的期骗表情。比如,“小龙虾”把曩昔App的认识颠覆了,使用东谈主工智能期骗不需要再去装一个个App。一个“小龙虾”执行上作念了曩昔十几个、二十几个App作念的事情。不错说,“小龙虾”的形态和构建表情与东谈主工智能是相匹配的。

跟着“小龙虾”从小众器具成为人人期骗,国度互联网济急中心与中国积累空间安全协会于2026年3月发布了《Open Claw安全使用实践指南》,面向普通用户、企业用户、云办事商以及技能诱骗者等建议安全贯注建议,为这一新兴生态系上“安全带”。

『Token爆发式增长意味着什么』

国度数据局局长刘烈宏在本年3月24日国务院新闻办举行的新闻发布会上公布了一组令东谈主胆寒的数据:2024年头,中国日均Token(词元)调用量为1000亿,至2025年底该数据跃升至100万亿,到本年3月如故突破140万亿。两年间,增长越过1000倍。

Token(词元)的爆发式增长意味着什么?

领先,意味着东谈主工智能期骗本人发生了质的变化。

在软件时间,一个软件有些许行代码,基本上代表了这个软件的复杂度,也即是它的价值。今天,当咱们用AI模子的时候,Token(词元)就会产生畅通,这个畅通既高慢出原来熟识模子时所消耗的算力,同期也高慢出其本人初始需要消耗的算力。是以,Token(词元)的消费量激增,代表东谈主工智能期骗发展到了一个新的水平。

拿电来打譬如。早期的时候,家里只消一个电灯,只用少量点电,其后有了雪柜、洗衣机、空调,用电量大增,这代表了生流水平的提高,也阐发电对社会生存和经济的影响。Token(词元)的爆发式增长亦然雷同,这是一个终点可喜的雄伟变化。是以说,Token(词元)的消耗量是东谈主工智能时间的标尺。

其次,意味着东谈主工智能在中国的发展到了一个终点紧迫的拐点。在国内,诱骗、使用东谈主工智能的东谈主越来越多,每个东谈主使用的量也越来越多。日均Token(词元)调用量的无数增多,充分标明中国的东谈主工智能发展如故干预了快速增长的阶段。从能对话的谈话大模子到能决议实行的智能体,跟着期骗场景的不停深化,中国东谈主工智能产业的竞争力也显赫增强。

另外,需要指出的是,Token(词元)的爆发式增长是需要苍劲的物资基础来支执的,因此,单个Token(词元)的老本一定要裁减。人人遐想一下,要是用电老本不降到满盈低的话,老匹夫是不可能普遍使用空调的。而单元Token(词元)老本的裁减,除了进一步进步东谈主工智能技能、算力技能外,还需要不停改良东谈主工智能模子的期骗。这就像早年咱们用白炽灯,大部分的电齐被热量消耗掉了,是以当今咱们普遍使用节能灯。我降服将来的东谈主工智能期骗也会不停改良,尽量抵制Token(词元)的消费量,这是一个不停迭代、不停发展的经过。

『一种新经济模式可能会出现』

在信息时间,软件在很长一段时候里不知谈怎么才能挣钱。在微软公司出现之前,软件仅仅硬件的从属,是以软件产业一直莫得发展起来,直到微软公司成为第一家挣钱的软件企业。是以今天,咱们不可用静态的表情来看待东谈主工智能,因为这是一个变革性的产业,就像当年软件产业一会儿出身并飞速发展那样,可能东谈主工智能产业的发展也会出现这样的场所。

我认为,东谈主工智能的变革将远远超出之前扫数技能带来的变革,这可能是自东谈主类发明电以来最大的一次变革。人人想一下,自从发明电以后,产生了些许产业,产生了些许不同的工业门类,东谈主工智能也会有那么大的能量。

以“小龙虾”为例,它骨子上使咱们的责任表情发生了一次很大的改换。以前咱们遍及讲,要提高责任成果或者改换责任表情,而以“小龙虾”为代表的智能体的出现,致使改换了责任本人,险些每一项责任齐会濒临大的变化。

这里需要强调的是,“智能体”这个词的翻译不太准确,其实它正本的酷好是“代理”,翻译成“智能代理”应该更符合。从这个角度来看,将来会出现多样种种不同的“智能代理”,比如“旅行代理”“看病代理”等,不错匡助咱们贬责生存中方方面面的问题。

遐想一下,咱们的责任有些许单干,将来就会出现些许不同方式的责任代理。“小龙虾”仅仅其中的一种代理辛勤。但是专门想的是,“小龙虾”完成的一部单干作是以前莫得东谈主作念过的。要是你用过“小龙虾”就会发现,以前莫得东谈主会把我方扫数硬盘上的东西齐看一遍,把我方几十年的像片齐看一遍,但“小龙虾”不错作念到,只消它以为这件事跟责任是考虑系的。是以我认为,将来“智能代理”会完成一些莫得东谈主作念过的责任。这样的话,一种新的经济模式可能会出现。

一言以蔽之,Token(词元)在东谈主工智能时间是一个终点环节的认识,它与技能、营业、期骗以及产业发展齐息息干系。但愿人人有时了解Token(词元)2026最新赛程,用好咱们手里终点贵重的资源——数据资源。

------

QQ咨询

QQ: