tokens是什么意思，Tokens是什么意思翻译

在论文中，Tokens通常指的是文本分析中的最小单位它是经过分词处理后得到的单个词汇或符号简单来说，Tokens就是文本中的一段段小片段，这些片段可以是单词数字符号等在进行自然语言处理或文本分析时，Tokens是极其重要的分析基础详细解释如下一分词与Token形成过程文本通常需要进行预处理的。

n代币象征，标志，表示，信物礼券用以启动某些机器或用作支付方式的专用辅币代价券赠券adj象征性的付款或费用装点门面的敷衍的装样子的作为标志的例句Tokenmoney could at one time be contrasted with#39fullbodied#39money代币曾一度是足价货币的对立面复数tokensToken。

tokens 英 #39t#601uk#601n 美 #39t#601uk#601nn 代币token的复数符号 例句At the level of tokenizing， we are not yet interested in how the tokens are structured， just what they are在记号赋予这一层，我们还不想讨论如何构造记号，让它们维持原样就可以了。

在语料库语言学中，会计算文本的tokens和typestokens指的是“形符”，就是文本中出现的所有词的个数types指的是“类符”，就是文本中出现的不重样的词的个数比如，有一个两句话的文本I am a boy I am a boy那么这个文本里面有8个tokens，有4个types两个数值可以对所建立的语料库。