tokenizer.encode转为onehot的简单介绍

由于任何两个不同词的onehot向量的余弦相似度都为0，多个不同词之间的相似度难以通过onehot向量准确地体现出来 word2vec#x2F2F具的提出正是为了解决上#x2FAF这个问题它将每个词表#x2F70成#x2F00个定#x2ED3的向量，并使得这些向量能较好地表达。

public BigInteger encodeDecodeBigInteger base BigInteger a = ONE BigInteger s = base BigInteger n = myKey while ！nequalsZERO if！nmodTWOequalsZERO a = amultiplysmodmyMod s =。

输入层上下文单词的onehot 假设单词向量空间dim为V，上下文单词个数为C 所有onehot分别乘以共享的输入权重矩阵W V*N矩阵，N为自己设定的数，初始化权重矩阵W 所得的向量 因为是onehot所以为向量 相加求平均。

格拉菲特模型可以用于机器翻译，将一种语言的文本翻译成另一种语言的文本以下是一个使用格拉菲特模型进行中英文翻译的例子```python prompt=quot我爱你quotinput_ids=tokenizerencodeprompt，return_tensors=#39pt#39output=model。

input_ids=promptinput_ids=torchtensorinput_ids，dtype=torchlong，device=selfdeviceunsqueeze0withtorchno_gradoutputs=selfmodelinput_ids，None，length=length，temperature=temperature。