概览
GloVe
GloVe 简介 全局词向量表示,Global Vectors for Word Representation, GloVe 除了 Word2Vec 之外,常用的通过训练神经网络的方法得到词向量的方法还包括 GloVe 词向量、fasttext 词向量等等 GloVe 词向量简介 GloVe 词向量直译为全局的词向量表 …
Word2Vec
Word2Vec 简介 嵌入(embedding)是机器学习中最迷人的想法之一。 如果你曾经使用 Siri、Google Assistant、Alexa、Google 翻译, 甚至智能手机键盘进行下一词预测,那么你很有可能从这个已经成为自然语言处理模型核心的想法中受益 在过去的几十年中,嵌入技术用于神经网络模型已有相当 …
Word Embedding
Sequence Representation
FastText
fasttext 算法简介 fasttext 的模型与 CBOW 类似,实际上,fasttext 的确是由 CBOW 演变而来的。 CBOW 预测上下文的中间词,fasttext 预测文本标签。与 Word2Vec 算法的衍生物相同, 稠密词向量也是训练神经网路的过程中得到的 fasttext 的输入是一段词的序列,即 …