深入浅出Embedding:原理解析与应用实践
上QQ阅读APP看书,第一时间看更新

2.4 小结

利用TensorFlow、PyTorch工具提供的嵌入层(即Embedding Layer)可以很方便地生成Embedding,该层一般作为整个网络的第一层。还可以通过预训练模型的方法获取词嵌入,该方法也是目前自然语言处理中的常用方法。预训练模型一般基于巨大的语料库,利用较大的模型训练而成,很多平台都提供各种预训练模型的下载,具体使用方法将在下一章介绍。