model_path="demo.model.bin"
word="csdn"
import fasttext
model= fasttext.load_model(model_path)
python 使用fasttext 加载 已经训练好的模型,结果出现异常,代码如上
“Exception: fastText: Cannot load demo.model.bin due to C++ extension failed to allocate the memory”
文章图片
主要原因是 c++ 版本训练的fasttext 的bin文件的问题,后面重新使用java 版本的fasttext.jar 训练后不存在上面模型加载的问题
基本命令如下
FTDATA='https://www.it610.com/article/data/ft_data'
FTMODEL='data/ft_model'
#文本分类
function train(){
class_id=${1}
input=${FTDATA}/${class_id}.data
output=${FTMODEL}/${class_id}.model
java -cp jar/fasttext.jar fasttext.Main supervised -input ${input} -output ${output} -dim 50 -wordNgrams 2 -ws 5 -minCount 2 -ep
och 10 -thread 10}
# 词向量训练
function train_unsupervised(){
class_id=${1}
input=${FTDATA}/${class_id}.data
output=${FTMODEL}/${class_id}.model
java -cp jar/fasttext.jar fasttext.Main skipgram -input ${input} -output ${output} -dim 50 -wordNgrams 2 -ws 5 -minCount 2 -epoc
h 10 -thread 10
}
【java|fasttext 加载模型 内存分配失败】jar 包地址:https://download.csdn.net/download/renyuanfang/10782326
推荐阅读
- Java|Java基础——数组
- 人工智能|干货!人体姿态估计与运动预测
- java简介|Java是什么(Java能用来干什么?)
- Java|规范的打印日志
- Linux|109 个实用 shell 脚本
- 程序员|【高级Java架构师系统学习】毕业一年萌新的Java大厂面经,最新整理
- Spring注解驱动第十讲--@Autowired使用
- SqlServer|sql server的UPDLOCK、HOLDLOCK试验
- jvm|【JVM】JVM08(java内存模型解析[JMM])
- 技术|为参加2021年蓝桥杯Java软件开发大学B组细心整理常见基础知识、搜索和常用算法解析例题(持续更新...)