bert模型常见问题
bert模型是现在机器学习里边一个非常经典的模型,多用于nip方向的模型处理
首先我们在GitHub上下载google已经训练好的模型,一定要下载完整的代码和数据集。由于数据集较大,可能不太好下载,大家可以在B站
找视频,视频下的评论区会有大神分享数据集。视频课链接:https://www.bilibili.com/video/BV1NJ411o7u3?p=14&spm_id_from=pageDriver
评论区大神云集,相信会有方法解决你的数据集问题。
然后就是在讲bert在pycharm中打开,复制GitHub中提供的参数,
该图片的run_classifier.py 下面的部分
导入到pycharm中,一定要注意环境的配置,需要修改路径,把--data_dir和--output_dir的路径修改成自己的路径。这些在视频课下面的评论区会评论。
要求tensorflow版本为1.1x,python的版本为3.6或者3.7
跑结果时会遇到的问题:
首先是版本问题,然后是下面的报错问题
Windows fatal exception: access violation
解决办法是再次降低tensorflow的环境,我原先使用的是tensorflow2.3,然后这个bert模型是利用tensorflow1.x写出来的,所以就一直报错。于是就选择降低tensorflow和python的版本
首先创建一个虚拟的环境:
conda create py36 python=3.6
然后是进入虚拟环境:
conda activate py36
接着在虚拟环境下下载tensorflow1.12(使用1.14.0表示失败,仍然出现问题,所以直接下载1.12.0版本的最好):
pip install tensorflow==1.12.0
会有一段时间的下载,需要等候。下载完之后会显示done
成功之后进如python环境
输入:import tensorflow as tf
没有报错就说明tensorflow安装成功
输入:tf.__version__
可以查看tensorflow的版本问题
之后就可以在pycharm上跑bert模型的训练结果了