此项目为Transformer学习使用,项目内文件说明如下:
1、文件Transformer_train.ipynb:为Transformer模型训练的jupyter notebook代码
2、文件Transformer_test.ipynb:为Transformer模型测试使用的jupyter notebook代码
3、目录tokenizer:保存训练过程中生成的subwords,供模型断点续训、模型测试时使用
4、目录checkpoint:模型训练时产生的checkpoint,保存模型的训练参数、optimizer,供模型断点续训、模型测试时使用
5、课件:Transformer知识要点的整理,B站讲解视频中的课件
觉得有帮助的话,给个star鼓励一下吧~~ 期待您的关注