Skip to content

Latest commit

 

History

History
176 lines (119 loc) · 6.87 KB

train_layoutparser_model_ch.md

File metadata and controls

176 lines (119 loc) · 6.87 KB

English | 简体中文

训练版面分析

1. 安装

1.1 环境要求

  • PaddlePaddle 2.1
  • OS 64 bit
  • Python 3(3.5.1+/3.6/3.7/3.8/3.9),64 bit
  • pip/pip3(9.0.1+), 64 bit
  • CUDA >= 10.1
  • cuDNN >= 7.6

1.2 安装PaddleDetection

# 克隆PaddleDetection仓库
cd <path/to/clone/PaddleDetection>
git clone https://github.com/PaddlePaddle/PaddleDetection.git

cd PaddleDetection
# 安装其他依赖
pip install -r requirements.txt

更多安装教程,请参考: Install doc

2. 准备数据

下载 PubLayNet 数据集:

cd PaddleDetection/dataset/
mkdir publaynet
# 执行命令,下载
wget -O publaynet.tar.gz https://dax-cdn.cdn.appdomain.cloud/dax-publaynet/1.0.0/publaynet.tar.gz?_ga=2.104193024.1076900768.1622560733-649911202.1622560733
# 解压
tar -xvf publaynet.tar.gz

解压之后PubLayNet目录结构:

File or Folder Description num
train/ Images in the training subset 335,703
val/ Images in the validation subset 11,245
test/ Images in the testing subset 11,405
train.json Annotations for training images 1
val.json Annotations for validation images 1
LICENSE.txt Plaintext version of the CDLA-Permissive license 1
README.txt Text file with the file names and description 1

如果使用其它数据集,请参考准备训练数据

3. 配置文件改动和说明

我们使用 configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml配置进行训练,配置文件摘要如下:

_BASE_: [
  '../datasets/coco_detection.yml',
  '../runtime.yml',
  './_base_/ppyolov2_r50vd_dcn.yml',
  './_base_/optimizer_365e.yml',
  './_base_/ppyolov2_reader.yml',
]

snapshot_epoch: 8
weights: output/ppyolov2_r50vd_dcn_365e_coco/model_final

从中可以看到 ppyolov2_r50vd_dcn_365e_coco.yml 配置需要依赖其他的配置文件,在该例子中需要依赖:

  • coco_detection.yml:主要说明了训练数据和验证数据的路径

  • runtime.yml:主要说明了公共的运行参数,比如是否使用GPU、每多少个epoch存储checkpoint等

  • optimizer_365e.yml:主要说明了学习率和优化器的配置

  • ppyolov2_r50vd_dcn.yml:主要说明模型和主干网络的情况

  • ppyolov2_reader.yml:主要说明数据读取器配置,如batch size,并发加载子进程数等,同时包含读取后预处理操作,如resize、数据增强等等

根据实际情况,修改上述文件,比如数据集路径、batch size等。

4. PaddleDetection训练

PaddleDetection提供了单卡/多卡训练模式,满足用户多种训练需求

  • GPU 单卡训练
export CUDA_VISIBLE_DEVICES=0 #windows和Mac下不需要执行该命令
python tools/train.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml
  • GPU多卡训练
export CUDA_VISIBLE_DEVICES=0,1,2,3
python -m paddle.distributed.launch --gpus 0,1,2,3 tools/train.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --eval

--eval:表示边训练边验证

  • 模型恢复训练

在日常训练过程中,有的用户由于一些原因导致训练中断,用户可以使用-r的命令恢复训练:

export CUDA_VISIBLE_DEVICES=0,1,2,3
python -m paddle.distributed.launch --gpus 0,1,2,3 tools/train.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --eval -r output/ppyolov2_r50vd_dcn_365e_coco/10000

注意:如果遇到 "Out of memory error" 问题, 尝试在 ppyolov2_reader.yml 文件中调小batch_size

5. PaddleDetection预测

设置参数,使用PaddleDetection预测:

export CUDA_VISIBLE_DEVICES=0
python tools/infer.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --infer_img=images/paper-image.jpg --output_dir=infer_output/ --draw_threshold=0.5 -o weights=output/ppyolov2_r50vd_dcn_365e_coco/model_final --use_vdl=Ture

--draw_threshold 是个可选参数. 根据 NMS 的计算,不同阈值会产生不同的结果 keep_top_k表示设置输出目标的最大数量,默认值为100,用户可以根据自己的实际情况进行设定。

6. 预测部署

在layout parser中使用自己训练好的模型。

6.1 模型导出

在模型训练过程中保存的模型文件是包含前向预测和反向传播的过程,在实际的工业部署则不需要反向传播,因此需要将模型进行导成部署需要的模型格式。 在PaddleDetection中提供了 tools/export_model.py脚本来导出模型。

导出模型名称默认是model.*,layout parser代码模型名称是inference.*, 所以修改PaddleDetection/ppdet/engine/trainer.py (点开链接查看详细代码行),将model改为inference即可。

执行导出模型脚本:

python tools/export_model.py -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml --output_dir=./inference -o weights=output/ppyolov2_r50vd_dcn_365e_coco/model_final.pdparams

预测模型会导出到inference/ppyolov2_r50vd_dcn_365e_coco目录下,分别为infer_cfg.yml(预测不需要), inference.pdiparams, inference.pdiparams.info,inference.pdmodel

更多模型导出教程,请参考:EXPORT_MODEL

6.2 layout_parser预测

model_path指定训练好的模型路径,使用layout parser进行预测:

import layoutparser as lp
model = lp.PaddleDetectionLayoutModel(model_path="inference/ppyolov2_r50vd_dcn_365e_coco", threshold=0.5,label_map={0: "Text", 1: "Title", 2: "List", 3:"Table", 4:"Figure"},enforce_cpu=True,enable_mkldnn=True)

更多PaddleDetection训练教程,请参考:PaddleDetection训练