目录
Controllable Dialogue Generation（CDG），即可控对话生成，指的是给定一段上下文和指定的属性取值，自动生成一个流畅、符合上下文且满足给定属性要求的回复。
本项目首先在Persona-Chat数据集基础上，定义了5个控制属性，用于控制模型生成回复时所用的表达形式、用词复杂程度，以及回复内容的情感、上下文相关性等。然后通过统计评估等方式对数据进行标注，而后基于自研UNIMO-Text模型框架，实现了可控对话生成模型。
- nltk
- evaluate
- tqdm
- jsonlines
安装方式：pip install -r requirements.txt
以下是本项目主要代码结构及说明：
├── data # 数据
│ ├── train.jsonl # 训练数据
│ ├── dev.jsonl # 验证数据
│ └── test.jsonl # 测试数据
├── persona # persona 任务配置
│ ├── config.json # 模型结构配置文件
│ └── vocab.txt # 词表
├── train.py # 训练代码
├── predict.py # 预测评估代码
├── gen_utils.py # 工具函数代码
├── train.sh # 训练脚本
├── inference.sh # 推理脚本
└── README.md # 说明文档
接下来，我们将按数据准备、训练、预测推理三个阶段对可控对话生成进行介绍。
- 数据准备
- 使用已做好属性处理的对话生成数据集Persona-Chat进行实验。
- 模型训练
- 数据准备完成后，可以开始使用我们的数据集对模型进行训练。首先根据任务需求，调整可配置参数，选择使用GPU或CPU进行模型训练，脚本默认保存在开发集最佳表现模型。
- 模型预测
- 训练结束后，我们可以加载保存的最佳模型进行模型测试，打印模型预测结果。
[Persona-Chat数据集]是一个英文个性化对话生成生成数据集，我们使用该数据集作为应用案例进行实验。Persona-Chat中的数据主要由用户描述、对话历史、回复3个主要部分组成。用户描述是使用多个句子刻画用户形象；对话历史则是由多轮对话组成。为研究可控对话生成任务，我们在Persona-Chat数据集的基础上，基于统计和评估等方式构造了5个属性，属性介绍与预处理细节如下：
- 特异性（Specificity）：统计回复中各词词频，经归一化后离散为3类标签；
- 情感（Sentiment）：利用Stanford CoreNLP对回复中的情感进行标注，标签为{0:position, 1:neutral, 2:negative};
- 回复相关性（Response-relatedness)：基于余弦相似度计算回复与上文的相关性（基于Glove embedding计算）;
- 是否为问句（Question-asking）：根据关键词对回复的句式进行简单标注。关键词为：{how, what, when, where, which, who, whom, whose, why, ?};
- 长度（Length）：统计回复长度，并离散为3类标签。
针对Persona-Chat数据集，我们需要将可控对话生成任务格式的数据进行转换从而得到text2text形式的数据，我们基于以下模型构造数据：
# source
persona: <persona_text> context: <context_text> attributes: <attributes_list>
# target
Response: <response_text>
处理好的数据集文件格式如下：
- train.jsonl/dev.jsonl/test.jsonl 文件格式：
{
"source": <source_text>,
"target": <target_text>,
}
运行如下命令即可在样例训练集上进行训练，并在样例验证集上进行验证。
# GPU启动，参数`--gpus`指定训练所用的GPU卡号，可以是单卡，也可以多卡
# 例如使用1号和2号卡，则：`--gpu 1,2`
unset CUDA_VISIBLE_DEVICES
python -m paddle.distributed.launch --gpus "0,1" --log_dir ./save/persona/log train.py \
--model_name_or_path="./persona/" \
--vocab_file=./persona/vocab.txt \
--save_dir=./save/persona/checkpoints \
--output_path=./save/persona/predict.txt \
--logging_steps=100 \
--save_steps=500 \
--epochs=30 \
--batch_size=128 \
--learning_rate=5e-4 \
--warmup_propotion=0.02 \
--weight_decay=0.01 \
--max_seq_len=512 \
--max_target_len=30 \
--do_train \
--do_eval \
--max_dec_len=30 \
--min_dec_len=3 \
--num_return_sequences=1 \
--device=gpu \
--train_file data/train.jsonl \
--predict_file data/dev.jsonl关键参数释义如下：
gpus指示了训练所用的GPU，使用多卡训练可以指定多个GPU卡号，例如 --gpus "0,1"。vocab_file本地训练所用词表文件地址。train_file本地训练数据地址，数据格式必须与dataset_name所指数据集格式相同，默认为None。predict_file本地测试数据地址，数据格式必须与dataset_name所指数据集格式相同，默认为None。save_dir表示模型的保存路径。output_path表示预测结果的保存路径。logging_steps表示日志打印间隔。save_steps表示模型保存及评估间隔。seed表示随机数生成器的种子。epochs表示训练轮数。batch_size表示每次迭代每张卡上的样本数目。learning_rate表示基础学习率大小，将于learning rate scheduler产生的值相乘作为当前学习率。weight_decay表示AdamW优化器中使用的weight_decay的系数。warmup_propotion表示学习率逐渐升高到基础学习率（即上面配置的learning_rate）所需要的迭代数占总步数的比例。max_seq_len模型输入序列的最大长度。max_target_len模型训练时标签的最大长度。min_dec_len模型生成序列的最小长度。max_dec_len模型生成序列的最大长度。do_train是否进行训练。do_predict是否进行预测，在验证集上会自动评估。device表示使用的设备，从gpu和cpu中选择。
程序运行时将会自动进行训练和验证，训练过程中会自动保存模型在指定的save_dir中。如：
./unimo/finetune/checkpoints
├── model_1000
│ ├── model_config.json
│ ├── model_state.pdparams
│ ├── special_tokens_map.json
│ ├── tokenizer_config.json
│ └── vocab.txt
└── ...
运行下方脚本可以使用训练好的模型进行预测。
export CUDA_VISIBLE_DEVICES=0
python -u predict.py \
--predict_file=./data/test.jsonl \
--vocab_file=./persona/vocab.txt \
--model_name_or_path=./save/persona/checkpoints/model_best_ppl \
--output_path=./predict.txt \
--logging_steps=10 \
--batch_size=64 \
--max_seq_len=512 \
--max_target_len=30 \
--do_predict \
--max_dec_len=30 \
--min_dec_len=3 \
--device=gpu关键参数释义如下：
output_path表示预测输出结果保存的文件路径，默认为./predict.txt。model_name_or_path已经训练好的模型路径
Hu, Zhe, et al. "Controllable Dialogue Generation with Disentangled Multi-grained Style Specification and Attribute Consistency Reward." TASLP2022.
Unimo-Text