1867-154075-0014

重中之重

run.sh脚本分析

wenet aishell脚本解析_weixin_43870390的博客-CSDN博客

一、准备工作

第一步：准备训练数据，拷贝到远程服务器

将准备好的数据文件0529_0531_dataset，上传到恒源云上的/hy-tmp/wenet/examples/aishell/s0下

0529_0531_merge_label .txt标签文件的内容中，每行为音频ID 空格 音频标签，无表头

本地文件：

 

 

远程文件：

第二步，准备多个text和wav.scp文件，拷贝到远程服务器

1.远程上手动创建几个文件

cd /hy-tmp/wenet/examples/aishell/s0
mkdir -p data/train
mkdir -p data/test
mkdir -p data/dev

2.拷贝text、wav.scp文件到远程服务器

将本地准备好的F:/wenet数据集/0529_0531_merge/chuli下的train、dev、test中的text、wav.scp两个文件分别拷贝到远程/hy-tmp/wenet/examples/aishell/s0/data下对应的train、dev、test文件夹下

 text的内容如下：

音频ID 空格 音频标签

1867-154075-0014 你好请问有什么需要帮助的吗
1970-26100-0022 家里停电了

wav.scp的内容如下：

音频ID 空格 音频路径

1867-154075-0014  /hy-tmp/XXX/XXX.wav
1970-26100-0022 /hy-tmp/XXX/XXX.wav

二、修改run.sh脚本和yaml参数

先下载预训练模型

打开Pretrained Models in WeNet — wenet documentation

点击红框中的模型，先填表格，就可以下载

 cd /hy-tmp/wenet/examples/aishell/s0

mkdir pretrained_model

cd pretrained_model

wget https://wenet-1256283475.cos.ap-shanghai.myqcloud.com/models/wenetspeech/wenetspeech_u2pp_conformer_exp.tar.gz

tar -xzf wenetspeech_u2pp_conformer_exp.tar.gz

解压后模型文件中包含四个文件：final.pt,train.yaml,units.txt,global_cmvn

然后开展以下步骤,修改/hy-tmp/wenet/examples/aishell/s0下的run.sh文件中的参数：

（1）根据GPU数量，修改序号

export CUDA_VISIBLE_DEVICES="0"

（2）修改结束步骤(可选，如果不一步一步敲命令，想直接执行多步必须改)

stop_stage=4

（3）修改训练数据的路径

data=/hy-tmp/wenet/examples/aishell/s0/0529_0531_dataset

其中0529_0531_dataset是前面上传的训练数据文件夹

(4)修改词典路径，为预训练模型的词典

虽然执行stage2会根据训练数据生成词典（几千个而已），但是要改成预训练模型的词典路径，因为预训练模型的语料比较大，生成的词典自然比较大（几万个）

dict=pretrained_model/20220506_u2pp_conformer_exp/units.txt

（5）修改模型配置(用预训练模型的yaml)

先改成预训练模型的yaml文件路径
train_config=pretrained_model/20220506_u2pp_conformer_exp/train.yaml

再打开预训练模型的train.yaml,修改里面的cmvn_file参数为（这边用绝对路径靠谱些，因为没有跟run.sh同级目录）

先用预训练模型的cmvn

cmvn_file: /hy-tmp/wenet/examples/aishell/s0/pretrained_model/20220506_u2pp_conformer_exp/global_cmvn

疑问：CMVN是对特征进行倒谱均值归一化，不是应该基于新的训练数据集计算得到的吗？理论上不应该用预训练数据的，都试试吧，看实验效果（测试不用预训练模型的还是报短音频帧数过滤方面的错误）

同时修改train.yaml中的其他参数

#改成16，防止显存不够

batch_size: 16

min_length: 30  # 1帧=10ms,过来掉少于0.3秒的

token_max_length: 200 #最大文字长度

max_epoch: 100 # 先训练100次试试

（6）修改成有计算cmvn

cmvn=true

修改修改$cmvn && cp data/${train_set}/global_cmvn $dir 为

$cmvn && cp /hy-tmp/wenet/examples/aishell/s0/pretrained_model/20220506_u2pp_conformer_exp/global_cmvn $dir

(7) 修改模型生成后的存放地址（每次新训练一个模型前，切记修改）

dir=model_0529_0531/conformer

(8)指定预训练模型，进行增量训练

 checkpoint= pretrained_model/20220506_u2pp_conformer_exp/final.pt

即checkpoint=pretrained_model/20220506_u2pp_conformer_exp

（9）修改为多模型平均计算

average_checkpoint=true

（10）同时修改如下：

local/aishell_data_prep.sh ${data}/wav \
    ${data}/transcript

三、修改 s0/local/aishell_data_prep.sh的参数

根据实际情况修改文件名

aishell_text=$2/0529_0531_merge_label .txt

六、执行stage1(先跳过)

./run.sh --stage 1 --stop-stage 1

• 把transcript取掉空格，重新生成text，原来的变成text.org
• 使用wav.scp计算cmvn，存放到train目录下面

若使用的是预训练模型的cmvn,则该步跳过，用自己数据计算这步不知道为什么总报错

七、不执行stage 2（这步是生成词典，但是我们用的是预训练模型的词典，所以不用生成）

八、执行stage3

./run.sh --stage 3 --stop-stage 3

data/train  data/test  data/dev都生成了data.list 

把wav.scp 和 text准备成data.list

九、开始训练

./run.sh --stage 4 --stop-stage 4