diff --git a/README.md b/README.md index 97c0bf1..9f5098d 100644 --- a/README.md +++ b/README.md @@ -837,7 +837,7 @@ MiniMind2第一时间只能坚定不移的选择做蒸馏派,日后基于0.1B loss_mask[sp_ids] = 10 # 惩罚系数 ``` -另另一个tips是由于推理数据由于只筛选了`<1024`长度的数据,其中多轮对话和英文数据偏少, +另一个tips是由于推理数据由于只筛选了`<1024`长度的数据,其中多轮对话和英文数据偏少, 因此`r1_mix_1024.jsonl`进行了大约10k条多轮对话+英文数据的混合,防止模型遗忘严重。 脚本默认基于rlhf后的基模型做推理能力的蒸馏微调,下面直接启动训练即可: