训练过程中报错 ValueError: Hypothesis is empty.

[tlproer]

我在按照finetune_demo中的实例进行训练测试的时候遇到的问题，在训练到一定的步数进行评估，评估进度完成之后报错：
ValueError: Hypothesis is empty.
经过一些搜索，得到的解读是：模型没有产生任何输出。
但是我不知道是哪里出了问题或者该如何解决。

│ /root/anaconda3/envs/chatglm3/lib/python3.10/site-packages/rouge_chinese/rouge.py:54 in <lambda> │
│                                                                                                  │
│    51 class Rouge:                                                                               │
│    52 │   DEFAULT_METRICS = ["rouge-1", "rouge-2", "rouge-l"]                                    │
│    53 │   AVAILABLE_METRICS = {                                                                  │
│ ❱  54 │   │   "rouge-1": lambda hyp, ref, **k: rouge_score.rouge_n(hyp, ref, 1, **k),            │
│    55 │   │   "rouge-2": lambda hyp, ref, **k: rouge_score.rouge_n(hyp, ref, 2, **k),            │
│    56 │   │   "rouge-3": lambda hyp, ref, **k: rouge_score.rouge_n(hyp, ref, 3, **k),            │
│    57 │   │   "rouge-4": lambda hyp, ref, **k: rouge_score.rouge_n(hyp, ref, 4, **k),            │
│                                                                                                  │
│ /root/anaconda3/envs/chatglm3/lib/python3.10/site-packages/rouge_chinese/rouge_score.py:253 in   │
│ rouge_n                                                                                          │
│                                                                                                  │
│   250 │     ValueError: raises exception if a param has len <= 0                                 │
│   251 │   """                                                                                    │
│   252 │   if len(evaluated_sentences) <= 0:                                                      │
│ ❱ 253 │   │   raise ValueError("Hypothesis is empty.")                                           │
│   254 │   if len(reference_sentences) <= 0:                                                      │
│   255 │   │   raise ValueError("Reference is empty.")                                            │
│   256                                                                                            │
╰──────────────────────────────────────────────────────────────────────────────────────────────────╯
ValueError: Hypothesis is empty.
  0%|▎ 

---

训练的启动脚本：

export CUDA_VISIBLE_DEVICES=0
python finetune_hf.py data/AdvertiseGen/ /data/chatglm3-6b configs/ptuning_v2.yaml

---

数据格式如下：

{"conversations": [{"role": "user", "content": "类型#裤*版型#宽松*风格#性感*图案#线条*裤型#阔腿裤"}, {"role": "assistant", "content": "宽松的阔腿裤这两年真的吸粉不少，明星时尚达人的心头爱。毕竟好穿时尚，谁都能穿出腿长2米的效果宽松的裤腿，当然是遮肉小能手啊。上身随性自然不拘束，面料亲肤舒适贴身体验感棒棒哒。系带部分增加设计看点，还让单品的设计感更强。腿部线条若隐若现的，性感撩人。颜色敲温柔的，与裤子本身所呈现的风格有点反差萌。"}]}{"conversations": [{"role": "user", "content": "类型#裙*风格#简约*图案#条纹*图案#线条*图案#撞色*裙型#鱼尾裙*裙袖长#无袖"}, {"role": "assistant", "content": "圆形领口修饰脖颈线条，适合各种脸型，耐看有气质。无袖设计，尤显清凉，简约横条纹装饰，使得整身人鱼造型更为生动立体。加之撞色的鱼尾下摆，深邃富有诗意。收腰包臀,修饰女性身体曲线，结合别出心裁的鱼尾裙摆设计
。。。

[KevinFanng]

微调数据集，第二条，是不是没有"}]}结尾？

[InfiniteInterest]

这个问题应该不是数据集格式导致的，相同的数据集, 我是用lora.yaml执行微调没报错, 但是使用ptuning_v2.yaml文件微调就报错了

[InfiniteInterest]

一样的问题，兄弟解决没啊？怎么处理啊

[zRzRzRzRzRzRzR]

数据格式不对，检查你的数据格式

[LeyiJiang]

您好，请问您解决了吗，我也遇到了一样的问题

[Angelicaduti]

请问解决了嘛，我也是相同的问题。但区别在于学习率设置5e-5是，ptuning没问题。将学习率增大后，出现error：Hypothesis is empty