跳到主要内容

微调效果如何优化

更新时间:2025-08-13 18:30:25

💡 问题表现:

微调后的结果不满意,如何优化?

📌 问题原因:

微调效果较差,通常是由于训练样本过少,导致模型欠拟合。

✅ 解决方法:

  1. 增加训练数据集的大小
  2. 提高训练轮数num_train_epochs: 5.0或步数max_steps: 1000
  3. 增大学习率learning_rate: 2.0e-4
  4. 使用不同的微调方法finetuning_type: freezefinetuning_type: full