微调时学习率怎么设:AdamW 学习率的影响

学习率对训练收敛速度和稳定性的影响,太大与太小分别会出现什么现象,以及微调大模型时通常从哪个量级开始试。

技术笔记 / 人工智能AI微调学习率AdamW

站内搜索

没有找到内容!