LoRA 微调原理与实践:用少量显存定制大模型
LoRA 是目前最常用的参数高效微调方法,让普通团队用单张消费级或中端 GPU 就能定制开源大模型。本文解释 LoRA 的核心思想、关键超参数如何设置、与 QLoRA 的区别,以及数据准备、训练和效果评估中的常见坑。
阅读全文 →共 1 篇关于「LoRA」的文章。
LoRA 是目前最常用的参数高效微调方法,让普通团队用单张消费级或中端 GPU 就能定制开源大模型。本文解释 LoRA 的核心思想、关键超参数如何设置、与 QLoRA 的区别,以及数据准备、训练和效果评估中的常见坑。
阅读全文 →