LLaMA-Factory ——一个高效、易用的大模型训练与微调平台。它支持多种预训练模型,并且提供了丰富的训练算法,包括增量预训练、多模态指令监督微调、奖励模型训练等。 LLaMA-Factory的优势在于其简单易用的界面和强大的功能。用户可以在不编写任何代码的情况下,在本地完成上百种预训练模型的微调。 它支持多种运算精度,包括16bit全参数微调、冻结微调、LoRA微调,以及基于AQLM/AWQ/GPTQ等技术的QLoRA微调。 LLaMA-Factory还提供了多种优化算法,以及加速算子。这些工具和...【查看原文】