当前位置:首页|资讯

新一代面壁小钢炮 MiniCPM-V 2.6 微调指南

作者:OpenBMB发布时间:2024-09-30

|原文章发布于2024年08月09日

面壁「小钢炮」 MiniCPM-V 2.6 模型重磅上新!发布两天即登顶GitHub Trending 榜首,广受开源社区好评!目前MiniCPM-V系列目前已斩获 9000+星标🌟谢谢大家喜欢小钢炮,一起加油呀💪🏻

今天,为大家带来的是MiniCPM-V 2.6 微调指南」,手把手带你实操MiniCPM-V 2.6 全量微调与Lora微调,一键定制你的专属端侧多模态模型!

 ➤  模型介绍 

🔗 多图、视频首上端!3 SOTA 面壁小钢炮,创 GPT-4V 端侧全面对标新时代!

 ➤  GitHub地址 

🔗 https://github.com/OpenBMB/MiniCPM-V

 ➤  HuggingFace地址 

🔗 https://huggingface.co/openbmb/MiniCPM-Llama3-V-2_5

 ➤  B站配套视频 ,搭配食用更佳 

🔗 https://www.bilibili.com/video/BV1YT42167mF/

公众号后台回复“小钢炮”,可解锁知识库全文。


 MiniCPM-V 2.6 训练指南 

1. 获取MiniCPM-V的GitHub代码

2. 安装依赖包

3. 处理数据集

处理数据集成以下形式:

  • id值不可重复

  • <image>\n应该出现在每个数据集对话数据的开头

  • "image"对应的地址需要存在图片

  • 每个conversations对应的列表中是一个多轮对话,content代表对话内容,role对应user代表用户输入,role对应assistant代表模型输出

  • 每条数据仅包含一张图片


4. lora微调

修改MiniCPM-V/finetue/finetune_lora.sh


需要重点关注的参数:

开始训练

lora与模型合并保存


5. 全量微调

修改MiniCPM-V/finetune/finetune_ds.sh参数:

开始训练:

 ➤ 欢迎加入 OpenBMB 社区一起讨论 


官方网站

https://www.openbmb.org


GitHub

https://github.com/OpenBMBhttps://github.com/thunlp


长期开放招聘|含实习

开发岗  |  算法岗  |  产品岗


交流QQ群

735930538


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1