阿里达摩院大模型公开课上新！主讲中文个性化对话大模型ChatPLUG
去年12月，智东西公开课联合达摩院自然语言智能实验室全新策划推出了「阿里达摩院大模型公开课」，并邀请到了阿里巴巴达摩院高级算法工程师李晨亮和NLP高级算法专家严明，分别就主题《达摩院通义 AliceMind 预训练大模型在 AIGC 文本创作的探索》、《 达摩院通义 mPLUG 多模态预训练技术演进及应用实践》进行了深度讲解。
5月18日，「阿里达摩院大模型公开课」第3讲上线开讲。阿里巴巴达摩院算法专家、ChatPLUG 核心贡献者田俊峰和阿里巴巴达摩院算法工程师、mPLUG 核心贡献者叶晴昊将参与主讲。两位主讲人将对ChatPLUG 和 mPLUG-Owl 背后的技术细节进行深入剖析。
ChatPLUG 是基于 PLUG 的一个中文对话大模型，使用亿级互联网社交数据、百科数据预训练和百万级高质量对话数据，并采用 FID（Fuse-in-Decoder）架构进行 instruction 微调得到。该模型支持高效的输入多段外部知识、人设信息等文本进行知识增强。
在与最新的开源中文对话大模型 BELLE-7M-2B 和 ChatGLM-6B 进行了多任务泛化性的人工对比评测后发现：
1）ChatPLUG-3.7B 取得了比 BELLE-7B-2M 更好的效果（ Rating-A 更多，Rating-C 更少），同时对比 ChatGLM-6B 也取得了 comparable 的效果，表明了 ChatPLUG 具备良好的多任务泛化能力；
2）当将模型的 size 扩大到 13B，ChatPLUG-13B 在所有模型中取得了最优效果。
mPLUG-Owl是一款类似于 miniGPT-4 和 LLaVA 的多模态对话生成模型，由视觉基础模型 、视觉抽象模块以及预训练语言模型组成，并且具备单模态和多模态多轮对话能力。
本次公开课，田俊峰将以《中文个性化对话大模型ChatPLUG》为主题首先带来直播讲解。他的讲解将主要从个性化大模型研究、搜索增强指令微调对话大模型，以及对话大模型的评估和开源三方面展开。
之后，叶晴昊将围绕《模块化多模态大模型mPLUG-Owl》这一主题进行讲解。他将介绍多模态大模型研究的变化趋势，并对mPLUG模块化多模态模型系列，以及mPLUG-Owl及训练新范式进行深入解读。
第3讲
主题一
《中文个性化对话大模型ChatPLUG》
提 纲
1、个性化大模型研究概述
2、搜索增强指令微调对话大模型
3、对话大模型的评估和开源
主讲人
田俊峰，阿里巴巴达摩院算法专家、ChatPLUG核心贡献者；研究方向为对话大模型和多模态大模型，在国际顶级会议ACL、EMNLP、CVPR、AAAI等发表多篇文章。
主 题 二
《模块化多模态大模型mPLUG-Owl》
提 纲
1、多模态大模型研究的变化趋势
2、mPLUG模块化多模态模型系列概述
3、mPLUG-Owl及训练新范式解析
主讲人
叶晴昊，阿里巴巴达摩院算法工程师、mPLUG核心贡献者；研究方向为多模态模块化大模型，在国际顶级会议ICCV、ICML、ACL等发表多篇文章。