鹭岛论坛 数据智能系列讲座第4期 「预训练的基础模型下的持续学习」 10月30日(周三) 20:00 精彩开播 期待与您云相聚,共襄学术盛宴! [图片] 报告题目 预训练的基础模型下的持续学习 报告简介 虽然近年来神经网络,特别是预训练的基础模型研究得到了广泛的应用,但其仍然主要依赖于在大量样本上的批量式训练。 本报告将探讨实现模型的增量式训练,针对深度神经网络在增量式学习新任务时所面临的"灾难性遗忘"问题,介绍如何在预训练的基础模型上进行连续学习,包括基于重放的遗忘抑制机制、基于模型高效微调的连续...【查看原文】