当前位置:首页|资讯

鹭岛论坛 |数据智能系列讲座第4期:预训练的基础模型下的持续学习

作者:中科厦门研究院发布时间:2024-10-21

鹭岛论坛  数据智能系列讲座第4期  「预训练的基础模型下的持续学习」 10月30日(周三) 20:00  精彩开播 期待与您云相聚,共襄学术盛宴! [图片] 报告题目 预训练的基础模型下的持续学习 报告简介 虽然近年来神经网络,特别是预训练的基础模型研究得到了广泛的应用,但其仍然主要依赖于在大量样本上的批量式训练。 本报告将探讨实现模型的增量式训练,针对深度神经网络在增量式学习新任务时所面临的"灾难性遗忘"问题,介绍如何在预训练的基础模型上进行连续学习,包括基于重放的遗忘抑制机制、基于模型高效微调的连续...【查看原文】

科技最前沿

Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1