面向回归问题的可迁移深度域自适应方法 | 清华大学博士生陈新阳讲座预告

深度学习的成功很大程度上依赖于大规模标记数据集,然而精确注释大量的训练数据既费时又费力。域自适应作为目前解决标签严重缺失情况下不同数据集之间模型迁移的主要方案之一,它可以利用已有源领域标记数据的有效信息学习得到一个可以泛化到目标领域无标记数据上的模型。

目前,已有很多基于实例加权和域不变表征学习的浅层域自适应回归方法,但他们没有办法利用深度网络的表征学习能力,因此不具备处理现实世界多种复杂结构数据的能力。同时,深度网络应用在回归问题上往往使用平方差(Squared Loss,简称L2)作为损失函数,但当回归器输出的激活值发生变化时,预测的结果一定会发生变化,这使得回归问题不具备快速适应特征尺度变化的能力。因此,保持特征尺度不变,是解决域自适应回归问题的根本途径之一。

如何利用保持特征尺度不变的特性来解决域适应回归问题呢?在对特征矩阵进行奇异值分解后发现,特征矩阵可以分解为正交基和奇异值,而特征尺度仅与奇异值有关系。因此如果不用奇异值,仅仅使用正交基来拉近领域之间的距离,是否可能不会改变特征尺度呢?

10月12日晚7点,针对利用正交基来解决深度域自适应回归的问题,智东西公开课邀请到清华大学在读博士陈新阳以《面向回归问题的可迁移深度域自适应方法》为主题,深入解析基于正交基的表征子空间几何距离深度域自适应方法。

陈新阳是清华大学在读博士,导师龙明盛老师,主要研究方向为迁移学习。他在ICML、NeurIPS等顶级会议上发表多篇论文,并入选百度学术全球首份AI华人新星百强榜单。

本次讲座的直播包含主讲和问答两个部分,主讲环节40分钟,问答环节20分钟。每个环节主讲老师都将通过视频直播进行实时讲解与互动。

主题

面向回归问题的可迁移深度域自适应方法

提纲

1、深度域自适应方法在回归问题中的主要瓶颈
2、深度域自适应回归方法探究
3、基于表征子空间几何距离的域自适应回归方法
4、在多个域自适应数据集上的性能验证

讲师介绍

陈新阳,清华大学在读博士,导师为龙明盛老师,主要研究方向为迁移学习;在ICML、NeurIPS等顶级会议上发表多篇论文,入选百度学术全球首份AI华人新星百强榜单。

直播信息

直播时间:10月12日19:00
直播地点:智东西公开课直播间