「AI新青年讲座」将邀请世界顶尖AI研究机构和大学的科研新青年，主讲他们在计算机视觉、机器学习等人工智能领域的最新重要研究成果。

AI新青年是加速人工智能前沿研究的新生力量。AI新青年的视频讲解和直播答疑，将可以帮助大家增进对人工智能前沿研究的理解，相应领域的专业知识也能够得以积累加深。同时，通过与AI新青年的直接交流，大家在AI学习和应用AI的过程中遇到的问题，也能够尽快解决。

有兴趣分享学术成果的朋友，可以与智东西公开课教研团队进行邮件（class@zhidx.com）联系。

残差网络的出现允许我们训练更深层的神经网络，在ResNet，MobileNetV2，EfficientNet等网络中广泛应用。但由于其多分支的推理，使得在推理速度上不如无残差连接的直筒网络(Plain Model)，限制了模型的剪枝能力，且影响模型的推理速度。RepVGG通过重参数的思想，将三个分支融合到一个分支中。然而使用RepVGG的重参数化有其局限性，当非线性操作(如ReLU)放置在residual branch的时候，无法进行重参数化。

来自北京大学的博一新生，也是前腾讯优图实验室研究员的孟繁续提出了一种等价去除模型残差连接的方法RM（Reserving和Merging），可以即插即用的提升模型剪枝的效果。

RM能够移除残差连接，通过保留输入特征映射(Reserving)并将其与输出特征映射合并(Merging)，去除非线性层间的残留连接。通过RM也可以将ResNet变为VGG、将MobileNetV2变为MobileNetV1，能够在速度，精度上达到更好的trade off，对剪枝也十分友好。

8月19日晚6点，「AI新青年讲座」第149讲，邀请到北京大学博一新生、RM一作孟繁续参与，主讲《等价去除残差连接，一种即插即用的模型剪枝提升方法》。

孟繁续首先将会介绍残差连接对剪枝的限制，以及对模型推理速度的影响，然后重点讲解等价去除模型残差的方法RM操作，并以 ResNet，MobileNetV2为例展示如何使用RM操作提升剪枝效果。最后，他也将对比与RepVGG（另一种去除残差连接方法）的区别，并通过RM操作提升RepVGG的表现。

讲者
孟繁续，北京大学博一新生，前腾讯优图实验室研究员；以第一作者身份在CVPR2020发表论文，该文章提出与剪枝相反的滤波器嫁接方法；以第一作者身份在NeurIPS2020发表论文，该文章提出一种逐条剪枝的方法。

第149讲

主 题
《等价去除残差连接：一种即插即用的模型剪枝提升方法》

提 纲
1、经典的残差连接对模型剪枝的限制
2、等价去除模型残差连接的方法RM
3、基于ResNet、MobileNetV2的RM剪枝效果
4、与RepVGG的对比及RM应用

直 播 信 息
直播时间：8月19日18:00
直播地点：智东西公开课知识店铺

成果

RMNet：《RMNet: Equivalently Removing Residual Connection from Networks》
论文链接：https://arxiv.org/abs/2111.00687
开源地址：https://github.com/fxmeng/RMNet