澳大利亚麦考瑞大学研究助理管继炜:深度学习中的对抗攻击及防御 | 讲座预告

「机器学习前沿讲座」,是智东西公开课针对机器学习领域推出的一档讲座,聚焦于机器学习前沿领域研究成果与进展。目前第一季已经完结15讲,第二季正在进行,我们将持续邀请研究者、专家与资深开发者,为大家带来直播讲解。

随着人工智能的飞速发展,深度学习已广泛应用于图像分类、目标检测、语音识别等领域。但由于其自身存在的技术性不足,深度学习技术在给人们生活带来极大便利的同时,也面临着新的挑战,模型本身的安全隐患加剧了被对抗样本欺骗以及数据隐私泄露等安全风险。

那什么是对抗样本呢?深度神经网络往往是非常脆弱的,很容易受到一种往图像中添加人眼无法察觉的微小扰动攻击。这类攻击不仅能够以极高的置信度误导深度神经网络输出错误的分类结果,同时还具有可迁移性,即同一张扰动图像可能攻击多个网络模型。这类攻击被称为对抗攻击,这个扰动图像即为对抗样本。在物理世界中成功实施的一系列对抗性攻击证明了此问题是所有深度学习系统的安全隐患。因此有关对抗性攻击和防御技术的研究引起了机器学习和安全领域研究者们越来越多的关注。

为了让大家更好地了解深度学习中的对抗攻击以及相关的防御方法,1月11日晚8点,智东西公开课邀请到澳大利亚麦考瑞大学研究助理管继炜参与到「机器学习前沿讲座第二季」第2讲,带来主题为《深度学习中的对抗攻击及防御》的直播讲解。在本次的讲解中,管继炜老师将会针对深度学习中的对抗样本安全问题进行全面解析,主要内容包括深度学习中的对抗攻击、对抗攻击的种类和防御方法以及对抗攻击的应用领域,最后讲师也将会展望一些对于深度学习系统安全有意义的研究方向。

管继炜是澳大利亚麦考瑞大学研究助理,澳大利亚联邦科学与工业研究组织研究工程师,新南威尔士大学访问学者,主要研究自然语言处理和深度学习对抗攻击等领域。他在中国从事服务机器人和智能音箱产品研发,工作侧重于对话系统在机器人方面的应用和在计算机视觉在智能安防方面的应用。

直播课介绍

课程主题

《深度学习中的对抗攻击及防御》

课程提纲

1、深度学习中的对抗攻击
2、对抗攻击的种类和防御方法
3、对抗攻击的应用领域
4、未来展望

讲师介绍

管继炜,澳大利亚麦考瑞研究助理/澳大利亚联邦科学与工业研究组织研究工程师/新南威尔士大学访问学者,主要研究自然语言处理和深度学习对抗攻击等领域。讲师在中国从事服务机器人和智能音箱产品研发,工作侧重于对话系统在机器人方面的应用和在计算机视觉在智能安防方面的应用。

直播信息

直播时间:1月22日19:00
直播地点:智东西公开课小程序

加入讨论群

加入讨论群,除了可以免费收看直播之外,还能认识讲师,与更多朋友一起学习,并进行深度讨论。
添加小助手曼曼(ID:zhidxclass006)即可申请,备注“姓名-公司/学校/单位-职位/专业”的朋友将会优先审核通过哦~