智东西(公众号:zhidxcom)
文 | 心缘

2018年,对于AI公司来说,除了“落地”之外,大概科技圈最关注的就是“安全”。然而,伴随AI技术的的大面积落地,随之而来的是重大的安全问题,谷歌Facebook等科技巨头纷纷在数据隐私和安全风险问题上“栽跟头”,连番受到质疑。

近几年,网络安全的趋势亦在向AI靠拢,从滑动验证码、密码破译、反网络欺诈到自动漏洞挖掘和修复,AI开始在网络安全领域发挥越来越重要的作用,为网络威胁提供新的解决方案。

在中国AI赛道上跑在前列的百度,在全面推进AI计划的同时,其背后有一个始终保障着AI安全运行的低调功臣——百度安全。

今日,百度安全在BSRC年度盛典期间举办”谈练AI主题论坛”,百度安全事业部总经理马杰、百度安全事业部产品总经理韩祖利、百度安全事业部副总经理沈鹏飞等行业专家从安全角度谈论AI时代的危机与生机。

AI安全威胁频发,百度安全展示三层开放生态矩阵

▲百度安全事业部总经理马杰

在致辞中,马杰表示,百度已将经过长期积累的安全解决方案变成开源项目分享给社区伙伴,这些方案在全国上亿的手机中发挥作用。

沈鹏飞总结了企业在数据流通和应用方面面临的三大障碍,沈鹏飞则集中分享了AI时代遇到的安全威胁和百度安全在生态建设上的布局。

一、个人信息是暗网最常见交易,2年以上企业数据管理委员会不足1/2

互联网上的信息分布主要分为表网、深网和暗网。表网指普通用户可以直接访问的信息,约占整体数据量的10%。深网指不能任意访问的联网数据信息,有为约90%的庞大数据量。

“暗网”则是指需要特殊的加密的数据,通常为匿名数据,是深网的一个子集,其违法犯罪信息约占45%。百度安全产品总经理韩祖利即主要分享了暗网下的数据安全所面临的风险。

韩祖利称,百度安全根据“洋葱网络”所观察到的全球日均用户约243万,在2018年中文社区交易中,个人信息和公司泄露数据是暗网中文社区包含最常见的两种交易类型,分别占全部交易类型的48%和20%。

其中所使用到的身份证、银行卡、邮箱、社交账号等个人信息,可以描述社会自然人的基本情况。

AI安全威胁频发,百度安全展示三层开放生态矩阵

数据已成为极其重要的社会资产,企业数据治理不当会隐藏巨大风险。政府和监管机构们均早早关注到这些问题,欧盟在国际上一直站在数据保护领域立法的最前线,国内今年来数据隐私相关法规与标准亦不断出台。

根据百度安全呈现的数据,企业数据管理委员会建立2年以上的不到一半,还没有建设计划的企业约占1/6,而政策对隐私保护等方面的限制成为制约大数据发展的最主要因素,其他几个主要因素有数据资源短缺、数据人才短缺、技术能力不足、应用模式不清晰和投资效果无法估量等。

AI安全威胁频发,百度安全展示三层开放生态矩阵

二、数据流通和应用面临三大障碍,智能数据脱敏是探索方向

韩祖利表示,企业拥有自己的数据资产已成为未来行业趋势,数据在流通中可以挖掘其中的应用价值,但越来越多的企业在数据流通和应用方面,遇到了障碍和风险。他总结了其中的三大主要障碍,分别是安全存放、隐私合规以及安全与确权。

安全存放关乎企业数据资产存放的形式、内容和地址等,隐私合规关乎判断哪些是敏感隐私数据和是否可用及如何使用才合法,安全与确权则关乎是否会发生数据泄露、谁有数据使用权限及如何实现数据的精准颗粒度管理。

AI安全威胁频发,百度安全展示三层开放生态矩阵

裸数据固然好用,却对个人隐私造成极大侵犯,那么数据资产的生产方和适用方是否有可能在不涉及敏感信息的前提下完成资产的提供?对此,韩祖利表示,智能数据脱敏技术等有望实现这一解决方案,这将是百度内部不断去探索的事情。

三、AI时代安全威胁浮现,百度积极布局AI安全生态

百度安全事业部副总经理沈鹏飞则集中分享了AI时代遇到的安全威胁和机遇。

首先是对人类的威胁,如果黑客将自动驾驶、智能IoT、智能楼宇、智能军事、智能机器人等AI应用攻击、破解和劫持,将直接威胁到人们的生命财产安全。

更有甚者,安全漏洞可能成为威胁企业乃至国家安全的AI武器。智能终端设备被用于隐私勒索、欺诈、薅羊毛、APT基础设施、DDoS等各种违法行为,比如Mirai僵尸网络曾入侵摄像头造成美国大面积断网。

据南方都市报近期发布的《智能家居隐私政策透明度测评报告》显示,50款APP中有22款智能家居APP没有隐私政策,仅有7款APP在隐私政策提及个人敏感信息

自动驾驶系统、家电设备可能被远程控制和利用,国内外电信诈骗案更是难以计数,历届GeekPwn极棒国际安全极客大赛连续破解各种类型IoT设备……AI时代危机四伏。

AI安全威胁频发,百度安全展示三层开放生态矩阵

安全问题不容回避,生态的建设刻不容缓,百度安全亦早早展开布局。沈鹏飞简单分享了百度安全生态的三大支点:技术赋能、标准驱动和生态共建。

2017年底,百度发起OASES智能终端安全生态联盟,与包括安全厂商、设备厂商、高校在内的30多家成员单位一起,联合推进智能终端安全生态的建设和智能终端产业的健康发展。

AI安全威胁频发,百度安全展示三层开放生态矩阵

百度安全构建了开放生态矩阵,主要覆盖了基础层、平台层、生态层三个层面。

在基础层,百度安全推出下一代AI安全技术栈(Baidu AI Security Stack,BASS)。

在平台层,百度安全已推出智能终端安全解决方案和智能车机安全解决方案。

在生态层,百度安全与学术、企业、政府、机构多层面开放协作,建立联合开放实验室,威胁情报矩阵助力智能警务,并着重培养安全人才。

结语:AI时代为安全带来新型挑战

无论是互联网还是AI,安全防护都是任何企业乃至国家都必须极度重视的环节。尤其是手握无数隐私数据的AI,数据的安全更是牵一发而动全身,一旦出现严重的安全问题,不仅可能造成严重的后果,直接伤害到用户、企业乃至国家,还会挫伤真个社会对AI等前沿科技的信心。

尽管我国对AI技术趋于乐观,但这并不意味着我们可以忽视快速发展的AI技术和应用所带来的各种隐私风险。

作为国内最早一批布局AI的互联网企业,坐拥数亿用户和着力打造AI生态的百度面临更加集中和严峻的AI安全挑战。正如沈鹏飞所言,安全不是任何一家公司、一个社区能够独立解决的事情,需要共筑生态,在同舟共济中寻求共赢,共同维护AI时代的安全。