AI安全是发展阻力还是助推器?产学研大咖齐聚ISC,演讲干货一文看尽

智东西(公众号:zhidxcom)
作者 | 铭滟
编辑 | 徐珊

智东西8月9日报道,今天上午,2023互联网安全大会(ISC)在北京开幕。本届ISC的开幕式上大咖云集,三六零集团创始人周鸿祎、中国工程院院士邬江兴、Palo Alto Networks(派拓网络)高级副总裁Howie Xu等业内产学界人士均在开幕式上发表主题演讲。

还有微软大中华区安全事业部总经理杨鹏、德勤中国网络安全及战略风险事业群主管合伙人薛梓源等人展开巅峰对话,多位大佬结合自身产学界背景,深入探讨网络安全业务的发展现状与未来趋势。

值得一提的是,本场开幕式的主持人并非真人主持,是由360智脑大模型生成的ISC数字主持人可心。可心的名字源于360智脑的初心:以人为本,安全可信。

开幕式上,周鸿祎周发表主题演讲,以“安全即服务”理念发布360战略级产品“360安全云”,并称“安全未来一定是服务业”。

邬江兴讲到,AI应用系统内生安全的核心思想就是在问题和事件中间将其阻断,而不是把问题归零。

而面对新型的数字安全问题,Howie Xu认为,数字安全不再是单纯的技术问题,是一项涉及业务、管理、流程、团队等各方面的系统工程。

还有有360数字安全集团产品及战略规划部总经理何帆与德勤中国网络安全及战略风险事业群主管合伙人薛梓源,360数字安全集团战略创新研究院院长董云鹏,微软大中华区安全事业部总经理杨鹏,北京邮电大学网络空间安全学院执行院长、博士生导师李小勇进行的以“安全即服务,安全托管运营服务成就数字化产业未来”为主题的探讨。

AI安全是发展阻力还是助推器?产学研大咖齐聚ISC,演讲干货一文看尽

一、三六零集团创始人周鸿祎:“安全即服务”

此次互联网安全大会由三六零主办,今年是第十一届。作为三六零(下称“360”)集团的创始人,周鸿祎发表主题演讲,以“安全即服务”理念发布360战略级产品“360安全云”。

在演讲开始之前,周鸿祎先展示了本场大会的数字主持人“可心”,并与“可心”进行互动交流,证明数字人有自主的大脑支持。

周鸿祎强调:“安全未来一定是服务业,360将卯定产业价值、客户价值、社会价值助力产业升级。”

演讲过程中他说,数字化时代,安全的内外部挑战升级,企业、城市、政府买了很多安全设备,现实效果却不尽如人意,导致客户和厂商陷入相互抱怨的“双输”局面。

“企业不是安全投入不够,而是投入没效果,做了很多无用功。”周鸿祎表示,去年ISC期间,360公布了数字安全“中国方案”及科技报国成果,应企业级客户要求,将国家级安全能力全面开放,发布新一代安全产品“360安全云”,进一步服务产业数字化,为企业、城市和政府机构筑牢数字安全屏障。

周鸿祎认为,安全行业面对传统安全的失效需要反思,安全的核心命脉是“看见攻击、快速处置”,而不是集成思维和卖货思维,忽视运营的结果就是“看不见攻击,安全投入没效果”。

周鸿祎介绍,360从免费杀毒起,背后就是一套云上的运营服务体系,是一家云原生的安全公司。凭借这套体系,360帮助国家抵御境外网络攻击,已独立捕获国家级黑客组织52个,并为上百万企业客户和15亿个人用户提供实时安全服务。

AI安全是发展阻力还是助推器?产学研大咖齐聚ISC,演讲干货一文看尽

周鸿祎称,安全将实现“云化+SaaS化”。

在他看来,先云化再服务化,本质上就是安全即服务。

360认为未来安全行业变革的根本理念。360把原来360全网安全大脑、360运营平台、360数据情报服务整合在一起,发布“360安全云”的概念,这是一个多租户的云化安全服务平台,实现了八大“安全即服务”:数据即服务,情报即服务,知识即服务,能力即服务,专家即服务,平台即服务、工具即服务、探针即服务。

他讲到,在有了360安全云后,企业经由四个步骤即可实现安全托管运营服务:第一,建平台。企业不需要额外买设备,建机房,可以直接在360安全云上构建自己的安全运营平台;第二,布探针,在本地化部署轻量级的云化探针,接入云端;第三,通数据,360全网安全数据赋能用户端;第四,做运营,前三个事情做完了,帮助用户打造一套云端运营体系。

企业运营有三种模式:第一种模式,用户自己运营,如果用户有足够的自信和自己足够的安全团队;第二种模式,用户和360联合运营,以用户运营团队为主,360提供高级专家支持;第三种模式,360完全托管运营,在运营过程中用户可以进行监管。

除此之外,周鸿祎介绍,360安全托管运营服务实现了技术、体验、商业模式方面的“三大颠覆式创新”,将引领安全行业从系统集成时代步入云化托管服务时代。

AI安全是发展阻力还是助推器?产学研大咖齐聚ISC,演讲干货一文看尽

“国家需要什么,我们就做什么;行业哪里薄弱,我们就发展哪里;客户痛在哪里,我们就解决哪里。”演讲的最后,周鸿祎再次强调,安全企业不要只想着卖盒子,而是要想能为国家网络安全做什么,能不能抵御住国家级网络攻击,只有这样我们这个行业才能成为受人尊重的行业,才能真正得到国家的认可。

二、中国工程院院士邬江兴:AI安全性世界难题已破解

邬江兴进行了《动态异构冗余(DHR)构造赋能AI应用系统内生安全实验》主题发言。

AI安全是发展阻力还是助推器?产学研大咖齐聚ISC,演讲干货一文看尽

邬江兴将人工智能的安全问题分为内生安全问题和非内生安全问题,内生安全问题又分为个性问题和共性问题。

因为神经网络的黑盒特点,导致人工智能存在不可解释性;深度学习对训练样本的过度依赖,导致学习结果的不可判定性;以及神经网络的前项推进的不可逆,导致结果的不可推论性。他认为人工智能的三不可是其内生安全个性问题。

在数据软硬件环节中,邬江兴认为目前仍存在漏洞难以完全避免,后门无法彻底杜绝,以及现有的技术能力无法彻查漏洞三点共性问题。

并且,他表示,AI应用系统中内生安全个性和共性问题往往是交织叠加存在的,既有漏洞、后门引起的问题,又有黑盒效应引起的问题,所以它是更复杂的一个安全系统。

谈到当前网络安全理论与方法的天花板问题时,他通过组图的形式进行对比分析讨论。他认为,既无模型也无知识的情况是现在经典传统网络安全发展范式的天花板问题。传统的网络安全范式,在解决AI系统个性问题和共性问题时,经常是无能为力的。

因此,邬江兴提出用内生安全理论里的DHR构造赋能AI应用系统内生安全。他认为应当对AI应用系统赋予安全,不能靠吃药打针解决问题。

他解释到,AI应用系统内生安全的核心思想就是在问题和事件中间将其阻断,而不是把问题归零。因为问题归零很难做到。内生安全能够使问题不至于发展成事件,也达成了安全目标。

他进一步讲解道,十年来的理论研究与工程实践表明,在机理上,内生安全能有效解决AI应用系统软硬件环境中存在的内生安全共性问题,能够为AI应用系统的数据采集、模型训练、算法应用等全流程提供高可靠、高可信、高可用的,不依赖但不排斥任何附加防御措施的内生安全底座或者数字环境。这一理论已经得到实践证明。

邬江兴表示,理论分析实践表明,DHR不但能够应对AI系统的内生安全共性问题的影响,也能一体化评比AI算法模型个性化问题导致的安全事件。即使没有搞清安全事件成因和机理的条件下,DHR仍然能够保证AI应用系统网络弹性功能处于设计给定的阈值内。

基于理论分析和实践验证,邬江兴认为,基于DHR构造的检测方法可以破解当前AI应用系统产品安全性无法有效检测的世界难题。

三、派拓网络高级副总裁Howie Xu:数字安全是一项系统工程

Palo Alto Networks(派拓网络)高级副总裁Howie Xu作为数字嘉宾出席此次开幕式。他在《人工智能时代下的数字安全创新》的主题演讲中提出,当今网络威胁不断升级,小毛贼、小黑客已经成为历史;而有组织的网络犯罪已经成为当今世界安全最大的威胁。网络攻击从数字空间延伸到物理空间,灾难性的破坏更加严重与频繁。

AI安全是发展阻力还是助推器?产学研大咖齐聚ISC,演讲干货一文看尽

Howie Xu认为,数字安全不再是单纯的技术问题,是一项涉及业务、管理、流程、团队等各方面的系统工程。传统的安全防护在战略上缺乏统筹规划,难以形成协同配合,不足以应对持续变化的安全问题。如今,应当用数字化思维重塑安全,建设体系化、实战化、智能化的数字安全能力。

四、产学界对话:安全即服务,安全托管运营是未来机遇方向

360数字安全集团产品及战略规划部总经理何帆与德勤中国网络安全及战略风险事业群主管合伙人薛梓源,360数字安全集团战略创新研究院院长董云鹏,微软大中华区安全事业部总经理杨鹏,北京邮电大学网络空间安全学院执行院长、博士生导师李小勇进行了以“安全即服务,安全托管运营服务成就数字化产业未来”为主题的探讨。

AI安全是发展阻力还是助推器?产学研大咖齐聚ISC,演讲干货一文看尽

▲从左至右:360数字安全集团产品及战略规划部总经理何帆,德勤中国网络安全及战略风险事业群主管合伙人薛梓源,360数字安全集团战略创新研究院院长董云鹏,微软大中华区安全事业部总经理杨鹏,北京邮电大学网络空间安全学院执行院长、博士生导师李小勇

薛梓源认为,云技术对企业的冲击很大,而现在云厂商和共担模型的技术已经成熟,可以大幅降低企业成本。目前国际上的安全平台也在尝试转型,从单用户到多用户。

杨鹏则表示,安全是由业务来驱动的。微软也是安全业务的受益者。安全不会成为业务的阻碍,反而会成为贡献者。有了安全业务托管服务后,这会促进原生业务的效率提升,客户也乐于看到原生业务更丰富的能力。就微软自身而言,微软的内部托管服务外化为安全产品后,有了可观的营收。之前安全产品的营收是几十万美元,而去年,微软安全业务营收已超200亿美元。

董云鹏谈到,与微软“让我的能力为你所用”的概念相同的是,360的安全托管即为让360的能力为用户所用、让专业的人做专业的事。当用户遇到高级别攻击的时候,用户需要更为专业的集中解决方案,此时即体现了安全托管服务或者云服务的优势。谈及这一行业未来的机遇与挑战时,他将安全托管服务比做选购蛋糕。他说他们希望做一个蛋糕店,客户不用花力气做蛋糕分蛋糕,可以直接到店购买蛋糕就可以。安全运营人员可以形成安全云与客户之间的沟通桥梁,他认为这会是未来托管服务的发展机会。

李小勇认为,数据安全更强调数据主权。面对网络安全问题,高校应培养网络空间实战型安全人才,实现高校企业资源共享,产学界共同探讨网络安全相关标准化等问题。

五、政府各界共识:安全是发展的前提

除了上述嘉宾以外,全国工商联副主席汪鸿雁、第十三届全国政协经济委员会副主任苏波、工业和信息化部网络安全管理局局长隋静、中央网信办网络安全协调局副局长罗锋盈、中国互联网协会理事长尚冰(数字嘉宾)、北京市朝阳区委副书记、区长吴小杰和中国工程院院士、ISC名誉主席邬贺铨均在本次大会开幕式致辞。

AI安全是发展阻力还是助推器?产学研大咖齐聚ISC,演讲干货一文看尽

▲图为全国工商联副主席汪鸿雁

全国工商联副主席汪鸿雁在致辞中表示,应提高政治站位,深刻学习领会习近平总书记关于网络强国的重要思想;把握重大机遇,不断培育自身硬实力;坚持依法合规,努力实现健康发展。她讲到,全国工商联将一如既往发挥好桥梁纽带作用,引导网络安全领域的民营企业实现高质量发展,助推网信领域科技自强自立,为网络强国建设贡献民营经济的力量。

第十三届全国政协经济委员会副主任苏波在致辞中表示,当前通用人工智能发展日益体现出技术创新快、应用渗透强、经济社会影响大、国际竞争激烈的特点。推动人工智能产业快速发展,必须要把保障数据安全放在突出位置。一是加快人工智能数据资源的建设,二是创新人工智能技术手段,三是完善人工智能数据安全监管体系。

工业和信息化部网络安全管理局局长隋静在致辞中讲到,我们应当树立正确的网络安全观,全面提升网络安全保障能力。她提出了三点想法:一是坚持创新驱动,加快安全技术突破;二是坚持多方参与,共建安全管理新格局;三是坚持开放合作,共育安全产业新生态。

中央网信办网络安全协调局副局长罗锋盈在致辞中分享到,一是提升新技术新应用安全风险防范能力,二是要善于把数据资源转换为数据优势,三是要构建网络安全教育技术产业融合发展良性生态。

中国互联网协会理事长尚冰则作为数字嘉宾出席,他在致辞中提到,目前中国网络安全产业综合实力显著增强,主要表现为网络安全产业发展动能强劲、网络安全企业主体日益壮大、网络安全技术体系持续完备。他也分享了三点发展建议:一是坚持协同创新,服务国家发展大局;二是坚持合规发展,提升安全治理水平;三是坚持人才引领,储备发展力量。

北京市朝阳区委副书记、区长吴小杰在致辞中表示,数据安全也是朝阳区数据经济产业的重要组成部分,也是朝阳区打造数字经济核心区的重要抓手。朝阳区拥有140余家工业互联网的核心企业和全市超过1/4的人工智能企业,涵盖了产业链、相关环节的空间地理信息企业,朝阳区数字经济的增加值占全区地区生产总值的比重达36.1%。未来朝阳区将继续以科技创新为引领,技术推进新技术在金融科技、数据流通、安全保护等领域的应用,持续能力和治理水平。

中国工程院院士、ISC名誉主席邬贺铨在致辞中分享了他对数字安全的三点想法:一是随着数据上升为重要的生产要素,跨境数据流动管理面临巨大的挑战,应该主动迎接IPV6的主导互联网时代。二是要摒弃硬件式碎片化弱协同的传统安全防护手段,向云化、服务化的理念升级。三是完善数字安全的生态系统,要覆盖安全产业链、第三方检测机构与用户等,实现危险威胁处置情报共享。

结语:网络安全是AI高速发展的基础与保障

生成式AI的热度不断攀升,无论是企业还是普通用户,都已经身处数字经济的浪潮下。而数字经济的高速发展离不开数字安全保驾护航。

此次互联网安全大会也是全球首场AI数字安全峰会,众多网络安全行业的从业者和学者在此展示最新产品技术与先进科研成果,交流经验,互相促进。

未来,AI将如何发展是科技行业重点关注的目标,AI将如何安全有序发展也是包括企业和普通公民在内共同关心的问题。在本届互联网安全大会上,众多安全产品的推出已经让我们看到互联网安全和AI安全的前景。