• 2021年09月24日 星期五

7月29日,由中国人工智能学会主办,CAAI人工智能与安全专委会、360政企安全集团共同承办的“中国人工智能安全创新峰会”在北京国家会议中心成功召开。作为互联网安全大会(ISC 2021)九大峰会之一,本次会议邀请了知名学者、机构代表、业界专家围绕人工智能安全发展趋势、最新研究成果与前沿应用等话题展开探讨。


网络空间人工智能安全的挑战与应对

人工智能技术是一把"双刃剑",在推动数字经济社会创新发展的同时,也可能引发一系列安全挑战。北京大学陈钟教授从人工智能赋能网络攻击的新兴威胁场景、技术现状、发展趋势以及应对之道进行详细解读,他表示未来网络安全将呈现零信任、无边界、赛博化的特点,人工智能面临着软件漏洞、系统安全、网络安全、传感器欺骗、数据投毒等五大威胁。因此人工智能系统在被广泛使用之前,需要保证系统将以受控、充分定义和充分理解的方式安全地操作。陈钟教授强调,需要进一步加强对人工智能技术的攻关,积极探索人工智能与区块链的融合发展,使互联变互信,创造更加安全、可信的美好未来。


1629949418116555.jpg

北京大学陈钟教授


白盒化——人工智能时代的信息安全方向

随后,中国科学院大学荆继武教授向与会者分享了对智能时代信息化发展形势的判断,讲述了信息安全技术的新方向——白盒化。他表示,人工智能技术正在加速网络共同体的形成,安全技术将逐步走向开放化、白盒化,他以“密码算法的保密与开放”、“技术细节的保密与开放”为例对其进行深入解读。他强调,白盒化的安全是未来全球安全市场的重要方向,它的发展需得到市场支持,公开体系结构,从而推动安全技术产品的专业化完善和深度融合。


1629949423114550.jpg

中国科学院大学教授、博士生导师、密码学院院长、数据保护研究中心荆继武主任


深度学习模型的安全可解释性与鲁棒性

目前真正能代表人工智能最前沿发展的莫过于深度学习,尤其是深度学习在无人驾驶、医疗决策等领域的应用。浙江大学滨江研究院国产信创研究中心纪守领副主任以《深度学习模型的安全可解释性与鲁棒性》为主题分享了在深度学习模型上的研究成果,并从对抗样本攻防对深度学习模型的鲁棒性进行了拆解,从模型层面、数据层面、承载系统层面对深度学习模型的安全性进行分享。


1629949428934736.jpg

浙江大学 "百人计划"研究员、博士生导师、浙江大学滨江研究院国产信创研究中心纪守领副主任


人工智能安全对抗

中科院信息工程研究所陈恺副主任通过实例向观众展示了如何利用声音、图像中的噪声信息“骗”过人工智能大脑,对抗自动驾驶目标识别系统。他表示,人工智能技术虽然广泛应用于计算机视觉、自然语言处理、自动驾驶等领域,但人工智能系统容易受到攻击,限制了其在关键安全领域的应用。因此提高人工智能系统对抗攻击的鲁棒性在人工智能进一步发展中发挥着越来越重要的作用。陈恺表示只有掌握了各种攻击方式对于人工智能造成干扰的原因,才更有能力制定相应的防御思路,在模型之前可以放一些检测器进行检测对抗样本,以此提升网络的安全性能。


1629949462575162.jpg

中科院信息工程研究所陈恺副主任


AI及威胁情报驱动的跨网系行为检测与异常发现

目前,针对网络空间的攻击无所不在,网络安全与治理已经成为学术界和产业界共同关注的科技前沿问题。北京邮电大学李小勇教授以《AI及威胁情报驱动的跨网系行为检测与异常发现》为题,从网络空间安全与威胁情报、威胁情报的发展与应用、AI及威胁情报驱动的跨网系异常检测这三个方面进行了分享。他指出,利用异构多源行为大数据高效感知、IP流量异常行为高效识别与利用、空口异常行为精准识别与利用、跨网系异常行为融合分析与态势感知等关键技术可以进行跨网系异常检测,智能威胁云的情报可以减少攻击面、监测未知威胁、实时安全防护,实现智能防御。


1629949467137305.jpg

北京邮电大学李小勇教授


开放创新:共建人工智能安全生态

近年来,人工智能技术的发展和应用不断推动着网络安全攻防自动化和智能化的水平。360集团AI安全实验室邹权臣主任在演讲中表示,各个场景、各个领域的人工智能系统都存在着被攻击和被欺骗的可能,因此亟需构建人工智能安全创新环境,通过开源开放与高等院校和科研院所进行对接与成果转化,促进人工智能安全行业持续、健康、快速发展。值得一提的是,360安全大脑成功入选科技部“国家新一代人工智能开放创新平台”,实现了大规模数据集、知识库、AI模型、算法算力的开放。


1629949472103284.jpg

360集团AI安全实验室邹权臣主任


云智原生时代的网络安全智变之道

数字化转型驱动技术变革,传统的IT架构被颠覆,未知威胁变得更隐蔽,因此智能、坚固的安全体系比以往任何时候都重要。新华三技术有限公司安全研究院顾成杰院长在演讲中强调,云智原生将赋予企业和组织与生俱来的云与智能的架构和能力,加速释放数据价值,企业要以原生的思维构建云安全体系,驱动安全与云计算深度融合;通过全域同构,实现公有云、私有云、边缘云多场景的安全统一、极简运营、一致体验;通过多云管理,打造同构/异构多云安全一体化服务,打通本地和公有云侧的安全能力。


1629949477694705.jpg

新华三技术有限公司安全研究院顾成杰院长


AIoT时代360在智慧生活领域的沉淀与探索

在智能物联网(AIoT)时代,智能硬件产品正在逐步融入我们的生活,进一步改变我们的生活方式。360智慧生活集团技术中心孙浩总经理在演讲表示,这个趋势对应的是AI算力的平民化、边缘化,即使在算法理论没有进一步突破的前提下,AI能够凭借更加低廉的硬件结合边缘,融入终端设备,走入生活给整个行业来巨变。随后,孙浩从AIoT融入家庭安全和智能家居场景的维度对360在智慧生活领域的思考和实践做了分享。


1629949482220925.jpg

360智慧生活集团技术中心总经理、360集团硬件专业委员会执行主席孙浩


可以预见,数字时代,人工智能作为最具颠覆性和战略性的核心关键技术,与网络安全相辅相成。人工智能可以提升网络安全工作的效率,网络安全也要为人工智能的发展保驾护航。但人工智能安全不是任何一家公司、社区能够独立解决的问题,因此,需要构建开放创新的AI安全生态助力人工智能技术的稳健发展。


本文由CAAI人工智能与安全专委会供稿

中国人工智能学会
2021年08月20日


Copyright © 2010 中国人工智能学会 互联网ICP备案:京ICP备06029423号-1
地址: 北京市海淀区西土城路10号 邮编: 100876 电话: 010-62281360 传真: 010-62282983

二维码