人工智能是数据智能,周鸿祎详解人工智能技术漏洞

中新网1月21日电
“现在智能音箱开始融入很多家庭的日常,为我们的生活带来了一定便利,但大家有没有想过智能音箱可能会变成窃听器?”
1月20日,中国人工智能学会“人工智能与安全专委会”
在京成立,360集团董事长兼CEO周鸿祎当选首任专委会主任,他在成立大会上表示,智能音箱变身窃听器并不是科幻电影里的场景。

中新网11月9日电
“人工智能在给我们带来赋能的同时,自身的安全问题被忽视了,当前人工智能本质上是数据智能,要防止数据投毒。”11月8日,周鸿祎在乌镇互联网大会上重申了对未来网络安全的谨慎态度。

图片 1

周鸿祎介绍,360与浙大合作发现了一种“海豚音攻击”,该攻击人耳无法听见,但通过超声波信号可以劫持智能设备的语音控制系统,再利用麦克风的硬件漏洞,就可以悄悄开启语音助手,把智能音箱变成窃听器,窃取用户隐私。

图片 2

▲3月6日,周鸿祎委员在记者会上回答记者提问。

图片 3

人工智能在此次大会上依然是热词,有专家预测称,2030年之前全球会有万亿计的智能设备连到互联网上。随着人工智能技术的发展,软件定义一切,万物皆要互联,网络安全也将产生巨大的威胁。

新华社记者王鹏摄

此外,“海豚音攻击”还可用于攻击多种拥有语音助手的智能设备,包括智能手机、智能手表、智能汽车等。伴随着越来越多的智能设备介入我们的生活,人工智能面临的安全问题也令产学研各界持审慎态度。在此次
“人工智能与安全专委会”成立大会上,现阶段人工智能本身的安全问题就成为关注焦点。

周鸿祎表示,人工智能是大数据训练出来的,训练的数据可以被污染,也叫“数据投毒”。比如,通过给智能汽车输入“污染”过的训练样本,就可以把“禁止通行”的交通标志牌识别为“可以通行”,从而造成交通事故和人员伤亡。与此同时,人工智能识别数据的传感器也可以被干扰。同样是智能汽车,用激光笔对着无人驾驶车的激光雷达晃一晃,车就可能瞬间停下来,被后车追尾。另外,周鸿祎还表示,人工智能内部复杂的计算逻辑和决策过程还不透明,可以被欺骗或绕过,通过这种方式,家里的智能音响甚至可以变成窃听器。

“随着5G通信、人工智能、万物互联等新一轮技术革命和产业变革的加速演进,网络安全形势也会越来越严峻。”全国政协委员、360集团董事长兼首席执行官周鸿祎日前接受新华每日电讯记者专访时表示,要站在坚持总体国家安全观的全局高度,打破各自为战的传统网络安全模式,统一安全大数据,共建国家级网络安全大脑,构筑大安全时代的国家网络空间安全防线。

图片 4

未来的世界是一个被软件吞噬,充满漏洞的世界,没有固若金汤的防线。对网络安全而言,同样需要借助人工智能、大数据和云计算这些新技术的力量。在昨天的领先成果发布会上,360推出的“安全大脑”获得世界互联网领先科技成果奖。360“安全大脑”就是借助人工智能技术,依靠大数据侦测,从浩如烟海的数据中寻找蛛丝马迹,识别异常的访问和行为,然后进行溯源,最后交给安全专家进行决策。

共建网络安全大脑,践行总体国家安全观

周鸿祎指出,人工智能是个热词,也是未来的大势所趋。但当下的人工智能技术并不完善,存在四大冰点:

另外,周鸿祎进一步解释说,国家提出没有网络安全就没有国家安全,未来的军事网络、工业网络,国防工业、政府网络和个人网络的安全实际是一个整体。这要求我们要用国家级的视野看待网络安全,每个国家都要建自己国家级的网络安全大数据系统,拥有国家级的视野,国家级的数据,最后才能真正抵御国家级的攻击。

记者:今年全国两会期间,您向大会提交了“统一安全大数据,共建国家级网络安全大脑”的提案,请问其中主要问题和建议是什么?360安全大脑为何选择汽车行业应用作为突破口?

首先,前端传感器可以被干扰。人工智能广泛依赖音视频采集、红外感应、激光雷达等各类传感器。但这些传感器自身并不安全,能够被干扰,造成人工智能识别和决策失误。“海豚音攻击”就是干扰语音传感器的方式之一。

我们推出的360安全大脑严格来说,并不是市场行为,而是国家行为。我们愿意把自己的经验、数据、技术、能力开放出来,与安全公司一起合作,把安全大脑本身的核心技术和大数据打造好,成为很多安全公司背后的赋能者,在国内真正把一个大的生态做起来,大家合作把安全大脑打造成国之重器。

周鸿祎:毋庸置疑,未来数以百亿计的智能设备,必将深入我们生产生活的方方面面。随着“一切皆可编程,万物均要互联”的大安全时代到来,网络安全风险也从虚拟空间扩展到物理世界,从过去相对孤立的数据泄露、病毒和木马等侵袭,转向对国家安全、国防安全、关键基础设施安全、社会安全乃至人身安全的恶意控制或攻击,网络安全形势越发严峻。

其次,人工智能的数据样本可以被污染。目前人工智能采用深度学习模型,黑客可以构建畸形输入或者污染训练数据集,进行“数据投毒”,导致人工智能出错。比如,通过给智能汽车输入“污染”过的训练样本,就可以把“禁止通行”的交通标志牌识别为“可以通行”,从而造成交通事故。

在此次大会上,沈南鹏也发表了相同的观点。他介绍,中国的风险投资过去20年投的最多是电子商务,但过去45年,美国红杉投资最多的是安全领域。他还建议需要把更多的资源和产业重心放在安全领域中,未来的智能产品越来越丰富和复杂的时候,相应的安全产品也要能够跟上去。

虽然我们也建立了一些网络安全防御系统,但数据孤岛、各自为战等现象普遍存在。无论是企业、网络安全公司、运营商还是政府部门,都分兵把口各自掌握一部分数据,既看不到全局,也形不成合力。

第三,内部算法可以被欺骗。人工智能本质上是一种用大量数据训练出来的概率判断系统,其内部复杂的计算逻辑和决策过程还不透明,可以被欺骗或绕过。周鸿祎表示,人工智能也许可以有99.99%的概率保证识别是正确的,但是对于安全来讲,它只要出现一次识别错误,就会造成严重后果。

因此,要站在坚持总体国家安全观的全局高度,统一安全大数据,共建国家级网络安全大脑,利用基于大数据的人工智能,解决万物互联时代错综复杂的安全问题,构筑大安全时代的国家网络空间安全防线。

最后,实现平台有漏洞。周鸿祎介绍,当下的人工智能系统都依赖开源的深度学习框架,存在大量漏洞,当前360研究人员已经发现了40多个深度学习框架的软件漏洞。

首先,建议将国家级网络安全大脑列为国家重大工程专项,成立国家网络安全大脑项目总体工作组、专家组、工程推进组,分别负责顶层设计和总体筹划、系统设计、工程建设。

人工智能无疑是下一轮技术革命的焦点,在技术高速发展的同时,如何保持这个技术更安全是重中之重。周鸿祎建议,解决人工智能时代的安全问题,能够防范的唯一方法就是利用基于大数据的人工智能。360去年基于安全大数据构建了360安全大脑,可以实现网络安全的自动化、智能化。

其次,建议由国家相关部门牵头,协调网信、工信、公安、科技等部门和单位,组织国企、民企、科研院所等广泛参与,发挥新型举国体制优势。

相关文章