生物识别、深度学习、自然语言处理等人工智能技术的日新月异,让智能走进寻常百姓家,不仅是智能手机已经普遍用上指纹识别,人脸识别、红膜识别、声纹识别等生物识别技术也开始兴起,指纹锁这样的电子锁也成为家装的新选择。然而,一个事实却是,无论是人脸、虹膜还是指纹、声纹,都频频被成功破解。有人说,在AI的时代不谈安全,相当于"裸奔"。甚至有人给出了迫不得已的建议:安两把锁,一把指纹锁防传统的贼,一把铁锁防黑客。
其实,这种迫不得已的背后,引出的却是一个时代的命题:
我们应该如何在AI的时代谈安全?AI安全较之此前的网络安全有何不同?怎样才是AI安全的解决之道?
AI安全迫在眉睫
生物识别技术的兴起,背后是对独一无二的指纹、声纹图谱等生物特征的利用,正是因为这些生物特征每个人都不一样,因此,方才为成为身份识别和安全验证的解决方案。譬如,理论上任何两个人的声纹图谱都是存在差异的。再如,指纹这个最早的也是最基本的生物特征早已被应用在现实生活中。然而,道高一尺魔高一丈,黑客的能力和战斗力是跟随技术的更新换代而更新换代的。
譬如,一位毕业于浙江大学计算机专业的女黑客"tyy",只用了两分半的时间,就利用设备漏洞,直接修改设备中的人脸信息,实现用任意人脸来攻破人脸识别系统,成功打开门禁。更有黑客用了不到10秒,就用一张打印的照片在一定光线环境下解锁了一部手机。
这事儿发生在刚刚结束的GeekPwn2017国际安全极客大赛上,这场大赛中,白帽黑客们现场竞技,几分钟甚至几秒钟就轻松攻破人脸识别、虹膜识别、指纹识别等生物识别系统。
即便是声音也能仿照,通过语音合成挑战声纹识别。一般而言,声音是具有唯一性的,按说声纹识别技术应该是坚不可摧的。然而,事实却证明,语音合成的声音却能攻破声纹防线。在上述大赛上,选手就根据游戏《王者荣耀》里英雄配音者所提供的声音样本,模拟了其声纹特征,合成一段"攻击"语音,对现场提供的四个具有声纹识别功能的设备发起攻击,欺骗并通过了"声纹锁"的验证。
不仅如此,一部装有最新iOS系统的iPhone8手机中的照片也被黑客轻而易举地盗取。而此前,三星号称"超级安全"的新款手机盖乐世S8/S8+也曾陷入虹膜识别被破解的尴尬。据报道,这款手机在上市不到一个月时间内被曝出遭德国黑客轻松攻破。
生物识别是基于某一生物特征的唯一性和不可变更性,然而,一旦被克隆盗用,带来的不仅是财产损失,还会有各种意想不到的风险隐患。或许也正是因为这个原因,今年GeekPwn直接将人工智能挑战赛作为全年的重点项目。
利用AI存在的某些漏洞向AI发起攻击,是AI安全攻防的一个基本形式。然而,与传统的网络安全相比,AI安全远非漏洞这么简单。
AI安全与网络安全的大不同
数据显示,到2020年,会有500亿台物联网设备在全球部署。埃森哲预测,人工智能可能将劳动生产率提升40%,让人们更有效地利用时间。到2035年,人工智能将让年度经济增长率提升一倍。
正是在这样的背景下,去谈人工智能安全显得极为必要。与传统网络安全更多的是针对PC设备和服务器设备进行的安全防范维护,更多的是对付Windows的漏洞和木马等相比,人工智能时代的AI安全,对应的是数百亿台的设备,而且设备不仅是PC,更是手机、电视、冰箱、空调、各种专业物联网设备在内的一切所想得到的、能插电的设备。可以说,仅仅从设备海量而言,AI安全也都是既具有挑战性但又有迫切性的。
如百度总裁张亚勤所言,"AI时代,一个最大的挑战,就是安全的问题。"张亚勤从设备量级、物联网碎片化以及攻击方式三个方面谈了他的看法:其一,伴随万物互联百亿甚至千亿台设备的全球部署,其影响层面在传统程序安全、数据安全、金融安全的基础上,已经波及人身安全和社会安全;其二,AI时代的IoT碎片化程度会有指数级的增加,AI安全具备高度的复杂性;其三,针对安全的攻击方式将升级换代。
不仅如此,AI安全所涉及的范围还空前广泛,譬如,在传统安全层面,比如AI系统的硬件、软件、框架、协议等需要安全升级。再如,AI自身层面的安全,比如错误地引导机器学习系统,以达到攻击者的目的,或者破坏机器学习的样本,让机器学习得出错误的结果。可以说,无论是软硬件还是自身层面,AI安全已经是从传统网络安全中"脱胎换骨",像错误地引导机器学习,这事儿根本不敢想,因为,一旦能做到这样的攻击,尤其是对于诸如金融、医疗、社会公共事业等领域,倘若没有全方位地安全防范,将会产生致命的、难以预估的安全事件,甚至是酿成大祸。
可以说,AI安全需要云、管、端一体化,不仅仅是针对硬件、软件的安全防护这么简单。这种将云端、终端、管道一体化的安全,则是传统网络安全公司难以搞定的。而这一重任势必要落到有经验、有技术、有积累的人工智能公司身上。譬如,已经提前4年布局人工智能的百度,以及率先发力AI安全的百度安全,在最近就牵头做了一件为AI安全保驾护航的大事。
破题AI安全 生态联盟缘何成最优解决方案
这件事就是,11月6日,百度安全联合华为、中国信息通信研究院发起成立了"OASES智能终端安全生态联盟"(OpenAI System Security Alliance,简称OASES联盟)。
这件事的意义不小,不仅因为这是国内首个致力于AI时代提升智能终端生态安全的联盟组织,更重要的是,这是找到了破题AI安全这一时代命题的解决方案。因为,人工智能涉及的维度和层面很多,不仅云、端、管,更有庞杂如毛细血管一样的细枝末节,每一个细微之处忽略了安全防范,都可能带来风险。
这种防范,需要像Linux、Android一样有开源的系统和解决方案去全面化推广,而推广就势必会牵涉到云、端、管等各路公司、各路软硬件,这种情况下,有一个联盟存在,好比是有了能量补给的仓库,随用随取,自由部署,互联互通。如此,AI安全方才有的谈、有的做。
而这事儿为什么是百度牵头呢?一个可能原因是,百度在AI上发力较早,加上做的都是底层技术和系统、开放平台的事情,所以能对AI安全有更全面和深入的理解。也是因为此,方才推动百度去想牵头做这样一个联盟。
百度牵头成立这个联盟蛮有诚意。从百度安全事业部总经理马杰对联盟的解读可以看出,"我们建立联盟,不想说一个特别空的东西,最好有实际的东西,使得大家先得到一点帮助--这可能也是非常重要的一步,大家先往前迈一点。"做联盟,尤其是做大家之前没有涉及的AI安全生态联盟,要让尽可能的公司和组织加入进来,的确需要秀一下诚意。百度此次拿出自己在人工智能领域深耕多年的技术,不仅免费授权给联盟厂商使用,还将核心技术开源,专利共享,以打消产业链同行的顾虑,推动核心安全技术在各个环节节点的真正落地应用。
此举可谓是抛砖引玉,像华为、中国信息通信研究院这样的伙伴加入,大家则能一起把联盟推广起来,只有越来越多的组织加入,这个联盟的生态效应也就会日趋显现。
一如Android开源一样,Google并不从Android上面盈利,但是也正因为此,造就了一个安卓智能手机盛世。同样的,只要做好专利共享、技术开源、标准共建,坚持去开源、去共赢、去输出,由百度、华为们联合发起的这一OASES联盟,就有望通过联盟合作伙伴的合力,共同推动AI安全技术与服务的应用落地,并有望引领大生态、大安全的AI时代。