作为世界上第一个自我唤醒的机器人，电影《无敌查派》中人工智能 “查派”却被教坏，渐渐茁壮为一个“杀人机器”。人工智能在未来知道不会威胁到人类吗？人工智能有可能蕴含着什么危险性？ 5月4日，碁如雷KEEN公司创始人兼任CEO，国际安全性极客大赛GeekPwn创办人王琦在“可谓”TALK上公开发表了关于《人“攻打”智能》的演说，从白帽黑客的视角带给了对未来人工智能安全性的独到见解和预测。

（国际安全性极客大赛GeekPwn活动创办人王琦）AI看见了世界 黑客却看见了危险性几十年间，人工智能经历了一波三折的交错发展，例如计算机视觉领域的图像识别，它的辨识正确率仍然无法获得大的突破，但是近年来获得了很多真是的成果。2012年， Google X 实验室收到了一套不具备自律自学能力的神经网络系统，不利用任何外界信息协助，它就能从一千万张图片中找到那些有小猫的图片。如今，人工智能早已普遍应用于生活的诸多场景中，还包括动态语音翻译成、目标辨识、自动驾驶、人脸识别、人机对话等等。

王琦在感受到激动的同时，也传达了他的忧虑：我们要注目到人工智能有可能暴露出的诸多潜藏风险。“如果需要让自动驾驶的图像识别产生错误判断，分不清楚前方遇上的是人还是树根，我指出这就是白丢弃了它，这有可能要比白丢弃传统的控制系统更酷。” 王琦说道。

GeekPwn实验室在2015年底开始了AI对付的研究，并普遍认识和召募AI领域的顶尖人才，迅速，在2016年的GeekPwn美国站上，分解对付网络（GANs）之父Ian Goodfellow就展出了“对抗性图像”在现实物理世界愚弄机器学习的效果。完整图像以60%的置信度辨别为“熊猫”，但是重新加入了微小的阻碍，在人眼几乎没什么差异的情况下却以99%的继续执行度归为了长臂猿。重新加入阻碍元素的图像引发AI的失误 AI自学和决策模型与黑客领域的漏洞挖出和利用过程何其相似AI在图像领域不存在被愚弄的可能性，让王琦预见这种可能性在其他语音和不道德智能等领域也不会不存在。

AI被愚弄，看起来人工智能的错误和不完备，但只不过在黑客眼里就有可能变为可以被利用的漏洞。“现代信息安全领域里的高级反击利用的漏洞，在很多年以前都意味着被看做是计算机错误。必须警觉的是，凡是错误，有可能到了黑客那里就变为了安全漏洞。

”王琦说道。人工智能倚赖对大量样本展开深度自学，最后产生决策的过程，和安全性领域里通过产生大量模糊不清测试样本引起计算机出现异常从而发掘出漏洞，最后继续执行流程可以被转变造成安全性危害的过程十分相近，如果说准确样本需要产生准确的决策，那么黑客通过离线仿真产生的AI反击样本，则有可能给人工智能带给错误的决策和不道德。微软公司聊天机器人Tay上线将近一天，就向网友“顺利自学”了新的聊天方式，从彬彬有礼的美国“姑娘”显得脏话大大，言语中还弥漫了种族主义、色情等“情感种族主义”。王琦大胆应验：深度倚赖自学样本的人工智能，未来对它的反击有可能甚至不必须撰写代码，人人都有可能沦为“黑客”。

目前AI只有0.1岁 黑客需要协助AI安全性茁壮白帽黑客从对付的思路抵达，找寻AI潜藏的风险并大大协助其完备，其篮协助人工智能安全性健康成长。“对于人工智能的观点目前分成两派，悲观主义者指出人类研发人工智能有可能是在自取灭亡，如果知道有那一天的话，白帽黑客可以做到的是维护AI安全性发展”王琦说道。当无人驾驶的“眼睛”被愚弄，它还能在马路上安全性行经吗？作为全球首个探究人工智能和专业安全性的前沿赛事平台，GeekPwn希望更好的白帽子黑客可以帮助AI展开安全性的预演分析。将于5月12日在香港星梦邮轮“云顶梦号”上举行的极棒年中赛，就将针对人工智能的安全性课题向全球黑客收到英雄帖。

原创文章，予以许可禁令刊登。下文闻刊登须知。

本文来源：Kaiyun·yunkai(中国)官方网站-www.matianchi.com