当共话人工智能时代安全问题

共话人工智能时代安全问题

现在，人工智能作为一项高赋能的技术，在为产业发展提供新机遇的同时，也带来了安全的挑战。在这个机遇与挑战共存的时代，我们如何看待和解决人工智能的安全问题呢？7月10日，在2018中国互联大会人工智能移动安全高峰论坛上，来自阿里巴巴、百度、360、小低VOC米、长虹等企业界的嘉宾就此展开了热烈的讨论。

360智能安全研究院院长李康认为，智能和安全已经在安全这个领域对抗很多年了，包括病毒检测、垃圾邮件、钓鱼软件等问题一直都存在，各种机器学习算法的对抗，在过去也一直都在发生。现在被各界广泛关注的热点问题，在安全领域中其实都是老问题，而且会一直存在。

与此同时，随着很多新的人工智能应用的出现，还会出现新的安全问题。李康举例说，例如一个水平不高的程序员，过去做数据库传输曾出现了脱库问题，现在去写人工智能程序、写区块链程序依然会出现问题，“安全对抗应该是安全领域永恒的一个主题。”

小米科技首席安全官陈洋认为：“我们完全没有必要恐惧ai带来的安全问题。因为安全永远是一个不断攻防的过程。问题暴露了，我们解决了问题，就安全了。”他举例说，比如解锁，最开始是输入密码，只要别人在旁边瞄一眼就可以看到，只是大家“视而不见”而已。通过ai技术赋能，通过摄像头能识别“你是你”后解锁，带来了很多方便。随之而来安全问题出现了，用一个照片、一个视频就能去解锁。“我们用ai去实现人脸解锁的同时，我们也用ai进行攻防。怎么样去做人脸解锁呢？最开始我们要训练ai怎么样能够认出‘他是他’，先把人区分出来。第二步，对ai进行识别黑样本的训练，让ai通过大量的黑样本学习到非活体的破解手段。”陈洋解释说，“ai既可以用于产品，也可以用于对产品的安全性进行提升，还有很多时候可以用于检测非法的攻击等等。因此，ai在安全领域也是有非常多的应用场景的。”

“我们要像呵护自己的孩子一样去呵护智能硬件。”阿里巴巴安全部资深总监陆全如是说，并解释说，第一，现在所谓智能就是数据驱动，人们给它什么数据它就学什么。第二，人工智能代表未来的生产力，不能因噎废食，因为惧怕这个人工智能而不去做研究。第三，随着智能的发（3）未经我方同意任意安·磨擦次数10⑼99装有病毒软件、任意删除电脑文件或自解注册号使用不能正常工作造成实验机不能工作展，以后它就不会再像现在那样易于被人攻击了。

在百度首席安全科学家韦韬看来，ai的应用不可能因为存在安全隐患就推迟到来，因为“ai的应用如洪水般涌来。”他进一步解释说，大部分产业里都是这种情况，在技术突飞猛进的时候，很少有人会考虑安全问题。“我们现在感觉到的是非常强的紧迫感。现在ai在各个领域推进的速度之快是超乎大家想象的，前两年it业界的人还不知道深度学习提升了企业品牌形象是什么，今年都在谈深度学习能做什么。” 韦韬说，“我们看到在一些典型应用场景之下，存在极其严峻地对安全和隐私的威胁。而且这个威胁已经不再是一个可能的风险，而是一个现实的威胁。比如像智能音箱和智能家居的设备，当它的安全出现问题的时候，用户的隐私直接面临非常严重的威胁。这个破坏能力超出了前两年安全问题的破坏能力，完全埋伏在用户的周围，用户想逃都逃不掉。”

对于“还是孩子的ai”，韦韬认为，既然大家已经对“这个孩子”寄予了非常大的期望，那么就要让“这个孩子”做很多“成人”都做不好的事情。“大家都知道没有哪个安全产品是绝对万无一失的，都要做防御体系。过去某一条防线被攻破以后，后面还有补救机会的。但是在无人车上是几乎没有补救机会的。”韦韬说，“我们要做很多工作，以能够在安全上有新的突破，把以前在‘沙滩’上建立的‘城堡’的地基重新夯实。”

长虹信息安全灯塔实验室首席科学家唐博说，对于智能设备厂商来说，ai促进了产品效能的提高，促进了用户使用体验的提升。同时会带来一些安全问题，也是预料之中的。唐博认为：“就ai和安全之间的关系来讲，我们可以把它看作三个发展阶段。第一个阶段，用ai的方法可以解决一些安全的问题，可以用ai的方法来识别攻击，可以通过大数据分析，分析流量和终端的一些情况，来识别一些异常流量或者一些攻击的行为。第二个阶段，是用安全来保护人工智能，同时保护隐私。 第三个阶段，在智能设备的安全性达到一定程度的时候，ai会有更大的发展，到时候可能会出现跨界甚至跨平台的ai应用，效率会得到更大的提升。ai、安全和效率三者之间是一个相辅相成的发展过程。”

泰尔终端实验室副主任马鑫认为，任何技术本没有对错之分，只有先进落后之分。ai不像其他技术，其他技术像潮水，ai像海啸。今年上半年ai扑面而来，所有的领域、所有的行业都在说ai。ai是一个大系统，是一个有很大赋能作用的技术，软件越复杂，它的安全点越需要被关注。在整个技术研究过程中，发展和安全之间的问题是需要平衡的。要考虑ai应用的场景，有些产品应用场景比较简单，它的安全性比较容易能够得到满足或者得到保障。在ai应用比较复杂的情况下，更需要安全性的保障和研究。“有一个底线应该成为共识，当某项技术涉及或者威胁到人身生命财产安全的时候，这项技术的应用就应该放到安全之后去考虑。”（云竹）

+1

【纠错】

：

华信