周鸿掉：AI也存在先天缺陷 应避免用AI作假

5月16日，在第三届世界智能大会上，360董事长兼CEO周鸿掉发表演讲。周鸿掉表示，最近发生的三件与人工智能有关的事情，揭示了人工智能的安全隐忧。

周鸿掉说，讲这三件事并非贬低人工智能，恰恰相反，关注安全有利于人工智能更好地发展。因为只有安全的信息化，才会给人民带来安心和幸福的信息化。

无人值守系统里的“最后控制权之争”

周鸿掉提到的第一件事是波音737MAX坠机事件。近期，737MAX型飞机在过去六个月内发生两次坠毁事故，原因为其飞行控制系统的严重安全风险。

周鸿掉自称非航空专家但也看到两个问题，一是系统设计得再完美，一旦传感器出错，就会影响飞行控制系统的判断，继而“犯错”。二是当计算机出错后，究竟是听计算机的还是驾驶员的？

“大家都应该思考这个问题”，周鸿说，在将来无人车、无人工厂、无人码头等众多无人值守系统里，当我们没有很大把握的情况下，在传感器误报、数据被污染的情况下，最后的控制权和决定权应该留给机器还是人？

人工智能时代的“畅销服装”

周鸿掉讲的第二件事从“逃犯克星张学友”说起，据悉，因为张学友演唱会现场的“人脸识别”技术，警察轻松抓获多名在场逃犯。

不过，周鸿掉提醒大家不要只觉得人脸识别厉害，这一技术本身也存在先天缺陷：黑客们通过研究发现，只要把一种奇怪的条纹打印下来，别在衣服上，就能“屏蔽”掉人脸识别系统，出入自由。

“这种衣服可能会很畅销”，周鸿掉不忘在演讲中调侃。他认为，这还只是不太严重的情况。以小见大，一些无人驾驶的汽车，可能会被马路上‘奇怪’的符号误导，导致严重的交通事故。

为了杜绝这种情况，周鸿掉建议企业在上线系统前，应做好安全检测，做好“实网攻防”。“要用实际的攻击发现问题，而非靠静态的研究证明系统的安全”，周鸿掉还为公司“打广告”：“一定要找我们这些天天吃饱没事干的‘黑客公司’来帮大家做实际的攻防，在我们手里发现问题，比在实践中发现问题可能要好一些。”

周鸿掉为何调侃刘庆峰？

“我要攻击刘庆峰”，谈到第三件事时，周鸿开门见山，调侃科大讯飞刘庆峰。据悉，去年人工智能大会期间，两人埋下了“吃包子”的恩怨，刘庆峰爆料周鸿掉在最近的活动中连续吃了11个天津狗不理包子。

不过，“吃包子”恩怨是假，担忧人工智能是真。周鸿掉指出，去年刘庆峰在演讲中播放了用人工智能“伪造” 的视频，引发了他的思考。他在演讲中提醒大家：最近，国外已经有人利用人工智能将不雅视频里的女主角换成女明星。这一技术正引发恐慌，遭到该国政府查封。

“我今天已经不相信朋友圈里的美女了”，周鸿掉说，如果这种工具降低了每个人的做假成本，就可能会出现假新闻、假名人视频。这颠覆了我们过去“百闻不如一见”的固有观念，甚至会在关键时刻带来混乱。

“新加坡正在制定相应的法律”，周鸿掉呼吁我国也应加强对该类问题的重视，防止这样的“工具”流传，引发一系列道德伦理问题。