谷歌AI也有输的时候,麻省理博狗娱乐工学院学生让它狗和果酱傻傻分不清楚

2018-01-07 22:12

CNET科技行者 1月4日 北京消息(编译/高玉娴):人类能够从照片中轻松辨认出可爱的小狗,但谷歌公司的神经网络看到的却可能是牛油果酱。这样一个看似有趣的“恶作剧”背后,实际上隐藏着巨大的风险。

谷歌AI也有输的时候,麻省理工学院学生让它狗和果酱傻傻分不清楚

如今,机器学习算法已经成为人工智能发展的关键要素,然而,事实证明算法也存在着被攻击的风险和挑战。

以著名的“认猫”实验为例,即使面对一张明显显示为猫的图像时,一旦其中存在“对抗性示例”,机器学习算法所识别的结果可能将不再是猫,而是人眼所无法检测到的某些刻意安排的内容。

虽然此前许多研究人员认为,这类攻击方式只存在于理论层面,即更像是一种示例而非真实威胁。然而,来自麻省理工学院学生社区LabSix的一群学生们已经证明并发表了相关论文,表示他们能够创建出误导算法的三维对象(对抗性示例)。

谷歌AI也有输的时候,麻省理工学院学生让它狗和果酱傻傻分不清楚

如上图,这个3D打印的龟被系统识别为步枪。

这一操作的实现方式是利用算法生成对抗性示例,并在模糊、旋转、缩放或翻译等转换过程中导致目标错误分类。

而最近,该团队又宣布,这样的“误导”已经可以在“黑盒”条件下进行。即不需要了解算法的内部运作机制,也可以创建对抗性示例,从而攻击算法。

这意味着已经全面渗透至人们日常生活的人工智能技术正面临着新的挑战。试想一下,有人可以利用这样的方式使用对抗性示例代替你本人来解锁你的智能手机或付款。

在最新的论文当中,该团队仍以谷歌Cloud Vision API(这是一种目前已经广泛使用的标准商业化图像分类算法)为例,描述了如何在对算法知之甚少的前提下创建对抗性示例的过程。

他们对于Cloud Vision的所有认知皆来自对其图像分类结果的分析,例如其在识别图像时给出的几个最佳选项,以及各个选项对应的概率。

LabSix的一名学生Andrew Ilyas表示,在不具备关于神经网络基础信息的前提下攻击算法确实是一项巨大的挑战。他指出:“以识别狗的实验为例,一般大家在构建这类对抗性示例时,首先想到的是如何从狗的形象出发将其转变为牛油果酱。从传统角度来思考,最重要的是随时获得算法将该图片内容辨别为牛油果酱的概率。然而在攻击谷歌Cloud Vision时,算法并不会告诉我们任何将图片判断为狗或牛油果酱的具体概率,只会展示其对于狗这一结论的肯定程度。”

 

谷歌AI也有输的时候,麻省理工学院学生让它狗和果酱傻傻分不清楚

▲图片来源: LabSix

为了解决这个问题,该团队使用了另一个算法,用来估算能够让机器将狗的图片误认为是牛油果酱过程,所需要变化的像素值,然后再利用两套算法共同对像素进行缓慢切换。即从目标类的图像(在此实验中指的是狗的图像)开始,逐渐将其转化为期望的对抗图像(在此实验中指的是牛油果酱的图像),同时在输出中保持目标类。在所有的时间里,这个算法只保留了破坏像素的正确组合,让系统认为它是在看着一只狗。

 

谷歌AI也有输的时候,麻省理工学院学生让它狗和果酱傻傻分不清楚

▲如上图:目标类图像是狗,对抗图像是双人雪橇

该流程的工作原理在于,算法会将该图像数千次甚至上百万次地提交至Cloud Vision API,从而测试何时才会成功将识别结果由狗转变为牛油果酱或其它事物。

 

谷歌AI也有输的时候,麻省理工学院学生让它狗和果酱傻傻分不清楚

 

谷歌AI也有输的时候,麻省理工学院学生让它狗和果酱傻傻分不清楚

▲图片来源: LabSix

这一过程通常需要经过超过500万次的查询,但Ilyas和他的团队使用了称为自然进化策略(NES)的计算机算法,从而帮助他们猜测图像识别是如何对图像进行分类的。作为结果,他们只进行了大约100万次查询就为谷歌Cloud Vision的图像分类器创建出了一个特定对抗性示例。而人眼在观看图片时,永远无法从中看到任何牛油果酱的端倪。

Ilyas说,之所以可以做到这一点,是因为他们的程序会在图像上调整大量的像素,而不是每次都是几个像素。

此外,在另一项测试中,他们还成功地让谷歌的API误将一架直升飞机认作一组步枪。


上一篇:中国联通中国电信联手国投和万博狗注册国数据开展新一代互联网数据中心建设
下一篇:5G规范的“里程碑博狗开户 ”与高通的有所为
扩展阅读
屌丝理财神器余额宝推博
屌丝理财神器余额宝推博

分析人士认为,这种彻底打通互联网和理财分界的新模式有望开启一个碎片化理财的新时代。 余额宝:让零花钱也能获得增值机会 余额宝实际上是将基金公司的基金直销系统内置到支...点击了解…

美团官方回应闪电行动:
美团官方回应闪电行动:

CNET科技资讯网 11月20日 北京消息(文/齐丰润): 近期,国内O2O市场的表现一直都相当活跃,愈演愈烈的竞争,以及不断颠覆的格局也受到了各大媒体的关注,这其中美团绝对占据了主...点击了解…