晓查 发自 凹非寺 
量子位 报道 | 公众号 QbitAI

说到程序员着装，大家会想到什么？

自然是格子衬衫了。

但一个外国程序员，终于对此厌倦，他不想再穿格子衬衫或条纹衬衫，于是他打开了亚马逊网站，输入了关键词“无条纹衬衫”（shirt without stripes），结果却是这样的：

为什么几乎全部都是带条纹的衬衫啊？

“一定是我打开的姿势不对！”

或者只是亚马逊的自然语音处理（NLP）技术不够好吧。

他又接着尝试了谷歌和微软的搜索引擎，结果却还是这样：

反正结果就算不是衬衫，也一定带条纹，甚至还搜出了球衣。

如果把关键词换成“没有格子的衬衫”（shirt without plaid），结果还是让人失望。

是不是感到这个世界满满的恶意？程序员想买个没有格子的衬衫怎么就这么难！

接着，这位程序员把搜索结果上传到GitHub，短短十个小时就获得了300星。

更让人没想到是，这件小小的事情影响范围还在扩大，几个小时就在Hacker News上带了400多条评论。

看来有相同槽点想吐的人，并不少。

并且事情也“闹大”了。

大家发现，何止搜索引擎，现在你只需一个“不”就能让AI助手变“人工智障”。

打开你的Siri，和它说“不要告诉我天气”，但Siri还是义无反顾地告诉了你天气状况。

那么问题来了：为什么AI会犯如此低级的错误呢？

人工智能的盲区

无论是搜索商品图片还是询问天气，加上了一个“不”或“无”字，就变得复杂起来。

这个“不”到底是哪个部分做出否定，可能人类也说不清楚。

这类问题属于“归因”问题，可能是统计学方法不能解决的，这就触及到机器学习的盲区了。

在上面的问题中，处理一个“不”还算比较清晰，但是在一些对准确性有要求的领域，会有很大的问题。

比如“无癌症证据”，到底是得到了没得癌症的证据，还是根本没有证据呢？

这还算是比较简单的，人类语言中还有很多双重否定，有时候连人自己表达的时候都会犯错。

处理这类问题，不能使用过去的统计方法，而需要更多关注语法内在的逻辑性，语言学中的乔姆斯基学派的研究者就是这么认为。

但是涉及此类算法的研究很少，甚至很多从事算法的人对此并不感兴趣。

一些从事机器学习研究的大型公司，他们研究的算法具有很大的适用性，但是在归因等情况下，他们的语言模型可能会失败。

而且神经网络尚未显示出对此问题的改进。在说“不”这个问题上，各家的AI都不能通过图灵测试，甚至显得愚蠢。

所以是不是“另有隐情”？

技术不行还是SEO捣乱

是不是因为谷歌没有在搜索引擎里用上NLP技术，所以才导致错误的结果？

实际上，谷歌去年10月就已经在英文版的搜索引擎里用上了BERT。

过去，谷歌的搜索更多的是基于单个单词的理解。

比如“2019 brazil traveler to usa need a visa”，以前的谷歌搜索会基于visa、usa、brazil这几个关键词，而英文结果里更多的是美国人咨询去巴西，所以搜索结果往往是相反的。

更新后的谷歌能够理解“to usa”的含义，才能识别正确的结果

于是这让一些网友觉得，谷歌亚马逊研究多年的NLP技术不过如此，要理解人类语言还有很长的路要走。

不过，经过努力，计算机已经能够搞清楚英文里的“无癌症证据”（No evidence of cancer、Evidence of no cancer）两者之间的差别。

当然，还有一些技术之外的因素。

任何搜索引擎都绕不开SEO和广告问题。

那些卖条纹衬衫的商家会通过各种优化手段，霸占“条纹”和“衬衫”这两个关键词的头部位置，结果导致“no”和“without”之类的关键词被忽略。

一些网友认为，是SEO的垃圾信息毁了搜索引擎，同时广告还是是谷歌搜索的重要收入来源，谷歌自己可能也无心解决——这一点自然无法妄加揣测。

不过，我们也用最大的中文搜索引擎试了试，发现也是一样的结果：

但往好的一面看，这也意味着时代之问有解了。

之前，总有人“抬杠”，在智能时代里，你无法判断跟你交流的是人类还是AI……

但现在，钥匙来了：机器是不能说“不”的。

参考链接：
https://news.ycombinator.com/item?id=22925087
https://github.com/elsamuko/Shirt-without-Stripes

— 完 —

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容，未经账号授权，禁止随意转载。

喜欢就点「在看」吧 !