人工智能与人工智障，可能就是一线之差

随着应用领域的不断扩大，机哥也常常听到很多人发出这样的声音：

“我想做AI……”

没错，只要随手在知乎上一搜，就能发现不少想要转行从事人工智能的朋友。

毕竟作为风口行业，做AI还是蛮吃香的。

但是嚯，并不是所有人做出来的人工智能产品，都能够达到最完美的效果。

国外就有人专门建立了一个数据库（AI Incidents），汇总了迄今为止翻车的各种AI产品。

可以说，堪称沙雕。

沙雕AI翻译

机哥相信，对很多人来说AI翻译并不陌生。

和传统的机器翻译不同，AI翻译可以利用计算机算法，达到流畅的翻译效果。

并且AI翻译还能像人一样，通过不断的学习，完善翻译的能力。

听起来非常先进，但这丝毫不影响它半路翻车。

事情发生在以色列。

一位名叫哈拉基姆哈拉维（Halawim Halawi）建筑工人在社交媒体Facebook上，用阿拉伯语发布了一句“早上好”，搭配一张自己站在拖拉机旁的照片。

随后，这个男子就毫无预警地，被当地警察给逮捕了。

美好的早晨，从免费供应的警察局盒饭开始。

紧张的哈拉基姆在和警察的沟通中发现，他之所以被带走，是因为Facebook的AI翻译把“早上好”，翻译成了“攻击他们”。

原来，AI翻译功能将非标准阿拉伯语，连蒙带猜地识别成希伯来语。

就好像有人把口语化的“早啊您嘞”，错误地看成“草（cǎo）啊您嘞”，并翻译成其他语言。

再加上此前有挖土机攻击群众的例子，就让警察更加肯定这名男子要实施犯罪。

一般来说，这种无法识别的单词，翻译引擎会选择保留，或者跳过不翻译。

但是在AI翻译当中，它会根据数据库当中的信息，自行学习并且试图拼凑出这些词语的意思，多少有点自作聪明的赶脚。

这并不是AI翻译第一次翻车。

此前，谷歌翻译也曾经把“俄罗斯联邦”翻译为“Mordor”，后者是《指环王》里一个邪恶又黑暗的地区。

谷歌自动把俄罗斯翻译成Mordor

而微信上的翻译服务，也曾得出了很多让人啼笑皆非的翻译结果。

例如“You are so caixvkun”，被翻译成了“你真是个傻蛋”。

当然啦，AI翻译翻车还只是AI Incidents数据库里的一个例子。

更沙雕的，还有使用人工智能技术开发的机器人。

沙雕AI机器人

为了缓解人手不足的情况，苏格兰的一位老板在自己的超市里，尝试引进了一个机器人店员。

这个机器人由赫瑞瓦特大学的研究团队研发，名叫法比欧。

它被设计成像Siri或Alexa一样，只要连接上Wi-Fi，就能够和顾客进行对话，解决顾客的问题。

听起来是不是非常高端大气上档次……

但是大家都知道，理想很丰满，现实却很骨感。

例如顾客询问奶酪在哪个位置的时候，法比欧只会回答“奶酪在冰柜里”。

听起来没有什么不对，但鉴于超市的冰柜有一整排，法比欧的答案对于顾客来说，就是答了个寂寞。

而当顾客询问啤酒在哪里的时候，法比欧也只会空泛的回答到“在酒精饮料区”。

这还不算完。

由于法比欧被设计成胯胯轴微微凸起的形象，不少超市的顾客都被顶到……吓到不敢靠近。

而且顾客还会抱怨经常它挡道，所以大部分人看到它都选择绕道避开。

最终，法比欧因为吓跑不少顾客，没有逃过被解雇的命运。

沙雕AI语音助手

还有亚马逊的AI助手Alexa，不仅一次被记录下翻车。

有孩子在要求播放歌曲Digger Digger时，Alexa试图给他播放成人电台的作品。

糟糕，Alexa给孩子播了成人内容

这个过程刚好被孩子的父母用手机记录下来。

也幸好父母在旁边，才阻止了Alexa的进一步动作。

不过根据视频显示，当时Alexa已经说出不少儿童不宜的词语。

还有一次，美国电视里的新闻主持人正在播报新闻，谈到一个小女孩和亚马逊Alexa的有趣互动。

这个小女孩在Alexa的帮助下，订购了一个玩具屋和一大罐饼干

随后主持人说出，“我超喜欢这个小女孩说，'Alexa给我订了一个玩具屋'的样子”。

然后……全国各地就有不少民众表示，自己的Alexa被电视里的这句话唤醒，并且准备订购玩具屋。

Alexa被意外唤醒，试图购买大量玩具屋

除了亚马逊的Alexa之外，大家熟悉的Siri其实也因为过于沙雕，闹出过不少笑话。

例如有人测试，告诉Siri想吃大便。

Siri居然真的推荐了几个公共厕所。。

而比起上面那个玩笑话，接下来的就更可怕了。

在某一版iOS当中的Siri，在收到“我会自杀”的讯息时，回答的竟然是：

我相信你可以的。

沙雕AI人脸识别

众所周知，AI人工智能的一个重要领域，就是人脸识别。

在这方面，AI Incidents数据库记录下的翻车例子也不少。

其中一个就来自咱们中国。

没错，就是大家非常熟悉的“董明珠闯红灯”事件。

这张图相信大家也看过很多次啦。

宁波行人闯红灯曝光台在曝光的过程中，由于人脸识别算法的问题，将人行道上驶过的公交车上的董明珠广告形象，给曝光在大屏幕上。

而当时宁波交警也回复，将对技术进行升级。

AI算法闹出的笑话还不止这一个。

疫情期间一场网络直播的足球赛，采用AI识别控制镜头自动跟踪足球，进行了网络直播。

然而，AI认为场边的裁判的光头是足球，就一直把画面聚焦在裁判的光头上，导致了球迷无法正常观看球赛。

AI把裁判的光头误认为足球

不过最严重的，还要属iPhone的人脸识别翻车。

美国的一家著名生物识别安全公司FaceTec，找到了iPhone X上Face ID的识别漏洞。

如果用户睡着，可以通过打印一双纸质的眼睛放在用户的脸上，从而欺骗Face ID完成解锁。

这还不是最过分的。

研究人员从pizza上随手拿下一些配料放在眼睛上，也能完成解锁的动作。

例如直接用橄榄代替眼睛，就能够让iPhone X解锁。

或者是香肠和橄榄组合，也能轻松骗过Face ID。

顿时间，iPhone这几代那个浓重而又占地方的刘海，就显得有点鸡肋。

另外，还有橄榄和蘑菇的组合，也一样能够替代用户的眼睛来解锁。

当然啦，上面的例子大家看完的反映，大多就是笑一笑。

但是，除了这些比较有趣的翻车例子之外，AI Incidents数据库还记录下很多血的教训。

在使用的过程中，由于种种的原因，AI也造成了一些严重的事故。

例如亚马逊的工厂里，由于AI机器人无故刺破驱熊喷雾，就导致24名员工送院治疗。

机器人意外释放驱熊喷雾

24名亚马逊工人送医

而在2017年美国加利福尼亚州发生大火时，一个以AI智能规划路线的导航，就在用户准备逃离时，把用户引导至大火的方向。

导航把用户引向山火方向

除此之外，AI Incidents数据库中还有不少自动驾驶事故案件的纪录。

包括大家熟悉的特斯拉和Uber，都多次发生过类似的问题。

其中大部分都是因为AI系统无法及时躲避路上的行人，才导致了悲剧的发生。

自动驾驶车辆意外造成亚利桑那州女性死亡

当然，说了那么多AI翻车的故事，机哥并不是要告诉大家远离AI。

毕竟作为未来科技发展的一个重要方向，AI能够带给我们的好处，远远比这些翻车的事故要多。

前提是，要在技术成熟的前提之下。

因为只有保障了使用的安全，AI才能够最大程度地为我们的日常生活提供帮助。

不然的话，压根就谈不上什么人工智能。

顶多就是人工智障而已。

赞助本站

（编辑：187手机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!