人类PK机器人，谁会胜？

现在都在声称“人工智能化”，然而为了获取融资，很多公司却往往会向投资者隐瞒其对于人类员工的强依赖性。

建立一个人工智能主导的服务很难。太难了，事实上，一些创业公司发现让人类做机器人的工作，比让机器人做人类的工作更加简单。

所以为了获取融资，一些公司干脆使用专家所谓的“绿野仙踪”技术，向投资者隐瞒了他们对人类的依赖。有的公司会利用人类来训练AI系统，有的公司声称他们拥有可扩展的AI技术，私下却还是得偷偷依赖人类。

“伪AI”科技公司实际已经泛滥成灾

ReadMe首席执行官Gregory Koberger表示，他遇到过很多“伪AI”：

“让人来做工作，可以让项目跳过大量的技术和业务开发挑战。显然，这是没有扩展性的，但这么做可以在早期构建一些东西并跳过困难的部分。”

“这基本上是用人类来构建AI的原型。”

近日华尔街日报就报道了这种类似行径，并重点提到了Google允许数百个第三方应用开发人员访问用户收件箱的消息。其中的一个第三方——Edison Software公司，总部位于圣何塞，他们的人工智能工程师能够通过数百名用户的个人电子邮件（用户的身份被编辑过）来改进“智能回复”功能。该公司没有提及人类会在其隐私政策中查看用户的电子邮件。

显然，报道中提到的这种“偷偷让人类来做机器的活”的第三方公司远不止这一个。2008年，一家将语音邮件转换为短信的公司Spinvox就遭到了指控，它们根本没有使用机器，仍然使用人工来完成其工作。

2016年，彭博社就曾公开报道过，很多公司的员工每天会花费12小时假装成聊天机器人，比如为日历安排服务的X.ai和Clara等等。这项工作令人头脑麻木，以至于工作人员表示他们期待被机器人取代。

2017年，业务费用管理应用程序Expensify也承认，它其实一直在使用人类员工来转录数据，虽然它们对外声称的是使用“智能扫描技术”处理的。这些被转录的数据还会被发布到亚马逊Mechanical Turk等众包劳动工具上，方便低薪工人阅读和转录。

为获取融资，企业往往选择“善意的谎言”

事实上，即使是在人工智能上投入巨资的Facebook，在一些工作上还是会依赖人类作为Messenger的虚拟助手。

在某些情况下，人类习惯于训练AI系统并提高其准确性。一家名为Scale的公司就提供了一系列的人力工作者，为自动驾驶汽车和其他人工智能系统提供培训数据。例如，“定标器”将查看相机和传感器反馈，并在框架中标记汽车、行人和骑车人。通过足够的人体校准，AI才能学会识别这些物体本身。

所以很多情况下，一些公司会伪造“业务智能化”直到它们真正成功——它们会告诉投资者和用户已经开发了可扩展的AI技术，同时却秘密地依赖人类。

此前Twitter上就有一个十分讽刺的推文：

如何创立AI创业公司：1、雇一群最低工资的工人伪装成一个AI机器 ；2、等待AI被发明。——Gregory Koberger @gkoberger

Woebot（一个精神健康辅助聊天机器人）创始人、心理学家Alison Darcy将这种行为描述为“绿野仙踪设计技术”。

“本质上这就是在模拟终极体验。而且许多时候，人们谈到AI时，窗帘后的其实是个人，而不是算法。”她说。她还提到，构建一个好的AI系统需要“海量的数据”，有时候设计师希望在投资这些数据之前了解是否有足够的需求。

支持还是反对？

但是，这种方法并不适用于心理学范畴。

研究表明，人们由于对寻求精神健康帮助的羞耻感，在认为自己与机器交谈而不是与人交谈时会愿意暴露更多信息。“作为心理学家，我们有一套伦理规范。不欺骗，就是这些规范之一。”

来自南加州大学的一个团队用名为Ellie的虚拟治疗师对此进行了测试。 他们发现，如果患有创伤后应激障碍的退伍军人以为Ellie是个AI系统（而不是由人在操作机器）的时候，更加愿意将他们的症状坦诚相告。

但是作为投资者，当然是持相反意见的。

“我不喜欢这样，”LaPlante对于那些伪装成提供AI访问却实际上雇佣人类的公司发表看法，“对于我来说，这种行为就等于不诚实和欺骗，我不希望我使用的业务涉及任何一点。”他认为公司的运营方式永远应该保持透明。

而对于人类员工来说，“我不喜欢我们付出的劳动被公司用来欺骗客户。”

这种道德困境也出现在那些假装成人类的AI系统上。最近的事件就是Google Duplex机器人助手，能用“嗯……”“啊……”等语气词模拟真实生活中的电话，帮助人类预约服务，比如餐馆预订、理发预约等。尽管在餐馆预订位置似乎是个无关大局的交互，但同样的技术很可能会被坏人用在更有影响的地方。

比如，如果模拟名人或政治家的声音打电话，那会发生什么后果？

原文：https://www.theguardian.com/technology/2018/jul/06/artificial-intelligence-ai-humans-bots-tech-companies

作者：Olivia Solon， 旧金山Guardian US的高级科技记者。

译者：弯月，责编：郭芮