人工智能呼唤社会科学家

https://36kr.com/p/5214672

编者按：本文来自微信公众号“腾云”（ID：tenyun700），36氪经授权发布。

“我不认为我是一个社会学家、人文学家，但我认为所有这些关注人工智能和人类社会发展的人一定要更走近一些，多交流一些，一起探索这样敏感的边界、敏感的未知。”——李飞飞

2019年初，西北大学的Morgan R. Frank教授联合其他机构开展了一项有趣的研究，他们用大数据的方式，分析了从上世纪50年代至今与人工智能有关的论文发表和引用数量，试图搞清楚一个问题：到底是谁在研究人工智能？

该研究至少得出三个结论：

与人工智能相关的研究数量在过去的半个世纪里持续增长；
人工智能的研究越来越“中心化”了，他们集中在某些特定的机构里；
社会学科、人文学科的研究者在相关研究中严重缺位，论文的发表量和引用量仍处于较低水平。

教授们呼吁，是时候在社会科学家与人工智能之间建立更广泛的合作了。

在那篇发表于一年前的著名长文《人工智能：革命远未到来》中，机器学习之父、美国三院院士、被称为人工智能领域乔丹的Michael I. Jordan也表示了他的担忧。和李飞飞类似，他们都希望通过广泛的跨学科合作来打造一个以人为中心的人工智能。

▲Michael I. Jordan教授

乔丹教授指出，产业的发展将继续推动人工智能的发展，但学术界的作用不仅在于提供创新性的技术理念，而在于将来自不同领域——计算机和统计学科、社会科学、认知科学和人文科学——的研究人员汇聚起来，扮演连接器的作用。

作为人工智能领域的先驱之一，乔丹教授其实就是早年人工智能领域的跨学科实践者，他的重要贡献在于指出了机器学习与统计学之间的联系，并推动机器学习界广泛认识到贝叶斯网络（又称信度网络，是目前不确定知识表达和推理领域最有效的理论模型之一）的重要性。

直到今天，乔丹教授依然经常为统计学家和经济学家们“抱不平”，他认为人们常常忽略这些领域的专家们对人工智能发展做出的贡献。

现在，乔丹教授呼吁建立一门“以人类为中心的工程学科”。正如土木工程和化学工程建立在物理、化学等学科的基础上，这门未来的工程学科需要建立在包括信息、算法、数据、不确定性等思想基础上。同时，因为它建立在跟人类有关的数据上，所以也要需要社会科学和人文科学的参与。

“你们需要了解一点经济学、运筹学。我也建议你们学习人文学科：艺术、文化、历史、社会科学…”在面对清华大学学生的提问时，乔丹教授说，“如果你们只选计算机系的课的话，我不会要你们来读我的博士的。”

一、在科技公司工作的社会科学家

人工智能需要社会学者与人文学者的参与。这绝不只是一套政治正确的说辞。

2017年9月，一副截图引起了俄罗斯网友的热议。人们发现，对着两个人工智能助手说同一句话时，竟能得到完全相反的答案。

上图中，说英语的是谷歌助手，说俄语的是Alisa（由俄罗斯互联网公司Yandex开发）。当对这两个人工智能助手说出“我很伤心”的时候，谷歌助手回答，“我真希望自己有双臂，能给你个拥抱”；Alisa回答，“谁也没说过活着会轻松”。

这一现象至少引申出两个问题，第一，人类应该如何赋予人工智能“情商”；第二，是否要把人类社会存在的巨大文化差异延续到人工智能身上，如果是，应该怎样把握这个度？

人类太喜欢和智能助手聊天了。

根据亚马逊统计，半数用户和智能助手Alexa的对话都不是功能性的，而是对生活的抱怨、讲笑话，以及“讨论”和人生意义有关的问题。Siri也面临同样的挑战，因此苹果设置了“帮助人工智能助手增加情商”的相关岗位。

或许在不久的将来，我们不仅要在不同的硬件设备间做选择，也需要在不同的助手间做选择，我们可能会这样问自己：虽然它们具备相近的“智力”，但谁的“性格”更适合我？

很难想象在上世纪90年代就有科技公司聘请认知心理学家。

24年前，在印第安纳大学取得认知心理学博士学位的Mary Czerwinski来到微软，而她之前的研究都集中在脑科学与心理学领域。

她在领英主页上这样描述她的职责：专注于用户界面设计、信息可视化、情感跟踪、注意力、多任务处理和意识研究等领域。她所在的小组的主要任务就是帮助提升产品“情商”，以提升人机交互体验。

而在Nissan位于硅谷的研究中心，文化人类学博士Melissa Cefkin的一部分工作在于提升ProPilot自动驾驶技术和人的协作水平。

首先，是车和人的沟通问题。

“我们需要一种语言，一种尽可能普遍和通用的语言。作为一家面向大众的汽车生产企业，我们考虑的不仅是日本、美国和欧洲市场，我们需要将各个国家的情况都纳入到研究中。”Cefkin说道。

其次，是车与“人的规则”沟通的问题。机器会按规则行事，但人不是。

在理想情况下，每个道路占用者都会按照规则行事，那么算法就能发挥作用。但人类有成千上万种打破规则的场景，这就需要在算法的编译和执行间设定一个阈值，让机器可以灵活应对各种突发情况。

“你觉得这是一份临时性工作吗？”Cefkin回答说，“恰恰相反！”她认为，即使有一天自动驾驶汽车不再需要人“教”，汽车对于人类的“不可伤害性”也将伴随始终——只要人的生命处于比汽车更重要的位置。

二、大学里的「人工智能特区」

如果说，现在的人工智能行业是向社会科学家发出热情邀请，那么，未来的人工智能将拒绝那些“不能跨界”的人。

为此，两所世界顶尖高校开辟了“特区”。

今年3 月 18 日，李飞飞主导建立的斯坦福以人为本人工智能研究院（Stanford Institute for Human-Centered Artificial Intelligence，简称HAI）正式成立。

与其说这个研究院的成立是要应对人工智能可能带来的社会问题，倒不如说，他们是在用“重构下一代人工智能教育”的方式更高效的满足社会需求。如果把HAI看作一个产品，其中的每一位社会学家、心理学家、哲学家和人工智能科学家都是产品经理，他们需要解决的用户需求，就是让人工智能在解决重大社会问题时（李飞飞特别提到了人工智能在急诊室中的应用）扮演更重要的角色。

HAI的另一个关键词就是交叉协作——它天生就是为协作而生的。

该学院已经聚集了200多位各领域专家，还向斯坦福大学的7所学院，大约 55 个跨学科研究小组提供支持。同时，它也和大量科技公司、社会组织保持紧密合作。

▲HAI学院的两位负责人John Etchemendy和李飞飞/图片来源：斯坦福大学官网

李飞飞表示，“它的目标是成为一个全球对话中心，让每一个学科都能应对人工智能的挑战。”而从HAI的身上，我们几乎已经能看到人工智能对教育模式、机构间组织和协作形态带来的变化。

麻省理工学院（MIT）也加入到打造“特区”的行列里。

去年10 月 15 日，MIT在官网宣布了一项 10 亿美元的投资项目，包括创立一所新的学院。这是当时美国学术机构对计算和人工智能领域的最大一笔投资。

这个新学院被命名为MIT Stephen A. Schwarzman计算学院，其目标是 “培育未来的双语者” 。

什么是未来的双语者？

麻省理工学院校长L. Rafael Reif解释说，双语者的定义是身在生物学、化学、政治学、历史学和语言学等领域，但同样精通现代计算技术的人，他们要能够利用计算机和人工智能技术来推进他们的学科，并能够批判性地思考他们的工作对人类的影响，“为了培养双语者，我们必须有个新架构”。

MIT教务长Martin Schmidt说，新学院不是一个孤岛，而将成为连接整个MIT的组织。重新定位MIT，将计算和人工智能的力量赋予MIT所有研究领域，使计算和人工智能的未来能被其他学科所塑造也是新学院的使命之一。

自称为有限盈利（capped-profit）机构的OpenAI也正在聘请社会科学家。

他们在最近发表的文章《人工智能安全需要社会科学家》（AI Safety Needs Social Scientists）中提到：人工智能安全性研究需要社会科学家的参与，以确保人工智能的对比算法（alignment algorithms）在涉及真人参与的情况下能够成功，“将人工智能系统与人类价值观恰当契合，需要处理大量与人类心理相关的理性、情感、偏见的不确定性”。

除此之外，最近几年，哈佛大学的计算与社会研究中心（Center for Research on Computation and Society）及伯克曼克莱尔互联网与社会中心（Berkman Klein Center for Internet & Society）等学术机构也在举办跨学科工作坊和会议。

乔丹教授一直在强调“不确定性”的概念。

在他看来，人们对机器学习存在的不确定性认识不足。“他们简单地假定，当数据足够大、标签足够多的时候，不确定性会逐渐消失，系统给出的就是正确答案”，但是世界上不可衡量的因素太多了，有众多问题需要在存在巨大不确定性的情况下得到解答。这也是跨学科合作的重要意义。

而人类也在面临由人工智能带来的巨大的对未来的不确定性。

幸运的是，人类选择了一个相对确定的方式：协作。当我们越来越多的听到，人与人、机构与机构、机构与公司间的协作在愈加频繁的发生，我们有理由期待世界未来的样子。

参考资料：

【1】The evolution of citation graphs in artificial intelligence research/Morgan R. Frank,Dashun Wang,Manuel Cebrian,Iyad Rahwan

【2】Artificial Intelligence — The Revolution Hasn’t Happened Yet/Michael I. Jordan

【3】Will Artificial Intelligence enhance or hack humanity?/Wired

【4】The quantified heart/aeon

【5】麻省理工学院将建 AI 学院，他们打算投资 10 亿美元/好奇心日报

【6】Why AI needs social workers and “non-tech” folks/Desmond U.Patton

【7】AI Safety Needs Social Scientists/openai.com

【8】专访Michael Jordan：AI的分布式决策与不确定性/机器之心