原作 Mustafa Suleyman
维金 编译自 Wired
量子位 出品 | 公众号 QbitAI

2018年，正火热的人工智能会朝什么方向发展？

DeepMind联合创始人苏莱曼（Mustafa Suleyman）今天在《连线》上发表文章，给出了他心目中的答案。

苏莱曼在DeepMind主管“应用AI”。他19岁从哈佛辍学，在联合创立DeepMind之前先后建立过穆斯林青年求助热线、冲突解决咨询公司Reos Partners，做过伦敦市长的政策专员，还为联合国、荷兰政府、WWF工作过。

以下内容，量子位翻译自他的《连线》专栏文章：

从气候变化到粮食供给，再到为不断增长的全球人口提供医疗保健服务，人类正面临各种各样复杂的挑战。如果不解决这些挑战，那么人类社会可能会面临极其严重的破坏。

幸运的是，人工智能的发展可以扮演创新角色，帮助我们解决这些问题。

与此同时，人工智能技术与社会经济的整合也带来了自身的挑战。这类技术可以解决经济不平等问题，但如果技术福利没有广泛传播，那么可能会导致问题变得更严重。这类技术可以揭露破坏性的人类偏见，帮助社会解决这些偏见，也有可能加强偏见，导致偏见被固化。

如果想要确保方向正确，就必须认真研究人工智能的社会效应，并建立伙伴关系，确保技术为公众利益服务。

这也是为什么我预计，关于人工智能伦理、安全和社会影响的研究将成为未来一年中最紧迫的课题之一。

在这些方面，我们已经完成了有价值的工作。例如，社会正在形成共识，即新技术的开发者有责任协助解决不平等、不公平和偏见带来的问题。2018年，我们将看到更多团队开始着手这方面研究。

这并不容易：技术圈往往会陷入简单化的思维方式，将复杂的价值评判替换为简单的指标。这些指标可以追踪，并且随时间推移可以不断优化。

当然，计算“点赞”次数要比理解为什么“点赞”，以及这对自信和自尊有什么样的影响要简单得多。然而，这些社会效应很重要。这要么有助于创造出解决问题的环境，要么会造成怨恨和恐惧的氛围：对于企业牺牲社会利益换取商业利益，公民会感到愤怒。

这个领域的发展还需要建立新的决策机制，直接引入公众的声音。对于一个倾向于单方面解决问题，或是将问题丢给其他人去解决的行业来说，这将是根本性的改变。

尽管如此，作为社会活动者出身的人，我可以看到，许多科技领域工作者正尝试真正地改善世界。这些人相信，他们与那些献身于理解事物含义的人群有天然的亲密关系。

受此鼓舞的人们，例如创立了“ Time Well Spent”运动的Tristan Harris，正在建立新联盟来对抗“注意力经济”。分别来自微软和谷歌的Kate Crawford和Meredith Whittaker共同创立了“AI Now”组织，研究科技对社会的影响。此外，“Partnership On AI”将多家领先的人工智能研究实验室（包括我的公司DeepMind）首次连接至知名的非营利组织，例如美国公民自由联盟。这个项目的目标是推动技术专家和社会活动家的共同参与。

正确处理这些事情并不仅仅是出于善意。我们需要从事困难、有实际意义、混乱的工作，理解人工智能的道德究竟是什么。如果我们成功让人工智能为人类和地球工作，那么随之而来的影响将具有转型意义。目前，所有一切都还需要研究。

△ 图片来源：Wired；作者：Janne Iivonen

原文地址：http://www.wired.co.uk/article/mustafa-suleyman-deepmind-ai-morals-ethics

— 完 —

加入社群

量子位AI社群13群开始招募啦，欢迎对AI感兴趣的同学，加小助手微信qbitbot5入群；

此外，量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募，面向正在从事相关领域的工程师及研究人员。

进群请加小助手微信号qbitbot5，并务必备注相应群的关键词~通过审核后我们将邀请进群。（专业群审核较严，敬请谅解）

诚挚招聘

量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态