当人工智能遇上伦理道德

在1956年美国达特茅斯学院召开的学术研讨会上，人工智能（AI）首次成为一个正式学术领域，发展至今已有60多年的历史。随着人工智能技术的不断成熟，会有越来越多的机器人或智能程序充当人类助手，帮助人们完成复重性、危险性的任务。然而，随着人工智能技术的成熟和大范围应用的展开，人们可能会面临越来越多的安全、隐私和伦理等方面的挑战。当“道德伦理”这个传统又敏感的话题碰到人工智能，又会诞生哪些值得我们思考的东西呢？

目前，人类对人工智能伦理道德的担忧涉及到许多方面。这里，我综合代表性和想象力选择了三个方面来谈：

一、机器的责任与风险

我们知道，世界上不存在完美无缺的算法，机器同我们人类一样，也会犯错。并且在当前的AI发展水平下，机器犯错的概率甚至高于人类。这就自然地引出一个问题：机器犯错的责任和风险由谁来承担？
　众所周知，人类能形成生产协同网络的最核心基础是分工契约体系。这个体系规定着我们每个人在合作结构中的责任、权利与义务。其中被最常认作“公理”的一条是：当一个社会人承担某责任、做出某决策时，他同时也必须承担，至少是分担其决策所带来的收益与风险。而当人工智能替代人类进入生产环节做出决策时，一个极大的不对称就出现了：给人工智能赋予做出某项决策的责任是所有买家都会做的事（也是人工智能被创造出来的天职），但面对的是正面收益还是负面风险，人工智能都无法像人类那样对自己的决策负责。举无人驾驶汽车为例，如果AI控制的无人驾驶汽车出现车祸事故，其事故责任人是谁？是坐在车里的、完全没有参与驾驶的车主还是汽车厂家，亦或是程序员，还是AI本身？这种场景下谁又该担负主要责任？
　
若想让AI负责，除了删除AI程序之外，似乎也并没有更好的选择。而删除程序的举措不存在任何法律意义上的法益，更何况受害者也得不到任何形式的补偿。这个伦理问题日后将成为AI发展最大的达摩克利斯之剑，也会在将来人工智能被广泛应用后引起各界广泛的探讨。

二、机器的权利

这个问题也可以称作“人类应该如何为机器赋权”。
如上文所言，既然人工智能无法对其决策有效的承担责任，因此需要对人工智能所做出的决策进行更加严密的考核与监管。而一旦人们开始考虑如何“考核”或“监管”人工智能，新的逻辑困局也将就此诞生–如何在“最终”结果出现以前判定某项决策本身的对与错。在博弈环境中，任何决策往往都是环环相扣的，因此在盖棺定论之前，没有人能够轻易判断哪一步的决策是绝对错误或绝对正确的。

　　举“阿尔法狗”和李世石下棋为例。在前三盘棋局中，当解说的专业九段看到“阿尔法狗”做出丝毫不合常理的下法时，解说员表现出了怀疑和嘲笑。然而出乎意料的是“阿尔法狗”赢了前三盘。或许终局之后当解说员再回头看当时所谓“臭棋”的时候，才能明白“阿尔法狗”“那步棋”更深层次的全局意义。

　　如果仅仅让人工智能去下一盘没什么赌注的围棋，无论输赢都不会有人纠缠于结果。但当人工智能的决策涉及到的是几千万的利润或几千万条生命时，如果人工智能给出的是人类当时所不能理解的答案，人类又该作何选择呢？假如人类选择不采纳人工智能的意见，那么人工智能进步与发展的意义何在（本质上还是人类自己做决策，人工智能提供信息辅助）？其数据驱动决策的优越性又如何付诸实践？但换个思路，如果人类信赖人工智能所做出的决策，那就又绕回到了第一个难题，万一发生意外责任由谁来承担？相当长的一段时间内，人类对于人工智能的态度一定会是矛盾的：如果人们不相信人工智能的决策，那无论技术再怎么成熟也不过是“叶公好龙”的闹剧；而倘若大多数人认可人工智能在决策方面具有超出人类的优势，又将直接导致人类监督无效、监管无门的尴尬境地。这个暂时无法解决的矛盾，将在人工智能的成熟与广泛应用期带来更多隐患。

三、机器与情感

与前两个相对严肃、深沉的问题相比，这个问题就显得比较有趣和富于想象了。然而机器产生情感（或是对机器产生情感）即使在现阶段似乎也并非是完全无可能的。
为了明确这个问题的主体，我们需要引出“强人工智能”这个与当下的“弱”人工智能相对应的概念。
科学家把“强人工智能”定义为出现真正有自主意识、且可确证其主体资格的“智能”。
在微软亚太研发集团副总裁商容看来，人工智能需要有理性，也需要有感性，涉及感性就会涉及到伦理和隐私等问题。而联想创投董事总经理王光熙则认为，未来人工智能或许具备情感，这就牵扯到未来人类智慧和机器智能之间的界限在哪，或者是界限会被抹去。
当人工智能具备了情感，就会与人类出现恋人、亲人等关系，这将拷问现代伦理规范。信帧机器人创始人贺江涛认为，在实际工作当中，曾遇到人类对机器人产生感情的事件。“公司旗下的一款娱乐机器人，其视频在网络上有亿次多的点击量，视频中这个机器人的头部被拍打了一下，一位母亲在看直播后就愤怒了，她说这是我女儿公司做的机器人，你怎么能打他呢？”这时候贺江涛发现，人类对这台机器人产生了感情，与这台机器人有了某些联系。

（日本2008年上映电影《我的机器人女友》中由绫濑遥饰演的机器人）

在对“人工智能是否会与人类产生情感纠纷”的担忧之余，我们也可以看到，拥有“情感”的人工智能带来的“情感计算”，无疑会很好地解决前两个问题中的部分担忧。人工智能情感化，也将是未来人工智能发展的一大重要方向。