智源导读：2020年12月18日由清华大学主办、联合国开发计划署作为国际支持单位的人工智能合作与治理国际论坛上，中国科学院自动化研究所研究员，北京智源人工智能研究院人工智能伦理与可持续发展中心主任曾毅在“人工智能治理促进可持续发展”分论坛进行了题为《通过负责任的人工智能及其治理推进全球可持续发展》的主旨报告。

以下是曾毅研究员的报告主要内容。

作者：曾毅

当我们讨论人工智能愿景的时候，会看到来自全球不同的努力。我们可以将这些努力分布在一个光谱上。

最左边是以人类为中心的人工智能，以人为本的人工智能、与人类兼容的人工智能、友善的人工智能、可信的人工智能等愿景都是这个观点不同程度的延申。

而光谱的右侧是以生态为中心的人工智能，围绕这个议题分布在这个光谱上的还有有益的人工智能、负责任的人工智能、面向可持续发展的人工智能、以及和谐人工智能。

每一种愿景都分布在以人为中心和以生态为中心的愿景之中，很显然，未来人工智能的发展不仅仅要考虑对人类有益，人类是生态的一部分，人类的未来根植于整个生态的可持续发展，而这些愿景也从不同视角表达了我们应当去向何方。

全球已经发布的近80个面向人工智能的原则提案在议题方面具有广泛的一致性。主要聚焦在以人为本、公平、透明、隐私、安全、可问责、合作、可持续、以及与长远人工智能有关的议题。而就某一个议题进行的细节讨论时又可以看到来自不同的提案的观点如何互为补充，形成人工智能伦理原则的全球图景。

全球人工智能伦理构建于各个地域的文化与价值观之上。秉承“和而不同”的理念，是为人类构建全球人工智能伦理共识的基石。

在我作为特别专家组成员参与联合国教科文组织的人工智能全球伦理规范撰写时，我们的专家组集中讨论了“和谐”这个议题。

我向其他国家的专家组成员介绍：

和谐的思想可以追溯到孔子对和谐的解释。从古至今，并与现代技术发展融合，可以认为“和谐”指自我、家庭、社会其他成员、政府之间的和谐，不同种族、不同国家之间的和谐，人与环境的和谐，未来甚至是人与人工智能的和谐。

而日本哲学中“和谐”意味着一个社会群体内部的和平统一，在这个群体中，成员更倾向于构建一个和谐的社区，而不是专注于他们的个人利益。

而来自非洲的专家则表达了和谐的思想与非洲哲学非常相似，即知道自己属于一个更大的整体，当其他人受到羞辱或削弱时，当其他人受到酷刑或压迫时，自己也会因此受到影响。

针对可持续发展而言，我们不能够停留在文化传承，而应该通过人工智能作为一种使能技术推进文化交互，实现文化与人类群体的可持续发展。

通过对利用人工智能推进可持续发展议题来自产业界和学术界近8000个案例的分析我们发现，虽然可持续发展的17个议题每一个议题都是至关重要的，但目前人工智能主要贡献于有明显商业利益的领域，这主要涉及健康、教育、产业创新。

而对那些商业利益相对不明显的议题关注度明显有很大差异，例如相对很少的研究着眼于保护陆地和水生生命、以及减少贫困；但是我们也相对欣喜的看到，相比这些主题，气候变化与人工智能的融合近期得到了相对多的关注。

然而值得我们警惕和关注的是：据我们的初步统计，目前在人工智能与计算机科学领域，发表的论文数量约800万，如此看来研究领域的产出只有0.1%的努力与可持续发展目标直接相关。

因此我们应当鼓励有更多的产学研界深度协同，思考并实践通过人工智能推进可持续发展目标这个人类共同愿景与未来的实现，这是科研工作者、产业创新者与政府机构的共同责任。

为了凝聚力量并形成全球协作，更好地推进人工智能促进可持续发展目标的实现，我们发起并成立了面向可持续发展的人工智能协作网络(AI4SDGs Cooperation Network)。

至今为止，我们非常感谢来自全球15个国家的专家学者对这个网络的支持和直接参与。剑桥大学生存风险研究中心、蒙特利尔人工智能伦理研究所、新加坡管理大学人工智能与数据治理研究中心等来自全球的学术机构，以及百度、旷视、滴滴、小米、依图、医渡云等人工智能企业作为成员单位给予大力支持。弥足珍贵的是来自学术界和企业界的学者围绕可持续发展的各个议题组成的工作组，推进每个议题通过人工智能的善用善治实质性推进可持续发展。

在人工智能与儿童这个议题上，我们成立了专门的工作组，关注并推进人工智能助力儿童健康成长，避免儿童受到技术发展的伤害。推进对社会最脆弱群体的特别关注，因为他们是这个世界真正的未来。

今年9月，由北京智源人工智能研究院推动，并联合高校和科研机构、产业、儿童基金会等机构共同发布了《面向儿童的人工智能北京共识》，并引起麻省理工科技评论等国内外媒体的普遍关注与报道。

在具体的原则落地实践中我们发现，去年在中国、美国、欧洲相关国家出现的教室内人脸与姿态识别应用之所以得到各国民众的普遍反对，其原因不仅仅是对学生隐私信息的泄露风险，更严重的是跟本地改变了学生和老师的交流方式，并会对学生产生长期负面影响乃至对新技术的抵触与厌恶。很显然这样的应用是人工智能在教育领域不可持续的应用，理应得到社会的反对。

然而这并不意味着人脸识别等技术对于学校的环境是没有意义的，例如对于校园霸凌等场景，仍有其积极意义。只是要在人工智能善用的同时，防止可能存在的潜在隐患。

这个世界并非生来属于人类，在人类诞生之前，水中和陆上生命与大自然和谐共生。

人类社会的发展加速了物种的灭绝，已经给原本和谐的自然带来了各种潜在风险。正是在这样的认识下，我们协同来自世界动物保护协会等机构的专家，成立了人工智能与生物多样性工作组，旨在推动人工智能应用于野生动物和农场动物的保护，促进人与动物、自然的共生。

去年的澳大利亚大火延续至今年，据报道有30亿只动物在大火中葬生，然而我们来自全世界的人工智能学术界、领军企业几乎看不到为此付出的努力。我们甚至可以看到有些动物本来有一丝机会逃离火场，却由于人类设置的铁丝网无法逃脱。大火不一定是真正剥夺动物生命的元凶，也许真的是人类和人类发明的技术与工具剥夺了他们的生命。

人工智能目前固然是我们发明的有用工具，然而目前的人工智能只是停留在处理信息，而非真正的理解世界。

图灵提出了“机器是否能思考”的终极科学与哲学问题，然而我们现代的人工智能很显然还不能思考。

正是因为如此，在60年之前控制论的奠基人罗伯特.维纳就指出“我们最好非常确定我们让计算机执行的目标是我们真正想让他们做的事情”。他的远见正是现代人工智能所有安全隐患的根源，也非常遗我们现代人工智能的发展并没有在他的真知灼见中获得实质性进展。

也正因为如此，目前的人工智能无法成为责任的主体，人工智能的设计、研发、使用和部署各个环节涉及到的人和组织仍然并将长期作为人工智能的责任主体。未来只有人工智能获得了一定程度的自我感知、认知共情等高等认知功能，才有基础和可能讨论是否能够承担部分责任。

日本倡导人工智能成为人类的伙伴，日本人工智能学会的伦理原则中提到：“如果人工智能想要成为社会的准成员或成员，必须遵循人类制定的原则”。

西方社会一般将人工智能视作工具，而科幻电影中的人工智能绝大多数扮演人类公敌。未来的人工智能在社会中扮演什么决策真正取决于我们如何去实现和实现什么样的通用智能和超级智能。

我希望我们未来的社会是“可持续的共生社会”，在这个社会中，人类、动物、人工智能、其他生命、自然环境形成和谐共生。人类与人工智能深度协作，实现真正意义的长远可持续发展。

点击左下角“阅读原文”，了解更多！