阿里CTO程立：科技公司的技术创新和责任担当

数字经济时代，科技企业需要谨慎对待自身的技术能力及影响力，对科技创新的边界时刻保持警醒。近日，阿里巴巴集团首席技术官程立在 2022 世界人工智能大会上发表了题为“科技公司的技术创新和责任担当”的主题演讲，以下为演讲全文。

数字大科技时代的科技伦理

相信大家和我一样都深有体会，数字科技的快速发展，让我们进入了一个真正的大科学时代。大数据技术成为一个新的科研范式，广泛应用在生物、材料、物理等很多方面，把过去不怎么相关的科学门类连成了一个整体。这带来了两个大的影响：第一，技术可能会对人的身体、思想产生影响，人本身的概念在科技时代出现了挑战；第二，科技对于产业产生了全面深入的影响，数字世界和物理世界、生物世界高度融合。

这些给整个社会带来了很多新的问题。拿一辆车来打个比方，如果说科技创新是发动机和油门，那科技伦理就是方向盘、安全带和刹车。在车速低的时候安全带、刹车可能不那么重要，但是车速高的时候，方向盘、刹车和安全带的重要性就非常凸显了。科技企业必须非常重视科技伦理，把科技伦理作为技术发展的一个非常重要的方向考虑。

阿里巴巴在进行科技创新的同时，也一直在思考科技伦理对我们的影响，对整个社会的影响。我们认为，首先要摆正态度，才能够真正把科技伦理这件事情落到实处。第一是求真务实，面对新问题的时候，要去解决具体的问题，要求真务实而不是空谈；第二是知行合一，做的和说的必须一致；第三要有敬畏之心，不要简单地用过去的想法理解和处理问题，必须不断调整自己，用全新的视角去思考，时时自省，过程当中企业必须非常开放，自律和他律结合。

我在阿里 15 年，也见证了集团在这个方向思考越来越深入的过程。

早期阿里技术团队的价值观是技术创造新商业，那时候的思考重点是技术如何给商业带来不一样的创新点，商业创新是我们认为可以对社会产生的价值。

接着我们发现，科技不仅能通过商业为社会创造价值，同时也能够帮助解决很多大家关注的社会问题。所以我们把科技和公益，特别是和“人人三小时”公益相结合，每一位阿里巴巴工程师都可以用科技去解决社会上有价值的问题。比如让所有人都能平等享受科技便利的“信息无障碍”，向青少年提供科学系统的毒品预防教育知识的“青骄第二课堂”；和公安部合作的儿童失踪信息紧急发布平台。

**随着平台责任越来越大，我们提出了“人人受益、责任担当，人人共享”的好科技概念。**我们的科技团队开始更多地参与绿色低碳相关的技术创新，参与到乡村振兴技术官的项目里，为乡村提供更有力的技术人才支撑，助力社会去解决更广范围的一些问题。

作为一家企业，我们关心的不仅是客户，还有整个社会、环境和未来。我们希望用好科技去托起阿里巴巴作为一家有责任的好公司的未来。

前段时间，阿里巴巴正式发布了新的 ESG 报告，涵盖“修复绿色星球”、“支持员工发展”、“服务可持续的美好生活”、“助力中小微企业高质量发展”、“助力社会包容和韧性”、“推动人人参与的公益”和“构建信任”七个方向。科技方向和科技伦理也是支撑这 7 个方向做好的重要基础。

阿里巴巴的科技伦理准则

在科技伦理的治理上，我们提出了“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六大准则。

这其中，最重要的是以人为本的价值主张，这一点也是和行业高度共识的。这背后代表着一个根本思考，当机器和人发生冲突时该怎么去选择？我们的答案非常明确，永远以人为中心，落到具体的业务，始终坚持以用户为中心，以人类整体长期的福祉为目标，把对人的尊重和关怀能够放在第一位，这是所有科技伦理准则最重要的基础。

其次是两个和科技方法相关的准则：

第一是可信可控，让从事的科技活动和开发运营的科技系统具备应有的透明度和可解释性；让用户自主决定是否采纳、终止和退出人工智能相关的交互和服务。我们也要努力建立起人工智能的问责机制，确保能够在关键环节做到自律和自省。科技系统不断往前进化和发展，只有做到可信可控，出现问题才能去问责、防止、解决，才能保证它未来的发展不会失控。
第二是开放共治，科技伦理是一个非常复杂的问题，对于阿里巴巴这样的平台企业，我们不但关心在自己内部发生的相关问题，也同时关心整个生态内科技伦理相关的问题。我们希望能够建立起多方协同的合作机制，打造负责任、可持续的科技。探索建立一个开放和敏捷的治理机制，持续学习，不断探索企业自律、行业共治与监管规范相结合的解决方案。

接下来是三个具体的科技原则：

第一，普惠正直。阿里要高质量发展，背后最核心的是客户第一，是为客户创造价值。这里的客户指的是所有的利益相关者，过程中我们必须尊重和服务好全体利益相关者，避免歧视与偏见，充分尊重和帮助弱势群体、特殊群体，并根据需要提供相应替代方案，切实保护好相关主体的合法权益。
其次，安全可靠。阿里巴巴是一家服务数亿消费者和数千万商家的平台公司，从公司创立第一天起，我们就把系统的安全可靠作为最重要的一个基石，这是刻在阿里巴巴技术基因里的。这要求我们在进行科技系统设计时，充分考虑安全、鲁棒和稳健性，减少并努力避免系统因缺陷或滥用而引致的对用户的伤害，努力保证科技系统满足高性能标准。
第三，隐私保护。这是必须独立提出来、并落实到实际工作中的一个准则。必须充分尊重个人信息知情、同意等权利，依照合法、正当、必要和诚信原则处理个人信息，过程中也要充分保障个人隐私与数据安全，不得窃取、篡改和泄露个人信息，不得损害个人合法的数据权益和隐私权。

多元协同共同前行

准则的建立非常重要，但如何落实下去？怎样保证不断出现的技术创新、不断发布的新产品都能够符合这些准则？在阿里内部，我们的思考和行动也分享给大家。

阿里科技伦理治理模式

首先，阿里科技伦理治理模式包括了三个方面，组织层面最核心的是成立阿里巴巴科技伦理治理委员会，这是阿里巴巴科技伦理方面的最高决策机构，由多个不同专业、不同视角的同事们共同组成委员会，一起进行科技伦理方向的制度建设和治理体系建设，对一些关键问题做出关键决策，影响所有的业务部门更好地去做科技伦理治理工作。

图阿里巴巴科技伦理治理委员会成员

委员会下设四个工作组：

科技组，负责可用可靠可信可控方面技术的研究和产品工具建设；
伦理组，负责科技伦理相关的理论 & 政策研究；
治理组，围绕科技伦理相关的重点领域进行评估与治理，用制度和工具把科技伦理治理落实到日常每一个科研活动中去；
传播组，把科技伦理的准则、文化、意识落实到团队里去，让阿里巴巴每一位工程师、每一位技术同学都要了解和认同科技伦理治理的准则，并且能够把它运用到工作里去。

同时我们意识到，光靠自己的视角去做还不够，还需要引入外部视角，引入外部监督机制，所以我们还成立了阿里巴巴科技伦理治理顾问委员会，引入 7 位行业顶尖专家担任顾问委员，对科技伦理问题给出相应指导，共同探讨前沿问题。这是阿里巴巴科技伦理治理最核心的两个组织。特别感谢各位老师成为科技伦理治理委员会的一员，帮助阿里巴巴在科技方面想得更远、做得更实。

图阿里巴巴科技伦理治理顾问委员会成员

在职能方面，这两个组织会从四个方向入手进行具体治理，包括：

数据合规和伦理治理；
算法合规和伦理治理；
技术的合规和伦理治理；
针对特定行业相关的合规和伦理治理。

阿里科技伦理治理机制

在治理方法上，我们正在建立相应的科技伦理分级制度和具体落地执行的规范。按照分类分级管理、个案专家研判、类案参照治理、不断校验迭代的方式，让更多参与者加入到科技伦理治理中，及时识别风险、进行有效管控，在实践中优化治理，以适应技术发展与外部环境变化。

其中，很重要的是需要建立一个能够发现和沉淀 use case 的机制。问题出现之后，我们将采用分级分类方式，推进快速判断，高风险上升到科技伦理治理委员会进行决策。

过程中所有的典型案例，我们都会积累沉淀，指导后续的同类场景，同时结合技术和法律政策变化，不断更新迭代，让治理变得更加清晰。

阿里科技伦理风险能力建设

在行动上，委员会重点着手风险能力建设和技术能力建设。

风险能力建设，包括建设算法评估、风险检测、干预机制的全生命周期风险管理流程，以及技术安全性、鲁棒性、公平性、可解释与可干预性等科技伦理审查和治理工具。现阶段我们会特别关注和算法相关、风险检测相关、干预机制建设相关的，所有能力建设必须形成相应的产品化平台，包括数据合规监测的平台，鲁棒性的训练平台，安全扫描监测、多维度主动风险识别、用户反馈、风险大盘。

技术能力建设，包括增加在隐私保护、安全可靠、可信可控等关键方向前沿技术的布局和探索。例如大幅降低了隐私保护计算技术开发与部署难度的 FederatedScope 技术，能够解决数据可用不可见的安全多方计算平台 Cheetah。对于一些新涌现的深度合成问题，我们也有一些创新的技术方案。通过核心技术的突破，在更高水平上解决科技伦理的问题。

阿里CTO程立：科技公司的技术创新和责任担当