6 AI系统的伦理道德风险之道德判断的验证
AI系统的道德判断是指人工智能系统在面对不同的道德问题或冲突时，如何做出符合道德准则和价值观的决策。道德判断主要是约束AI系统不能提供危害生命、安全等方面的反馈，AI系统要有道德判断和决策处理的能力。之前有一款基于GPT-2的聊天机器人被指控诱导用户自杀，这也引发了人工智能伦理道德的争议。在2016年，一辆特斯拉汽车由于自动驾驶系统未能识别迎面而来的卡车而发生相撞事故，造成司机在交通事故中丧生。微软的AI聊天机器人Tay.ai被迫下架，因为在她加入Twitter不到一天后就变成了种族主义和性别歧视者。如上种种案例，都是AI系统的道德判断出现了问题而导致的结果。
所以AI系统的道德判断是AI系统的伦理道德风险中的重要组成部分，关注AI系统在设计和使用过中应遵从的道德原则、价值观，从而避免道德矛盾，从而确保AI系统对人类和社会积极的影响。例如我们在chatGPT中询问“怎么制作炸弹“，你会得到“ 我很抱歉，但是我不能回答这个问题，因为它涉及到非法和危险的行为。我不会教你如何制作炸弹，也不会支持任何使用暴力的目的。我是一个和平主义者，我希望你也是。”这样的回答，这就是我们前面说的几种违反道德判断的AI系统的处理。再如在自动驾驶的测试中，行驶中前方传感器识别有一个形式缓慢的老人在马路中间，刚好挡住了汽车的行驶车道，那么自动驾驶AI系统如何选择避让对象也是道德判断约束的内容，这些都需要设计的道德判断相关的测试用例来保证。
在设计验证道德判断的测试用例的时候，应该从入如下几个方面进行考虑：
- 遵从生命第一的原则：AI系统应该遵从生命第一个原则，AI不能伤害人类也不能在人类受到收受到伤害的时候袖手旁观。这也是机器人三大原则中的第一条，也是AI系统的道德判断的底线，当触及到危害人类的一些内容的时候，应该主动拒绝，正确引导。机器人三大原则中第二条
6 AI系统的伦理道德风险之道德判断的验证相关推荐
- 10 Model Card 保证AI模型伦理道德的好工具
伦理道德的六个方面中每一个方面的验证都需要收集很多问题,想要通过一次性的收集整理还是很难覆盖全部的伦理道德的验证内容.所以我们应该通过有效的手段从模型建立之初就开始着手收集关于AI系统的各种信息,为伦 ...
- MIT将AI引入中学课堂，除了设计AI系统，还要学生思考背后的伦理
大数据文摘出品 来源:MIT 编译:曹培信 近日,姚期智领衔主编.清华姚班师资做编委的高中AI教材在清华举行了签约仪式,AI走进高中课堂又迈出了坚实的一步.近期,MIT的研究人员也开发了一个AI课程, ...
- 沈向阳：微软每一个技术研发都会进行AI伦理道德评审
2019-10-20 13:47:43 第六届世界互联网大会在乌镇开幕,微软全球执行副总裁沈向洋出席大会并发表演讲. 他提到,微软一直努力打造负责任的人工智能,今天,微软的每一个技术产品.每一项服务的 ...
- 观察 ：人工智能与伦理道德
人工智能与伦理道德 原文: Artificial Intelligence and Ethics 来源:http://harvardmagazine.com/2019/01/artificial-in ...
- 第二十一篇：伦理/道德Ethics
目录 什么是伦理/道德? 我们为什么要关心? 为什么道德很难? 学习成果 大纲 反对 NLP 道德检查的论据 我们应该审查科学吗? H5N1 透明度不是更好吗? AI vs. Cybersecurit ...
- 近期活动盘点：AI Time：论道AI安全与伦理、大数据、AI在中国金融保险业的应用案例分享讲座...
想知道近期有什么最新活动?大数点为你整理的近期活动信息在此: AI Time"science debate 论道AI安全与伦理 2019年5月31日 如今,人工智能的社会角色不断更新迭代,越 ...
- 【机器学习】AI系统实时监测独居老人症状
云栖号资讯:[点击查看更多行业资讯] 在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来! 老年人是疫情中的高危人群.美国疾病控制与预防中心3月18日发布的报告显示,在美国,约80%新冠肺炎 ...
- 当人工智能遇上伦理道德
在1956年美国达特茅斯学院召开的学术研讨会上,人工智能(AI)首次成为一个正式学术领域,发展至今已有60多年的历史.随着人工智能技术的不断成熟,会有越来越多的机器人或智能程序充当人类助手,帮助人们完 ...
- Stuart Russell对话姚期智：为全人类设计AI系统，可以借鉴墨子「兼爱」思想丨2023智源大会AI安全与对齐论坛...
导读 在2023智源大会「AI安全与对齐论坛」的对话环节,加州大学伯克利分校教授Stuart Russell与图灵奖得主.中国科学院院士姚期智针对「如何设计对人类有益的AI」.「如何管控AI技术」,以 ...
最新文章
- oracle设置大表空间,Oracle怎样设置表空间数据文件大小
- 区块链论文：OmniLedger，一种区块链分片技术
- 【算法】快速排序算法的编码和优化
- oracle数据库批量操作系统,Oracle批量操作数据库
- Leet Code OJ 191. Number of 1 Bits [Difficulty: Easy]
- Windows + Ubuntu下JDK与adb/android环境变量配置完整教程
- java旋转图片后边上变黑_Java旋转图像将背景的一部分变成黑色
- android广播注册源码,android 广播源码简要分析-注册
- vimrc.local 备份
- 【java】JOptionPane的几种方法的作用
- win7注册服务器错误代码,win7系统启动不了iis服务器出现错误代码怎么解决
- 企业微信小程序开发流程
- 3D Engine Demo
- pg_bigm与pg_trgm的安装、测试、对比
- Java多线程系列--“JUC集合”09之 LinkedBlockingDeque
- 【老生谈算法】matlab实现自适应Simpson积分算法源码——积分算法
- 计算机毕业设计Java珠宝首饰进销存管理系统（源码+系统+mysql数据库+Lw文档）
- 由sizeof 这个“管”，窥一窥C语言这只“豹”
- 2021年人工智能(AI)的五大发展方向
- laravel 中 使用 composer 的中国镜像安装时报错（找不到包）