理解人机智能,倡导“智能向善”
1997年电脑“深蓝”战胜世界棋王卡斯帕罗夫,掀起了本轮人工智能的研究热潮。但在现有数学体系和软硬件的设计模式基础之上,人工智能在智能水平和能力范围上与人类智能相比仍存在极大差距。究其原因,人类智能和机器智能之间还存在无法跨越的界限,人工智能是逻辑的,人类智能却未必是逻辑的。依赖于“符号指向对象”的机器只能在封闭环境进行形式化计算,人类却可以实现开放环境中的意向性算计。在这种背景下,实现人机优势互补、倡导“智能向善”显得尤为重要。
一、人工智能的瓶颈:总想用逻辑手段解决非逻辑问题
哲学家休谟认为:“一切科学都与人性有关,对人性的研究应是一切科学的基础。”任何科学都或多或少与人性有些关系,无论学科看似与人性相隔多远,它们最终都会以某种途径再次回归到人性中。从这个角度来看,人工智能“合乎伦理的设计”很可能是黄粱一梦。伦理对人而言还是一个很难遵守的复杂体系,对机器而言则更加难以理解。在人工智能领域,“合乎伦理设计”或许是科幻成分多于科学成分、想象成分多于真实成分。
当前的人工智能及未来的智能科学研究具有两个致命的缺点,即把“数学等同于逻辑”和“把符号与对象混淆”。人机混合的难点和瓶颈也因此在于(符号)表征的非符号性(可变性)、(逻辑)推理的非逻辑性(非真实性)和(客观)决策的非客观性(主观性)。
真正智能领域的瓶颈和难点之一是人机环境系统失调问题,具体体现在跨域协同中的“跨”与“协”如何有效实现的问题,这不仅关系到解决各种辅助决策系统中“有态无势”(甚至是“无态无势”)的不足,还涉及到许多辅助决策体系“低效失能”的朔源。也许需要尝试把认知域、物理域、信息域构成的基础理论域与陆海空天电网构成的技术域有机地结合起来,为真实有效地实现跨域协同打下基础。
二、如何研究和理解智能问题?
智能不是人脑(或类脑)的产物,也不是人自身的产物,而是人、物、环境系统相互作用的产物。正如马克思所言:“人的本质不是单个人所固有的抽象物,在其现实性上,它是一切社会关系的总和”,事实上,真实的智能同样也蕴含着这人、物、环境这三种成分,随着科技的快速发展,其中的“物”却也逐渐被人造物——“机”所取代,简称为人机环境系统。平心而论,人工智能要超越人类智能,在现有数学体系和软硬件的设计模式基础之上,基本上不大可能,但在人机一体化或人机环境系统中却是有着可能。人工智能是逻辑的,智能则不一定是逻辑的。智能是一个非常辽阔的空间,它可以随时打开异质的集合,把客观的逻辑与主观的超逻辑结合起来。
研究智能这样的复杂问题是困难的,但把它分解成人机环境系统问题就相对简单一些。人要解决的是“做正确的事(杂)”,机要解决的是“正确地做事(复)”,环境所要解决的是“提供做事平台(复杂)”。正如郭雷院士所言:“复杂性和智能化是系统科学发展的两个永恒的主题。复杂性主要体现的是系统科学认识世界的一面,而智能化主要体现的是系统科学改造世界的一面。”所以,未来中美在人工智能领域的角力的焦点不仅仅是人、机、环境每一或所有单项人工智能的领先优势,更重要的是人、机、环境系统混合智能的整合。
在真实的人—机—环境系统交互领域中,人的情景意识、机器的物理情景意识、环境的地理情景意识等往往同构于统一时空中,在人的行为环境与机的物理环境、地理环境相互作用过程中,人的情景意识、行为特征并非由人的元素单独决定,而是取决于人—机—环境系统整体,在充满变数的人—机—环境交互系统中,存在的逻辑不是主客观的必然性和确定性,而是与各种可能性保持互动的同步性,是一种得“意”忘“形”的见招拆招和随机应变能力,而这种思维和能力恰恰是人工智能所欠缺的地方。
三、人机混合智能是未来发展方向
未来数字世界中,人与机器如何分工?人与机器的边界又将如何划分呢?
实际上,当前人机关系主要是功能分配,人把握主要方向,机处理精细过程,而未来的人机关系可能是某种能力的分工,机也可以把握某些不关键的方向,人也可以处理某些缜密的过程。人机的边界在于“应”和“变”,即如何实现适时的“弥”(散)与“聚”(焦)、“跨”(域)与“协”(同)、“反”(思)与“创”(造)。
人机智能是人—机—环境系统相互作用而产生的新型智能系统。其与人类智能、人工智能的差异具体表现在三个方面:首先,在混合智能输入端,它把设备传感器客观采集的数据与人主观感知到的信息结合起来,形成一种新的输入方式;其次,在智能的数据/信息中间处理过程,机器数据计算与人的信息认知相混合,构建起一种独特的理解途径;最后,在智能输出端,它将结果与人的价值决策相匹配,形成概率化与规则化有机协调的优化判断。人机混合智能是一种广义上的“群体”智能形式,这里的人不仅包括个人,还包括众人,机不仅包括机器装备,还涉及机制机理;此外,还关联自然/社会环境、真实/虚拟环境、网络/电磁环境等。
人机混合智能也存在着一个难题,即机器的自主程度越高,人类对态势的感知程度越低,人机之间接管任务顺畅的难度也越大。有经验的人常常抓关键任务中的薄弱环节,在危险情境中提高警觉性和注意力,以防意外,随时准备接管机器自动化操作,也可以此训练新手,进而形成真实敏锐地把握事故的兆头苗头、恰当地把握处理时机、准确地随机应变能力,并在实践中不断磨砺训练增强。即便如此,如何在非典型、非意外情境中解决人机交互难题仍需要进一步探讨。
人机混合智能是人工智能发展的必经之路,其中既需要新的理论方法,也需要对人、机、环境之间的关系进行新的探索。随着人工智能的热度不断加大,越来越多的产品走进人们的生活之中。但是,强人工智能依然没有实现,如何将人的算计智能迁移到机器中去,这是一个必然要解决的问题。我们已经从认知角度构建认知模型或者从意识的角度构建计算-算计模型,这都是对人的认知思维的尝试性理解和模拟,期望实现人的算计能力。计算-算计模型的研究不仅需要考虑机器技术的飞速发展,还要考虑交互主体即人的思维和认知方式,让机器与人各司其职,互相混合促进,这才是人机混合智能的前景和趋势 。
四、引领伦理治理,倡导“智能向善”
科技向善对西方而言是个有问题的提法,科技是物质世界的客观存在,向善则是伦理道德的必然要求,从客观存在能否推出必然要求,这是目前西方仍在争议的话题。
科技本身没有对错善恶之分,能利人利己,也能害人害己;而设计、开发、使用、管理、维护、运行的人会有对错善恶混合之分,科技向善本质是指“人”的向善。故在监管上需要坚持伦理先行的理念,建立并完善人工智能伦理问责机制,明确人工智能主体的责任和权利边界;在研发上需要确保先进科技手段始终处于负责可靠的人类控制之下,预防数据算法偏见产生,使研发流程可控、可监督、可信赖;在使用上需要确保个人隐私和数据安全,预先设立应急机制和兜底措施,对使用人员进行必要培训等。
党的二十大指出,中国积极参与全球治理体系改革和建设,践行共商共建共享的全球治理观,坚持真正的多边主义,推进国际关系民主化,推动全球治理朝着更加公正合理的方向发展。作为人工智能领域的先驱者之一,中国正在用实际行动为人工智能全球治理体系注入东方智慧,展现了大国形象和担当。2021年9月,中国国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》,强调应将伦理融入人工智能全生命周期,并针对人工智能管理、研发、供应、使用等活动提出了六项基本伦理要求和四方面特定伦理规范。今年3月,中国发布《关于加强科技伦理治理的意见》,提出应加快完善科技伦理体系,提升科技伦理治理能力,有效防控科技伦理风险,不断推动科技向善、造福人类,实现高水平科技自立自强。近日,中国向联合国提交《关于加强人工智能伦理治理的立场文件》,从构建人类命运共同体的高度,系统梳理了近年来中国在人工智能伦理治理方面的政策实践,积极倡导“以人为本”“智能向善”理念,为各国破解人工智能发展难题提供了具体解决思路,值得国际社会高度重视与深入研究。
本文摘自 科技日报 2022.11.21
理解人机智能,倡导“智能向善”相关推荐
- 用于多UxV管理的人机协作中智能体的透明度研究
牛博 翻译 目标:在多机器人管理的人机协作环境中,我们研究了智能体透明度水平对操作员绩效.信任和工作负载的影响. 背景:参与者扮演了一个异构无人机(UxV)操作员的角色,并被指示通过计算机界面向Ux ...
- 读书 | 人机共生:智能时代人类胜出的5大策略
文章目录 前言 生存策略一:超越 如何成为一个全局者? 生存策略二:避让 如何成为一个避让者? 生存策略三:参与 如何成为一个参与者? 生存策略四:专精 如何成为一个专精者? 生存策略五:开创 如何成 ...
- 揭开卓越供应链的秘密,走近人机协同的智能决策
从金融海啸.贸易摩擦到新冠疫情大流行,供应链能力在企业发展中扮演着越来越重要的角色.打造安全.可控.韧性的供应链成为越来越多企业的共识,大数据.物联网.人工智能等领先技术在供应链中的应用也备受关注.企 ...
- 加拿大两院院士裴健:搜索皆智能,智能皆搜索
6月23日,加拿大西门菲莎大学教授裴健在第二届北京智源大会智能信息检索与挖掘专题论坛上做了< 智能搜索:从工具到思维方式和心智>的报告. 裴健最近当选为加拿大工程院院士,现在是加拿大皇家科 ...
- 裴健:搜索皆智能,智能皆搜索
2020-06-27 03:19:40 作者 | 陈大鑫 编辑 | 丛 末 6月23日,加拿大西门菲莎大学教授裴健在第二届北京智源大会上做了< 智能搜索:从工具到思维方式和心智>的报告. ...
- 首家优秀型厂商,百度智能云智能对话通过信通院权威评测!
百度智能云人工智能技术再加码,借助产品测评彰显人工智能领导者地位. 近日,在中国信息通信研究院2022年组织的"可信 AI"评测中,百度智能云以总得分91.08分的最高分数,获得了 ...
- 认知智能通用智能“AlphaGo只是围棋高手,不会炒回锅肉!”上海交大教授正在研发“全才”机器人
如果有一台机器人,几乎可以通过 "自学" 的方式,完成人类 80%-90% 的日常工作和任务,你信吗? 或许你会说,人类可以做到的事,机器人为什么不可以? 但很显然,我们如今看到的 ...
- 基于垂杨CAD的智能变电站智能设计开发方案
摘要:提出由设计院完成智能变电站模型和站内数据流的设计,做到站内数据源统一且唯一.为实现该设计方式,同时简化设计人员工作,制定了图形化模型设计软件的开发方案.方案采用AutoCAD的ActiveX A ...
- 从声学智能到智能助手,谁能成为中国版的Alexa?
2017年7月7日至9日,全球人工智能与机器人峰会CCF-GAIR大会在深圳大中华喜来登酒店举行.本次由中国计算机学会(CCF)主办.雷锋网与香港中文大学(深圳)承办的大会聚集了全球30多位顶级院士. ...
最新文章
- 机器视觉系统设计关键:成像基准
- 【Android RTMP】RTMP 数据格式 ( FLV 视频格式分析 | 文件头 Header 分析 | 标签 Tag 分析 | 视频标签 Tag 数据分析 )
- GDIPlus灰度化图像
- DevOps的前世今生
- 6-2 第六天 规划项目功能分布
- 微软已确认放弃Windows 10X操作系统 新功能下放
- 为用户提供出游指南,抖音发起“抖音美好打卡地”文旅认证品牌
- Teamcenter(Enterprise 2007) Admin 手法之 -- 移除relation
- 国内车载信息安全产业联盟成立
- 游戏建模软件的ZBrush和Mudbox哪个好
- 信噪比 香农公式_「香农公式」信噪比/香农公式 - seo实验室
- 福禄克FLUKE OFP2-100-Q CH主要技术规格
- 计算机函数sumif求平均值,Excel中如何用SUMIF函数实现按指定条件求平均值
- 数据库基础及常用SQL语句
- 【书】测试架构师-必备的6个能力
- mac电脑如何快速清除excel表格中的空白行
- adb 卸载android系统程序
- torch+cuda gpu并行计算
- 编制程序完成下述任务:接受两个数,一个为用 户一年期定期存款金额,一个为按照百分比格式表示的利率;程序计算一年期满后本金与利息总额。说明:(1)存款金额以人民币元为单位,可能精确到分; (2)输入利率
- ORA-00257: archiver error. Connect internal only, until freed 处理方法