机械公敌---现代科学技术发展的隐忧

美国二十世纪福克斯公司2004年发行的大片《机械公敌》讲述了机器人拥有了人类思维能力试图主宰世界的故事。总部位于芝加哥的美国USR公司开发了最新款的机器人NS-5，它更高效，更智能，深受大众喜爱，以至于老一代机器人全部被淘汰，平均每5人就拥有一台机器人。而警探史普纳(威尔·史密斯Will Smith饰)在大家的眼里，却是一个落后于时代的笑料。他对机器人怀有非产大的敌意，从不使用高度智能化的东西，喜欢老式的衣服和日用品。他厌恶科技和机器人，却不得不与它们共享同一个世界。专门从事机器人心理研究的科学家苏珊(布里吉特·莫伊纳罕Bridget Moynahan饰)向来崇尚逻辑与科学，她坚信总有一天机器人会胜过人类，并回过头来帮助人类进步。直到有一天，USR公司的朗宁博士离奇自杀，朗宁博士是公认的机器人之父，制定了著名的三大原则，它的自杀引起了轩然大波。警方责成史普纳负责此案调查，然而随着调查的深入，史普纳发现了一个惊人的事实，朗宁博士系被自己亲手制造出来的机器人桑尼所杀，而桑尼已经具有了人类的思维方式和情感，机器人对人类的威胁已经成了现实。然而，更严峻的是，USR公司用来对NS-5升级的超级电脑维基比桑尼更早具有了意识，并且试图独霸世界，摧毁人类。而桑尼正是朗宁博士无奈之下制造出来杀死自己来向外界报警的。最后，在史普纳，苏珊和桑尼的帮助下，最终将维基摧毁。上面是《机械公敌》的主要故事情节，就像阿诺德·施瓦辛格早年主演的《终结者》系列一样，都是关于机器人某一天具有了意识，并发动了革命，试图报复人类，只不过结局不一样，《终结者》中机器人的暴动最终还是发生了，并几乎摧毁了整个的人类文明。可能很多人会对这些情节报之一笑，认为大可不必如此杞人忧天。然而，我却认为，人类社会科学技术的高速发展，很难保证这些场景不成为现实。我们必须对此一可能保持高度的警惕。

人类历史已经有数百万前之久，即使从有记载的历史来看，也有数千年之久。然而，一直到近代之前，人类社会的科学技术一直不发达，生产力低下。人们一直饱受自身能力有限的痛苦，面对疾病、瘟疫流行，毫无办法。也许正是这种痛苦的进化史，导致了人类对科学技术近乎执拗的追求。尤其是自文艺复兴已降，工业革命勃兴，随之而来的第二次工业革命，信息技术革命，人类的科学技术水平比之以前已经空前发达。人类已经“可上九天揽月，可下五洋捉鳖”，可以利用基因工程技术改变物种和人类的进化过程，天花、脊髓灰质炎等疾病已经不再让人谈而色变，即使像癌症和艾滋病等疾病，也将在不久的将来被人类攻克。多么美好的前景？多么壮阔的画面？但是，考虑到以下几方面的问题，也许很多人就乐观不起来了。

首先，现代科学技术的发展欠缺有效的监督机制。 就像无监督的权力必将导致腐败一样，无监督的科研也会产生一系列的恶劣后果。最近韩国汉城大学教授黄禹锡由于在基因组研究工程中采用了下属女职员的卵子而辞职，这说明即使是最受人尊敬的科学家，也有可能在学术伦理和学术道德方面犯错误。美国的“雷安利”教派试图于2001年进行克隆人的活动在遭到美国食品和药物管理局（ＦＤＡ）干涉时，“雷安利”教派打算到他国去从事克隆人的实验。目前已知另一个意大利的生育医生已经保证找到一个克隆人为合法的第三国作为实验基地。《机械公敌》中USR公司的研究，也逃避了公众和政府的监督，并且由于其势力强大，甚至可以影响行政部门的决策。除以上受到利益驱使和典型的科学狂人的行为外，还有一大类受各国政府支持的危险的抑或不道德的科学行为。如果说前两类科学研究活动还可以受到公众和政府某种程度的监督的话，那么受政府支持的科研行为却很难受到全面监督。从二战前日本731部队的细菌人体试验和纳粹德国的雅丽安人种改良计划，到战后各国的核、生、化武器研究，均可视为这方面的典型。由于各国政府从国际法上来说，是平等的，所以导致国家之间的监督力度很弱。即使是弱小的国家迫于国际压力，不进行一些非人道研究，那么谁来监督超级大国呢？现在各大国的细菌武器实验室里面究竟有多少会给人类带来灭顶之灾的细菌、病毒，又有谁能知道呢？如果有火山地震等不可抗力之后，万一这些细菌和病毒泄漏怎么办，我们可曾做好了准备？SARS肆虐过后，有媒体报道台湾有军官由于秘密进行SARS病毒的研究而感染。这都说明，即使有一定的监督压力的存在，还是有一些国家和地区的某些狂人、政客在进行着冒天下之大不韪的研究。

其次，人类自身认知的局限性使得很难保证将科学技术用于和平目的。 当今的人类社会，是进化的结果，是自然选择的结果。推动我们进行科学研究的最原始的动力，也可以说是自然选择的压力。所谓物竟天择，适者生存，在这冷冰冰的法则面前，很多时候人类的科学研究目的往往不是为人类造福，而是怎样干净彻底的消灭同类。即使很多用于和平目的的技术，往往也是由军用技术转变来的，或者也将或早或晚应用到军事上面。诺贝尔制造硝化甘油，本为了开矿山、修道路，结果最大的应用却是用来制造弹药。德国合成氨工业的建立，也为德国发动第一次世界大战曾强了信心。第一台计算机埃尼阿克是用来计算火炮弹道的，维纳的控制论最早应用在了火炮自动瞄准仪上，另外几乎所有航空航天方面的研究，刚开始都是面向军方的。现代互联网的最初雏形也是用于保障美国军队的高效通讯，甚至现代软件工程的思想，最初也是由北约的防务科学家们提出来的。从化学方面讲，一个比较有意思的轶事，尼龙最初生产出来，特别适合制作妇女们的长筒袜，但是由于伞兵需要用来制作伞绳，所以当时很少有人能搞到长筒丝袜。还有现在肿瘤患者化疗用的药物，也是受芥子气等化学武器的启发生产出来的。人类是如此热衷于战争，使得一旦有新技术出现，首先想到的应用就是战争。武器的威力越来越大，杀人的手段越来越高明，也许真的有一天，人类会把自己送到自己亲手制作的绞刑架上。也许那一天就像《终结者》中所说的那样，“审判日到来，30亿居民将死于非命”。

再次，人类自身能力的限制导致完美的完全无错误的系统很难建造。 从逻辑上和理论上来讲，完美的没有任何错误的系统是存在的。但是从现实的角度来看，这样的系统是不可能存在的。我们只能将某一系统发生事故的可能性尽可能的缩小，而不能完全消除这种可能。这是我们自身能力所限。而系统的可靠性，从某些方面来讲，是与系统的复杂度成反比的。现代的智能系统越来越复杂，也就越来越可能出错。默菲定律告诉我们：如果坏事有可能发生，不管这种可能性多么小，它总会发生，并可能想起更大的损失。也就是说，如果不能保证100%可靠，哪怕是统计学上基本上不可能发生的小概率事件，我们也不能保证绝对不会发生。《机械公敌》中，维基的创造者不会想到有一天它会具有意识并掉过头来对人类发难。从理论上来说，三大法则可以保证机器人永远不会对人类造成伤害，但是在实践上，维基和桑尼都没有遵循三大法则。《机械公敌》中的一段话非常有意义，“机器里一直藏有鬼魂，随机的编码片断，组合在一起导致不可预知的行为，不受约束的程序片断产生自由意志、创造力...”。随机的代码片断创造了有意识的维基，也引发了机器的暴动。当然了，这是科幻电影中的故事，那我们看看实际生活中的事例吧。美国和前苏联的核打击系统可谓稳定和可靠，但是在冷战年代，由于各种虚假警报，人类几十次陷于核大战的边缘。60年代，一次美国的早期预警雷达显示有上千枚导弹正向美国本土飞来，经确认，子虚乌有，为设备故障。1983年，前苏联的一个士兵在值班时发现雷达显示有5枚导弹自美国飞来，当时美苏关系极为紧张，这名苏联士兵并没有匆忙按下警报按钮，而是立即向上级汇报系统可能有问题，从而人类又避免了一次灭顶之灾，核打击命令没有发出。从这些事例我们可以看出，人类所建造的系统是多么脆弱，打击力量的强大和系统的脆弱性极有可能酿成人间悲剧。

最后，科学技术的发展往往导致与人类的良好愿望相反的结果。 人们怀着良好的愿望，进行科学研究和技术开发，以为自己的科研成果会为人类进步、提高人民的生活水平做出贡献。愿望是良好的，但是善因未必结出善果。以DDT的发现和使用为例，曾经为人类消灭蚊虫、遏制疟疾蔓延立下汗马功劳，但是时过境迁，几十年后才发现人体内残留的DDT是几十年以前生产出来的，在相当长的一段时间内，还会对人类健康造成伤害。人类在制造各种药物的时候，也许根本不会想到过了许久才发现这种药物会对人类健康造成持久损害。现代大工业的建立，极大的提高了人类的生产力和生活水平，但是也带来了水土流失、物种灭绝、全球变暖、环境恶化等一系列的副作用。为了增加物种多样性的物种引入往往会引来物种入侵、生态灾难。再有一个也许并不是天方夜谭的假说，有专家估计，随着人类的离子加速器能量越来越高，极有可能某天会在粒子加速器中产生一个亚原子黑洞，也许随着这个黑洞的产生，人类的文明也就随着我们周围的物质一起湮灭了。如果《机械公敌》中朗宁博士事先估计到维基会具有自我意识的话，他也就不会盲目的制造它了。也就是说，如果不建立完善的科学的风险评估体制，我们的科研活动并不会按照我们的期望产生预期的成果。我们种下的种子，虽然开出了美丽的罂粟花，但是最终结出的确是害人的鸦片。

综上所述，我们当今的科研活动，存在着太多的不确定性和风险性。我们有必要建立完善的、科学的监督机制和风险评估机制，约束自己的行为。只有这样，我们才能在某种程度上使科学技术服务于人类而不是带来大量的风险甚至造成人类文明的衰亡。科学技术的发展才会按照人类的期望走在正确的轨道上，而不是像脱缰的野马不可驾驭。当然，这也不是要求我们因噎废食，回到古时候那种“鸡犬之声相闻，老死不相往来”的小国寡民的状态。如何调整科学技术的发展轨道、发展速度使之服务于人类的最高利益和价值观，不至于成为威胁我们未来的真正意义上的“机械公敌”，是我们迫切需要解决的核心问题。

机械公敌---现代科学技术发展的隐忧相关推荐

计算机电子科学技术产品,关于电子信息科学技术发展现状的思考
[摘要]近年来,网络与各类电子产品在我国得到了广泛的普及,电子信息科学技术已成为现代人高品质.高效率生活不可或缺的组成部分,它的广泛应用也对我们的生活理念产生了深远的影响,以此,有对电子信息科学技术的 ...
2018-2019中国计算机科学技术发展报告（CCF）PDF下载
2018-2019中国计算机科学技术发展报告(CCF),产品经理做行业分析时可参考. 文档下载链接:https://download.csdn.net/download/qq_32519139/125 ...
计算机科学技术发展现状及前景展望,计算机科学技术的现状及其发展前景分析原稿...
<计算机科学技术的现状及其发展前景分析(原稿).doc>由会员分享,可免费在线阅读全文,更多与<计算机科学技术的现状及其发展前景分析(原稿)>相关文档资源请在帮帮文库(www. ...
CCF发布2020-2021中国计算机科学技术发展报告
来源:中国计算机学会本年度<发展报告>的组织和策划工作得到了CCF各专业委员会和广大会员的大力支持与积极响应,共收到23份反映不同方向进展的报告申请.CCF学术工作委员会组织评审,遴选出 ...
CCF2016-2017中国计算机科学技术发展报告（总结摘录）
1.数据科学中的机器学习基础和进展报告中对数据科学从两个角度进行了定义,摘录如下: 数据科学(高层定义):数据科学关于数据的科学和研究数据科学(学科定义)是一个融合了统计学.信息学.计算.通讯.管 ...
＜马哲＞科学技术在社会发展中的作用2017-12-27
论科学技术在社会发展中的作用人类社会的进步,离不开科学技术的发展.中国古代造纸术.指南针.火药和活字印刷术的发明, 不仅是中国古代科技史上最伟大的成就, 对中国古代社会的发展产生了巨大的推动作用 ...
信息科学前沿计算机,基于信息时代背景分析计算机科学技术前沿发展策略
卢五威摘要:基于信息科技化时代下,计算机科学技术发展机遇与挑战并存.为了促进计算机科学技术的快速前进,理当科学把握信息时代背景所带来的动力与阻力,方可真正发挥出计算机科学技术的内在能量.但就当前局势 ...
政、企、学三方视角下的智慧城市发展 | 2020中关村论坛“人工智能与城市可持续发展论坛”成功举办...
人工智能技术在城市中孕育,城市亦为人工智提供了广阔的应用场景.如何更好地将智能与城市结合,是政府.企业与学术三界人士共同关心的重要问题.2020中关村论坛"人工智能与城市可持续发展论坛&qu ...
自然科学计算机,计算机科学与自然科学技术的关系
数学是自然科学的工具,自然科学问题需建立数学模型,确定边界条件,才能用数理方法推证:而计算机科学为应用数学范畴.没关系自然辨证法在科学技术的具体学科和马克思主义哲学的普遍原理之间,是处于一种中间的位置 ...

机械公敌---现代科学技术发展的隐忧

机械公敌---现代科学技术发展的隐忧相关推荐

最新文章

热门文章