耶鲁大学生物伦理学跨学科中心的温德尔·瓦拉赫教授是科技道德和伦理研究方面的权威,他对于新兴科技的预言和警告,一直被科技界当做未来发展的重要参考。比如在2016年天津夏季达沃斯论坛上,瓦拉赫教授认为谷歌人工智能Alpha Go战胜韩国棋手李世石就表明机器学习的能力越来越重要,但同时,瓦拉赫教授在他的新书《科技失控:用科技思维重新看透未来》(江苏凤凰文艺出版社)中,也对新兴的热点技术,如人工智能、自动驾驶、地球工程等,提出了伦理挑战和警告。
科技所带来的问题,不仅仅在于技术本身所引发的一些环境、健康和危害,还在于其可能引发的社会问题和伦理问题。
联合国报告称,三分之二的发展中国家工人将被机器所取代,这一趋势已经被各机构所认同,但新技术引发的失业恐惧并非新现象,早在19世纪初,英国传奇无产阶级英雄奈德·卢德就亲手砸毁了当时先进的针织机,英国诺丁汉的针织品手工艺人受到其鼓舞而大肆毁坏工厂中的机械针织机。以至于后来人们总是把反对工业化和自动化的人称为“卢德分子”。
瓦拉赫教授说:“也许我们的下一代有可能会亲眼看到200年前卢德派所担心的梦魇发生,技术抢夺的工作将远远超过其创造的工作。就业机会的创造可能也存在周期性的增长,但是我们可以暂时假设所创造的新工作形式远远落后于人们对于就业的需求,这肯定会产生破坏性的后果。”
系列电影《终结者》也引发了人们对于智能自主武器的恐惧,这种由人工智能和超级武器结合的产物,也成了人类的超级梦魇之一,也被各种科幻创作引为人类毁灭的手段之一。
对此瓦拉赫教授在《科技失控》中指出,“自主武器系统与非自主武器系统之间的区别可能只是一行代码的问题”,“自主武器容易导致错觉,以为战争可以迅速启动并很快以最小的成本取胜。但是,一旦战争开始,不仅是士兵的生命还有平民的生命都难于幸免”。
正在开发的很多新技术,也可能会带来许多新风险。关键信息系统失灵或网络攻击,会不会造成严重的金融危机或持续停电?用3D打印机造出塑料枪支,会不会失去管控?受不断上涨的潮水威胁的岛国,会不会因为采用新技术改变该国气候,而使邻国遭受旱灾?
在科技的发展过程中,人类总要为自己的判断和试验而付出不小的代价。不同于科技发展本身的代价和投入,科技中可预见但因为贪婪或其他原因造成的失控也会造成研究者、投资者和消费者的严重损失。《科技失控》是一本提醒世人警惕的书,如果能对科技进行正反两方面的思考,就会尽可能减少犯错的几率。
正如史蒂芬·霍金虽然一直警告科技是人类最大的威胁,但同时他也说:“我们不会停止进步,或刻意逆转,所以我们必须认识到进步的风险并控制它。”
本稿件所含文字、图片和音视频资料，版权均属
齐鲁晚报所有，任何媒体、网站或个人未经授权不得转载，违者将依法追究责任。
【PDF版】
