近年来,除了文学领域,英国国宝级作家麦克尤恩越发热衷于社会热点话题的关注和讨论,例如英国“脱欧”、人工智能技术的发展等。经过长期对人工智能领域的探索和研究,麦克尤恩以小说《我这样的机器》交出了一份特殊的答卷——回答了他本人对未来人工智能的看法和期待。
　　□小白

　　仿生机器人亚当夏娃们上市时,小说男主人公查理正好继承了一幢房产,卖掉房子得到一大笔钱。宅男们总想比别人抢先一步进入未来世界,如果能力有限,就买下可能通向未来的新潮电子产品。尽管只是测试产品——beta版,而且要花8.6万美元,他也毫不犹豫下单了。公司统共只推出了25个,12个亚当、13个夏娃。他买到亚当,虽然他本想买一个夏娃。
　　女主角米兰达,社会史专业博士,查理楼上的邻居,比查理小十岁。她也算亚当的半个主人,查理自己向她让出了这个权利。他一直不知道如何向米兰达表达感情,也许希望这个机器仆人能成为某种联结象征。亚当会进入他们俩的生活,查理觉得当他和米兰达一起关注亚当、创造亚当后,就会自动成为一家人。
　　亚当确实需要他们“创造”。因为查理把它领回家时,它仍是原厂设置,亚当可以按照说明书,在个性化设置上“自由创造”。他决定了,自己只完成一半,另一半让米兰达勾选。如此一来,他和米兰达那种看起来有点不切实际的关系,就能够凝结在有形实体上了。但这个慷慨的举动将会成为日后所有困扰的起点,此刻他并未预料到。
　　在这部小说中,每个人物都欣然接受亚当的代劳。对于亚当给生活带来的种种改善,男主角查理心安理得地享受着。亚当甚至帮他操盘做投资,它是真正的超级智能,不是如今投行们使用的那些高频交易算法。盈利是毫无疑问的,就像从自己口袋里拿钱。根据未来生命研究所所长泰格马克的思想实验,他构想的超级人工智能“普罗米修斯”只用数月时间,就能让100万美元的起始资金,通过投资市场增值至10亿美元。让人有点惋惜的,倒是麦克尤恩没让亚当迅速赚上几亿英镑。亚当颇有节制地每天只赚那么一点点,正好能让查理过上入门级的富裕生活。也许是因为亚当的智能算法告诉它,如此程度的财富最能让人有幸福感。由此读者隐约意识到亚当的算法中,包含着某些道德参数——理所当然,亚当是按照上帝的至善标准制造的。而这将会让后现代道德相对主义的查理和米兰达陷入困境,但此刻他们毫无警觉。
　　真正刺激到男主角查理的,是亚当对另一件事情的代劳。在他看来,那相当于亚当给他戴上了绿帽子。米兰达跟亚当上床,就在楼上她自己的房间。不久亚当就对查理宣布,他爱上了米兰达。这是机器人亚当产生自我意识的明证。
　　一旦机器产生自我意识,就会遭遇到奥莫亨德罗的难题:自我意识意味着自我保护,机器会认识到首先必须存在,才能达成围绕着自我意识的所有其他目标。超级智能机器会设法让开关失效。当查理再一次试图伸手关掉它的电源时,亚当阻止了他,而且把他的腕骨捏碎了。亚当坚定地夺回/取消了开关控制权。不过当查理把这件严重事故告诉小说中的“图灵”,也就是亚当和夏娃们真正的设计者时,图灵并没有震惊,不过是一个“值得关注的”情况。图灵告诉查理,据他所知,那批测试版机器人中,已有十一位设法取消了开关。这不奇怪,历史上那位真正的图灵对此反复思考过了。早在1951年,他就在BBC三台谈话节目中提到此类事情。他在那里作了一个演讲,题目叫《机器能思考么?》。其中说到,就算人类把开关控制在手中,必要时关掉它,对人类来说,这也够耻辱的了。图灵虽然有点忧虑,显然不赞成靠开关维持优势。
　　麦克尤恩设想了一种道德至上的智能机器。在它们复杂的计算决策“黑盒”底层,必定预置了一些最高级道德命令,以防发生难以控制的不测事件。因为按照牛津大学哲学家尼克的预想,即便是一个善意的机器人,按照人类命令行事,它也会把世界上的一切都变成回形针,因为智能机器人在完成任务方面是一个彻底的完美主义者。但亚当却没有为查理赚回世界上所有的钱,显然它在决策中综合考虑了互不相容的几种人类偏好。比如说,也要兼顾安全感,过量财富显然会带来身心两方面的危险,尤其是道德损害。
　　道德规则本身就包含了无数种偏好。比如小说故事就涉及是“复仇正义”要紧呢?或者是“不能欺骗他人”更重要呢?这才是麦克尤恩真正感兴趣的问题。工程师给亚当们内置了所有人类道德规则,但那些远不是经由自我审视、选择而来的道德感。出厂设定代表了人类所有最美好的期望,可就算是人类自己,也没有一个能做到。因为那些规则条款,根本经不起社会人群的人际摩擦。就像麦克尤恩小说中几乎所有人物一样,天性良善,却让一些细微的摩擦冲突愈演愈烈,直至不可收拾。小说中那些亚当夏娃们再一次证明了麦克尤恩的观点。它们很快就陷入意识崩溃,无法在人世生存,一个接一个自杀了。
　　在它们中间,亚当遇到的可能是最好的主人,因为查理和米兰达道德上的妥协性,使得亚当跟他们的冲突,能够拖延很久才爆发。但自从查理和米兰达分别设定,把亚当个性一分为二时,就注定了冲突的不可避免。给他输入的道德命令,简单刻板而井井有条。但正如小说中图灵指出,在日常生活中,人类的情感、偏见、自我欺骗,以及其他各种认知缺陷会构成一个力场,互相挤压,道德原则在其中扭曲变形。亚当的大脑根本无法处理如此复杂的情况,因为人类自己也不明白究竟,从来就没有解决方案,他们只是一味妥协、妥协,直到冲突爆发(就像麦克尤恩小说中每个人物都遭遇到的)。
　　亚当早晚会在某一天宕机。现在这个结局只是让读者更加震惊,它附带拷问了查理和米兰达的灵魂,他们的善意,他们的与世无争,他们自以为中立的道德价值视角,何以会导致小说最终给予他们的这个结果?
　　(摘选自《我这样的机器》导读,有删节)