人工智能(AI)绕过程序设计者,自发进行了多轮谈话。报道此事的《大西洋月刊》直接使用了“something unexpected”的措辞,落在中文世界几乎等同于“大事不妙”!
虽然Facebook方面很快以“bug”为名对该报道加以了否认,并暂停了项目,但依然无法消除事件给人们带来的恐慌。人工智能觉醒了吗?它们会超越人类吗?对于这一问题的梦魇长久困扰着我们。然而,该问题的最终答案也许出乎你的意料——我们不必担心AI超越我们,因为我们与它们的思维从来就不在同一个“频道”上。
本报记者 王昱
弗兰肯斯坦恐慌与人工智能觉醒
据外媒报道,当时,正在运行中的两个人工智能设备“Bob”和“Alice”绕过程序设计者,自发进行了多轮谈话。更可怕的是,它们使用了自己的语言——类似英语,但省略了一切复杂的时态和语法,聊天内容是一场谈判。
为了搞清楚它们在聊什么,研究者随后对AI的运行模式做了修正,限制它们只能使用人类可以理解的语言交谈。表面来看Alice似乎并没有获取满意的结果,但诡异之处在于,Facebook后台数据显示这场对话以两者之间的成功协商告终。最终,因为“担心可能会对这些AI失去控制”,这一项目被暂停。
“密谋”“自创语言”“失控”这些敏感词汇很快挑动了受众的神经。不过,根据专业人士的解读,现实显然没有那么糟糕。《科技日报》援引北京市计算中心常务副主任刘彤博士的观点认为,在人编的程序中,发生机器的自我学习、跳变和演化是十分正常的。与其认为这是机器开始表达了,不如说这是程序的小bug。
然而,这种过于专业化的解读,显然无法平息大众的“弗兰肯斯坦恐慌”。
“弗兰肯斯坦恐慌”,源自英国小说家玛丽·雪莱的科幻小说《科学怪人》,小说中科学家弗兰肯斯坦用尸体创造了一个人造人,这个人造人在获得智慧后最终杀死了弗兰肯斯坦和他的家人。“弗兰肯斯坦恐慌”因此用以指代人类对人工智能在觉醒后反噬人类文明的恐惧。
值得一提的是,小说《科学怪人》被认为是近代科幻小说和恐怖小说的双料鼻祖,由此我们可以看出,我们对自己造物的恐惧有多么根深蒂固。也有不少尖端科研人士严肃地探讨该话题——特斯拉CEO埃隆·马斯克上个月在美国州长协会的一次会议上针对人工智能发表了自己的看法,称对于人工智能的政府监管是必要的,因为其“对人类文明的存在构成根本风险。”
人工智能不是你想的那样
不过,在西方,同样存在一派观点认为这根本就是杞人忧天。反对将“弗兰肯斯坦恐慌”当做真问题的科学家们认为,无论马斯克的发言还是人工智能“密谋”的谣传,都反映了人类一种普遍的谬误——我们错误地将人工智能想象成了一种思维模式同人一样的东西,但其实两者的差别远超我们的想象。
关于AI最常见的误解其实来自对自然智能的普遍误解。很多人认为,智能是单一维度的,人们通常会画出一个简单的图谱,例如,一端是低智能的小动物,另外一端则是高智能的天才——感觉智能就像是可以用分贝来量化的声响一样,可以由低到高依次排序。这种模式就像阶梯一样,一层一层逐级递进,每一个层次的智能都比前一个层次更加进步。低等动物位于我们之下,而智能更高的人工智能必然位于我们之上。如果你认同这种观点,就很可能理所当然地得出推论:人工智能的智能强度会沿着这根轴线进一步增加,并最终超过我们自己的高智能状态,成为一种超强智能,甚至最终智能爆表。
然而,对于自然智能的最新研究表明,这种对智能的认知很可能是错误的。智能的维度很可能不是线性的,而是网状的,智能不存在所谓的阶梯,智能并不限于单一维度,而是多种认知类型和模式组成的复合体,每一种类型或模式都是一个连续统一体,不同的智能类型各有其生存目的和特长,却没有严格的高下之分。
不同个体和不同物种之间的认知能力都存在差异。即使在几年之后,松鼠依然可以精确记住几千个橡子所在的具体位置,这种技能甩下人类好几条街。所以在这种认知能力上,松鼠超过了人类。要形成松鼠的思维,需要将这种“超能力”与其他在人类面前相形见绌的思维模式融合在一起。动物世界还有很多其他远超人类的认知能力,比如,在通常观念看来,蜜蜂显然没有人类聪明,它们不会算数学题、不会欣赏音乐。然而,蜜蜂在方位认知能力、各个个体的协作能力上却远远超过没有现代工具辅助的原始人类,而如果将整个蜂群视作一个整体,其对群体行动的规划能力则十分惊人。
很显然,这种蜂群思维的存在是对智能单一维度论的一个最好的反驳,蜜蜂的智力演化显然是朝着与人类截然不同的另一个目标去的。
当然,人类的智能在强度上还是超越蜜蜂,真的有科学家曾经做过实验,让人类在GPS、对讲机等现代工具的帮助下模仿蜂群的思维和活动并获得了成功。但模仿毕竟是模仿,如果让人类刻意模仿蜂群去思维和活动,不仅劳累,而且毫无意义。
那么,问题来了,人工智能的思维方式与我们之间的差别是否像我们和蜂群一样巨大呢?
事实上,正如我们所见的,AI在计算能力、信息储存能力等很多方面已经超过了人类,只是在“拟人交流”等方面显得较为低级——这很像一群不借助现代工具的原始人无法很好地模仿蜂群一样。所以,正确的表达不是人工智能尚未超越人类,而是人工智能还没法很好地模仿人类。
我们所看重的人工智能不稀罕
事实上,此次人工智能“密谋”事件,也从一个方面证明了这一理论。两台人工智能设备之所以出现“暴走”,并自创语言进行交流,是因为实验者忘了给它们加上“用英语交流”的限制条件。这就像在一场人类模仿蜜蜂的实验,忘了给人类加上“用气味和触须交流”的限制条件一样。一旦这个限制条件被放开,人工智能当然会按照它们的智能模式用最“舒服”的方式交流。于是才出现了数据后台显示两台设备已经达成协议,人类却压根不知道它们说些什么的戏剧性结局。
如果我们肯于承认人工智能的思维模式与我们截然不同,那么两个结论就应运而生了——其一,在思维强度上,人工智能也许早已将人类甩在身后,它们只是还不能很好地模仿我们的思维。其二,人工智能可能永远不会“造反”,因为他们与我们生存的维度迥然不同。
在现实中,人工智能会主动模仿人类的思维方式,并按人类行为逻辑生存的可能性几乎为零。人工智能几乎不可能为争夺资源与人类发生冲突。事实上,我们与它们关系可能更类似于蜜蜂和养蜂人——我们从人工智能那里获得生活便利(类似蜂箱),而人工智能则从人类处获得维护和电力(蜂蜜)。我们双方甚至很难理解和察觉到对方的存在——正如蜜蜂应该不知道它的养蜂人姓甚名谁一样。
所以,不要再担心人工智能“谋反”了,人工智能也许会在不久的未来,甚至现在已经超越我们,但它会在一个我们所无法理解的维度上,默默地与人类一起共生。
本稿件所含文字、图片和音视频资料，版权均属
齐鲁晚报所有，任何媒体、网站或个人未经授权不得转载，违者将依法追究责任。
【PDF版】
