尼采说过:“当你凝视着深渊,深渊也在凝视着你。”
人类似乎常常抱着一种恐慌。这是一种本能的,面对未知时人类自主作出的自保反应。这种恐慌由于“恐怖谷”效应,在面临“类人”时会显得更加突出明显。因而我们潜意识里对人工智能的发展抱有一种忧虑,害怕有一日他们真正学会像人一样思考时,人类会被反制挚肘,成为他们的“阶下囚”。这种焦虑体现在很多近现代的文艺作品中,诸如著名的沃卓斯基姐妹的电影《黑客帝国》,人类被人工智能“圈养”而活在梦中,其实体苟活在锡安的一隅,伺机推翻人工智能的统治。
然而苹果公司现任总裁库克却对上述这种担忧并不以为然。他似乎并不担心计算机像人一样思考,人类不会沦落到被跨上大马、身着蓝裙的德洛丽斯无差别屠杀,也不会像《机械姬》中被一个半身的女机器人欺骗感情再被杀死。他担忧的是人类正在面临的异化——人类越来越像计算机,失去了自我的价值观、同情心甚至罔顾后果。
有关记忆的一项研究指出人的记忆与计算机的记忆存储的区别,即人的记忆更繁杂琐碎,彼此之间都以感情连接,而计算机则是将信息分门别类清晰记录。这两种记忆各有缺陷,人类的记忆方式由于情感的介入更易受影响而失真,而计算机,由于缺少情感将不会有将分离的信息整合联系的能力,因而无法做到一件重要的事情:创造。
由此可见,人类若是越来越像机器一样思考,就将离失去情感、失去人类的深渊愈来愈近。一旦跌入这个深渊,我们就将彻彻底底的异化,就像变成甲虫的格利高尔,从精神形态上变成了“非人”。这种“完全理性”带来的惨烈后果是远远超过计算机感性意识的学成的,就像刘慈欣在《三体》中借维德这个角色之口所说:“失去人性,失去很多;失去兽性,会失去一切。”
网络时代,我们的价值观极容易为铺天盖地的信息流所左右。任何人在任何地点在搜索引擎敲下相同的字符,都将看到完全一样的东西——而且是搜索引擎显然我们看到的东西。一方面,它促进了全球化思想的形成;另一方面,也是更重要的,我们的价值感正在趋向同一。这意味着我们已失去了心中衡量各种是非取向的标尺,就像一台空白的计算机,在人类给予它运行法则前对一切事物都无所适从。
在《美丽新世界》和《一九八四》中我们看到了人类文明发展的两种样态:极度的紧缩和极度的放开。而两者又都不约而同地展开了意识形态的影响之下人异变成冷冰冰的计算机的景象。《一九八四》中吟唱着歌谣:“在遮荫的栗树下,我出卖了你,你出卖了我。”《美丽新世界》中说:“谋杀根本算不上罪行,谋杀只是杀死一个人,而一个人又算得了什么?”试想一下社会有一日真正发展成了这样,道德准则和法度皆扭曲,我们所信仰的所谓真善美都不复存在,那时,我们人类,真的还能算人类吗?
威廉·吉布森是“赛博朋克文学之父”,他的作品《神经浪游者》为该种文学题材开创了先河。赛博朋克的世界观中人类与机器人,人工智能紧密联系在一起,人类受科技发展影响,越来越像机器,丧失了自己的思考模式。《攻壳机动队》中机器艺伎、人造人与改造人充斥在各处,《鬼哭街》中那个的未来上海真正变成了“魔都”,人们屈从于自己已经几近变态的变强欲望大肆杀戮,从肉体和精神上变成“非人”。动画《心理测量者》中,人类甚至将所谓的“计算机”奉为神明,自甘听从它的指令,从此不用再为未来分担,妄图通过绝对理性的数值来构建绝对幸福的社会。当然,其结果是完全惨痛的。
反观计算机像人类一样思考,可以说几乎不足为虑。要使计算机获得此番能力,首先要解决意识的“简单问题”和“困难问题”,此二者的完成还需时日,非一朝一夕之事。而就算计算机拥有人类思考的能力已经迫在眉睫,他们是否会像人类所担心的“造反”还只是在虚无中的一连串未知数而已,当人类越来越像机器,却必将走向彻底的毁灭。
“当你凝视着深渊,深渊也在凝视着你;当你与恶龙缠斗,自身亦变成恶龙。”我们凝望着计算机技术给我们留下的人性异化的深渊,我们无人想落下,我们每个人都应警惕,不沦为信息洪流中的“浪游者”。