被认为是道德难题的电车难题有一个更让人惊骇的变体:是否要推胖子下桥。在这个问题中,我们不再只是按下开关让电车改道以废弃铁路上一个无辜者的生命换取剩余五个人的安全,而是亲手将一个路过的胖子推下天桥推上铁轨,用他的体重和生命阻止电车前行碾死其他人。反对者对此提出康德的理论,认为人应当是目的而非手段;而支持者则搬来边沁的功利主义,主张群体幸福值的最大化。而我以为后一种主张,实则是计算机一般的思考模式的体现。
人之所以为人,最鲜明的一个特征便是思考时的非理智型。这不仅是因为我们难以“找到”那个最理智的决定,更因为我们所具备的共情的能力——或曰同情心——与受人类社会影响塑造的价值观会使我们认为有些时候不那么理智的决定更好。就如在这个问题中,我们一方面会与胖子共情,强化了对他“无辜”的体会,一方面我们的价值观中包含有对他人自主生命的尊重,认为一个人的生命无权被他人决定,由此,我们不会推胖子下桥。可以说,不推胖子下桥,正是人类思考模式的体现。
而如果人类像计算机一样思考,就会导出推胖子下桥的结论,因为题设下这六个生命体并没有价值差别。我们也可能导出的是马尔萨斯的人口理论,主张通过中上流社会的多生育与对下层“劣等”人民生育权的限制和剥夺来使人类向优秀的方向进化;或者是有些灾难后网络上事不关己者的语言暴力,指责老人为什么不将生的机会让给“还能活更久”的年轻人。“推胖子下桥”不过是一个假设环境,我们可暂不考虑,但后两个真实存在的例子中我们都可见对人权剥夺到了一种怎样的地步。事实上,人权正是人类思考模式的结晶,唯有在这种思考模式下、在同情心的存在下,康德“人应当是目的而非手段”的价值观才能潜移默化地影响大多数人。
然而,虽然要求“老人为年轻人让道”的行为是计算机式的思考的体现,拉斯维加斯枪击案中那位“认为自己已经活了够久了”而为年轻人挡子弹的53岁的教师的行为却又是“人类式”的,因为计算机以完成指令为第一目的,为了更好的完成指令,它必然是利己的。这也向我们指出了。如果人类像计算机一样思考,被我们歌颂经年的自我牺牲精神便会消失,而取而代之的是更多精致的利己主义者。纯粹的利他是人类式的非理智行为,其背后仍是同情心和久被浸润的价值观的共同作用。
所以概括而言,计算机式的思考模式是以集体利益最大化为基础原则,并将自我利益放于第一位的纯理智模式,这之下必然是一个人情冷漠到极致的社会。在那里,没人会不推胖子下桥,也没人将指责这种行为,因而库克才说:“我不担心人工智能会使计算机像人类一样思考,我更担心人类像计算机一样思考,失去了价值观和同情心,罔顾后果。”
毕竟,一个会推胖子下桥的社会,还能被称作人类社会吗?