 |
刘永谋 中国人民大学教授，著有《智能革命后的世界》。 |
□ 刘永谋
现代人自傲的另一面是自卑。人很了不起，机器人像人；但是如果机器人未来在各个方面超过人，成了超级AI，这会让人先是有些自惭形秽，接下来陷入被超级AI取代的深深恐惧中。
从本质上说，对超级AI的恐惧是对他人的恐惧。人心惟危，但是人的能力有限。如果某个人拥有了为所欲为的能力，可怕不可怕？隔壁老王如果一下子成了超人，会不会因为前几天找我借钱我没借，就直接把我“拍死”？大家对超级AI的想象，很多时候类似于对一个“能力无限老王”的想象。这就把问题引向我所称为的“能力者道德问题”。
在人类社会中，人与人之间的身体能力差别不大，对道德败坏者很容易进行约束和制裁。但是，如果这些道德败坏者是超人呢？当超人一个人能敌一万人，一个人能毁灭一个国家，超人的道德应该是什么样的道德呢？显然，凡人道德水平的超人，很可能是威胁，而不是福音，因为它能够放大“平庸的恶”。觉醒之后的超级AI就是某种意义上的超人。如果一个社会中有10%的人是动漫《海贼王》中的“能力者”，其他人则是平等的“弱鸡”，这个社会的道德状况会如何？在这个社会中，超人道德、超级AI道德与凡人道德会是一样的道德吗，会不会分化出两种截然不同的道德呢？所谓“能力越大，责任越大”，是不是应该对超级AI有更高的道德要求呢？
超级AI思考和行事很可能不类人，不能用人心揣度它会不会毁灭人类。美国麻省理工学院宇宙学教授泰格马克想象了超级AI出现之后人类命运的六种可能性：1.隔离区，机器人自己划块地，自己搞自己的。2.独裁者，机器人统治世界，把人类养起来。可能是让大家按照规则生活，实时监控，禁止另一个超级AI竞争者出现；也可能是无微不至地照顾人类，把人类当作自己的孩子。3.动物管理员，机器人把人类灭绝得差不多了，剩下极少数像动物一样关在动物园中。4.隐身，只要人类不造另一个竞争对手，它一般任由人类生活，有时甚至做一些有利于人类幸福的事情。5.被奴役，超级AI甘愿做人类的奴隶。6.灭绝人类，地球成为机器人的世界。
类似讨论的学术和科研价值其实不大。更重要的是，超级AI毁灭人类，跟气候变化、核大战、新病毒等生存性威胁相比，优先级根本排不上号。