□陈卫华
大家都认为AI代表了人类的未来。这个未来即将到来又尚未到来,令人期待或担忧。
工业化的到来和发展,让人类越来越多地摆脱了繁琐和繁重的体力劳动。以最简单的煮饭来说,现在把电饭锅的煮饭键按下去就可以搞定。放在以前,至少得有一个人坐在灶膛前不断添火,一天三顿饭一般就得耗去两个小时左右。
如果说工业化是解放人类的体力,那么AI就是解放人类的脑力。也可以说,AI时代是人类脑力劳动的工业化时代。目前AI已经可以帮助人类解决一部分程序化、重复性的脑力劳动,比如作为一个程序员写一些基础代码。未来,AI必然会越来越广泛、越来越深入地代替人类的脑力劳动。
问题是,代替人类的体力劳动不会引起担忧,人类在地球上能站在食物链的最顶端本来就不是靠体力最强,而是靠大脑最发达。机器的体力超过人类是我们喜闻乐见的。但是如果AI的大脑有一天全面超过人类,它会不会发展出自我意识?还会甘于只当人类的工具吗?尤其是将AI与机器结合为一体的机器人,不管是体力还是智力,都远远超越人类,怎能不令人担忧?
为了防止机器人失控,科幻小说家阿西莫夫早在80多年前就提出了机器人三定律。第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;第二定律:在不违反第一定律的前提下,机器人必须服从人类给予它的命令;第三定律:在不违反第一、第二定律的前提下,机器人要尽可能保护自己的生存。
第一定律保护人类的生命安全,第二定律保证机器人的顺畅运行,第三定律保护人类的财产安全。这三大定律确实是天才设想,但仔细推敲,似乎也有它的漏洞。
比如,有一座豪华别墅,其主人全家都出门度假了,如果跟主人有矛盾的邻居命令机器人将这座别墅拆毁,因为并未违反第一定律,根据第二定律它就必须执行命令。
至于第三定律,它至少包括这种含义:人类可以命令这个机器人自毁,因为这个命令并不违反第一、第二定律,而且根据第二定律,它必须执行这个命令。否则,即使这个机器人再感到憋屈也不能自毁,因为它的自毁等于毁了人类财产。
或许正因为三定律的漏洞,后人又开始补充机器人元定律、第四定律等等。
让我们假设,人类终于完善了机器人定律,在逻辑上无懈可击,没有留下任何一个可能破坏人类生活秩序的漏洞。这就一定保险吗?一个在智力和体力上全面等同于人类的机器人,就相当于一个独立的人,人类制定的规则一定能约束住一个独立的人吗?如果能,那世界上恐怕就没有违法犯罪了。更何况是一个在智力和体力上全面超越人类的机器人。让一个3岁小孩制定规则,目的就是让已经26岁刚提出狭义相对论的爱因斯坦完全服从自己,真的能实现吗?
这个问题,或许只有未来的AI才能用思考或者直接用行动给出答案。