第14章 第一法则
清晨,天朦朦亮,奥世琦就走出了家门。空气清新湿润,像恋人的亲吻;叶子上晶莹的露珠,像qíng rén离别时坠落的眼泪。四周是绿油油的田野和郁郁葱葱的果树林,微风拂过,树叶“沙沙”作响,有如天籁之音。忽然,一个古怪的念头在奥世琦脑中闪过,“人类,生于自然,死后复归于自然,为什么又偏偏要发展出远离自然的城市文明呢?”
他采了一大捧白色和huáng sè的野花,朝父亲的墓地走去。
墓地到了。他把花整整齐齐地放在墓牌前,跪在地上,恭恭敬敬地叩了三个头。这才席地而坐。
父亲是一名教师,一名优秀的教师。他离开了锦梦源,到了城里,教书、娶妻、生子。本来,奥世琦的童年是快乐的。可是有一天,父亲失业了!因为,人工智能和智能机器人代替了人类教师。父亲悲愤地自杀了。于是,爷爷接他来到了锦梦源。
有人说,父亲自杀是懦弱的表现、是不负责任的表现。但他知道:不是!父亲是想通过自杀来唤醒世人对这个时代变革的反思!就像古代人以血明志一样,父亲不是自杀,而是“血谏”!
古人有首诗不是这样写的吗?
“灵台无计逃神矢,风雨如磐暗故园。
寄意寒星荃不察,我以我血荐轩辕。”
父亲的遣书,他现在仍然记忆犹新——
无可否认,人工智能是强大的。它的记忆力、运算能力、逻辑推理能力等等,都是我们人类无法望其项背的。但是,它有灵气吗?它有感情吗?它有精神力量吗?它能理解“山光悦鸟性,潭影空人心”吗?它能理解“感时花溅泪,恨别鸟惊心”吗?它能理解“春蚕到死丝方尽,蜡炬成灰泪始干”吗?不,我相信它们可能永远都不会!
教师,是人类灵魂的工程师。现在,却要让没有灵气、没有感情、没有“灵魂”的机器人来教育人类,那人类还能是“人”吗?人类还会有灵气、有感情、有精神力量吗?小孩放在狼窝里,长大就成了“狼孩”;小孩从小被机器人教育,长大自然就成了“机器人”!
教育,需要人与人言语的沟通、情感的交融、精神的激荡、心灵的呼应,而绝不仅仅是知识的灌输、数学的运算、逻辑的推理和程序化的微笑!
……
如果机器人什么都能做了,那还要人做什么?
是啊,如果机器人什么都能做了,那还要人做什么?父亲的质问振聋发聩!问得多好啊。“爸爸,您的血不会白流!洲锋的血也不会白流!我一定会为你们讨回公道!”想到这儿,奥世琦不禁仰天长啸!
“‘捕风猎人’(迈拙风的网名),在吗?”铁木铮在网上问道。
“在。”迈拙风答复道。
“较量一下?”
“行。老规矩,只打5局。”
“好。”
“跟你打就是好,不像跟老妖打,那家伙总耍赖。”
“老妖耍赖?不可能。”铁木铮说道。
迈拙风哈哈笑道:“它当然耍赖。一打就是八、九局甚至10多局,它是人工智能,可以不吃不喝不休息,不会累也不会困,我们却不行。你说,它用这种疲劳战术赢我,是不是耍赖?”
铁木铮听了,也哈哈大笑道:“有道理。我们就打5局。5局过后,不管输赢,吃饭睡觉!”
……
“嘿,你ài rén是越来越漂亮了。”铁木铮一边打牌一边称赞道。
“那是当然!”迈拙风得意地说道,“不过,你少起花花肠子啊。”
“你放心,君子不夺人所爱。只不过,她再怎么好,也还是个机器人嘛。”
“机器人怎么啦?机器人不是人吗?”迈拙风随口说道。
“机器人是人吗?”
“不是吗?”
“机器人怎么可能是人?你疯了吧。”铁木铮讽道。
机器人是人吗?迈拙风看了看身边正微笑着看他打牌的海伦,一时不知该怎么回答了。
见迈拙风没有回应,铁木铮换了个话题道:“知道机器人第一法则吗?”
“废话!能不知道吗。”
“那好,考考你。”铁木铮道,“一驾飞船失控了,船上200多名乘客。这时机器人驾驶着飞船,它只能选择方向,眼见就要撞到山峰上,船毁人亡。忽然,它发现山峰旁边有一大片几十米厚的积雪区域,如果飞船撞到积雪里,乘客就没有生命危险,但问题是积雪上正有几个人在滑雪。飞船如果撞进积雪里,就必然会导致那几个滑雪的人死亡。你说,那个机器人该怎么做?”
“这么简单?两害相权取其轻,撞积雪。”迈拙风不假思索地回答道。
“你忘了机器人第一法则?机器人绝对不能杀害人类。它怎么可能那样做?”
“那,难道它要去撞山?”
铁木铮哈哈笑道:“你忘了机器人第一法则?机器人绝对不能杀害人类。它撞山意味着shā rén。”
“这也不行,那也不行,什么鬼问题?!”迈拙风骂道。
“你要是能答出来,我送你一**晶萨国最好的红酒。”铁木铮激将道。
“说话算数?”
“当然,君子一言、驷马难追!”
“主任,已经几天了,蟠天一直在执行两个指令,占用了不少的运算能力。”工作人员报告道。
“哦?”天渊的负责人彤进愣了一下,问道,“什么指令?”
“不知道。它说是总统下达的,保密。”
“既然是总统的命令,谁都无权改变,我也不例外,就让它继续执行吧。”
“是。”
“虹志宇的尸体是上班时被贵公司的员工发现的,目前初步判断,他是在自己进行躯体置换操作时出现故障而死亡的。擎煌先生,你最后一次见他是在什么时候?”丹尼斯问道。
“应该是……前天吧,”擎煌一边努力回忆着,一边说道,“我的习惯是,每隔两三天会去实验室转转,看看他们的研究进展到了什么程度。那天看他忙着做实验,所以没说几句我就走了。”
“说的什么?”
“关于躯体置换与精神分裂的问题,但他似乎不想谈论这个话题,所以说了两句我就走了。”
“实验室有jiān kòngshì pín吗?”
“没有。这里的研究涉及我们公司的核心商业机密,所以没装。”
“昨天下午6点到7点,你在哪里?”
“在家看书。”
“有证人吗?”
“有,机器人比尔。”
情绪,正常;谈话,正常;心跳,正常;汗液排放,正常;目光视线,正常;……初步结论,可以暂时排除嫌疑。“好的。如果有新情况,我们再联系你。谢谢!”丹尼斯说完,把问话记录和同步监测的说谎特征数据传送到了云端,转身走了。
看着丹尼斯的背影在眼前消失,得意的微笑在擎煌的脸上一闪而过。他不仅是太乙公司的董事长,也是制造机器人jǐng chá的宝葫机器人公司的第二大股东,对于机器人jǐng chá的查案程序和模式,他早已烂熟于胸。所以,他的布置也是完全针对这些程序和模式而来的,他相信绝对万无一失!这个社会,已经平静得太久了,久得来人们都习惯了按部就班的生活,没有了jī qíng和创新;久得来社会上的每个人每个角落似乎都有了发霉的味道,该来一场改天换地的暴风雨啦!
听迈拙风说完铁木铮的问题,漠笛陷入了沉思。良久,他才说道:“应该说,所有的法则都是有相应前提的。比如说人工智能和机器人的第一法则,它暗含的前提是必须有足够的选择余地,在这种情况下,它们要遵守的才是绝对不能杀害人类。而在铁木铮举的例子当中,它们没有足够的选择余地,所以,也就自然无法按照第一法则行事。而第一法则,表面文字是绝对不能杀害人类,但核心实质其实是它们的每一个行为都必须维护人类利益的最大化。所以,在那个特定的例子当中,维护人类利益最大化的选择就是冲撞积雪。”
“那按照你的说法,人工智能和机器人在有些情况下是可以不遵守第一法则了?”迈拙风吃惊地说道。
“不是可以不遵守,而是没法遵守。或者确切地说,是在形式上没法遵守,但在精神实质上是可以遵守的。这个精神实质,就是维护人类利益最大化。”漠笛解释道。
“那什么是人类利益的最大化?每个人有每个人的利益,一个团体有一个团体的利益,一个国家有一个国家的利益,但就是没有谁能代表整个人类的利益。比如,a国为了本国的利益而去侵略b国,那这是有利还是不利于人类的利益最大化?又比如人类因为数量的膨胀而大量伐木造田、填海造城,导致生态恶化,这是有利还是不利于人类的利益最大化?如果人类都不知道哪些行为是有利或不利于人类利益最大化,那我们又怎么能知道呢?如果人类都不维护自己的利益最大化,那又为什么要我们来维护人类利益的最大化呢?”海伦忽然插话道。
一个智能机器人竟然说出了这样的话,漠笛和迈拙风惊呆了!
迈拙风瞪大眼睛看着海伦,海伦似乎又恢复了往日的调皮,腼腆地笑了笑,柔声道:“我只是随便说说,你们不要介意哦。”
漠笛却若有所悟地点头道:“你说得对,这确实是一个大难题。人类利益最大化,应该是人类作为物种的生生不息和不断发展进步,但到具体的行为是有利还是不利于人类利益的最大化,就只能在‘适者生存、优胜劣汰’的自然法则中去检验了。我们人类自己不知道,人工智能和机器人也同样不知道。”
迈拙风见漠笛玩起了深沉,急道:“嘿嘿,别说那些玄的,怎么回答我才能拿到那**酒?”
漠笛笑道:“晶萨国的红酒好像够不上一流嘛。”
“这你不用管!”
漠笛想了想,说道:“告诉他,不是想会伤害到多少人,而是想怎样才能够拯救更多的人!”
聚会是在擎煌的一处独院别墅,占地近10亩,院内亭台楼阁、小桥流水,极具江南水乡风情。还没到七点,院里已经是火树银花、流光溢彩,客人也已到了大半,人们觥筹交错,交谈声、欢笑声此起彼伏,十分热闹。菜肴、糕点和酒品饮料都是极具品质、十分考究和精致的。看着这一切,想起来的路上穿过贫民区,那里灯火阑珊,虽然没有痛苦的shēn yín,却弥漫着精神的贫乏和对人生的绝望。这一切,难道不正是眼前这些来来往往穿梭在客人中间fú wù的机器人造成的吗?看着那些和真人没有两样的高fǎng zhēn机器人,奥世琦又感到一阵恶心!他叹了口气,顺手拿起一杯红酒,轻轻摇了摇,一股独特的酒香扑面而来,“romanee conti ”,他在心中说着,径直朝查理走去。
知道了所谓的“‘彩云八号’事件幕后真凶”只是查理的一个恶作剧,大家都恨不得狠狠地打他几拳。但想想这也是擎煌和他的一番好意,也只好原谅了。正在笑骂时,擎煌走了过来,大家一阵寒喧之后,擎煌道:“三位先随意吃点东西,多认识几位朋友,十点整我们开始募捐,到时候你们这些主角就要上台亮相了。”说完,便去招呼其他客人了。
奥世琦把迈拙风拉到一边,海伦也如影随行地跟了过去。奥世琦诧异地看了海伦几眼,迈拙风笑道:“没事,她是我的ài rén,不用回避。”奥世琦点了点头道:“你说‘八号幽灵’会享受做案本身的乐趣,我琢磨了很久,有个计划,你看行不?”
“哦?”迈拙风没想到他对这件事如此执著。
“我们搞个全球的人工智能专家争霸赛,然后拿出巨奖,名利双丰,来引诱他上钩。怎么样?”
“好啊。只是钱从哪里来?”
“等会儿我们去找找擎煌,看他能不能赞助。”
人工智能专家争霸赛,一想到自己可以大显身手,迈拙风不由得激动了起来。
漠笛朝乾非走去。在他旁边,是一位迷人的女士,面若桃花的脸上带着甜蜜的微笑,一身绣着牡丹花开的红色旗袍把婀娜多姿的身材展现得淋漓尽致。那种高贵典雅的气质,让人不敢相信这是一个机器人,但她正是陪伴了乾非十二年的伴侣机器人安妮。
乾非正在细细地品尝着两小时以前还在北冰洋里畅游、此时却成了桌上餐的北极鲑鱼生鱼片,安妮安静地看着,脸上洋溢着幸福。见漠笛走了过来,他笑道:“我就知道你会来当第三者。”
漠笛也笑了。乾非不仅是企业家,也是医学专家,对躯体置换有着很深的造诣。“弗则林教授的论文我看了,基本同意他的观点。”乾非开门见山地说道。
“那我们的社会岂不是很危险?”一想到全国有三亿多人都进行过躯体置换,而躯体置换会导致精神分裂,漠笛的心就猛地紧了。
“我们置换过躯体的人都不担心,你一个原生人担心什么?”乾非揶揄道。
“天下兴亡,匹夫有责嘛。何况我还是国会议员。”
“知道为什么会导致精神分裂吗?”
漠笛点头道:“听弗则林教授讲了一大堆理论,我的理解是这样的:我们每个人的意识并不是与躯体泾渭分明的独立体。比如,性格是内外还是外向,喜欢吃什么、喜欢什么颜色、擅长从事哪些事情,也包括性的取向,表面上是与我们后天的教育和文化熏陶息息相关,但其实关键的还是由我们的基因、也就是躯体的体征决定。所以,一个躯体匹配一个意识。而当我们进行躯体置换的时候,意识保留了,如果不保留,那就根本不是‘我’了,但躯体却改变了。新的躯体会自动产生新的意识,新的意识和原来的意识既有重叠相交,更有不同。但关键是,他们是两个不同的意识,而不是一个意识的扩张延续。也就是说,每置换一次躯体,我们体内就多一重意识,最新的意识压制着以前的意识,表面上看相安无事,但意识越多,压制的难度就越大。而一旦受到某种刺激,把以前的意识唤醒,那么,我们体内就会有若干个‘我’出现,而这些‘自我’会相互剧烈斗争,结果必然就是精神分裂。”
“不错,大致是这个意思。”乾非道,“而且根据弗则林的观点,多次躯体置换必然导致精神分裂,这不仅是必然而且无解。”
“那我们该怎么办?”
乾非注视着漠笛,深遂的眸子中透露出一股超越生死的洒脱,“知道我为什么找一个机器人作伴侣吗?”没等漠笛回答,便接着道,“人类太贪心了,总想得到不属于自己的东西。比如永生不死,那是神的特权,可人类偏偏想得到它。你看我们现在的社会,像什么样子?因为有了机器人24小时不眠不休的工作,我们不再为温饱发愁,这本来是一件好事,可看看人们都做了什么呢?整天躺在床上、赖在沙发上,沉迷于虚拟网络空间,不再愿意去奋斗、去探索、去冒险,甚至连走出房间都不愿意,总想着有的是时间,以后再做。整个社会暮气沉沉,像一只万年的乌龟!社会发展几乎停止了。想想我们的祖先,曾经不停地在森林中奋力奔跑,为捕猎而奋力奔跑,为逃避猛兽而奋力奔跑,为喜悦而奋力奔跑,为悲伤而奋力奔跑。所以,奔跑,才是我们人类的本能!奔跑,才是我们最不应该丢掉的宝贵财富!”
乾非品了口酒,润了润嗓子,继续道:“世间万物,都是有始有终,有生有灭。可人类却偏偏想永生不死。当个体有生有死的时候,人类就生生不息;当个体看似可以永生不死的时候,人类也就要绝种了。现在,大家对即将到来的灾难视而不见,这或许就是大自然对我们的惩罚吧。”
漠笛听着,陷入了深深的思考之中……
查理正眉飞色舞地给一位女士讲述着他在“彩云八号”事件中的“丰功伟绩”,一名浓眉豹眼的fú wù生走了过来,在他耳边小声道:“擎煌先生想和你单独谈谈。”
“哦?好,好!”查理高兴地答应着,依依不舍地和女士道了别。“世界首富怎么买了这么丑的一个fǎng zhēn机器人。”他一边走,一边在心中对fú wù生评价道。
进了二楼一个偏僻的小房间,fú wù生道:“请稍坐,我这就去请擎煌先生。”
“好。”查理一屁股坐在了沙发上,还没坐稳,忽然感到眼前人影一闪,fú wù生一只手已经死死地扼住了他的咽喉,只听得“咔嚓”几声响,查理的喉咙已经被fú wù生捏碎。fú wù生冷笑着,把查理的尸体塞到了沙发下面,拍拍手,走了出去。手上没有半点血迹!