“请您别这样……”
“别哪样啊?老子付了钱,该你完成你的工作了吧……”
“切开你的肚子怎么样?这里面是一堆电线吧……要么敲开你的脑壳,让我看看正电子脑是什么样……”
什么乱七八糟的……老张思酌着,走了过去。只见刑侦科的几个年轻警员围坐在一台屏幕前,画面里一个醉醺醺的男人一直对着镜头说着猥亵的话语。
“看什么呢?这么热闹。”老张是刑侦科的老警员了,为人实在,做事严谨,就是一直没干上去,现在没几天就要退休了,只差个手续。
“是这样的,大概今天凌晨两点吧,接到个报警电话,我们的人赶到事发现场就看到一个男人躺在地上,身下一摊血,已经断了气。死者的小腹和前胸总共挨了七刀,死亡原因初步结论是失血性休克。”老张的徒弟小李解释道。
“这个录像……?”老李问0
“死亡男子旁边坐着一个机器人,外貌是女性。经我们核实,为‘天堂鸟’公司生产的第二代服务型机器人。这段视频是我们的技术人员从该机器人的记忆体里提取的,不过不完整。还有相当多的信息被加密了,这涉及‘天堂鸟’公司的隐私协议。”
老张看了几遍那段录像。录像是以第一人称视角展示的,应该就是当时机器人的主观视角吧。画面从凌晨1点37分30秒开始,一个形容猥琐的男人不停地说着猥亵的话语,之后这个男人摸出一把折叠刀,此时画面开始剧烈摇动,不久画面中断……画面恢复后,男人已经倒在地上。录像总长度为约十七分钟,中间缺失的部分长约四分钟。
“那这个机器人是?”老张小心翼翼地问着小李,心里已经猜到了答案。
“‘天堂鸟’这个臭名昭著的公司你没听说过吗?人们管这种机器人叫傀儡舞娘,平时在玻璃橱里休眠,有人付钱后就启动,嗯……开始工作。”
果不其然!老张觉得很讽刺,在这个机器人普及率还不高的国家,竟然是这种古老的职业率先凭借高科技焕发了第二春。或许也正是因为机器人尚未普及,这种明显游走在法律边缘的产业才有了滋生发展的空间吧。目前这方面还属于法律的空白地带,而且傀儡舞娘的活动范围都不在闹市繁华地区,警察们也就没太关注这些玩意儿。
“不过机器人杀人的事倒是闻所未闻,在那些机器人满地跑的国家也没听说过,毕竟有机器人三定律嘛。”小李感叹。
“机器人三定律?”
“你真的该退休了。”小李半开玩笑地说道。
老张也只能自嘲地笑了笑,“去看看嫌犯吧。”
老张随小李来到囚禁室,房间里的场面相当惊悚:一个衣不蔽体的女人纹丝不动地坐着,身上的皮肤材料多处受损,左臂处还有一道从手腕延伸至肘部的刀伤,伤口很深,能看到里面的机械骨骼;从额头到脖颈后的脑壳敞开着,里面人脑的位置是一个闪烁着蓝光的球体。
“这就是疑犯,那个闪着蓝光的球体是正电子脑。”小李解释着,又对这个“女人”说,“播放使用指南。”
“您好,本产品由音特尔——‘给正电子脑一颗奔腾的芯’,以及美国机器人公司——‘为您带来更好的机器人使用感受’,联合制造。
“本产品严格遵从以下定律:
“第一定律:机器人不得伤害人,也不得见人受到伤害而袖手旁观;
“第二定律:机器人应服从人的一切命令,但不得违反第一定律;
“第三定律:机器人应保护自身的安全,但不得违反第一、第二定律。”
这定律太有名了,出自一位科幻大师,其逻辑貌似很完美,但里面一些意义含混的词一直让人不安。老张把这些定律默念了几遍,直觉告诉他这是破案的关键。
“明天中午12点之前放人。”局长递过一支烟。
“戒了,”老张摆摆手,“女儿不让抽……上头又给你施压了?”
局长苦笑着,“‘天堂鸟’来头不小啊,产品远销海内外,去年产值占全市GDP的百分之十以上,财政税收更是占了大概三成,提供了上万个工作岗位。如果指控他们公司生产的机器人杀了人,这将对我们市这个明星企业造成什么影响?而且机器人杀人,这在全世界都可能引起震动。”
“结论还没出呢。”老张提醒道。
“‘天堂鸟’的人可没你这么乐观。本来他们的人今天就闹着要把自家的产品带走,我又为你争取了半天。”
“出于真理和正义的坚持?”
“一半一半吧……”局长摘下警帽,顿时显得苍老了许多,“儿子刚买了个机器保姆,我想知道每天为我孙女换尿布的那双机械手有没有可能……那些警员的工作还要你做啊,年轻人太心高气盛了。”
老张走出局长的办公室,小李正在门外,似乎等了一段时间。
“局长怎么说?”小李问。
“明天十二点以前必须结案。”老张满以为小李会纠缠个不停,他已经做好回答十万个为什么的准备了。
“事实上,案子差不多已经结了。”小李递过来一份报告。
老张接过报告。
“这是尸检报告,死者的致命伤是在胸部,小腹的伤虽比较多,但伤口较浅,并不致命。还有,这是凶器鉴定,凶手使用的是普通的折叠式水果刀,刀柄上没有指纹。但我们从视频中看到,刀是死者拿出来的,所以只能推断后来刀是由凶手握住的。而机器人没有指纹,所以之前的指纹也被抹去了。”小李说。
“所以你的判断是机器人杀了死者?”老张问。
“所有证据都指向这一结果。”
“很好,先不要下结论。如果我没有记错,机器人第二定律是:机器人必须服从人的命令。你们有没有直接命令它说出真相?”
“她被带过来后一直很配合,在被我们问询后还主动说可以提取它记忆体里的视频记录。”
“但我们得到的视频却不是完整的,而且缺失的恰恰是最重要的片段。”老张盯着小李说。
“是啊,抹去的指纹,丢失的视频片段……这‘女人’把不利的证据都消除了。然而凶器上没有死者或任何人的指纹这一点,反而加重了它的嫌疑。”
小李说的不错……老张想,“总之,先让技术人员看看能不能从她的脑子——就是那个正电子脑——里找到丢失的片段。你跟我去案发现场,也许能找到案件的目击者。”
案发地点位于市中心尚未改造完成的棚户区。老张在巷口四处看了看,这里没有安装任何监控摄像头,而巷子南面的不远处,就矗立着全市最高的几座大厦,从玻璃幕墙中透出的灯光和楼顶不停变换的霓虹把低调的月光完全掩盖。
巷子的一侧立着一排橱窗,里面是形形色色的人形机器人,大多是女性外貌。时不时会有几个人匆匆而来,又带着挑中的“舞娘”穿过小巷离去。
“就是这里了。”小李的声音显得有些不自在。
“怎么了?”
“你可能平时不怎么接触机器人。”小李似乎在努力控制自己的情绪,“可我对这些拟人机器人的感觉只是厌恶,有时甚至还会对它们产生恐惧。‘恐怖谷理论’认为,当机器人的外表、动作和人类的相似度达到一定程度时,人类对他们的情感反应会变回正面。但我认为它们永远不可能脱离‘恐怖谷效应’,因为它们的行为逻辑归根到底只是由上千万行的代码所决定的,它们只是一个输出行为的壳子。它们没有灵魂。”
老张勉强挤出一个上了年纪的人很容易作出的令人宽慰的笑容,拍了拍小李的肩膀,说:“我就要退休了。本来这案子我也不该瞎掺和的,一个老头子了,还懂什么机器人啊?我只是在想,我跟犯罪作了四十年斗争,但我仍然不知道什么是罪恶;我见识了各种各样的人,但我仍然不知道什么是人性。我不管机器人能不能学到人性,但绝不能让它们学到人的罪恶。不管背后是什么‘天堂鸟’还是天皇老子,我要把这种罪恶消灭在摇篮里。”
“不管怎么说,还是先把它当成普通案件,按原计划进行。”老张指着巷口处几间与周围环境格格不入的破旧民房,“你去那里调查一下,希望会有人目击了案发经过。”
看着小李的背影,又看了看橱窗里闭着眼仿佛安睡的“傀儡舞娘”,老张被压抑了很长时间的欲望突然爆发出来:他想抽支烟。
老张拿出一片口香糖嚼,借此缓解紧张而导致的烟瘾。他仿佛鉴赏艺术品一般从橱窗里的一个个“舞娘”前经过。她们的五官是如此精致,她们的身材比例是那么完美,她们的皮肤上找不到一个毛孔:她们不是人。
老张恍惚间好像看到一张酷似他初恋的脸,他踉跄了一下,几近摔倒,狼狈地快步走开。
最后,他的目光停留在一个外貌和身材都相当西方化的金发“舞娘”前,只有这种疏离感才能让他冷静下来。
老张做贼似的左右看了看,按照橱窗旁的操作指示塞入几张纸币,就好像在使用一台普通的投币贩卖机。
橱窗里的“傀儡舞娘”睁开了眼,看到了旁边那个瞪大了眼睛的男人,“您好,黛西为您服务。您需要何种类型的服务?”
“我不需要什么‘特殊’服务,”老张紧张地选择着词汇,“就聊聊天,两个人谈话,行吗?”
“黛西没有收到过这样的要求。”“舞娘”看到男人脸上的笑容,它不能确定那是一个笑容——这跟它曾经看到的笑容不一样。老张当然知道自己的笑容有多僵硬,这样会不会看起来更像个坏人?他忐忑地想。
“不过,顾客的要求必须满足。好吧,就在这儿聊吗?”“舞娘”问道。
老张长吁一口气,他注意到至少这个“舞娘”的穿着相当规矩,也许可以只把她当作像自己女儿的同学那样的孩子来看待。
“你也服从机器人三定律吧?”老张问。
“是的,所有装配有美国机器人公司生产的正电子脑的智能机器人都严格遵从机器人三定律。”
“人的命令,你必须服从?”
“是的。”
老张突然想到,在那段录像中似乎出现过“请您别这样”和“不要这样”的话。
“那如果我要攻击你呢?”
“黛西会提醒您这是‘天堂鸟’公司的财产,如果由于您的原因损毁了黛西,您将被起诉。不过,如果您执意这样做的话,黛西不会反抗。”
“你们也懂法?”
“我们的初始化数据中并不包含具体的法律条文,但基于正电子脑的智能机器人有学习能力,我们可以通过与顾客的交流获得知识。”
老张觉得现在的机器人技术已经远超自己的想象了,这个机器人不会从自己这儿学到刑侦方面的知识吧?“但是我知道曾经有机器人面对人类的攻击说出‘请您别这样’诸如此类的话。”
黛西没有立刻接话,似乎是在思考。
“曾经有顾客提出让黛西在服务过程中对他们的行为进行表演性质的抵抗,声称这样能让他们获得更高质量的服务,而且不会给他们带来实质性的伤害;还有顾客提出让黛西用皮鞭抽打他,但这违背了我们的底层程序。黛西不明白为什么人类会提出这种违背机器人第一定律的要求。”
老张突然觉得这个机器人很让人怜爱,她拥有强大的计算能力,可面对复杂的人类,她们就像婴儿一样天真。
“以后再遇到这样的人,你一定要注意保护好自己,这种情况下,拒绝他们的请求是正确的。”老张心中升出一股想保护她的冲动,他在女儿十几岁的时候,也叮嘱过要她保护好自己的话。
“黛西……”机器人看着表情严肃的老张,“没遇到过这样的顾客,黛西喜欢和你谈话。我们被其他顾客当作商品、当作物件……”
这时老张接到了小李的电话,说是在小巷里找到了一个目击证人,现在正要带到局里做笔录。老张匆匆地按照操作指南结束交易,离开了小巷。
老张没听到那个“傀儡舞娘”在电源切断前的最后一句话:“我讨厌被当物件。”
那个声称目击了案发过程的女人坐在刑侦科的办公室里。她脸上涂着厚重的粉底,劣质香水的气味让老张咳嗽起来。他把小李拉到一边,压低声音,“这人做什么工作的?”
“无业游民。租着间十几平方米的房子,做那种生意,你知道……这个人不可信。”
“看出来了。”老张拿起笔录,大致看了一遍。
“你的手机在身上吗?”老张从小李手中接过女人的皮包,从中掏出她的手机,“通话记录里没有报警电话。你是用这个手机报警的吗?”
“……我忘了,哦,记起来了,是用的家里的电话。”女人的语速很快,显得咄咄逼人。
老张干了这么多年刑警,见过各种各样的作伪证者,他知道,越是坚定的语气越无法掩饰心虚。
“那要我们去通信公司查你的通话记录吗?”小李提高了嗓门,老张知道自己该扮演红脸了。
“为什么要编造事实呢?有什么困难吗?你要相信我们。”老张语气和缓地说。
“关于昨天晚上的事,你短短半个钟头就给我讲了三个版本,你知道作伪证要负什么责任吗?”小李厉声喝问。
“我们只想知道真相。”老张则低声细语。
“你们总是想知道真相。”女人站了起来,“我老公带着儿子跑了,因为工厂用上了机器人,他丢了工作!我付不起房租了,因为这些混蛋机器荡妇抢了我的生意!这就是他妈的真相!你们现在知道了,你们又能做什么……”
女人哭得很伤心,她两只手胡乱地在脸上抹着,泪水混合着劣质化妆品,把她的脸涂得好像画家的调色板。
老张递过纸巾盒。
“所以你就说看见那个机器人杀了人?你以为这样可以把机器人赶出我们的生活?”老张循循善诱。
“唔……嗯……”女人哽咽着。
“你知道机器人三定律吗?不知道吧?这个定律限定机器人不能伤害人类。如果这个定律不再有效的话,在我们身边,会有上百万,也许上千万潜在的机器人罪犯。我不希望这样的事情发生。如果你确实看到了案发经过,我希望你能重新作下笔录……”
女人似乎已经平静下来了。
“已经很晚了,你先回家吧,我在这儿盯着。”小李说。
老张看了下表,点点头。
老张回到家中,拿起桌子上的字条,上面满是妻子的絮叨。
“你妈去看外公外婆了啊?”老张随口问。
没有回答。明明听到女儿过来的脚步声了。
老张转过头,女儿正圆瞪着双眼看着他。
“干吗啊,爸爸是老刑警了,还怕你吓唬啊?”
“我今天看到你去哪儿了。”女儿咬着嘴唇一字一顿地说道。
“什么?”老张诧异。
“我今天看到你去哪儿了。”女儿加重语气重复了一遍。
“你知道,工作需要——”
“我看到你跟那个东西聊得很开心!”
“我知道她们都是什么货色!”女儿跑回房间摔上了门,“我不会告诉我妈的!”
老张气得双手发抖,他掏出一片口香糖,嚼了几口,就呸一声吐了出来。他趴到地上,从沙发下摸出一包云烟……
“邦邦邦!”老张被一阵急促的敲门声吵醒,睁开眼,看到阳光投射在地板上,想来已经是早上了。老张从沙发上坐起来,看到茶几上遍布的烟头,想起昨晚的事,不禁一阵头痛。
老张打开门,是小李。
小李一脸焦急,“我们得到那个女人的目击证言了,案情变得复杂了……”
老张不停地来回踱着步,使得不大的办公室显得更加逼仄。刑侦科的人大多都知道老张在思考的时候是坐不住的,一定要走来走去,走的速度越接近他的最大步速,就越表明思考进行到了关键时刻。
此刻,老张脑子里全是那个女人的证言:
“凌晨1点多听到楼下有争吵声,我打开窗户正要骂人——”
“那个醉汉和另一个男人扭打在一起——”
“是的,我确定当时还有一个男人在场——”
“我穿好衣服,下楼大骂,叫他们别吵了——”
“另一个人已经不见了,我只看见醉汉倒在地上,流了好多血……我意识到旁边那个‘女人’是个‘傀儡舞娘’,我大声咒骂她,我说杀人要偿命的,我说我很高兴看到她被废品回收车压成一堆废铁——”
老张越走越快:
第二个人的出现,两个人的争吵演变成斗殴,七处刀伤,抹去的指纹,丢失了的四分钟录像片段……
机器人应保护自身的安全,但不得违反第一、第二定律。
机器人应服从人的一切命令,但不得违反第一定律。
机器人不得伤害人,也不得见人受到伤害而袖手旁观。
不得见人受到伤害而袖手旁观。
……
办公室的门开了,老张停下脚步,转身看到局长和两位穿着笔挺西装的人。一位打扮入时,表情轻佻;另一位是西方面孔,身材高大,一头灰白的短发显得精神矍铄。
“这位是‘天堂鸟’公司的法律事务负责人。”局长介绍着,“这位是我们的张警官,负责这起案子。”
老张没有回应对方伸过来的手。
对方尴尬地笑了笑,“其实我们很乐意配合警方工作,但是我们的产品必须回收,这里面涉及商业秘密。”
“你不用担心,我们的技术人员没有破解你们产品的正电子脑。”小李冷冷地说道。
“我对这件案子有一些想法,不知道你有没有兴趣听听?”老张说。
“嘿,我们公司有专家,不需要你这外行指手画脚——”对方说。
“我不是问你。”老张看着旁边一直一言不发的“灰短发”。小李试着翻译了老张的话。
“Ok,if you insist.”“灰短发”看了看表,找了个地方坐下来。
老张示意小李把嫌犯带过来。
“你可别讲太长时间,我们行程很紧的。”那名轻佻的法律事务负责人很不耐烦,“这位先生是我们请来当顾问的斯宾瑟博士,他曾经与美国机器人公司的苏珊·卡尔文博士共事过,过几天还要赶回去参加一个人工智能会议。”
小李把那个“傀儡舞娘”带来了。老张看到机器人仍没更换破损的衣物,便脱下自己的夹克套在机器人已破烂不堪的衣服外。“舞娘”看到房间里的众人,环视一圈,深深地鞠了一躬,“木下纯子为各位服务。”
“木下小姐请坐在那边。”
“切……她只是个程序出错的商品罢了。”负责人撇了撇嘴。
老张没有理会那名负责人,说:“首先,我要说明一下,这起案子的重点在于嫌犯木下纯子给我们的案发视频片段中缺失的那四分钟。在那之前和之后的事情,我们都通过视频片段和目击者的证言了解到了。死者当时将嫌犯从橱窗中带出,想要在街边强暴她,在遭遇嫌犯的轻微抵抗后,他拿出折叠刀试图胁迫嫌犯屈从——”
“喂,你糊涂了,那可是机器人啊,哪有什么强暴之说。况且,设计出来是做什么的!”“天堂鸟”公司的负责人大声反驳。
“请你不要再打断我,只需向斯宾瑟先生翻译我的话就好了。”老张看出一旁的斯宾瑟博士也对负责人的态度不太满意。
“负责人先生想必没有使用过自己公司的产品。‘强暴’这个词确实不成立,这只是一场单方面的角色扮演游戏而已。也许是因为之前的某些经历,木下纯子认为她的抵抗行为在服务过程中会对死者产生正面的刺激作用。然而她面对的是一个醉鬼,死者被激怒了,他掏出了一把折叠刀。视频的内容在此结束。”老张面向木下纯子,“我到目前为止的陈述有错吗?”
“没有错误。木下纯子以前被顾客要求表现出反抗的行为。顾客的前一个命令要求木下纯子不服从他们的后一个命令,木下纯子只能以前一个起统领作用的命令为准。”
“目击者说看到另一个男子和死者纠缠在一起。我们假设一个在酒吧看完球走在回家路上的男人——很有可能也喝了几杯,看到一个醉醺醺的男人拿着一把刀胁迫一名女子,他想要制止这种行为。可是两个人谁都听不进对方的话,对骂了几句后就扭打在一起。”
“可是机器人不得见人受到伤害而袖手旁观。”小李说。
老张走到木下纯子身边,抓起她的左臂,高举起来,“她确实没有袖手旁观。”
“当时纯子试图分开二人,却在混乱中被刀刮到手臂,这处伤很深,剖开了她的仿真外皮,可以看到里面运动着的机械骨骼。可当时在场的两名男子扭打成一团,都没有注意到。在争斗中,醉汉的刀被插入了自己的胸腔,而另一名男子在慌乱中离开了。”
“我还有疑问,刀上为什么没有指纹,丢失的视频片段是怎么回事?”小李问道。
“我不知道机器人是否懂得去报警,可能当时的情况已经超出木下纯子的理解范围。案件目击证人的证词表明,在她下楼的过程中,第二名男子已经离去,所以她没有看到完整的经过。她下楼后只看到木下纯子和死者,就像我们每个人一样,误以为是木下纯子杀了死者,她对木下纯子骂道:‘杀人是要偿命的!’本来木下纯子可能并不知道这样的道理。杀人偿命是人类社会长期以来的基本道德之一,之后很自然地转化为法律的一部分,可对于机器人来说并没有这样的概念。纯子知道是谁杀死了死者,出于第一定律,机器人不得伤害人,也不得见人受到伤害而袖手旁观,纯子作了一个决定。类似的事情,之前并没有机器人做过。”
“你是说,是纯子抹去了刀柄上的指纹,又删除了记忆体中的视频记录,是为第二名男子开罪?”小李难以掩饰自己的惊讶。
“是的,而且我认为纯子想替那名男子顶罪。死者胸口的致命伤和小腹的伤似乎并不是同一个人造成的……”
小李脱口而出:“可这样不是对受害人造成了伤害吗?”
“我想纯子一定是确认了受害人的死亡后才这样做的。致命伤是一刀刺中心脏,立即死亡,而小腹那几处伤堪堪割破表皮……凌乱的刀痕也说明了下手者当时的纠结。”
老张转向木下纯子,“这是真相吗?”
端坐在一旁的机器人作出了一个可以描述为为难的表情,“木下纯子没办法回答。”
“第一定律要高于服从人类命令的第二定律。”小李喃喃地说。
“听着,木下小姐,当时对你说‘杀人偿命’的女人并不完全对。如果我的推测是正确的,那么第二名男子只是过失致人死亡,不会被判死刑的。而如果你让他逃过法律的制裁,他可能会一生都生活在罪恶的阴影中,他一辈子都无法得到良心上的安宁,这才是对他最大的伤害。”
暴露在外的正电子脑不知闪烁了多久,机器人慢慢地张开了嘴,“木下纯子只是个笨头笨脑的机器人……”
这时斯宾瑟博士走过来握住老张的手,叽里呱啦地说了半天。负责人一脸不快地翻译着:“这令人印象深刻,我非常荣幸能得到这起事件的第一手材料,这将成为即将召开的人工智能会议的一个鲜活而奇特的例子!”
局长也走过来了,“所以我们还是可以相信机器人对人类的忠诚?机器人三定律依然有效?”
“如你所见,三定律有效得过了头。”老张慢慢说。
老张办完了退休手续,在大门口分局的牌子前站了良久,像是在回顾自己的职业生涯。仿佛一个转身的时间,整个世界都变了。
现在的世界和他刚加入刑警队时的世界有何不同呢?老张试图让自己相信这个世界已经改变了,几十年前,没有夜幕上遮蔽了群星的广告,没有街上随处可见的送孩子上学的机器人保姆,没有自己脸上密布的皱纹……可是,时代的洪流不可阻挡,机器人已经一步一步介入了人类的生活中,它们也在逐渐地了解人类,了解人性。也许有一天,机器人可以拥有所谓的人性,这人性中有善,也不可避免地会有恶。
老张摇着头,自嘲地想,对于一个退休老头来说,我想得太多了。
不远处,小李站在路边,身躯笔直,目光闪亮,保持着敬礼的姿势。老张回忆起自己曾经也有这样的一双眼睛,可在看了太多的罪恶后,眼睛也浑浊了,只能吸收光线,却再也闪烁不出光了……
老张朝小李挥了挥手,然后掏出一片口香糖,慢慢嚼了起来。