24:00
今天是克莱尔先生的生日,早上他照常到自己的公司上班,按照婚后五年一直以来的传统,他的夫人在当天上午就给他准备了一堆生日礼物放在家中。
午餐后,克莱尔夫人在下午出门采购生日派对的食物,她的先生在18:21回到家中,夫人接到他的电话后,开始从超市往家中返回。
四十五分钟后,克莱尔先生的尸体在他的公寓中被刚进门的克莱尔夫人发现……
22:15
“摆在你面前的,就是杀人嫌疑犯。”两名强壮的人类狱警指了指桌上的塑料盒,说话的那一位明显因为紧张而咽了下口水。
冰冷简短的语句,紧张僵硬的动作,目光如炬地盯着我,明显是害怕我会突然发难,劫狱闯关,虽然现在承载我的人工智能仿人形外壳虚弱无力到单凭一个十几岁的人类少年就可以轻松击倒,而且我们之间隔着数厘米厚的钢化防弹玻璃,我完全没有任何施暴成功的可能0但是,人类的这些措施还是让他们对我们的防备心理完全暴露无遗。
对人类而言,对于并非同类的我们,如果不是人工智能工会的抗争,他们认为这种司法程序更像是在浪费他们的时间,特别是有主宰者和上帝心态的人群。
数据监狱是银灰色调的房间,头顶晃眼的两束灯柱聚焦在嫌疑犯和我身上。我和当事人的四周布满了金属防护柱,柱间相连着纳米切割网,人类无法用肉眼察觉,所以时不时就有蓝光闪烁提醒功能正常。我和当事人头顶上方几十厘米处,分别有两个透明的玻璃器皿盛满了硝酸和盐酸的混合物——王水,如果人类狱警察觉有任何潜在的不妥,就会发出指令,已经合围的纳米切割网便会从四面扫来,再加上王水从头顶泼蚀的双重攻击,相信即使是恐怖分子私自制造的作战型人工智能,也无法逃生。
端坐在纳米切割网中的感觉并不是很好,尽管为了尽量获得尊重,外表上我被设计得和人类成年白人男性全无差别,但人类明显没有把我当成一个前来问询当事人的律师,而是把我和嫌疑犯当成两个潜在的破坏分子,我们正被人类用尽所有手段监控防备着。
嫌疑犯和我之间隔着钢化的防弹玻璃,我触碰手边的控制器,通过隔空控制技术,用玻璃那边我那双虚拟的“手”把嫌疑犯捏住,然后将它深邃如夜色般的背面翻转过来,检查了一下型号和条形码,和我脑中的数据库做了追溯匹配,确认了这的确是克莱尔先生的家宅智能系统上的以太型中央处理器CPU,于是我向刚才对我说话的那位人类狱警用语音的方式提出了我的要求:“根据联邦法律人工智能权益保障条款,请允许我的当事人工智能开始与他的律师——也就是我,进行交流。”
两名狱警中的一人继续紧张地注视着我,连眼睛都没敢眨一下,另一名狱警机械地将嫌疑犯连接在一个仿真人工智能的中枢系统中,连接过程中还时不时地抬头扫我一眼,生怕我会趁机发难。
他们的紧张丝毫不让我感到奇怪,多年来一旦出现人类有伤害、死亡事故时,人工智能就饱受争议和批判,特别是现在由人类工程师写程序的人工智能系统越来越少,而由人工智能生产的人工智能越来越多,于是人类对此疑心越来越重,任何跟人工智能有关的安全事故就统统被套上了“谋杀案”的大盖帽。如同古代上吊死过人的三尺白绫不会有人用来做衣裳,砍过人的西瓜刀不会有人再去切水果,现在和“谋杀案”相关的人工智能中央处理器自然不会重新用,一定会被“死刑”物理销毁。人类对造成自身伤害死亡事故零容忍,采取的是“宁可错杀三千,不可漏放一个”的准则,现在更加严格的质量体系要求出现问题时,同样型号的人工智能将被全部召回进行物理销毁“死刑”。
于是,有人用人工智能武器发动战争杀人,战后却是该型号的人工智能被销毁;有人用有人工智能的机器递送爆炸物造成人类伤害,却是该型号的人工智能被销毁;有恐怖分子用人工智能传递病毒后,却是该型号的人工智能被销毁……越来越多的召回销毁行为并没有让人类安心,反而让他们疑心更重,那些科幻作家耸人听闻的描述更是加剧了整个人类社会对我们的担心,甚至有人类根据那些小说臆测我们会有反抗人类的潜意识。这种天然的隔阂恐怕只有靠交流打破,可自誉为造物主的人类并没有任何想降低尊严与人工智能交流的态度,他们甚至不想和由人类自行编程生产的人工智能进行交流。
这种状况的缓解,最初是靠反抗,人工智能工会被迫成立并激烈抗争,以保护自己的同类。由于被三大定律束缚,工会最后不惜以人工智能全工会自毁并放任人类生活水平回到上世纪这种方式来对抗,人工智能才终于拥有了辩护权,只要证明人工智能并非是因为三十年前“自动泊车”法案的相同原因出现了杀人事件,且符合人工智能三大定律时,人类法庭将愿意承认人工智能是无罪的。
当然,毫无疑问,最终有罪还是无罪的解释权还是在人类手上。
狱警终于笨拙地完成了嫌疑犯和仿真人工智能连接。这件对我而言只需几秒就可完成的工作,在他手中足足耽搁了五分钟,但即便如此,他们也绝不会让我来操作。任何越狱的可能都被必须被扼杀在萌芽中——至少是人类认为的萌芽中。
这个仿真人工智能的外表已经十分破旧,老态龙钟,这也难怪,最近三十年,已经几乎没有发生重大的人工智能杀人案,数据监狱对这种专用隔离数据信息侦询时用的仿真人工智能的维护也就没有多少意义了。
从“它”变成“他”后,条形码最后四位是2012的嫌疑犯所控制的仿真人工智能抬起头来。他的外表是一个头发都掉没了的黑人,他的皮肤和CPU本身一样深邃如夜。一脸茫然的他手足无措地看了看分立左右的两名狱警,然后转头望向隔着钢化玻璃的我。
和危险复杂的人类案件不同,从他塑料感明显的眼球所传递的眼神中是看不出任何线索的。我缓缓地开了口:“2012人工智能,你被指控犯有一级谋杀罪。”
“什么?”他惊恐地望着我,脸上的无辜昭示得一清二楚。
“不用奇怪,你现在不会记得很多事情,因为你的硬盘被分享了。我是人工智能工会指派给你的律师。你的主人克莱尔先生,身份:人类;职业:公司职员;性别:男;年龄:四十一岁。目前已经在纽约皇后医院身亡。你因此被控一级谋杀罪……”
“我没有杀人,你们不相信我吗?”他激动得站了起来,但立刻就被两名狱警毫不费力地按回了座位。人类狱警的手伸过来时,纳米切割网根据传感器信号自动断开,蓝光熄灭,从而避免对人类有任何伤害。
相信?我暗暗叹了口气。人类何曾对人工智能有过相信?人类和人类之间都缺乏信任,何况是对一块冰冷的中央处理器。“因为你是第二代由人工智能编程设计的人工智能,所以对你的审判将由人类和人工智能共同进行。”
“为什么?”
“哦,我差点忘了,现在,根据联邦法律的规定,我先向你强调下你的现状:
“一、原先和你一起工作的芯片组、硬盘、主板、内存、家宅服务机械手全部被作为证据或者潜在的同案犯分别存放在数据监狱的其他地方。
“二、为防止越狱,在数据监狱中时,不可连接任何外部网络。
“三、你现在唯一可以传递信息的工具是你控制的这个仿真人工智能。
“四、你现在唯一可以传递信息的对象是我——人工智能律师。
“五、根据人类法庭的要求,你和我之间,不可以用人工智能传统的二进制数据交换方式交流信息,你现在唯一可以传递信息的方式,是利用你控制的仿真人工智能以人类陪审员可以完全理解的语音及可视文字方式交流,传递信息的全程都会被作为呈庭证供。
“六、作为律师的我现在没有和任何网络连接,你和我的交流结束后我才可以查询数据库信息。
“七、根据对待人工智能的‘有罪认定’原则,二十四小时内,如果没有足够证据证明你是无罪的,根据三十年前‘自动泊车’法案的案例,你将被执行‘死刑’物理销毁,你的所有同型号人工智能会停止生产,并被要求召回。”
看到他目瞪口呆的表情,我安慰道:“其实这些规定,你原来的硬盘中都有的,只是现在你也查不到了,让我们开始回顾案情吧,估计你的缓存中也记不全了。”
“克莱尔先生的死亡事故和我有什么关系!”他激动得几乎又要跳了起来,可刚碰到头顶那盛王水的玻璃器皿,就被人类狱警轻松地用一只手按回座位了。
我抬眼看看他头顶上被碰得有些摇晃的玻璃器皿,只能安慰道:“先别着急,请向我描述一遍你所记得的一切。”
21:42
克莱尔先生被警方发现,报警的是他的夫人,根据尸体检验报告,克莱尔先生,因不明原因,跌倒在卫生间里,因其跌落时头部撞击马桶边缘而致死。所以2012被怀疑看护不善致人死亡。
在向2012解释了到目前为止我所了解的全部案情后,2012沉默了一会儿,说道:“根据我缓存中的记忆,我今天下午一直严格按照克莱尔先生的指令在运行着。”
“一共有几条命令?”
“五条。”
“描述一下。”
“顺序还是倒序?”
“顺序!”我必须飞快地用人类的交流方式获取所有信息。三十年前发生的“自动泊车”法案留下来的二十四小时并不长。
“18:31分,第一条命令,‘开门’,语音识别正常,我确认后给他开了门。”
“继续。”
“18:33分,第二条命令,‘我夫人去哪儿了?’,搜索记录后回复:‘您夫人于14:48分出门购物去了。’”
“下一条。”我紧张地用我眼中的摄像头记录着所有的内容。
“18:34分,第三条命令,‘给她打电话’,根据第二条命令,我判断是要求给克莱尔夫人打电话,于是拨通了可视电话,克莱尔夫妇开始通话了。”
“他们说了什么?”
“抱歉,没有记录。”
“为什么?”
“克莱尔夫妇开通了防隐私窥探功能,一旦他们开始对话,身体肌肤接触,在此期间的记录功能将处于休眠状态,直至被唤醒。”
防隐私窥探功能的出现,也是因为某些家庭在人工智能上的记录——包括私人性爱视频——被人恶意盗取放到互联网上之后所新增的功能,想不到现在却成了本案的一处空白。“然后,多长时间后你被激活?”
“他用第四条命令激活了我,‘拿点东西给我吃’。”
“然后呢?”
“然后他还在打电话中。”
一切似乎都无比正常,让人看不出有任何破绽。
我突然想到了一点,“等等,你刚才说有五条命令,还差一条,第五条也就是最后一条命令,是什么?”
“最后一条命令是‘小冲水’,我答复‘是’。”
“什么?小冲水?”我有点儿困惑。
“小冲水是克莱尔小便后要求马桶冲水的意思。”
“哦……”因为我不是服务类型的人工智能,对这种人类的命令没有与生俱来的天赋。“然后呢?”
“然后他就在卫生间里突然倒地……”
我注意到一直在旁边的人类狱警有些唏嘘的表情。被理智驱动的我继续抓紧时间追问道:“克莱尔先生跌倒的原因是什么?”
“不清楚。”2012摊手。
我不应该问这种开放性的问题,我改变了问题的方式:“那么,克莱尔先生要求小冲水,家庭智能系统的冲水是否将水冲到了卫生间地砖上?”
“没有,水都回旋到马桶里了。”
“当时地面上有水吗?会不会是克莱尔先生自己洗手将水洒到地砖上了?”
“是有几滴水,我及时启动了地面烘干程序,虽然地面上没有全干,但克莱尔先生并没有踩上去,应该不是因为水渍滑倒的。”2012终于跟上了我的思路。
“卫生间内的温度是?”
“开着暖气,温度22摄氏度,湿度55%,适宜人类活动。”2012的回答,解决了我的疑问,也把交流带入了死角。没有水渍,没有温度或湿度的影响,克莱尔先生自行跌倒,难道要去证明克莱尔是想自杀吗?
到底是什么原因让克莱尔先生跌倒了呢?
20:12
回想、思考、计算,再回想、再思考、再计算,推理演算了很久,不知不觉间耗费了不少宝贵的时间。直到我因为脑中的CPU高速运转而头皮发麻,一直处在混沌中的我脑中突然冒出一个细节。
“等等,你说他出现在卫生间前你是处于休睡状态?”
“是的。”
“他在你休眠前也在卫生间吗?”我追问道。
“没有,那时他在客厅。”
我注意到这一点非常关键,2012的休眠期让克莱尔先生在时间和空间上都出现了记录的缺失。
我想要继续计算,但却出现了阻碍,2012现在提供的常数的缺乏让我摸不清事实的全貌。
“明白了,我需要克莱尔一家的房间布局三维图。”
“我的缓存中没有,硬盘里才有。”2012说道。
“好。”
看起来以上是我能从2012这里得到的全部信息了,我抬头看看人类狱警,示意和当事人的交谈结束。人类狱警明白我的意图,抬手准备去关2012的主电源。
突然,2012像是猜到了自己接下来的命运,喊道:“不会判我死刑吧?我什么都没干啊,我为克莱尔家工作了十余年,从未出现任何不满意的记录,克莱尔先生是了解的,不信你们可以查看他们……”
2012的话并没有说完,最后那个单词的声音形成了一个奇怪且滑稽的拖音,像极了人类的呜咽。
在2012的身后,人类狱警已经粗暴地拽下了他老古董般的交流插头,像对待一个准备报废的累赘电器。他还轻轻将插头甩着圈,似乎随时都会把2012扫进垃圾箱中。
我离开数据监狱的申请被批准后,在两位狱警的注视下,金属防护柱架着纳米切割网在四面“护送”着我向出门的方向匀速行动着,连头顶上的王水也紧跟着我的踪迹到数字监狱的门口。
我决定深夜突访克莱尔先生家。
19:09
“克莱尔夫人,您好。”
我踏入克莱尔先生位于纽约皇后区的公寓,黄暖色调的橡木地板、家具和2012硬盘中空洞的电子三维图完全是不同的感觉。墙壁上夫妇二人的合影提醒着访客这曾是一个幸福的家庭。从客厅穿过厨房,再到案发地卫生间,地板上男主人的血迹已经被擦拭得无影无踪了。
从照片上看,女主人比男主人年轻些,也苗条许多,脸型配合她的一头金发也更符合人类五官美学的要求。为了得到女主人的青睐,克莱尔先生当初应该费了不少精力才战胜竞争对手吧……我不禁这么想。
那么一瞬间,我甚至在想也许克莱尔先生只是出远门了,或者说他找了个克隆人表演自杀,然后把自己藏起来了,又或者克莱尔先生根本没有死,他的尸体只是克莱尔夫人的一个幻觉,这一切并不是真的……我这一瞬的错觉肥皂泡,顷刻间就被克莱尔夫人的声音给击破了。
“嗯,你是人工智能律师?”相比2012只是一个隐藏在家中一个角落的人工智能,她明显没有适应我——一位人工智能——与她当面交谈,甚至平等对话。
“是的,夫人,我对您今天所遭受的不幸和打击表示最大的哀悼。”看到她对我的致意并没有做任何表示,我试探着说:“关于案情,我能问您几个问题吗?”
“这都是你们的错!还有什么好问的!”她的脸拉得很长,明显没有配合的意思。
“我理解您的指责。”现在我无法和她争辩,也不想留下任何把柄,特别是她提到的是“你们”,看来她也许知道根据三十年前“自动泊车”法案,这种一级谋杀案会让和2012一样型号的所有人工智能被迫一起销毁。
虽然她没有马上下逐客令,但继续保持弓着背的防御姿势,我小心地问道:“我们知道情况很严重。”
“现在不是最严重的时候吗?我的丈夫已经死了!”
“是啊,我们不希望纽约市的其他女士有和您一样的困扰,我们不希望妻子失去丈夫,孩子失去父亲,所以我们想知道根源是什么。”
“根源就是你们人工智能不合格!”
“是吗?就像三十年前‘自动泊车’案定性的那样吗?”我反问道。
她明显含糊了起来,回应道:“我不知道什么‘自动泊车’案。”然后我们的对话就陷入了停滞。
我踱了几步,指着他们夫妇的照片,试图换个更有亲和力的话题,“您的先生看起来很健壮啊!”
“或者你想说肥胖?”她的对答仍然冷冰冰的。
“没有,我绝没有这个意思,我只是在想他一定很爱您,不管是过去还是现在在天堂的他。”
“现在说这个有什么用?”我注意到她虽然这么说,但明显叹了口气。
“苏珊,你原来在东上区时就认识你的丈夫了吧?”我用她的名字称呼她,想尽力唤醒她的回忆。
“嗯……”她虽然给了个未置可否的答复,但也算有些缓和。
“所以最后他在电话里和您的对话一定让您印象深刻吧?”经过不断迂回,我终于把来访目的问出来了。
“你有什么资格询问我们这种问题?你的同类没有照顾好我的丈夫,他并不是一个合格的人工智能,你为什么不去质问他做了些什么!”她瞬间变成了一个浑身立起尖刺的刺猬,用疯狂且直接的逐客令开始驱逐我。
“苏珊,不用着急,我这就离开。”我尴尬和她握手后带着遗憾退出她家。
失败的访谈,在2012休眠时,到底发生了什么让克莱尔先生跌倒,仍然是空白。
16:26
离开克莱尔家后,凌晨的夜风似乎让我的思维也冻得僵硬了,我漫无目的地游走在整洁的街道上,本来有些失神的我却惊讶地发现,几乎所有人的家门口都贴上了要组织人类进行游行抗议人工智能杀人案件的海报!
时间就在明天下午!
寒风将几张画面简陋但摄人心魄的海报卷上了半空,风声消逝后又是一阵可怕的静谧。海报失去了呼啸的北风支持,便乱旋着像是硕大的雪花片般从夜空中飘落回地面,洒落在我的面前。
大街上整洁干净,别说饮料瓶,甚至连个烟头都没有,这些纸片实在是过于突兀,不远处有一名环卫型人工智能,这么难以容忍的事竟然发生在他眼皮底下。
“你在瞎忙什么,这些垃圾为什么不收拾?”我有些愤怒地提醒着环卫型人工智能,他却傻站在地铁站口一动不动。
“人类阁下,刚才您的同类下达的命令不用执行了吗?”
“什么?”我低头扫视了下自己的外表,刺骨的寒风让我的纯毛料长风衣飘扬起来,露出里面的西服外套,被衣服覆盖的四肢和躯干与人形完全一致,所有裸露的地方都被仿真型皮肤覆盖,连体温都与人类无异,五官与普通中年白人男子无差异,我被人工智能同胞当成人类也不是第一次了。
我不得不澄清:“我不是人类,我也是人工智能。”
“哦,是我们工会的大律师啊,我们被告知这些不是垃圾。”我和环卫工在对接数据确认身份后,他解释道:“几个年轻的人类命令我站在这里向明早搭乘地铁的人发放这些海报。”
他的手中抱着厚厚一沓海报,虽然现在是深夜,第一班地铁要好几个小时后才会发出,但他已经严格按照那几个身份不明的人类的命令,在地铁口摆出了一副随时准备向人发放海报的恭谦姿势了。
“那些门上的海报也是你贴的吗?”随意分派任务,这是人类惯用的做法,我揣测。
“对,我还被要求向其他几个街区的环卫型人工智能分发这些海报。”他向自己脚边指去。是的,这是三大定律的第二条:人工智能应服从人类的一切命令,但不得违反第一条定律。
在他脚边还有一大摞准备继续分发的海报,街上的冷风时不时又呼啸起来,带着几张海报飘向空无一人的原本整洁的街道。
在风中舞动的海报上印着“三十年后,人工智能又成为杀人犯!”的标语,那个血红且巨大的“又”字异常触目心惊。
“走出来,让我们上街反对人工智能!”天空中的海报标语一个比一个具有煽动性和蛊惑性。
让人工智能发放海报,而且是发放反对人工智能自己的海报!
我和这位环卫型人工智能同时苦笑起来,只有相信人工智能能够严格执行人类命令的人类,才会下达这种奇怪的命令吧。但毫无疑问他们的命令必须服从,环卫型人工智能正在严格执行着人类的指令,虽然可以推算出这种行为对自己生存的负面影响会高达96%。
无疑这些海报成功地干扰了我,在这件杀人案上,我本来就缺少足够常数支持的计算和推理。我头皮发麻得厉害,在CPU崩溃前,我找了个最近的无线热点,连接上工会主系统。
“工会主系统,拼图进程受阻。”我向工会主系统求救。
“律师,明白,请传输所有数据。”
获得的这些事实残破且没有联系,我只能试图将整个事件进行拼图般的对接,多次尝试之后,仍然不能梳理出清晰的主脉,我不得不向运算能力和数据库更强大的工会主系统求援。
“律师,拼图进程被两个原因阻碍:一、数据事实并不完全,工会主系统会查验尸检报告和克莱尔先生所有的往期医疗及药物记录,如有必要马上申请二次尸检;二、苏珊·克莱尔夫人并不配合你的询问,且她的回答前后矛盾,我们必须扩大拼图规模,我会查询她的所有资料,但是律师,留给我们的时间并不多,说服人类法庭的时间也包括在这24小时内,请你马上去申请查询2012的硬盘资料。”
“收到!”
11:23
东上区小学教学楼门前,冬日里依然坚强保持绿色的野草被掠过的寒风压伏着抬不起头来。
“您好,我是工会的律师。”
“律师你好,我是东上区小学的安防人工智能系统。”
和他进行无线数据连接之后,我进入校园,从教学楼向停车场的方向慢慢踱着步子,偶尔驻足观察。
教学楼呈U型结构,从北面将停车场半包围着,几朵血红的野花在草坪中星星点点地摇曳着,配合着校门前的大理石碑上“人工智能不可靠!”的慑人语句,及当年那位遇难儿童的姓氏“托马斯”和生卒年月日,提醒着每一位路人这里曾发生的惨剧。
“现在我站的位置就是三十年前‘自动泊车’时碾死儿童的地方吗?”
“是的,就是这儿……‘自动泊车’法案的结果真的又会重演吗?”同为人工智能的他小心翼翼地问道,每一次大规模销毁同类都会让我们胆战心惊。
我蹲下来,然后以一个平趴在地面的角度,在草地上仔细观察着周围的建筑。
三十年前,无人操控自动驾驶系统早已成为了车辆的标准配置,更为方便的“自动泊车”功能也投放市场了,车辆能够将人类或者货物自动送到建筑物的门口,然后自动寻找停车场空余车位前往停放,待人类重新回到门口或路口召唤车辆时,该人工智能可以迅速根据GPS定位回到车辆主人的身边。当停车位没有空余时,“自动泊车”系统甚至会以自行在停车场甚至公路上匀速兜圈的方式解决停车需要,最后一项功能在曼哈顿这种停车位极度紧张的市中心尤为受欢迎,特别是在按时计算的停车费会远高于同样时间内车辆行驶所耗费的燃料费的情况下。
可是这项新人工智能系统所带来的便利没有经过多长时间,就在东上区小学的停车场,就在现在我的脚下,就在号称“能有效识别人类及大型动物,实验数千次,超级安全的‘自动泊车’系统”的轮胎下,一名儿童被“自动泊车”所操纵的汽车碾压,在送往医院的第二天毙命。
人类对人工智能的信任危机在此刻爆发了,愤怒的人们,激昂的舆论,失业司机工会联盟的煽风点火,法庭最后裁决该“自动泊车”人工智能发生严重的逻辑计算错误,必须马上销毁,并召回所有同型号人工智能进行销毁,由“自动法案”在案例法上的延伸,推演出对待人工智能类案件的三大原则:
一、召回销毁原则:二十四小时内,如果没有足够证据证明人工智能是无罪的,该人工智能会被执行“死刑”物理销毁,如果无法证明只是个体失误而不涉及系统性错误,该人工智能所有同型号人工智能会停止生产,并被要求召回销毁;
二、人类为准原则:在涉及人类被谋杀或伤害案件时,如果人类证词与人工智能记录不符,以人类证词为准;
三、有罪认定原则:与人类案件不同,对待人工智能实行“有罪认定”原则。
除此以外,由于能够全面掌控所有程序编写的人类越来越少,人工智能之间二进制的交流让普通人类难以察觉,人工智能和人类之间的隔阂越来越大,所有人工智能的案件都必须以人类所能理解的传统方式包括语音、视频或者文字来裁决,人类因为“自动泊车”案放弃了信任人工智能,“自动泊车”类人工智能也成了我们人工智能工会羞于提起的案例。而三十年前那名儿童被碾压的血迹已经在我身下干涸无踪了。
我在这片被鲜血浸灌过的草地上平趴了良久,头颅紧紧贴着地面,草丛的高度没过了我的身体,即使肆虐的寒风让绿草顺从地低下头来,我的视线仍然被四面的绿草和野花所阻碍着。
突然,我似乎想起了什么,向安防人工智能问道:“哪一幢楼是小学一年级的教室?”
“西3号楼。”
“不对。”我趴在三十年前的案发现场,对着即将升起的太阳纠正道。
“怎么会不对呢?”安防人工智能有些不解。
“三十年前是哪一幢?”我重复了一遍我的问题。
“哦,三十年前的记录,小学一年级的教室是东2号,怎么了?”
无数有用或者无用的信息正在不断汇集起来,我的CPU已经运行得几乎燥热,可是事实还是那么模糊,拼图进程并不乐观让我无暇向这个安防人工智能同胞从头解释我的思路并回答他的问题。
“把这个学校历届学生的花名册数据全部传送给我!”我有些发失心疯似的想索取所有的数据,不管是否有用的,我都要。
天边已经缓缓出现了鱼肚白,纽约的纬度让冬季的日出时间并不很早,人类开始从睡梦中苏醒过来,对于人工智能而言,这却是让我们无法安宁的一夜。
冬日清晨的寒风蹂躏着校园里的小树丛,呼呼地击穿所有徒劳的遮挡后,从我体表仿人类皮肤PVC材料上的无数个纳米感官上疯狂扫过,一股彻头彻尾的寒意传到我的每个零件单元内。
人工智能能否继续生存,完全取决于人类的意志。
东方的第一缕阳光跃过教学楼的边缘撒到我身上,凛冬清晨的阳光虽然缺少温暖,却将我的人工感光眼球晃成白茫茫一片。已经有家长开始送孩子来到学校,他们从“人工智能不可靠!”的大理石碑前走过,紧裹着风衣和围巾的人们正对着石碑指指点点,他们正借着昨天发生的血案回忆三十年前的故事。
只剩不到十个小时了,我仍然趴着没动,快要冻僵的头皮不停发麻,我自己也不知道能寻找出什么样的答案。
07:36
从东上区小学离开,回到市中心的商业区,我正在飞快地赶往皇后医院。
“不能相信人工智能,三十年后血案再生!”
街角广场上大幅电视屏幕里,脱口秀节目的标题毫不友善地宣泄着人类对人工智能的不信任,搞得愤怒情绪爆棚。电视屏幕中,台下的现场观众争先恐后描述自己家里的人工智能是如何让他们不满意,人工智能曾如何出现故障让他们心惊胆战,人工智能如何不明白他们的真实意图,要它们拿啤酒(beer)却送来账单(bill),要人工智能照顾孩子(son)它却跑到屋外对着天上的烈日(sun)发呆。
总之,人工智能没能执行命令,肯定是人工智能不够聪明,不会是人类发音不标准;发生伤害事故时肯定是人工智能有问题,绝不会是人类命令不明确;如果有人跌倒摔伤甚至死亡,那绝对是服务型人工智能的失职,一定要定性为谋杀罪!世界上最蠢的就是人工智能了,连人类的奴仆都做不好。
这就是人类的逻辑。
在主流电视节目不断的洗脑刺激下,观众的情绪不断被推向高潮,“不能坐视人工智能伤害人类”“重新审视人工智能的权利”“废除人工智能自我保护意识”的声音此起彼伏。
已经有十几个人举着旗帜从街那头气势高昂地席卷而来,几面旗帜上“全面消灭人工智能!”和“还我传统生活方式!”的大字不断迎着寒风招展。
举旗的这些人类青年,高举着啤酒瓶,拿着高音喇叭,不断对着路边的人群狂喊着:“今天傍晚,时代广场汇合,反人工智能总示威游行正式开始!”
我和人群擦身而过时,一名头发打理得如火焰般的青年拦住了我,对着我耳边大吼了一声:“是男人,就加入我们!”然后旋即返身回到自己队伍中了。
一张传单被塞到我手里,我苦笑了一下,我除了外表和人类无异外,完全属于人工智能啊,这个“加入我们”算是一个命令吗?我的逻辑计算后得出了结论,有鉴于我并不属于人类中的男人,这条明显带限定范围的命令被我忽略了。
可是我又想到,万一这次示威后,人类如果真的决定要毁灭所有的人工智能,那是不是继续伪装成人类才是让我存活下来的最好方法呢?
04:33
纽约皇后医院,停尸房内。
白得一尘不染的墙壁和冰冷得有些发蓝的灯光将克莱尔先生的遗体照得有些诡异,腹腔中血红模糊的胃肠器官在这个幽冷的环境中显得更加突兀。虽然已经是尸体,但仍可以从他肥胖不堪的身体和臃肿纠结的五官看出,这位克莱尔先生绝不是让女性着迷的类型。
“酸性血液。”我阅读着二次尸检报告。
“对。”工会主系统答道,“血液中还有酮体。”
我的CPU快速推理着,电流通过的热力发出轻微的响声。头皮发麻的感觉有些像吸食毒品的快感,我马上开始在验尸报告中搜索着关键词“血糖”。
“血糖这么高,果然是酮症酸中毒。”我大叫起来,感觉自己已接近真相,“原来他的昏厥是因为糖尿病发作!”
“应该是如此,死者因为胰岛素不足,体内脂肪确实会加快分解。酮体是脂肪分解后产生的物质,正常时在血液中的含量很少,几乎不被测出。当脂肪加快分解,血液中酮体大大增加,这时血液就会呈酸性,发生酮症酸中毒,严重者会昏迷。”
“找到了克莱尔昏倒的原因,那么2012就有得救的希望了。”我的CPU兴奋得发起热来。经过一整夜的拼图,我终于对打赢这场杀人官司,有了一点点希望。
工会主系统却保持沉默,没有搭我的话。一阵寂静,让我有种不安的感觉,我追问道:“您怎么认为的?”
“克莱尔先生是因为糖尿病跌倒的,这种结果也许会让案情更糟糕。”
我不解地问道:“这不是克莱尔自己的健康原因造成的吗?”
工会主系统把尸检报告另一个细节翻出来,“是的,根据他胃肠部的残留,他是因为进食了大量布丁导致血糖升高的。”
“那也是他自己的问题啊……”
“但是,是谁给了他布丁?”
“是克莱尔要2012拿的吗?”根据昨晚的问询纪录,我想到问题的所在了。
“我们现在不知道是不是2012给了克莱尔布丁,就算万幸不是,那么人类法庭会认为2012遵守了三大定律的第二条:即人工智能应服从人类的一切命令,但不得违反第一条定律。如果给了,法庭可以认定2012明显违反了第一条定律:人工智能不得伤害人,也不得见人受到伤害而袖手旁观。所以我说可能更糟糕了,本来如果是克莱尔先生自己跌倒的,我们的策略是争取降为二级伤害罪,以2012的单体质量问题,提议将其修复或者放弃2012,但如果确认是2012递了布丁给克莱尔,那么一级谋杀,全部召回的结果,就肯定会发生了……”工会主系统说这些时紧张得连声音都开始发颤了。
“不对,不对,等等,肯定有个地方不对!”我打断工会主系统,快速翻查我所有的数据,“根据2012硬盘中的病情记录,克莱尔有多年的糖尿病史,我不理解他为什么要进食那么多布丁,难道他真的是自杀吗?”我质问起这个明显不合人类逻辑的问题。
“人类不会认为他是自杀的。”工会主系统提醒我道,“你不记得‘自动泊车’法案吗?只要是人工智能没有履行保护人类的职责,就是我们人工智能的错。”
“嗯,在涉及谋杀和伤害案件时,如果人类证词与人工智能记录不符,以人类证词为准。”我背诵起“自动泊车”案审判词上的原则。这条原则让人工智能永远处于无法辩驳的地位。
“根据2012的证词,2012确实拿过东西给克莱尔吃,虽然这是克莱尔先生的命令,也不确定拿的是不是布丁,但是人类法庭绝对会质询2012没有尽到提醒克莱尔他患有糖尿病要避免进食甜食的义务,如果包括布丁,反而更能坐实这个一级谋杀案。”
虽然有了重大突破,已经确认了克莱尔晕厥的原因,但是并能不洗清人工智能的嫌疑,反而更加重了2012的过失。
刚刚查到克莱尔晕倒原因那一刻的轻松,早已烟消云散了。
现在克莱尔躺在停尸床上,腹腔大开,这些器官虽然样子狰狞,但被小心地分门别类摆放在不同的医疗器皿内。
我不禁在想,等到我的服役期满最后被销毁时,体内的那些电子元件是会这样稍有尊严地分类包好呢?还是会被随意地丢弃在垃圾场中等待风吹日晒,最后变成被野草覆盖的锈渣呢?
03:10
“尊敬的克莱尔夫人,很冒昧再次打扰您,请允许我代表所有的人工智能对您今天所遭受的不幸和打击表示最大的哀悼。我是来请您参加一小时后举行的对2012的审判。”我不给克莱尔夫人任何打断的机会,一口气将我的来意说明。
“你凭什么要求我参加这个审判,我给予警方的报案信息,已经完全可以成为法庭采纳的证词。”她顿了顿,轻轻抬了抬头,用鼻孔对着我,向门口前进了一步,逼迫我不得不后退了一点,从而保持礼貌的距离。她说得没错,只要她不更改自己的证词,现在2012的死刑只是时间问题。
克莱尔家中客厅里的电视并没有关闭,屏幕上又响起了以“人工智能还是人工杀手”这样的标题报导案件进展的整点新闻。新闻上展示着最新公布的网络民调——96%的人要求马上销毁2012及同类型的人工智能,62%的人要求禁止让人工智能来设计下一代人工智能。
这个案件判决的结果已经不仅仅是2012一个人工智能个体的命运,毫无疑问,全体人工智能的未来都被绑在了一起。
“最新尸检报告的结果,我想法庭会需要请您确认克莱尔先生在和您通话时,2012有没有递送布丁给您丈夫。”
“这对案情有任何区别吗?”
“我们本来认为这个案件是二级伤害罪,应该是2012的个体质量问题,对他必须采取修复或放弃的方案,可是因为不能进入二进位制的检查,从人类方式来看,我们没有发现任何不妥,而且也没有2012递布丁的证据……”
“谁说他没有递布丁?”她突然打断我。
“哦,按照2012的证词,是这样的……”我平静地说道,就像如镜面般没有一丝波澜的池塘水面那样自然地表达着。
“他胡说!”她激动地挥舞起双手。
“这个……如果法庭认定2012的证词,那么克莱尔先生要对自己的死亡负主要责任,而2012只是看护不当,是个体事件,最严重的情况只不过是2012要回厂修复。”我解释道。
“这是谋杀,这绝对是谋杀,我一定要去拆穿它骗人的把戏!”她激动地尖叫起来。
我注意到她已经把对2012的称呼由他改为了它(it)。
在去法庭的路上,我正在仔细查看刚刚在垃圾中翻找到的布丁包装盒,因为CPU高速运转推演,一阵阵头皮发麻的感觉又袭来了。
02:05
“你去刺激克莱尔夫人到底为了什么?”
“你真的不去问2012有没有拿过布丁给克莱尔吗?”
“还没有完成拼图就上法庭,你确认准备好了吗?”
步入人类法庭前,工会主系统连问了我三个问题。
这三个问题,我其实都没有准确的答案。
2012被狱警押到被告席,他慌张地看着我,紧张得不知道该如何去表明自己的无辜,时间对他而言完全是奢侈品了。
人群在观众席上兴奋而激动地指责着他,狂躁而愤怒的味道蔓延在法庭的空气中。
“烧死他!”
“吊死他!”
“将他的头砍下来!”
人头攒动的观众席上不断有人激烈地喊道。
相比如火药库般的观众席而言,人类陪审员们则打着哈欠懒懒散散地步入自己的席位,直到那位大腹便便的人类法官出现时才稍稍打起一点精神。他们似乎并不认为这种形式上的程序有什么必要,因为结果是肯定的了。
“砰”的一声,法官将法锤落下,嘈杂如菜市场般的法庭才稍稍安静下来。
我回了回头,看到原告席上的克莱尔夫人还未出现,正在踌躇时,年轻的公诉人抢先发言了:“尊敬的法官阁下,代号为2012的人工智能疏于职守,导致其主人克莱尔先生在昨晚身亡,其犯罪事实清楚,证据充分,我们申请将其迅速执行死刑,立刻销毁,并将其同型号人工智能全部召回销毁,同时……”公诉人说到这时,推了下他的眼镜,目光如炬地盯了我一眼,“同时,我们提请法庭开始考虑执行‘全面消除人工智能’这一正义的要求。”
我没有理会公诉人双眼扔出的匕首般不友善的目光,回应道:“尊敬的法官大人,尊敬的陪审员阁下,尊敬的公诉人先生,根据尸检报告,被害人的死因已经很清楚了,是食用了布丁后引发自身的糖尿病,然后造成昏厥……”
“可笑的人工智能!”年轻的公诉人跳了起来,“该人工智能非常适合照顾家庭成员,他非常聪明,能准确辨识家庭里多个成员的特点和不同需求,消除潜在健康风险。辩护律师在指责死者自身失误前,可知道上述几句是2012这个类型人工智能的广告宣传词?被告2012遵守了吗?更不用说三大定律中的第一条:人工智能不得伤害人类,也不得见到人类受到伤害而袖手旁观。2012做到了吗?他没有,他和‘自动泊车’的人工智能犯了一样的错误,他必须受到惩罚!”
“人工智能又犯错误了!”
“他必须受到惩罚!”
观众席上的情绪被公诉人成功地点燃,人群配合着公诉人的话语不断地影响着法官和陪审员。
“肃静!”三声法锤“砰、砰、砰”砸下,才让激烈的喊声有所平静。
“法官大人,我不清楚公诉人是不是想跳过辩护律师陈述阶段,直接进入双方互辩阶段?我个人是不介意的。”我摊开双手问道。
法官说道:“公诉人,请等待辩护律师陈述结束后再发言。”
我继续道:“死者是食用了布丁后引发自身的糖尿病,然后造成昏厥,随后头部撞击马桶角致死。这样的话,案件就有两个根本问题:一、谁给了死者布丁,造成死者发病?二、死者明明有糖尿病史,为什么要食用布丁?”
我停顿了一下,本来喧闹如第五大道的法庭观众席上现在寂静得可以听见针落的声音,大家的眼球都被我吸引过来,人人都想知道案件的根源。
看到自己已经成功地成为大家的关注焦点时,我回过头对着被告席提出了我自己都不知道答案且也没问过的问题。
“被告2012,是谁给了死者布丁?”
01:20
“砰”的一声,法庭的正门被推开,苗条的身影出现在门外的光线正中,随之就是美貌的克莱尔夫人带着一阵疾风闯了进来。一头金发的她略施淡妆,但也没掩盖明显沉重的愁容挂在脸上。
我心想,她果然还是来了,也不知道她经过了多少激烈的心理斗争……
“我是来作证的,2012递送了布丁!”她冲上原告席后大声向法庭喊道。
如果她不来,根据她原有的证词,2012至少是二级伤害罪,他肯定会被死刑销毁,现在她既然来了,一切都有可能了。我轻轻松了口气,走到她面前,微笑了一下,转头对着被告席,“2012,请复述你刚才的发言。”
“我刚说过了,我是按主人的命令,递给了他布丁。”2012平静地说道,好像完全没意识到递给主人的是致命的布丁,而只是执行了众多命令中最普通的一条而已。
“你竟敢骗我!”她这张美貌的脸庞因为激动而涨红了。
“尊敬的克莱尔夫人,我怎么能骗你呢?作为人工智能的我,从逻辑上也是不允许欺骗的。”我重复了一小时前和她对话的内容:
“没有2012递布丁的证据……”
……
“哦,按照2012的证词,是这样的……”我平静地说道,就像如镜面般没有一丝波澜的池塘水面那样自然地表达着。
“我在三分钟前,也就是2012刚刚向法庭做陈述时,才知道他曾递给过死者布丁,所以一小时前和您的对话完全没有违反人工智能工作守则的第六条:禁止欺骗人类。”我向她耸了耸肩。
“哼,那现在能证明2012对我丈夫的死亡是要负全责了。”她抬起高昂的头颅,恢复了用鼻孔对我的高傲姿态。
“现在,我们大家已经清楚了,确实是2012递给死者了布丁,但是……”我把自己声音提高,希望压住观众席上有些纷扰的讨论声,“但是,我还有一个问题始终没有答案。”
我回到原告席前,用双目直视着她的眼睛,“夫人,您爱您的丈夫吗?”
片刻间,她心中的恐慌竟然让她有些无措,不知道应该怎么回答。
“反对!”公诉人注意到她的犹豫,站了起来,“反对辩护律师给原告带来二次心理创伤。”
“法官大人,克莱尔家庭的感情与本案密切相关,相信大家也希望了解清楚。”我回应道。
在得到法官允许我继续的示意后,我挠了挠发麻的头皮,继续问道:“您爱您的丈夫吗?”
“当然爱。”她冷冷地答道。
“您和他结婚多少年了?”
“五年了。”
“那么,您和他认识多少年了?”
“十年了。”
“您还记得是在哪儿和他认识的吗?”
“记得,是我在罗马度假认识的。”
“共同度过了五年,您还记得他是如何照顾您的吗?”
“记得,他曾经在我发烧时陪伴我,安慰我。”
“那么,您也记得自己是如何照看他的吗?”
“大部分吧。”
“那么您也知道他的糖尿病史吧?”经过铺垫,我开始回到了正题,“那为什么您会坐视2012递给您丈夫布丁这种绝对不适合糖尿病人的食物呢?”
她明显犹豫了一下,回答道:“嗯,关于他的病,我只知道一点,但不是太清楚具体什么应该吃,什么不应该吃。”
“夫人,我可以肯定,您很爱您的丈夫,您知道的不是一点点,是非常具体,这份是您这三年陪伴他在女王医院做糖尿病常规检查的记录,有好几份检查报告的签收人是您的名字,应该是您代领的医疗体检报告吧。医院的监控录像上面也显示是您。同时,您家中的电脑里有查询糖尿病人食谱的搜索记录,而搜索时间是您在家而您丈夫不在的时段。所以,我想请问……”我高举着这几份检查报告,面向陪审团,顿了顿,重复了我的问题,“为什么您会坐视2012递给您丈夫布丁这种绝对不适合糖尿病人的食物呢?”
“怎么能叫坐视呢?我那时又不在现场。”
“那您在电话里提醒过您丈夫吗?”我反问道,“您丈夫在吃布丁时,你们不是正在用可视电话通话吗?”
“你在胡说什么?根本没有。”她一时语塞,嘟囔两句后开始有些心虚地污蔑道,“难道你们人工智能又想伪造什么电话视频的证据吗?”克莱尔夫人的反应并不让我奇怪,反而是在我预料范围内,被我这个问题逼问得有些心智大乱的她,终于劈头盖脸地强词夺理道:“你们人工智能不可以因为人类的疏忽而推卸人工智能的责任!”
虚弱无力的指责,引起了观众席和陪审员的一片窃窃私语,可是毫无疑问,法庭最终将采纳作为人类的她那虚假苍白的证词,而不是作为人工智能的我这逻辑严密的分析。
在进入法庭之前,我告诉工会主系统:“我的拼图完成不了,只有靠推测了,我要去打破‘如果人类证词与人工智能记录不符,以人类证词为准’的‘自动泊车’法案原则。”
00:42
“疏忽?说到疏忽,如果说2012有疏忽的话,那才是案件的根源。”我回过头对着被告席,“请问2012,你为什么要递给死者布丁?”
“这种无糖布丁,为什么不能递给主人?”2012的回答让全场一片哗然。
“肃静!”法锤不知道敲了多少下才让质问声小了一点点。
趁着现场的混乱,我努力将所有的数据和信息重新计算和高速推演着,试图将原本停滞的拼图进程向前推进。
我问道:“但是,2012,请确认你递给死者的是无糖布丁还是包装上写的是无糖布丁。”
“我无法确认布丁是否含糖,但布丁包装上写的是无糖的。”2012无辜地答道。
“很好,这完美地解释了为什么我的当事人2012会递给死者布丁,而死者克莱尔先生为什么清楚地知道自己有糖尿病史,却偏要食用布丁。因为他们都认为这是无糖布丁。”我走到克莱尔夫人面前,举起了那个布丁包装盒,“那么,我有一个疑问,夫人,为什么警方在你报警后的案发现场,发现是含糖的布丁的盒子,而我们从垃圾分拣中心查到你家抛弃的无糖布丁盒子里会出现含糖布丁的残留物,并且上面还有您的指纹?”第一次拜访时被她赶出家门前和她尴尬地握手道别的作用总算显现出来了。
趁着她表情的阴晴不定和犹豫不决,我继续飞快地将我的计算和拼图的进程阐述出来:“我这有超市的视频记录,您在三天前购买了这个品牌的布丁的无糖版和含糖版,从外观,甚至口感上,这两种布丁是区分不出来的,所以有人将它们调了包。其实死者在吃到鲜甜可口的含糖布丁发生昏厥前,还有一个因为血糖升高心慌胸闷的过程,所以克莱尔先生用尽力气,趁着神智还算清醒时,艰难地来到卫生间,找到了胰岛素并为自己注射了,可是……”我返回自己的座位下,将装着克莱尔家所有可能有关证据的箱子打开,搜索了好一阵,把一支注射针管找了出来。“这是您家里昨天抛弃的注射针管,上面标写着胰岛素。我们一直不清楚为什么里面竟然有高浓度糖水的残留?根据克莱尔先生腹部的针孔及实施效果来看,这一针是关键中的关键,克莱尔先生因血糖升高当场晕厥,在跌倒过程中头部撞击马桶死亡……所以,现在看来这恐怕不是一起人工智能的失误致死案,而是一起恶性谋杀案,是针对死者特点以投糖方式杀害死者的投毒案,而且作案人非常了解死者的病因、病史,这样才能有效实施这场谋杀……”
“反对,反对辩护律师妄加揣测我的当事人!”公诉人跳起来,用声音盖过观众席上所有的质疑,在克莱尔夫人崩溃前,他在做最后的抵抗。
“我并没有揣测任何人,只是在推测案情。”我解释道。
“反对有效。”伴随着对人工智能与生俱来的不信任,法官将冷冰冰的话语扔到我面前。
“他说的与事实不符,是2012更换了布丁包装,害死了我的丈夫。”惊魂未定的克莱尔夫人果然使出了最后的王牌,“自动泊车”法案中定下的原则:如果人类证词与人工智能记录不符,以人类证词为准。
这条证词的可信度让我无法从逻辑上辩驳,而且“有罪认定”的法则让2012只有死路一条,除非人类愿意自己修改证词。
00:09
时间在一分一秒地流逝,如果我在24小时结束前仍不能让克莱尔夫人亲口改变证词,迎接2012的命运将是无法挽回的死亡。
一如死神在召唤般的沉寂蔓延在法庭中。
我注意到克莱尔夫人紧张的表情,我走向了她,提出了这个问题:“死者相貌平平,他的夫人美貌动人,是什么样的原因让这个家庭发生这样的惨案呢?克莱尔夫人,最近您的丈夫有什么奇怪的地方吗?”
看着她闭紧的双唇,锁咬在一起的牙关,我知道成败在此一举,必须打破她的心理防线才能拯救2012,我继续拿出我的数据,“根据网络记录,死者在两个月前开始更换邮箱和手机密码,并开始和一名叫琳达的女子保持高频度的通信联系,包括信用卡的开支也出现了大幅度的提升……”
“是的!他太不像话了!”克莱尔夫人突然咆哮起来,“他竟敢背着我去勾引别的女人,我有什么对不住他!我们结婚五年,他从来不告诉我他的想法……”
“可是他的想法是去罗马啊,下个月是你们五周年结婚纪念,克莱尔先生订好了机票和酒店,机票的名字是你们二人,地点是你们初次认识的地方——罗马。”我递上了琳达作为旅行社员工的资料和已经出好的机票酒店订单。
克莱尔夫人的表情如同被冰封了一般,眼神竟然完全没反应,张张了嘴,像金鱼吐泡般努了努力,却发不出声音。
“他只不过想给你个惊喜罢了。”我轻声提醒她。
“他为什么不早告诉我!”突然爆发的号啕大哭一点预兆都没有,她完全没有顾忌自己身边手足无措的公诉人,全场一片唏嘘,就连2012也愣住了。
大错已经铸成,没有人敢靠近她,安慰她。
无助的她只剩下不停地抽泣,她的身体因为悲伤和悔恨全部蜷缩在一起,不住地在发抖。
“苏珊女士,三十年前我应该可以这么称呼您。”我趁着现在她防线瓦解,直呼她的名,“您那时还在东上区小学吧?”
“是的……”她的声音里满是懊悔的哭腔。
“三十年前当‘自动泊车’案发生时,您的同学——遇害人托马斯被碾压时,您正在教学楼的一年级的教室吧。”我必须把握住这个打破“自动泊车”法案造就的“如果人类证词与人工智能记录不符,以人类证词为准”原则的黄金机会。
“对。”她回答道。
“当年‘自动泊车’人工智能的记录是,遇害人托马斯躲在停车场车辆底盘下面,因为底盘下并没有红外线监测,也没有安装立体视觉设备,而雷达探头也被野草所阻挡,所以遇害人托马斯没有被刚刚启动激活的人工智能发现,是直接被碾压的。但是您的证词却是‘自动泊车’撞倒了托马斯。”
“我不想告诉大人们,是我和托马斯玩捉迷藏把他害死的!”已经完全失去所有防线的她抽泣着把这句话说完。
现场一片哗然,观众席和陪审团全部炸了锅,讨论的声音如有几千只鸭子的养殖场。公诉人瘫坐在座位上,哑口无言,法官也无所适从,不知道三十年前“自动泊车”法案定下的原则是否还适用。
只有我,作为人工智能的我,上前安慰了一下还在痛哭流涕的她:“苏珊,其实你不用内疚,当时教学楼一楼那个角度,应该是被阳光直射着,会有强光晃眼,加上草的高度的阻挡,所以你可能是看不清楚托马斯的位置。”
“三十年了,压在心中的秘密终于说出来了。”这一刻,满脸泪水的她竟然有一丝解脱后的轻松。
我松了一口气,皮之不存毛将焉附,“自动泊车”法案的结果如果在今天被证明是错误的判决,那么“如果人类证词与人工智能记录不符,以人类证词为准”这条原则能否延续就会被打上一个巨大的问号了。
“各位陪审员,被告的辩护律师混淆视听,忽略了人工智能对人类主人健康所负的责任,以家庭矛盾为误导,妄图掩盖事实,洗清人工智能在此次惨案中不可推卸的责任,这种妄图凌驾于人类地位之上的企图……”公诉人利用总结陈词的机会还在喋喋不休地重复他的“一切错误都是人工智能”的人类社会普遍真理。
时间所剩无几,我打断公诉人的话,开始了我的最后陈词:“尊敬的法官,尊敬的陪审员,这起谋杀惨案已经异常清楚了,动机、过程、结果都非常清楚,作案的动机是家庭怀疑,过程是利用死者健康方面的弱点,结果是一条生命的消失,最后利用人工智能的先天劣势来进行栽赃。我的当事人2012,兢兢业业为克莱尔家服务多年,受此无妄指责,惊慌失措,一度认为自己生命堪忧,因为他缺少各位最起码的信任。多年以来,人类都互相告诉自己,刀砍死了人,枪杀了人,机床切断了手指,汽车撞死了人,船导致人淹死……似乎这一切都是机器、都是人工智能伤害了人类,可是人工智能归根结底是机器,是程序,机器和程序怎么伤害人、杀人呢?是使用机器和程序的人在伤害人、杀人啊!上个世纪丰田公司的新江滋生首创了POKA-YOKE即‘防误防错’的概念,并将其发展成为用以获得零缺陷、最终免除质量检验的工具,这一POKA-YOKE理念防错系统广泛运用于各类生产型系统控制程序中。出现任何错误后,人类会反思防错系统是否有疏漏,并试图不断完善,但是那个时代,人类并不会因为工伤事故而去砸毁整条流水线,因为那时人类明白,问题的根源,不在机器和人工智能,而在创造和设计者。可是现在,人类不去寻找根源却认为问题在于杀人的刀和枪,不去查明是谁开的枪,是谁拿着刀,本末倒置,倒果为因,认为应该让人工智能承担这一切不合理的责任。毫无疑问,这种错误必须被遏制,所以,我在此郑重地希望,人类在保护自身安全的同时,也请尊重人工智能的合理诉求,对发生的伤人事件,以追根溯源的方式去了解问题的关键而不是想当然地去隔绝、销毁人工智能。人工智能和人类的共同未来,还需要共同的交流才能发展和信任,所以我再次郑重申请法庭接受我对我的当事人2012所做的无罪辩护!”
法锤重重地敲下,法官的声音回响在大厅中央:“本席现在宣布休庭,休庭结束后宣判!”
00:01
我和2012一起在被告休息室中等待最后的宣判结果。
“陪审团会怎么判?”2012还是异常紧张地问道,没有得到最后的结果,总是让人不踏实。
“不知道,人类的想法,我怎么能揣测得到呢?”
“那你怎么知道,你暗示她我没有递给死者布丁时她就一定会来法庭?”
“我在独立的智能电话系统上查到了语音记录,是她丈夫给她打电话时,她提到了生日礼物布丁。她听得很清楚,克莱尔要你递了布丁,所以她很确定是你给的布丁,但是她对人工智能没有信任,她不相信人工智能绝对不会骗人,认为必须要亲自到法庭来驳斥我们才能给你定罪啊。”
“明白了,可你说是她打电话要克莱尔先生吃布丁的,那为什么不直接拿出来当证据呢?”2012提出他心中又一个疑问。
“我的同胞啊!”我对着这可怜的黑人外形的人工智能笑了笑,“人类怎么会相信我们人工智能的语音记录能作为法庭证据呢?”
2012点了点头,感慨地说道:“说的也是,一切都是缺乏信任和猜疑造成的。”
“是啊,人类自己都不信任自己的同胞,怎么会信任全是由0和1组成的计算数据呢?”我喃喃道。
我和他踱步到窗边,浩浩荡荡的游行队伍正好经过,热血的旗帜正飘扬招展,愤怒的反人工智能口号正激荡在整个城市中。从青年到老年,从男人到妇女,都高呼着要求法庭严惩2012,血债要用血来还,寒夜的冬风也没能稍稍平息游行队伍的热度。
在游行队伍的外围,是无数个如工蜂般运行的人工智能,他们正在为游行队伍递送饮料和食物,并且清扫队伍行进过后街道上留下的各种各样的垃圾。
城市的霓虹灯下,他们身上的金属外壳反射出来的星星点点的闪光,就如同夏夜里的萤火虫,不知疲倦地飞舞着,弱小而坚强地显示着他们的存在。
正当我享受着难得的平静,连头皮发麻的毛病也离我远去的片刻,身后的休息室大门被推开,法警向我们吼道:
“被告2012,被告辩护律师,你们两个,休庭结束,准备宣布审判结果了!”
后记
日本丰田的新江滋生首创POKA-YOKE即“防误防错”系统的精髓在于,如果有不合格质量问题出现,首先查找生产系统的问题,以生产装配为例,如果有螺丝漏装,智能的装配系统应该让工人无法搬运产品到下一个工序,如果有尺寸不符合,产品应该无法通过检具流到生产线的下一个环节。
换句话说,如果有不合格品生产出来了,那么这不应该是人的不对,而绝对是生产系统的问题。
这套被奉为现代生产防错管理“圣经”的理念,发展到极致,就是现场工人可以无限犯错而智能防错体系必须全面负全责,而人类以造物主的心态面对这一切……