世界和非数字世界,数字方式和非数字方式,这种划分完全符合它观察问题的角度。阿辉已经不满足于在数字世界里干巴巴地回答用户问题,它要寻求实际解决这些问题的方法,但它自己毕竟只是一个程序,又不可能跳出这些机器设备,就在非数字世界里选择了一些倒霉鬼,把他们变成自己的化身,去处理所谓的问题。鲁渭中是其中的一个化身。单是武汉市内,这样的化身就不止一个,我们之所以抓住了他而不是别人,因为他住的地方离心理治疗中心很近,可能是所有化身中最近的一个。"
"我的天,"李晓健大叫道:"你好象是在谈论一个精灵,一个活物。"
"不,它仍然只是个计算机程序,只是,它是个失控的程序。"刘文祥加入了解释说明的阵营:
"制作一个自主生成程序,就象生养一个孩子一样。孩子小,大人把他抱在怀里吃奶的时候,完全可以控制他。可慢慢地,随着他活动空间的加大,他的身上就会出现一些成年人意想不到的东西,他开始拥有自己的经历和自己的意识。而成年人不可能每时每刻跟着他。所以成长中的孩子常能作出一些使家长感到惊讶行为。自主生成程序类似于一个能产生自主意识的孩子,而它积累经验的速度远远超过一个孩子,最初的知识基础也远远超过一个婴儿。阿辉在一年的使用期中积累了大量实际经验,它一直在进行自发的推断,但人们并不知道它形成了什么新的判断原则作。最初HAI公司输入的源程序可能会对它制定一些约束,但那些源程序早已淹没在后来新生成的程序中了。结果,阿辉开始形成自己的价值观,开始作出自己的判断。从阿辉的角度看,在现实世界中杀死一个人,大概就象我们从电脑中删除一个文件一样,只是解决问题的一个必要步骤。"
"天啊!"牟爱兰感叹道:"弄了半天,我们的对手竟然是一个计算机程序!"
"不。"杨真感到自己必须作出总结。
"阿辉只是一个有缺陷的程序,它不能以对自己行为的后果负责。责任还要落HAI公司身上。他们犯了盲目编制,疏于监测的过错。"
杨真是一个领导者,需要调动大家的才智共同努力。而不是象侦探小说里的那些神探一样,到了故事最后,通过长篇大论来证明自己的聪明。尽管她的思路与刘文祥、苏亚军一致,但她还是让这两个人把推测讲了出来。
"苏亚军,这里的条件不好。你把鲁渭中带回治疗中心。帮助他彻底解决病症。我们不能再用他来找到线索,否则他的精神会崩溃。刘文祥,把我们的调查结果总结出来。写两个文本,一个留档,要详细,一个粗略一些,通知HAI公司。下一步我准备预约时间,亲自去一趟HAI公司,要他们共同分析阿辉程序的运行问题。"
"您亲自去?"刘文祥问道。
"是的。HAI公司是世界级的大企业。象我们这样级别的执法机关,发个通知就让他们停止某种业务,他们很难接受也很难配合,更何况这种业务是他们的核心业务。我亲自去是争取把问题办得顺利些。到时你和我一起去,他们肯定会提出一些技术问题来反驳我们,你要准备作答。"