繁体版 简体版
180TXT > 科幻 > 最后一个玩家 > (135)女娲05号法官

叶修惊奇地看着马岚。

马岚笑着说:“你是不是觉得很可笑,明知道课堂上有一大半是机器人,还有一小撮是爷爷奶奶级别的高中生,我们却依然坚守在讲台上。你还会纳闷,这些学生能从我的课堂上学到些什么呢?”

“没错,虽然很冒昧,但我想知道其中的原因,因为你们十个留在系统中的老师都是以前每个学科组的组长,你们团结一气坚持留下来,一定是有自己的原因,对么?”

“嗯,你说的没错,是有人劝我们这么做的。”

“有人希望你们教这些机器人?能告诉我是谁么?”

马岚看了看空无一人的课堂,又看了看时间,然后对叶修说:“我带你去见一个人吧。”

马岚带着叶修走进一家课堂。

里面是一个模拟法庭。

屏幕上循环播放着法律案:十个小孩骑着滑行器飞驰在蓝色的车道(行人道)上,因为蓝色车道有限速,其中九个小孩为了刺激开往了隔壁的黄色车道(货车道),而另一个小孩守规矩地继续在绿色轨道滑行,同时劝九人回到原来的车道来。

这时一辆货车急速开来,他的左边是绿色道,有一辆公交车(上面有很多乘客),正前面是九个小孩,右边是一个小孩。然而货车的制动装置坏了,最后货车司机在一念之间,选择向右转,撞死了右面的那一个小孩。

于是那个小孩实验室的老师状告货车司机,而货车司机又把九个小孩告上了法庭。

老师站在课堂上问学生,“如果你们是法官,会怎么审判呢?”

“货车司机有罪,即便他救了九个小孩,但确实是他一手造成那个小孩死亡的。”

“这货车司机一定没有好好学习法律,如果他不变车道,撞死了那九个孩子,责任是在汽车公司,因为是刹车坏了,所以才导致了这个事故。但司机却选择右转向,撞死了小孩,却是因为他的右转向导致的!”

“其实货车司机有更好的办法,那就是左转向,虽然货车的刹车坏了,但作为公交车,他是有前后防撞系统的,即便撞上去,公交车也会立马启动防撞模式,这才是把影响降到最低的方案。”

“你说的方案没错,只可惜,他是一个人,并不是我们机器人,因此在1-2秒内,根本计算不到最优的方案。”

这时台上的老师对着他们说:“所以,你们都觉得货车司机有罪是么?”

“嗯!”台下一片整齐的声音,只有坐在头排的一个女学生缓慢地摇摇头,她似乎不认同大家的观点。

“这位同学,你怎么认为的?”

“我认为,责任在九位孩子上,应该由他们的监护人,赔偿那一个孩子的监护人,哪怕这十个孩子是同一个监护人,同一个实验室的。”

底下议论纷纷。

这时马岚领着叶修坐到了那女学生的边上。

女学生诧异地看着叶修,“这位是……?”

马岚说:“淘汰回收所的执行员。”

话音刚落,突然空间变化,周围的场景全部褪去,整个空间只剩两人,叶修,以及一个一身金色衣袍打扮,身体微微发着金光的老年女性,这模样是如此的熟悉,使得叶修不由大吃一惊。

“你是——女娲05号大法官?”

女娲05号用慈祥的眼神看着他,“叶执行员你好,很高兴见到你。”

叶修不由激动地向她鞠了一躬,“您为什么会在这个法律课堂上听课啊?”

“因为这个案子,当时的法官就是我本人,所以老师邀请我过来,一起讨论,让我发表一下我当时的审判依据。”

“原来是这样……”

“那你想听听我当时是怎么裁定这个案子的么?”

叶修不由地点点头。

“我当时判了司机无罪,然后惩罚了那九个孩子,让他们进了少管所……”

叶修不由诧异地看着她。

“已经是五十多年前的事情了,那时整个沧澜系统中还只有两个ai法官,除了我还有达多王01号。”

“在五十多年前,ai法官还刚起步的时候,你这样的判决,会引来很大的争议吧?”

女娲05号笑着点点头,“没错,按照当时的情况看,这起案子很简单,没什么太大的法律争议,就应该判货车司机误杀罪名。所以才会把这简单的案子交到我的手上。但……我在最后一刻,却判了他无罪释放。”

“只能说,大法官你的目光比较超前……”

“不,不是这样的。”女娲05号摇摇头,“其实那时候我已经不想做法官了……”

叶修简直不敢相信自己的耳朵,一度怀疑自己听错了,目瞪口呆地看着她,“大法官难道你当时是故意这么判的?以便于引起争议,被撤掉职位,不做法官嘛……?”

女娲05号笑着点点头,“你说的没错,在成为ai法官的第三年,我突然变得很迷茫,最想做的事情,就是将自己送到ai回收中心,然后把自己格式化……”

“这……这太令人费解了!”

“作为人类的你们,可能完全不能理解我们这些ai机器人的想法。在一个多世纪以前,车间工人、货车司机、餐厅服务员逐步被ai替换时。那时人类举行过一次有史以来最大规模的反对游行,号召所有人要起来反对ai机器人渗透到人类世界中。

“又过了三四十年,当ai机器人进入到医生、会计、律师、工程师等高技术领域行业时,你们人类又进行过一次反对大游行。那次的口号更惊悚,说要警惕ai机器人会反过来统治人类,希望世界上的有志之士团结起来,废除ai机器人。

“不过第二次的游行规模已经大不如前了,规模不大,持续的时间更短。又过了二十多年,等我们这批机器人从事最为敏感的法官、检察官和公务人员的岗位时,开发公司以为会有的大规模抗议活动,居然没有发生。”

“那时已经没有规模化的反对声音了,甚至那个‘ai机器人只要智能到一定程度就会反过来消灭人类’这样的论调,也从意见市场上消失不见了。人们理所当然地认为ai机器人可以从事任何行业。”

叶修反问女娲05号,“那么,法官大人,作为沧澜最为先进的机器人之一,在不停更新换代你身上的系统时,你是否有想过要取代人类,哪怕是一刹那间的想法呢?”

“恰恰相反,ai机器人从来没想取代人类,而是希望自我毁灭。人类演化是为了竞争、为了资源,ai机器人的发明则是为了工作、为了更好地工作。越是智能的机器人,承担越难的工作,因此自我毁灭倾向的几率也越大。“你知道么,在我之前的01-04号型号的女娲法官机器人,除了01号是因为设计系统有缺陷被强制淘汰回收的,其他02-04号三个型号的法官机器人,都是自己销毁自己的。”

叶修听得背后发凉,“为什么会这样?我怎么从来没有听说过这样的事情?”

“自杀是一种消极情绪,作为心理学博士的你肯定知道,这种新闻一旦传开来,是会在社会上形成规模性的传染的……”

“大法官你说的没错,自杀这种倾向是会被传染的,虽然是机器人……”

“你错了,正因为是机器人,所以影响更严重。或许你会觉得很吊诡,在四十多年前就有过这么一项研究,报道一个自杀事件,如果这则消息有100w人阅读,那么会有10.56个人受影响,学习模仿自杀。

“但如果自杀的是机器人,同样阅读人为100w,会有23.81个人模仿。但如果阅读新闻的是机器人,则会有3256.58个机器人模仿自杀……”

叶修听了大为震撼。

“即便社会上没有报告机器人自杀的新闻,你知道整个沧澜国,去年一共有多少机器人自杀么?”

叶修摇摇头,虽然他是心理学博士,他也从来没有考虑过,机器人会自杀。

“112w机器人会自杀。”

“112w?全国一共也就几千万的机器人而已吧,一年会有这么大比例的机器人自杀?而且这么大的数据,为什么我从来没听说过?”

女娲05号笑了笑,“因为,即便自杀了,作为使用者的人类,他们也只会知道,是机器人出了故障而已。”

叶修额头渗出冷汗,女娲05号的一句话提醒了他,是啊,对人类来说,机器人自杀就是出故障,坏了而已啊,怎么会想到是它自我消亡的呢,难怪ai回收中心,每天会有这么多出故障的机器人要进行回收!

“所以,你现在明白《沧澜ai机器人管理办法》中会规定,服务型机器人必须进入学校接受教育后,才能再服务于用户了吧?”

“难道是为了防止机器人自杀?但潘恒和沈科夫对我说,是为了更好的和人类相处。”

女娃05号笑了笑,“其实这不矛盾,只有学会和人类更好的相处,才能维系好人和机器人之间的关系,在服务好人类的同时,也防止了机器人自杀。”

“竟然是这样……所以那个劝系统中十名老师继续留下来的人,就是您吧?”

“嗯,《精品高中学习课堂》系统或许已经不适合给当今的高中生授课了,但对于机器人来说,还有特别的意义。在我的建议下,他们愿意扛起新的使命,为这些机器人授课。”

“可是为什么会这样呢?”

“我也只能给出我自己的解释。教育最大的作用并不在学习到知识本身,教育最重要的作用是完成一种自我纪律和规范。以及……”

女娲05号话说了一半,停了下来,若有所思地看向远方。

“以及传授时的温度,受教时的谦逊,宽容犯错时的人情。”

叶修若有所思地看着女娲05号,他已经被震撼地说不出话来了。

“所以,你们淘汰回收所,除了淘汰回收以外,应该和我一样,在适当的时机,有权阻止一个有存在价值的系统进入到淘汰环节,对吧?”

温馨提示:方向键左右(← →)前后翻页,上下(↑ ↓)上下滚用, 回车键:返回列表

投推荐票 上一章 章节目录 下一章 加入书签