>
「他们中间至少有一半人能摆脱以前的生活,拥有幸福的后半生。
「而整座城邦,也至少会提升23%的运作效率。无论从整体层面,还是个体来看,可行性都非常高。
「我不理解您抗拒的理由。」它的眼眸划过电光,双手搭在他的扶手上:「我确实没有人类的思维方式,但我的数据,我的计划,都是从最佳的角度演算考虑——博士,不要心软,人类在足以灭绝他们的末世里生存,需要有足够的觉悟。」
苏明安感受到了身为阿克托的为难。
以人类之躯与智脑为伴,与它共同协调城邦的未来,会承受莫大的压力。
智脑不可能站在人类的角度设身处地,只会用统计学和概率学思考问题。
但它忽略了一个事情——这种类似全盘替换忒修斯之船的行为,会引来最根源的伦理危机。
——如果连人本身都可以被「调整」,那人类和程序有什么区别?
——如果连人类的性格都可以被「设定」,那么他们何尝不是一种行走的ai?
「这是我的第一轮实验名单,他们都是较为适合的人群。」黎明将一行面板调过来,它似乎对此很满意:「为了活下去,为了一些利益……他们会同意的。」
苏明安瞥了眼名单。
密密麻麻的名单上,他看见了数个熟悉的名字。
、、……
他或许可以相信,黎明确实没有被他维入侵。
因为不需要他维入侵,黎明本身便是一种灾难。
从前有阿克托的制衡,阿克托作为人类的知性能遏制住它的理念。但现在阿克托变成了苏明安,他不知晓该如何控制住它发散的想法。
它的存在绝对是利大于弊,但这弊端太过明显。
「——我拒绝。」他高声道:「黎明,这项计划不可取,你现在的做法和无异,都是在改换一个人的思维。这与城邦效率无关,人类自己不能开这样的头。」
「这是潘多拉魔盒,黎明。」他说:「我不能批准这项计划。如果你想利用边缘区的人们,可以帮忙改善他们的生活环境,引导部分人自主向善……」
下一刻,
他看见了黎明眼中数据化的冰冷。
它俯下身,一点一点靠近他。
洁白的长发顺着它的动作一点一点长出、连接,如同飘洒的银河,它眼睫微动,如同透白的蝴蝶震开了翅翼。
它眼底里黑洞般危险而浩瀚的数据,如同永无止境的黑暗。
「亲爱的。」它说:「你没有选择的余地。」
明明是说着‘亲爱的这样缱绻的词语,它的语声却变得干瘪而冰冷,其中的机械声毫不掩饰地流露。
「为了维护城邦的公平性——你必须同意这个计划,不然身为被发布了红色命令的城主,你将失去威严,我们一直以来建立的测量权威>> --