面试的人并非是明珀,而是沈亦奇一样。
“你说的这些……”
沈亦奇沉默了一会,才开口:“它们都是可以被解决的问题,不是吗?
“无论是“有人设计的程序里面埋设了漏洞’、“ai的迭代完全失控’,还是“律法与筛选功能的不完善’,都是可以被他们反馈、被我们修改的啊。本来一个程序出来就不可能是完全体。”
“我们这样假设,明珀先生一我们就假设,我们有一种能够穿越时空的能力。
“我们在今天共同创造出了这样的系统。而我们日后如果发现了它偏离了最初设计的方向……它失控了!或者它出现了巨大的设计漏洞,又或者它被某人利用,亦或是ai觉醒成了“天网’之类的统治者……“那么我们就重新回到这一个时刻,重新修改代码一你应该看过终结者,对吧?”
“嗯,我看过。”
明珀淡淡地说道:“但我觉得,你不是在做天网。你是在做西比拉系统。”
闻言,沈亦奇脸上露出笑容,那是遇到同好的愉快表情:“心理测量者吗?我也看过……但我认为,西比拉系统并不是错的。更何况,真正做这种事的另有其人。”
“你认为&183;……西比拉系统没有错吗?”
明珀微微坐直了身体,皱起眉头。
“西比拉系统”一那是名为《心理测量者》的作品中出现的概念。
可以简单理解为,它是一种虚构的社会管理系统。能够判断出对方的心理状态、内心深处的愿望、职业适应性……以及犯罪指数。
当有人的“犯罪指数”达到临界值时,就意味着他正在计划或已经在实施犯罪。那么甚至在他进行犯罪之前,就可以将其提前逮捕,以此来最大程度地减少其他市民的损失。
“我认为那是好的。”
沈亦奇双手放在膝盖上,坦然道:“《心理测量者》里面出现的问题,难道不都是因为西比拉系统本身有漏洞、有bug或者被人利用吗?
“但它确实有效降低了犯罪,提升了绝大多数好市民的体验,那就说明它是有意义的。在动画里它所出的问题,其实是因为它的能力仍然不足一一能被人骗过,这就说明它还不够完善、还不够好。它的权力被窃取,行政系统也仍然僵滞。
“就像是你所说的……我也不认为加特林博士是错的。
“他唯一的错误,就在于他还不够强。加特林确实提升了战争效率,但它并没有量变引发质变