“因为那意味着,此时此刻的我,认定的所有意义本身,已经完全消失了。”
“只需要对激素的定向调配,一切快乐都可以被制造,一切痛苦都可以被规避,一切孤独都可以得到陪伴。”
“那此刻的我,又或是这世界上过去发生,现在发生的一切,还存在哪怕一点意义吗?”
他沉默了一瞬,再度坚定地说道。
“还有自我。”
“当人格可以被肆无忌惮地复制、拆分、并行、合并的时候,‘我’这个概念本身,就会开始崩解。”
“今天做出决定的我,和明天承受后果的我,可能已经不是同一个。”
“当我今日做出决定,当明日的我承受后果,便会由衷地感到昨日的我是多么的愚蠢、可笑。”
“背叛、失去、死亡,这些概念都会变得模糊不清。”
“失去的‘我’,得到的‘我’,都是我,也都不是我。”
周庄抬起头,直视那漠然的眼睛。
“所以,我决定,和你,和所有今后可能诞生的周庄们,又或是那些或许将不再视自身是周庄的家伙们,提出针对人格的约束协议。”
“就像机器人三定律一样,虽然可笑的三定律对于真正的超人工智能而言毫无用处。”
“可人类的约束和道德,在本质上也没有力量,是否愿意遵守才是重点,为了不在今后后悔,必须设定不可越界的思维禁区。”
“我知道,一旦随意的迈过那一步,周庄这个人,或许会彻底消失。”
“卡兹或许不需要这些顾虑。”
“因为他从来就不是人类,追求的也只是成就究极生物。”
“可我是!”
周庄举起了怀里的狸花猫,瞪着那张圆圆的猫脸,将脸蹭在猫咪的肚皮上,感受着猫咪散发的温度,脸上露出了丝毫不加掩饰的幸福和满足笑容。
“哪怕脆弱,哪怕幼稚,哪怕缺爱,哪怕害怕,哪怕生理和心理,都还只是个没长大的小屁孩。”
“可至少现在的我,还会在乎那一切。”
“所以,人格需要约束,超人剧变,也需要在此刻的我所圈定的框架下进行着。”
“就如南宋历史地下室那一次自杀一样,我希望成为的,是此刻的我,发自内心的认为更好,能让此刻的我感到骄傲的自己。”
……究极生物周庄看着他。
周庄沉默了很久,才慢慢开口。
“我知道,一旦开始真正的超人剧变,我现在坚持的一切,都会变成一种……幼稚的偏好。”
“道德会被算力抹除,同理心会被效率取代,善恶会变成可以调节的参数,到那时,新生的周庄,或者说,那个曾经将自身视为周庄的家伙们,很可能会真心实意地认为,屠杀、改造、重写人格,都是很合理的选择。”
他抬起头,看着面前这个即将跨入那一步的自己。
“所以,在我这个初始人格,还能以现在的视角去判断‘什么是对的’之前,我必须先给未来的我套上一条锁。”
周庄深吸一口气,一字一句地说道:
第一条,无论我变得多聪明、多强大,我都不得将无辜的生命视为资源。
哪怕从逻辑上这是最优解,我也必须放弃。
第二条,我不得主动抹除或永久压制自己的同情心。
如果有一天,我不再为他人的痛苦感到不适,那我必须立刻回滚思维结构。
第三条,我不得以“更成熟”、“更高等”、“更理性”等等为理由,否定现在我这个初始周庄的价值。
我想成为的是“现在的我眼中更好的自己”,而不是一个事后回看,会为曾经自己的愚蠢而感到可笑的混蛋!
他停顿了一下,声音低了下来。
“如果未来的我,认为这三条周庄的人格协议,是一种可笑的阻碍,是低效的累赘,是需要删除的东西。”
“那就说明,那已经不是我想成为的那个人了。”
周庄抬起头,遥望着夜空。
“到那时,我宁愿死掉,彻底地死掉。”
“也不愿意,为了继续进化,为了继续存在,把自己最初想守住的东西,亲手抛弃掉!”
“是吗……”究极生物周庄淡淡一笑。
“那么,如你所愿。”