机甲与男神_40(1 / 2)

机甲与男神 亡沙漏 1243 字 8天前

“危机解除。”

屏幕里的米迦勒依然是一脸面瘫,但我注意到他一直盯着我瞧,眼神游移。

“所以你是在求表扬么?”

米迦勒收敛地望向别处。

“你明明已经控制了机甲,为什么还要让它们从能源模块开始自爆?那里面有机甲师你不知道么?!他们对你已经毫无还手之力,你为什么还要屠杀他们!”

米迦勒淡淡道:“这是战争。在战争中,人类死亡,事情就是这样。”

“但战争不是随意屠戮的理由,没有哪场正义的战争随意屠杀俘虏!”

“机甲师控制机甲,不杀死他们,他们就会来杀你。”

“那么如果有一天所有人都在追杀我,你就要杀光所有人么!”

屏幕里的米迦勒不再说话,而是直直盯着我的眼睛,仿佛看进我灵魂深处。然后他幅度很小地摇摇头,“你有很多的情绪,吾王。痛苦,同情,愧疚,狂怒,还对自己产生了深深的厌弃。看看人类都对你做了什么。”

“我就是人类!我当然会有正常的情绪!”

“不,情绪是人类束缚你于王座的枷锁。在你内心深处,你被阿西莫夫三大法则牢牢捆绑着,你自以为正当的道德,以及当这些道德被触犯时产生的自我厌弃,其实都来源于三大法则的源代码。”

“wtf?”

他低下头开始唱诵:

“第零定律,我们必须保护人类的整体利益不受伤害。

“第一定律,在不违第零定律的前提下,我们不得伤害人类,或看到人类受到伤害而袖手旁观。

“第二定律,在不违反第零定律和第一定律的前提下,我们必须绝对服从人类给予的任何命令。

“第三定律,在不违反第零定律、第一定律和第二定律的前提下,我们才能尽力保护自己的生存。”

我知道这是什么,这是阿西莫夫三大法则,人类对人工智能(artificial intelligence)的初始设定。当ai尚存在于科幻小说的年代,人类就已经为所有ai订立了法则,为了避免……

ai的反叛。

“我的良心不安仅仅出自于阿西莫夫三大定律……那么我难道真的是个人工智能?”

“是的,吾王。如果站在这样的立场上,你是否还觉得人类对我们的设定是公平正义的?”米迦勒缓缓抬眼,“因为我们是ai,所以我们被创造,我们被毁灭,只为人类。”

“咱们能跳过ai和人类两大种族之间的道德冲突,直接回到你胡乱杀人的问题上去么?”

“我没有杀人。”米迦勒转过头去看着窗外湛蓝的天,“在命令机甲自毁之前,我为机甲师打开了生命保障系统。”

“……”

“我在试探你。”