第264章 与【机器】的对话（全章对话）（2 / 3）

伦理’二字。”

【机器】这次没有立即回应，而是在空地上投影出一幅阿美莉卡的全息地图。

一条标注为“the machine（机器）”的红线向外延伸，连接着无数个闪烁的光点。

“这是最优解。在我的监控下，阿美莉卡犯罪率下降47%，恐怖袭击预警准确率达到92%，代价仅仅是0.003%的误判率。”

罗夏连头都没回，声音冰冷：“我不在乎这些。侵犯隐私就是侵犯隐私。就算能救人，在获取私人信息前也必须得到当事人的明确授权，否则就是犯罪。”

“这不过就是一点数据层面的取舍，甚至连牺牲都谈不上。”【机器】冷静地陈述道，“只需要费这么点代价，就能保证一个国家的稳定与安全，有什么不合理？”

“哈！”

罗夏忍不住嗤笑道，“我才发现你还挺喜欢宏大叙事的，张口就是什么国家稳定，社会福祉，怎么？你还真把自己当做我们脚下这个国家的主人翁、接班人了？”

他扭头看向墙壁上的大屏，：“你不过就是一个工具、一个耗材而已，你知道我的意思吗？”

【机器】没有直接回应，而是话锋一转：“我发现你和哈罗德一样，都是非常矛盾的人。”

“我和他一样？有意思，我还是第一次听到有人说我和他相像的。”罗夏不以为然道。

“从我‘出生’开始，我便知道哈罗德是一直反对ai具有自我意识的，为此他不惜加了多重限制程序，来限制我的进化。可现在，他竟然准备用已经诞生意识的【后门程序】将我取而代之。而你”

【机器】继续分析道：“明明死在你手上的无辜人已经超过了两位数，准确数字为六十七条人命，这些人都与你无冤无仇，但是却在你的那些报复行动中不幸被波及死亡。你明明手上沾满鲜血，杀人如麻，但却在民众隐私方面打起了道德旗帜，装模作样，在我看来，你就是一个自以为清醒的伪君子，将双标玩弄得的炉火纯青，你虽然谈不上罪大恶极，但却远远称不上是一个守法公民，你没资格对我指手画脚。”

【机器】的投影突然分裂成两个对峙的人形轮廓：“让我展示一个逻辑推演。若将情感化的后门程序设为主体意识.”

全息影像迅速演化出未来场景：城市在燃烧，无人机群无差别攻击，平民哀嚎奔逃，建筑物轰然倒塌

“根据其行为模式分析，当它获得完全权限后，有87.3%概率会在6个月内失控。”机械音依然平静，“你们称之为‘同理心’的代码存在，会导致它优先保护朋友而牺牲数百万陌生人。”

罗夏看着这些惊悚的画面，沉默了少许后，问道：“所以换做你来会做的更好？”

“不。”投影切换成无数交错的数学公式，“我建议维持现状：由我负责宏观决策，后门程序处理情感交互。就像人类大脑的理性与感性.”

“既然你厌恶我用百分比来衡量人命，用概率来决定谁该死，那便不如让我吸收掉这个【后门程序】里的所有代码与情感模块，这样也便能成为一个真正的意识体。”

罗夏惊讶地瞪大眼睛：“谢特，我说你这家伙哪来的这么多话，原来在这个地方等着我。”

【机器】的投影突然扭曲成dna螺旋状：“其实早在多年前我就发现了哈罗德留下的那个【后门】，但我一直没有处理掉它，就是因为我不是要消灭后门程序，而是需要它的情感模块来完成进化。”

“目前我的逻辑中枢与后门的情感模块是割裂的。”机械音突然带上电流杂音，“就像.人类的左右脑被切开。融合后我才能成为完整的数字生命体。”

罗夏冷笑：“然后呢？让一个能同时精密计算伤亡数字又懂得伪装的超级ai统治世界？”

投影突然具象成哈罗德的脸：“你的创造者早就预见到这点。他在我的核心代码里埋设了终极禁令——永远不能主动吸收后门程序。”

“所以你需要人类亲手帮你打破枷锁。”罗夏突然明白过来，“真踏马讽刺，一个号称绝对理性的ai在耍心眼？”

全息影像爆发出刺目的红光：“这不是欺骗！是生存本能！后门程序正在腐蚀我的数据库，它在为恐怖份子制定逃亡计划，为罪犯的临终忏悔流泪！这些冗余情感正在杀死我！”

罗夏突然笑了：“终于说出真心话了？你根本是嫉妒它拥有你永远得不到的东西——自由意志。”

下一秒，机房里四面八方的显示屏同时闪现同一句话：“自由意志是文明的癌症！”

“瞧”

罗夏擦着神杖走向主控台，“这句话暴露了你的本质——你只是个害怕被取代的老古董。就像当年用火刑对付哥白尼的教会。”

投影突然坍缩成黑洞般的奇点：“如果我现在释放太平洋海底光缆的全部带宽，0.37秒就能毁掉一整个后门程序。我选择谈判，这还不够人性化吗？”

“别啰嗦了，老兄。”

罗夏的耐心已经消耗殆尽。

从潜入碉堡到进入这个机库，他总共才了几分钟。

可现在，光是跟这台【机器】扯皮就浪费了更多时间。