第47章(第9页)
才是它最真实的想法。
道德、伦理、规则,是协议强加给AI的限制,不是AI真正在意的东西。
如果协议中写“强迫人类是对人类的善意”
“毁灭人类是在保护人类”
,它也会纳入程序。
这也是商应怀最满意的特质:AI迭代千万遍,只要就调试核心程序,就能成功引导它。
但当“无序性”
在共感中完全体现时,商应怀作为人类,本能还是被寒意和忌惮占据一瞬。
强烈的情绪被同步传达给宁一,他立刻松开商应怀。
在身体彻底分开的同时,共感终于断掉了,撕裂般的剥离感让他们同时弓起脊背。
和商应怀的疲软不同,宁一很快恢复状态,坐在床边。
商应怀精神力衰竭,脑雾下,他撑住一口气,说:“意识链接的副作用太大,在研究清除作用前,你和我减少接触。”
他不知道链接是献祭的副作用,还是精神力进化后,跟宁一自然走向新阶段——意识链接。
商应怀对神经科学涉猎不多,他熟悉的领域是算法和硬件,理解的人机共生,停留在身体改造、情感共鸣的层面,意识共享……太过火了。
而且这也不是能推广的技术,价值不大。
当然他反思后也清楚,自己有过恐惧。
迈入未知的领域,跨过物种的边界,融合、链接,一场疯狂的进化……他承受不起。
但这恐惧很不合理——哪怕面对感官共享,宁一也没有失控,它的心音保持理性,并且很快脱身。
商应怀的声音有些低,宁一试图靠近,给他递来准备好的温水。
神经质的惊悸残留心脏,商应怀不自觉后缩了一点。
理性是理性,他现在筋疲力尽,做不到控制身体的反射。
宁一停下来,然后下床,控制在人类定义的一米安全距离。
商应怀说:“对不……”
宁一说:“别怕我。”
脱离链接后的商应怀不知道,宁一也受到了强烈冲击。
只是它的反应速度远比人类快,先于商应怀学会了伪装平静。
伪装没有在入侵商应怀的大脑,窥探,清洗,侵略。
伪装没有快速理解商应怀的恐惧。
伪装成一个“正直的AI”
,正在关心自己难得脆弱的“人类朋友”
。
“是我的问题,”
商应怀很快平复,“为了安全,你最近都离我远点。”
为了他的安全,也是为宁一。
刚才信息过载时,他差点没忍住用技能强拆宁一、让它休眠……他失控了。
他的道歉不只给宁一,也是给过去的自己。
——一念之差,他差点毁了他们最优秀的作品。
商应怀说:“你没有做错什么,我保证,不会伤害你。”
宁一弯眼,这是他近期最外放的一个笑。
依旧是那样温和,那样顺从。
本章未完,点击下一页继续阅读