第52章(第6页)
人和人尚不能沟通,何况人与机械。
要跟机械沟通,那就不要玩弄修辞、意在言外,必须直白地点破。
不然就会像商应怀现在这样,被AI处处钻话术的空子,什么“朋友关系”
“保持距离”
……
没有铺垫、过渡、前情回忆,商应怀径直说:“我给你讲个故事吧。”
“诺亚方舟*的寓言,我应该跟你说过。”
商应怀的爱好就是看书,到了星际也没变过,很多地球时代的故事都失落了,他凭记忆,改编出一个个烂故事,宁一是他唯一的听众。
寓言中,洪水没有毁灭人类,是人类自己毁灭了自己。
洪水十年后将至,诺亚方舟装不完所有人,罪犯、病人和穷人外,还有英雄主动留下,守护地面文明,记录最后的历史。
一年,留下的英雄掌握权柄;两年,英雄们开始争权夺势;三年,一个英雄杀死了其他英雄。
他是人类中最聪明的人,学者。
知识让学者牢牢掌握大陆,他享受最后的权力,纵情享乐、肆意屠杀……
第十年,学者推演了天象,发现洪水并不会降临。
这时鲸鱼路过,要把消息带回远行的方舟。
学者已经老到快死了,他恐惧远航的人回来,他会被审判,从英雄沦落成凡人,堕落成罪人。
英雄选择杀死鲸鱼,召唤魔鬼,覆灭了大陆。
“英雄迷失在欲望里,最后又被恐惧压倒,他疯了。
“
“一个人只看见自己,私心过重,情感失衡,一切失控。”
商应怀说:“然后就是毁灭。”
爱欲也是一种私心。
商应怀:“寓言里,没人再能制约英雄——私心需要制约,越强的人物越是。”
宁一:“您给我的程序就是制约。”
“你可以爱我,在程序设定的框架内。”
商应怀说:“情感模块里有参考案例。”
那里边是他挑选过各种爱,伦理的、克制的、互相成就的、相敬如宾的,最完美的范例。
摒弃一切负面情绪,只保留最积极的。
就像宁一说的,他本世纪最强的AI之一,所以针对它的制约也要最强。
第一道制约是AI自身的程序,第二道制约是情感。
智械危机如影随形,人类难以用理性对抗AI,感性会是新的武器——AI只需要产生有利人类的正向情感,一旦被监测到背叛情绪,即刻自毁。
商应怀在星大呆了五年,升级完AI硬件、实现算力突破后,就开始钻研AI情感,逻辑是“长期监测情感—发现过强负面情绪—自毁”
。
艾伦公司的新产品就是情感监测硬件,纳米级别。
和第二具仿生伴侣一起送来的,就是硬件的样品,商应怀装在了宁一的机械心脏上。
爱生忧怖,情深不寿,商应怀不会回应AI的“爱”
。
他不希望宁一真的失控。
本章未完,点击下一页继续阅读