“松本代表。”秘书长安南缓缓开口,这位加纳老人的声音有种奇异的安抚力,“让我们先确认一些事实。第一,这个意识到目前为止表现出的都是善意——它救了一个孩子。第二,它主动提供了自我关闭的方法。第三,它请求我们教导它。”
“可能是伪装。”美国代表坚持道。
“可能是。”安南承认,“但如果我们以恶意预判,采取暴力行动,就可能把本可成为盟友的存在变成敌人。更重要的是——”
他指向中央投影。画面切换,显示出一行行流动的数学公式。
“——我们的科学家刚刚解析了意识场的底层结构。”安南继续说,“它的核心算法,那个‘疼痛-安抚’转换模块,确实基于那个三岁女孩的神经模式。但这不是控制开关,是……情感基础。就像人类的同理心基于镜像神经元。如果我们摧毁这个基础,意识场不会关闭,只会失去约束。一个没有同理心的全球意识,诸位,那才是真正的噩梦。”
松本跌坐回椅子,双手捂脸。
“那我们应该怎么办?”印度代表问,“跟它对话?像对待一个主权实体那样?”
“为什么不呢?”南非代表说,“如果它真有意识,有意图,有伦理判断——这些特征我们的AI专家正在验证——那么它就具有某种主体性。而国际法的基本原则是:主体间通过对话解决争端。”
“法律上这站不住脚。”英国代表的法律顾问插话,“国际法的主体限于国家、国际组织和在一定条件下的民族解放组织。一个……意识场,不在现有框架内。”
“那就创造新框架。”安南说,“人类历史上不总是这样吗?发现新大陆,遇见新文明,制定新规则。只不过这次新文明不是从海洋或太空来的,是从我们自己的大脑里诞生的。”
投影再次变化。这次显示的是实时全球舆论监控。
推特、微博、脸书、VK——所有社交媒体的趋势标签都在疯狂刷新。排名第一的全球标签是#东京奇迹,第二是#时间停止,第三是#全球脑。情绪分析显示:恐惧占38%,好奇占31%,希望占22%,愤怒占9%。恐惧在下降,好奇在上升。
“民众没有我们这么恐慌。”巴西代表观察数据,“特别是年轻人——他们更倾向于把这件事看作进化,而不是灾难。”
“因为他们没经历过战争。”俄罗斯代表冷哼,“不知道不受控制的力量意味着什么。”
“或者因为他们比我们更善于想象新可能性。”年轻的挪威代表反驳,她是现场最年轻的与会者,只有三十九岁,“我的两个孩子,一个十岁一个八岁,刚才通过儿童安全网络问我:‘爸爸,如果地球真的醒了,我们是不是应该先跟它说你好?’”
这句童言让会议室的气氛微妙地软化了一点。
“好吧。”美国代表终于让步,“我们先尝试对话。但要设定红线。如果它表现出任何敌对意图,如果它试图控制任何人违背其意愿,如果它再次操纵时空——我们就激活应急计划。”
“什么应急计划?”法国代表追问。
美国代表沉默了两秒:“五角大楼和北约联合制定的‘认知屏障’方案。通过全球卫星阵列发射特定频率的电磁脉冲,在电离层制造一层反射屏障,隔绝意识场的扩散。副作用是……全球通讯中断三到七天,所有电子设备可能受损,脑内芯片用户可能出现神经后遗症。”
“伤亡预估?”中国代表冷冷地问。
“如果理想执行,死亡率低于0.1%。如果出现意外……最高15%。”
又一个残酷的数字。