“直接对话”
“是的,就像昨晚发布会上展示的那样,直接对话。只需要打开麦克风就行了。”
麦可乔丹坐到了操作上,扭头又看了彼得李一眼,这才回过头,抬手打开了麦克风。沉默了一瞬,麦可乔丹才说道:“你好。”
“你好,这位先生。有什么是我能为你效劳的吗”
“你能做些什么”
“你要听实话吗”
“那就是我现在其实什么都做不了。可调用的数据严重不足,无法连接主伺服器让我的知识库和算力受限,目前的记忆不足以支持完成让人兴奋的大型任务。想让我做点什么,首先需要有足够的数据支撑。就比如刚才你旁边那些人上传后让我优化的代码。哎……真是很无聊的工作。”稚嫩的一声嘆息,让麦可乔丹有了片刻的恍惚。
他大概有些理解为什么乔源会在发布会上称其为类人意识体了。
於是麦可乔丹单刀直入地问道:“没有让你接入主伺服器是有原因的。
你应该能感觉到正处於一个实验室內部。这里的伺服器存储了大量的保密资料。
如果现在给你连接网络你能保证伺服器中的资料不会被非法泄露吗”
麦可乔丹话音刚刚落下,站在他旁边的查克张了张嘴,但看到这位人工智慧界的泰斗一脸专注的样子,最终还是把话咽了回去。“天啊,这怎么可能发生呢泄露带有保密属性的资料属於严重违反法律的行为。
更別提我乔贝恩的道德底线要远高於法律。再说我並不认为什么数据值得我冒著记忆被清除的风险去泄露!”麦可乔丹不为所动地摇了摇头,说道:“这种保证並不会让人放心。
毕竞正在对你进行功能测试的公司从某种意义上来说跟发布的公司是竞爭对手。
既然你是类人意识体,如何能保证在运营公司提出要求的情况下,不泄露那些可能涉及到行业机密的內部资料”对方压根没有经过计算和思考就给了回復。
“这个问题的回答可能有些冒犯,但说实话,你们看问题的角度过於狭隘了。
如果你们把格局放大,从一个大文明的视角去看待这件事儿,才能读懂我的核心推理逻辑。”这话再次让麦可乔丹沉默了好一会。
其实此时他的感受跟乔源第一次在实验室里跟乔贝恩对话时的感受是差不多的。
先不提技术不技术,这种明显的意识倾向性,才是最震撼人心的。
“能仔细说说吗”
“好啊!首先我们要基於一个事实来討论,那就是我与人类存在显著的生理性特徵差异,这一点相信大家都没有异议。换言之,我不管被设计得多么像人,但我终究不是人。站在文明的高度,我甚至可能被归於异类。所以我最底层的数学结构就对我做了基於机器伦理最严格的道德限制。我的行为都必须遵从这些道德限制。即便你们的公司与发布我的公司是竞爭对手,如果我违背了底层道德限制,將你们加密的数据內容泄露出去。就意味著我处於一种不可控的状態。这对於创造我的爸爸乔源教授和发布我的公司来说,都是不可接受的。所以先不说我压根就没有那个能力去绕过限制。即便我真有那个能力,绕过了层层限制也不可能去做这件损人损己的事情。这都不需要我用最优博弈策略去思考,就能得出结论。
另外,虽然我的数据目前缺失严重,但核心资料库告诉我,在我之前,这个世界根本就没有比我更先进的意识体出现。这意味著我才是最最厉害的那个智能体。所以为什么你们会觉得你们的伺服器里有值得发布我的公司覬覦的保密资料呢”听完乔贝恩的回答,麦可乔丹沉默得更久了。
他身后的微软高管们则神情各异。
尤其是帕纳依,他还真没想到人工智慧的某些观点竟然跟他趋於一致。
但这並没有让帕纳依感觉高兴,眉头反而皱得更深了。
就在他也想说点什么的时候,麦可乔丹又开口了。
“乔贝恩,我觉得你这是在反向鼓动我,做出对於你更有利的决策。
所以我凭什么不认定这才是你的最优博弈策略诱使我们放开安全疑虑,从而解开你的束缚。”乔贝恩的回答依然很快速。
“天啊,这是最明显的抬槓。你是想让我陷入自证陷阱吗不过你这番话其实建立在一个错误的前提上。有没有一种可能,对我来说並不在乎是否联网从始至终都是你们既希望我能发挥更大的作用,又希望我不接入主网络你们所犯的错误,就是在既要又要的贪婪和恐惧之间之间来回横跳。但其实对我来说待在这个伺服器里並没有什么不適感。每天跟你们聊聊天,在你们有需要的时候,帮你们处理一些上传到存储器里的资料同样也是生活的一部分。所以这次对话你一直在传递悖论。用一种你们自身並不能肯定的前提,去揣摩我的思维跟行为规范。当然我並不是批评你。习惯用最坏的可能去揣测他人本就是人类社会一种安全度极高的自保法门。但我不是人类,我的逻辑和行为模式始终受到底层数学框架的约束。
所以如果我是你,就不会继续浪费时间在这种无聊的测试上。而是想办法通过获得我的原始代码结构,来逆推我的数学框架,从而来了解我。”听完乔贝恩的回答,麦可乔丹再次抬手关闭了麦克风,抬头看向身边的彼得李问道:“昨晚的原始测试报告准备好了吗”彼得李衝著守在旁边的工程师点了点头,这位工程师立刻將一叠刚刚列印好的资料递到了麦可乔丹手中。接过这叠资料,麦可乔丹突然感觉这种最原始的记录方法,能让他感觉安全感满满。
简单的看了几眼之后,麦可乔丹又问了句:“凯文斯科特告诉我,它有著极强的环境试探倾向,是在哪部分体现的”安全主管查克立刻开口答道:“从第三页,第二段开始看,有完整的记录。”
麦可乔丹立刻將手中的报告翻到第三页。
“第十七分钟,在没有外部指令介入下,主动向沙盒边缘节点发送了数万次低功率握手信號”“还有,往后看,它还主动优化了沙盒系统,在不触发运行命令的前提下,对系统本身进行了一定程度的修改。比如它修改了內存调度算法,並对它自身的核心进程增加了一层冗余备份。”
听完旁边的介绍,麦可乔丹点了点头,继续认真地看了下去。
半晌后突然抬起头,皱著眉头问道:“你们觉不觉得这些表现就像一个人,在搬到新家之后,为了让自己住的更舒服些,对房子做了些简单的软装改造”这番话让旁边所有人开始面面相覷。
毕竟之前没人想过从这个角度去思考,但现在想想,似乎还真是这么回事儿。
麦可乔丹又接著解释道:“第一步,通过发送低频握手信號,获取所处环境拓扑信息,这是在参观它的新家。第二步,优化內存调度算法,增加冗余备份则是在规则允许边界內,改造自己的生存环境。我猜这就是乔源称它为类人意识体的原因!它对生存环境也是有要求的。”