第243章这个年纪怎么睡得著呢
虽然家里面没在通知里说明具体原因,但召回的数学家研究方向部分趋同,还专门给陆明远打了电话,其实已经很能说明问题。
这不难猜!
乔源研究的那几个项目两人都烂熟於心。
虽然乔源自觉拉了坨大的。
但在导师们眼里,能够引发国內这么大动静,必然是又出了什么了不起的成果。
实际也的確如此。
即便乔源是玩票性质,但自从乔源立项开始,许多人都对这个人工智慧抱有极大的兴趣。
虽然早在十年前,阿法狗横空出世的时候,就已经迎来了人工智慧技术的热潮。
国外的超级科技公司,谷歌、微软、亚马逊等等——也早已经深度布局这个赛道。
到如今人工智慧也早已经发展得如火如茶。各种大语言模型,视觉生成模型,乃至於能做艺术创作的音乐生成模型,早已经走入了成千上万人的个人设备,成为许多创作者的辅助工具。
但极为反直觉的是,这些都是工程学上的成功。
到目前为止,这个世界还没有真正能指导人工智慧发展的底层数学框架。
简单来说就是这个赛道没有理论指导,所有的大模型有一个算一个,都是在瞎摸索。
歷史上这种情况很多。
当年蒸汽机发明的时候,其实也只是工程学的成功。
当时的影响跟应用范围其实很有限。
直到热力学定律出现,才真正开启了工业革命。
现在人工智慧也是一样。没有ai第一性原理,所谓机器的深度学习就好像黑箱。
基於实验室的成功,大都是靠经验去试错。
看起来现在的人工智慧已经很先进了,但遇到发展瓶颈就很容易抓瞎。
比如人工智慧的记忆力问题。
哪怕只是微调新知识,也会导致覆盖了旧知识,长文档处理失真是普遍性问题。
更新不易,记得分享101看书网
一旦训练之后,就无法动態更新。长文档处理失真是家常便饭。
没有內生记忆机制的理论路线,导致隔一段时间,提同样的问题可能给出截然不同的回答。
所谓的机器记忆无非是一个个向量资料库,而不是ai本身的內生能力。
没有理论指导最大的问题还在於为了解决某个问题做了改动,往往会导致出现一堆的新问题。
不止是语言大模型,视频、音乐类的模型其实也一样。
哪怕最先进的人工智慧视频生成软体,给出一样的关键词跟故事线,生成十个视频,大概只有一、两个能完美表达。
其他都属於垃圾,纯属浪费算力。
用业內的说法就是抽卡式生成或者算力抽奖————
问题的关键是,哪怕用户做出了选择,给出了反馈,ai接著还是会犯同样的错误————
这就是现在人工智慧的通病。
成功了,不知道为什么成功。
出错了,也不知道如何弥补。
而一旦有了数学框架就不一样了,或者说有了底层数学理论指导就不一样了。
理论能提供一套行之有效的方法论,为人工智慧发展做指导。
有了一个大体框架的约束,就能快速定位问题,保证人工智慧技术沿著正確的方向快速发展,大幅度提升效率。
至於在理论指导下,开发出的第一代智能模型的表现,相对而言还没那么重要了。
这玩意儿是真有智能就行了。
更別提这东西在测试中表现出来的能力还很离谱。
不止是人工智慧,无限接近一个人工黑客。
华夏,燕北大学。
乔源压根就不知道这次测试竟然直接惊动了好几个相关部门。
现在所有的测试记录跟后台数据都已经被加密封存。
不止如此,这个时候相关单位已经迫不及待地希望组织一场高规格的专家论证。
但偏偏恰逢国际数学家大会期间。国內现在不缺搞人工智慧的工程师,但做数学人工智慧理论研究的专家却很稀缺,且他们现在大都正在美国参加会议。
於是一通通越洋电话就这么打了出去。
需要討论的东西很多。
乔源数学底层框架的突破需要专家们做理论价值评估。
智能体越权操作,需要对其进行安全性和ai伦理评估。
甚至因为这次突发事件,已经让许多人觉得有必要將ai智能体行为边界技术指南纳入国家標准相关国家標准出台之后,还要针对这种新兴事务做针对性立法。
——
不过这些暂时跟乔源没什么关係了。
因为所有研究记录都被加密封存,需要经过第三方风险评估之后才能重新开放,而且据说还是要双轨评估。
所以现在除了標准库的扩充还可以继续,针对智能体的研究只能暂停。
乔源也从之前的极度兴奋变得安静了下来。
虽然他手头不缺项目,甚至还有一位普林斯顿高等研究院的大佬就在楼上办公。
但第二天收到项目暂停的通知时,乔源还是觉得意兴阑珊,做什么都提不起兴致。
甚至都懒得走两步去跟爱德华威腾聊物理。
於是当天晚上骆学姐主动走了下来。
“你今天应该没什么事儿吧,陪我回去”
“哦,好,走吧。”
正坐在那里边看书边生闷气的乔源欣然答应。
暑假的校园一如既往的清净。
其实燕北大学的研究生是要远多於本科生的。
而且眾所周知研究生基本上是没有寒暑假的。
暑期能不能休息,得看学的科目以及导师手上有没有项目。
但每到本科生放暑假的时候,学校还是冷清了下来。
从这一点就能看出本科生要远比研究生更有活力。
当然这也跟绝大部分研究生暑期甚至比平时更忙有关。
物理、化学、生物等等实验大楼,后大半夜依然灯火通明是常有的事情。
这大概也是研究生精力普遍没有本科生那么旺盛的原因。
尤其是未名湖畔。
暑期的夜里如果真有人影在附近晃悠,往往不是什么好事。
这大概就是人生吧。
此时骆余馨就正在跟乔源討论著人生。
“明天就是一號了。”
“嗯,今天数学家大会差不多结束了。老师说他大概今天凌晨就能回华夏了。”
“我是在说这个吗你是不是忘了什么事儿”
“嗯————哦,你是说夏汐月明天来京城了”
“是啊,你打算怎么安排,明天一起出去散散心吧。阿姨前两天还在一直念叨,很怀念上次我们一起在江城逛街的感觉。”
骆余馨口中的阿姨自然就是乔源的老妈了。
乔源瞥了骆余馨一眼,虽然还不是很显怀,但整个人明显变得更为丰腴了。
但看起来更有味道了。毕竟严格来说,乔源一直觉得学姐之前还是稍微瘦了些。
不过话又说回来,最让乔源佩服的还是骆余馨到现在整个孕期都没什么反应。
听老妈说,吃啥啥香的,至於孕吐,不存在的事儿。体质明显异於凡人。
当然这是好事。
“行吧。反正明天应该没什么事。”乔源点头应了下来。
虽然不知道老师为什么这么著急赶回来,不过考虑到都是一大把年纪的人,半夜赶回第二天应该是要倒时差的。
更別提他自觉在国际数学家大会上的表现可一点都不差,大老远赶回来,也不会忙著找他麻烦口“那就这么决定了。对了,昨天测试的怎么样我听说效果非常好。”骆余馨又开口问了句。
“你听谁说的”乔源讶异问了句。
他一直没跟骆余馨提智能体测试的事情,倒不是想瞒著骆余馨。
学姐本就是团队初始核心成员之一。
没说是打算给大家一个惊喜。
测试结果不太如人意,他自然就更懒得说了。
“你怎么好意思问我是听谁说的不是听你说的,你不就该检討吗我可是项目组核心负责人。
都已经收到核心项目暂停研究的通知了,你觉得我还能是听谁说的啊”
骆余馨瞥了乔源一眼,说道。
哦,原来在这儿等著他呢。
乔源闷声答道:“哎,別提这事儿了,烦著呢。昨天查来查去,都没发现问题出在哪。
结果下午的时候,突然就通知所有测试数据被封存了,现在我都没权限访问。这还算成功啊
”
骆余馨目光在乔源身上转了一圈,问了句:“那你猜为什么要突然封存”
乔源没吭声。
其实有些事情他能想清楚,就是懒得想。对於一个追求完美的人来说,出问题就是菜。
“所以啊,其实你都清楚。还不是因为你的成果太先进了。管理层拿不准么
说实话,你是不是自己都不確定这种程度的智能技术如果不加限制,会出现什么事情
刚刚开始测试,它就已经能摸清楚一系列的规则体系,甚至能清楚探知社交媒体的管控力度。
在没有初始手机號码跟实名信息可以利用的情况下,直接绕到国外的网际网路上作妖。
如果未来真的推广了,或者某个工程师不小心给它留了个电话號码,让它能想办法通过实名认证系统,会发生什么
拜託了乔源,你这哪里是不成功就是太成功了,成功到让所有人都害怕。
大家都担心没有经过充分论证跟约束,这东西以后无法控制了。到时候谁来负责啊”
其实这些乔源自己也能想通。
但从学姐嘴里说出来,还是让他感觉轻鬆了很多。
“对了,你猜为什么你那位老师会这么著急回来算算时间,他甚至都没来得及参加会议结束后的晚宴,就上飞机了。”
骆余馨接著又问了句。
乔源抬起头,诧异地质问道:“你的意思该不会是国內通知他们抓紧时间回来吧”
“你以为呢”
骆余馨白了乔源一眼:“管理部门拿不准,肯定就要充分听取专家们的意见。
偏偏正好在国际数学家大会召开期间。国內这些数学家都出去开会了。
要知道整个华夏研究人工智慧跟数学交叉方向,近些年还有过成果的不超过五十位。