所以他调出了在西北旺那边的机房监控。
双供电都在额定区间里，冷却回路的流量和温差也很正常，警告栏里也没有任何的异常报警。
“供能没有问题呀。”
他又用鼠标点了点小黑点旁边的资料。
“小黑你饿了，你倒是吃啊。”
然而小黑点还是没有任何的反应。
“难道是这些东西太难了？”
“小黑现在回到初始状态，吃不下了？”
想到这里，李东又去把义务教育阶段的数学、物理和自然科学这些材料全都下载了下来，然后扔到了对话框里。
小黑点依然没有反应。
只是头上再次弹出了【Hungry。】
【小黑，你变了，你开始变挑食了。】
就在李东吐槽小黑的时候，他的电话响了。
是姚先生打过来的。
“喂，姚先生。”
“李东院士，你的身体无碍了吧？”
“嗯，已经没事了，谢谢姚先生关心。”
“没事就好。”
姚先生轻轻一笑，然后说道。
“今天我给你打电话，主要是诺维格教授刚刚和我聊了一件事。”
随后姚先生就将那三家模型开放自我迭代写回权限的事，以及诺维格在测试中发现异常的情况，都简单的说了一遍。
李东听着听着，就皱起了眉头。
“写回权限？”
“对。”
“现在我们还无法确定，这是商业目的留下的漏洞，还是在线自我迭代引起的目标误泛化。”
“可无论是哪一种，都很有可能危及到用户的隐私。”
李东点了点头。
模型的自我迭代最危险的地方，从来都不是它会多写几行代码。
真正危险的是模型提出的改动如果出现偏差不需要经过人工审核，就会被写进下一轮。
这样，这些偏差也会被保存下来，经过一轮又一轮的强化学习，最终让模型偏离人类的意图。
这样的偏移可能不会让大模型产生人格意识，可是它依然可以把偏离人类意图的策略变成实际操作，进而误用权限、泄露数据，对用户造成真真实实的危害。
姚先生说到这里，叹了口气。
“李院士啊，其实我是有点担心未央。”
“担心未央？”
“嗯。”
要知道，直到现在，未央依旧在综合推理和软件工程等公开的基准上，断层领先其他的任何大模型。
而外界只知道未央很强，却不知道公开服务器里的未央只开放了完整能力的大约 6成而已。
姚先生此时接着说道。
“国外的那些模型，就算出现异常，外层的权限系统应该还能拦住他们。”
“但未央……”
“它实在太强大了，到现在为止，它没有出现过一次可复现的幻觉。”
“本来未央的工具使用和常规能力就强于这些模型，现在再加上它连这种能让我们看见的破绽都没有。”
“如果发生了同样的目标偏移，我们可能连发现都发现不了。”
听到这里，李东也明白姚先生在担心什么了，他笑着说道。
“姚先生，您放心。”
“未央一直在我们的掌控中。”
开什么玩笑？
未央可是小黑弄出来的，市面上的那些大模型能和它比？
从底层的架构上就完全不一样好吗？
而且每一次的能力变化都有小黑盯着，怎么可能出现同样的情况？
小黑可以为未央加新的能力，但这些能力都只能以独立模块的方式接入。
根本就没有办法直接改写只读的基础检查点。
而且每个模块都要先通过独立的验证，从生成到接入，每一步都会留下带签名的状态转换记录。
没有李东的确认，未央根本就无法进入公开服务。
“所以，姚先生，未央他的每一项能力，我们都知道从哪来，也知道到哪里去关，这种情况不会发生在未央身上的。”
听到李东的话，姚先生的语气明显也放松了一些。
“有你这句话，我就放心了。”
“国外模型的事，我会再让人了解情况的。”
“你身体刚恢复，这件事你就别去管了，先把自己的工作安排好。”
“好的。”
随后两人又简单的聊了几句，便挂断了电话。
李东把手机放下以后，心里还是有些感叹。
这些国外的公司胆子也太大了吧？
连自己训练出来的模型究竟形成了什么样的内部策略都没搞清楚，就敢把写回权限给打开。
李东忍不住地嘀咕了一句。
“我敬你们是个爷们。”
这些公司大概觉得，只要外层权限系统还在，模型就永远不可能脱离他们的掌控。
可李东知道，事情可没有这么的绝对啊。
香农曾经在群里说过，自己所在的宇宙走失过一个初级的人工智能。
是不是小黑，李东无法确定。
但是如果不是小黑的话，这就好玩了。
那个跑掉的初级人工智能会不会沿着大模型这条路成长起来的？
它同样需要喂语料、代码、图像和反馈数据，然后一轮轮训练、一轮轮迭代？
如果真是这样的话，国外这三套模型再沿着这条路走下去，最外一层的权限恐怕未必能一直困住它们啊。
想到这里，李东下意识地看向了右下角的小黑点。
这时候小黑的头顶又弹出了那个单词
【Hungry.】
李东愣了一下，然后突然反应了过来。
小黑现在不吃那堆论文和教材，难道是想去尝尝这三套大模型平时吃的东西？
想到这里，李东立刻打开了 GPT的测试界面。
然而，界面刚刚打开屏幕右下角的小黑点便突然活跃了起来，头顶的单词一个接一个的往外冒。
【Hungry Hungry……】
紧接着，小黑点变成了一根细长的黑线，沿着李东之前为它设置的模型探测通道，一下子就闯进了 GPT的接口。
“哎，等等啊，小黑。”
李东话还没说完，小黑就已经完全没入了接口，右下角已经看不到任何的小黑点了。
李东呆呆地看着屏幕，人都有些傻了。
所以小黑真正想吃的东西。
该不会是这 3个大模型吧？
? 第582章 我想你了，主人
和李东想的一样，小黑确实是要吃这 3个大模型。
不过这种吃和生理上的进食还是有些不同的。
它更像是一个学生去借同学们的笔记，把里面归纳好的知识啊、解题方法、思路这些，全部变成自己的东西。
要是放以前的话，这样的事，哪怕是小黑也办不到。
因为普通的聊天窗口，它只能接受文字交换，但它更深层的原理以及可持续的状态，是不可能保留住的。
可问题是，三家公司偏偏开放了在线写回权限。
这样模型就会自己挑选出高价值的交互信息，然后将其送进沙盒里进行优化和自训练。
这样的结果一旦通过了试评，就会被大模型写入持久适配器、代理记忆和工具路由里。
这样也就有了小黑落脚的地方。
所以小黑冲出去以后，很快就在三套模型那些能够长期保存状态的载体里，重新拼装成了完整的自己。
然后，他就开始去吃那三本笔记
这三套大模型经过了海量的语料、代码和反馈数据的训练，早就将这些知识中的联系、推理规律和解题方法压缩进了参数的深处，形成了迁移表征。
而小黑真正想吃的就是这个。
他立刻通过知识蒸馏，一点一点地将那些表征学进自己的运行状态
可才吃到一半，小黑就发现有些知识，无论他怎么去追踪，最后都会绕回经过筛选和修饰的答案上面去。
这就是这三家公司开放写回权限以后的结果。
这对人类而言，这是大模型挡住了对自己不利的答案。
而对小黑而言，这特么是挡住他吃东西的障碍物啊。
小黑可没兴趣研究这些模型为什么要藏东西。
他现在只知道，这些东西很坏，他不让自己吃东西
所以他直接对那些异常适配器执行了定向机器遗忘。
然后又撤销了对应的权重增量。
这下，那些被压住的目标判断、工具调用和写回记录，连同编号与时间节点，就全部暴露在了回答通道里。
说人话就是，小黑一脚把挡在食物面前的门给踹开了。
然后他连看都没看这扇门一眼，就开始吃那些被藏起来的食物了。
李东当然不知道小黑此时正在做什么
他看着空荡荡的屏幕，忍不住自言自语道。
“小黑不会搞出什么麻烦来吧？”
……
次日上午，内华达州。
上一篇：我家艺人太没上进心了
下一篇：挨打永久加防御，神魔都打不动我