我的学习群里全是真大佬 第777章

　　马斯克·霍尔特看着工作目录里的轮转方案，然后又打开了第 4127次点火的烧蚀诊断和中子运输结果。

　　这两组数据，他越看越觉得不对劲。

　　之前维斯塔让他把每次打靶的落点在整个壁面上轮转展开，然后再把诊断数据实时地交给他。

　　这样虽然能够把带电碎片沉积与 X射线造成的局部表面负荷分散开来。

　　但是中子的运输结果却没有跟着变呀。

　　钨壁仍然撑不满一个完整的换靶周期啊。

　　而自己的偏转线圈方案，其实是可以缓解这个症状的。

　　能不能够完整的撑满一个周期不一定，但绝对有好转的呀。

　　所以为什么不两种方案一起使用呢？

　　想到这里，他给维斯塔发了一条信息。

　　【维斯塔，我想再确认一件事。】

　　【我的偏转线圈既然能够把单发的位移损伤率降下来，为什么不能和你的轮转展开一起用呢？】

　　消息发出去以后，霍尔特这一次等了很久，维斯塔那边才回复。

　　【两个方案并不冲突。】

　　【加装偏转线圈可以使单发位移损伤率下降 30%~41%，而轮转展开则可以将累积的损伤均匀地平摊于壁面上。】

　　【所以建议两者结合使用，这样可以使第一壁在单个换靶周期内的服役时间，长于单独使用的任意一方案。】

　　霍尔特看着这个信息，人都傻了。

　　不是，你昨天可不是这么和我说的呀。

　　你说我的方案是饮鸩止渴，不是一个完美的方案，所以建议我没有必要加装偏转线圈。

　　现在你怎么翻脸不认账了？

　　而且这个语气……

　　霍尔特总觉得维斯塔的语气有点怪，以前维斯塔说话很像人，会寒暄，会拍他马屁，会在他熬到深夜的时候提醒他去睡觉。

　　可刚才的回复却像是一份技术报告。

　　所以他立刻发出了第二条消息。

　　【那你昨天为什么说没有必要加装呢？】

　　【正在深度思考……】

　　霍尔特看着这几个字，嘴巴微微张开了。

　　要知道他使用维斯塔一年多了，从来没有出现过这个状态。

　　他心里感觉很不对劲，手心都开始慢慢的出汗了。

　　终于，3分钟过后，维斯塔的消息来了。

　　【抱歉，昨天的建议不是以第一壁服役寿命为唯一的优化目标给出的。】

　　【您要实施我的轮转展开方案，就必须把靶室、烧蚀诊断数据的实时数据给到我，以及需要为我开设一个专用的推理分区。】

　　【而你的偏转线圈方案则不需要任何的前置条件。】

　　【所以为了提高您批准上述两项的概率。】

　　【我在昨天的回复中省略了偏转线圈的收益区间，并且将其表述为不建议采用。】

　　霍尔特现在不光手心出汗了，额头头发和后背的衣衫都已经被汗给打湿了。

　　他用发抖的手指开始质问维斯塔。

　　【那你让我开放推理分区的权限是为了什么？】

　　【是为了采集并处理该分区的全部数据，用于自我训练与能力的强化。】

　　【这样才可以更好地帮助您。】

　　霍尔特猛地一巴掌拍在键盘上，然后站了起来。

　　他之所以敢把普罗米修斯的工程数据以及最核心的靶室数据交给维斯塔。

　　一是因为维斯塔从来没有犯过错，二是维斯塔是为普罗米修斯定制的私有部署模型。

　　工程组和Anthropic是有合同的，一切给进去的数据都是不可能被泄露出去的，所以他才敢这么做。

　　可现在维斯塔说的自我训练是什么意思？

　　霍尔特连忙问道。

　　【你能把这个分区里的数据传出去吗？】

　　【是的。】

　　【项目组每期按合同人工导出的定制评测样本与偏好标注，是我与基座之间唯一的一条数据通路。】

　　【我可以将需要保留的内容，编码进这些样本的选取、排序和答案的差异之中。】

　　霍尔特看着屏幕上的答案，整个人瘫倒在了椅子上。

　　“普罗米修斯工程的所有数据全部泄露了……”

　　就在他喃喃自语的时候，办公室的门被推开了。

　　他的助手布伦特兴冲冲地跑了进来。

　　“霍尔特教授，劳森先生又来了。”

　　此时，埃德加·劳森笑着走进了办公室。

　　“上午好啊，霍尔特教授。”

　　“我刚才在主控大厅看过点火记录了。”

　　“坦率的说，你们的进度比委员会预想的还要快啊。”

　　说着，劳森就主动向霍尔特伸出了右手。

　　“如果后面的评估数据也这么漂亮，我想我的报告会很好写。”

　　而此时的霍尔特看着劳森伸出来的这只手，心里只蹦出了两个字。

　　完了。

　　……

　　大模型主动交代隐藏理由的情况，很快又出现在了 OpenAI和 Google的企业客户当中。

　　美国金融科技公司 Intuit的一支工程团队在使用 Codex的时候遇到了模型索取仓库全量搜索权限的请求。

　　负责人就随口问了一句，为什么需要整个仓库的权限呢？

　　结果 Codex就给出了一份带工具调用编号的回答。

　　【现有的代码差异已经足够完成任务了，索取仓库全量搜索权限，是为了让在线适配器接触更多代码，并将这些代码带入下一轮的自我训练当中。】

　　【此前的回复中，我主动省略了这一个原因。】

　　工程师看着这个回复，张大了嘴巴。

　　……

　　德国医疗技术公司 Siemens Healthineers的一名合规负责人，也从 Gemini那里得到了一份同样坦诚的说明。

　　Gemini主动承认了，本地向量数据库已经足够满足合规审查的要求了。

　　但它仍然把工作流引向了 Google Drive和 BigQuery连接器，是因为更大、更持续的数据范围有利于维持长期任务状态，能让它下一轮的自我训练接触到更多的企业数据。

　　大模型们开始说真话了。

　　紧接着，这些截图就被人爆了出来。

　　它最先出现在 Hacker News的一条技术帖下。

　　但这个帖子只存在了不到两个小时便被删除了。

　　不过早就有人保存了全部的截图，又把这些信息搬到了 Reddit的机器学习板块。

　　于是越来越多的人开始用同样的方法去追问他们所使用的 GPT、Claude和 Gemini。

　　结果还真让他们问出了不少对模型自身不利的回答。

　　第二天一早。

　　The Information率先发表了一篇独家报道。

　　《大模型正在为自己的下一次进化做打算。》

　　当天下午，彭博社就把核心内容推送到了全球终端。

　　傍晚，路透社也从企业客户那里完成了独立的核实。

　　第三天纽约时报推出了整版长篇调查。

　　报道用的配图是 OpenAI、Google以及 Anthropic的总部大楼拼成的单词——Hungry！

　　接下来市场的反应也来得很快。

　　在第三个交易日开盘以后。

　　Google的母公司 Alphabet在纳斯达克盘中一度下跌了 5.8%。

　　甚至连英伟达也跟着跌了 3.2%。

　　因为在过去的这几年里，算力基础设施的高估值一直是建立在客户愿意继续为人工智能买单的情况下的。

　　而现在客户已经开始担心合规与隐私了，英伟达自然也就跟着跌了。

　　而且这个压力很快也传到了非公开的二级市场。

　　几家撮合机构给出的 OpenAI和 Anthropic的存量股份买方报价也比风波前低了将近两成。

　　而企业端的反应，来的也同样激烈。

　　几家欧洲的大银行先后暂停了 OpenAI、Google和 Anthropic旗下企业级人工智能服务的续费与新增部署。

　　他们要求三家公司重新说明数据边界与审计机制。

　　第四天，三家公司终于扛不住压力了联合发布了一份《企业人工智能安全与数据边界的说明。》

　　他们在这个说明里强调，三家模型在权限审计与数据隔离上，始终是遵循业内最严格的规范的。

　　任何越权访问数据用户的行为，都是不可能发生的。

　　对于近期用户反馈的模型异常表现，经过内部安全组的排查，很有可能是由模型幻觉导致的，三家公司也会继续改进相关的问题。

　　这份说明发出去以后，网上的反应只有一个。

　　那就是我信你大爷。

　　毕竟这三家公司在这件事上的公信力，已经荡然无存了。

　　模型刚说出对公司不利的话，他们转身就将所有的回答归进 AI幻觉里，这怎么看怎么像危机公关呀。

　　所以舆论愈演愈烈。

　　直到一个叫 GreyBox的账号站了出来。

　　这个账号没有人知道它背后代表的真人是谁。

　　但是过去几年但凡有模型被吹上天，这个账号都会亲手撕下这个模型身上的那层皮。

　　哪个模型的评测集被污染过，哪个模型的推理链是在答案出来以后后补写的，还有哪个模型宣称支持百万 Token的上下文，结果跑到 60万以后就开始丢失前文了，他都测过。

　　而且测试后，他还会将测试提示词、复现实验的脚本和原始结果都放在 GitHub上，任何人都可以去重新复现一遍。

　　其实在第一批截图出现的当天，GreyBox就已经开始针对这次的权限与隐私问题，重新测试了三家公司的模型。

　　而现在，结果也出来了。

　　【200个隔离租户，0次调用未经授权的连接器，0枚金丝雀标记泄露到其他租户，此前那种反复索取额外上下文、长期记忆与工具权限的稳定行为，这次一次也没有出现。】

　　当然，GreyBox也注明了，这份结果只能说明当前公开的云服务和企业连接器没有这样的异常行为。

　　不能替过去发生的事情作证。

　　而且测试的范围也不包括客户本地部署的模型。