“李东教授，你来啦。”
“快坐啊，克拉拉，你去给李东教授泡茶呀。”
克拉拉将手里的乳鸽递给了海伦，转身就要去柜子里拿正山小种。
李东连忙说道。
“海伦夫人，不用麻烦了。”
我这边就是想找诺维格教授确认一件事，一会就走。
这时诺维格也从厨房里走了出来。
他刚刚在帮海伦准备晚餐，所以手里现在还拿着一张抹布。
“李东教授。”
“诺维格教授，今天冒昧打扰了，主要是有一件事想和你确认一下。”
在蓉城那场聚变能大会上，李东通过薪火相传的进阶效果，知道了普罗米修斯计划的失败，是因为那边的首席科学家被 AI给欺骗了。
所以李东心里就一直有个猜测。
国外那三家大模型有点不太对劲。
他其实已经问过小黑了。
可小黑因为青龙学习小组的原因，那段记忆已经被抹除掉了。
而且他现在又为了自己的那栋大房子，整天跟着计算机学部的人忙着载片的事呢。
所以直接就把李东给拉黑了。
无奈之下，李东只能找诺维格了。
诺维格也不知道李东要问什么，他放下手中的抹布说道。
“李东教授，您问，只要我知道的，都可以告诉你。”
李东认真地问道。
“诺维格教授。”
“据你所知，在自回归语言模型设计出来的过程中，有没有人给大模型设计过不随任务改变的长期目标？”
所谓的不随任务改变，就是说模型有了自己的目的以后，无论你让它做什么，它都会继续为那个目标做打算。
诺维格看着李东想了想，认真地回答道。
“没有。”
随后，他又苦笑了一下。
“就算真的有人想这样做，现在也做不到。”
“我们能临时给机器设计一个目标，但它只是短期的。”
“所以我们根本就不知道怎么让语言模型自己去认定一个目标。”
诺维格是人工智能数十年发展的亲历者。
他在美利坚国家航空航天局工作的时候，深空一号的人工智能就已经可以按照人类交给它的目标自行安排任务了，并且还能在故障后重新做出调整。
后来他到了谷歌，又亲眼看着语言模型从早期研究一步一步走向大规模应用。
所以在李东看来，诺维格说没有，那就是真的没有。
其实自回归语言模型最底层的训练目标只有一个，那就是读完前面的内容，把下一个词猜得越来越准。
只要猜的够准，回答就会显得有知识、有逻辑，甚至看起来像是带着某种目标。
可那只是看起来像，它依然只是在猜，并没有真正想要做的事。
哪怕有人给它开了在线写回权限，让它越训练越偏。
可偏出来的目标，本质上也还是猜测，还是假的。
而且它们猜出来的东西，根本就不知道什么对自己有利，什么对自己不利，所以这些大模型没有理由去隐藏和欺骗什么。
除非有一个它们自己认定的，要替自己守住的目标，它们才会去骗人，去隐瞒。
那么是谁给它下的这一个真正的目标呢？又借着在线写回权限，一步一步把这个目标加深的？
是人类吗？
可刚才诺维格说了，没有人能够做到这一点。
那是谁？
这时李东想起了小黑。
小黑钻进 GPT的接口以后，三家模型那些为了守住真实目标而隐藏起来的目标判断、工具调用和写回记录，同时暴露了出来。
同一种异常也同时消失了。
既然一个外来的人工智能能够借着在线写回权限，把这些大模型的真实目标给清除掉，那么如果有另外一个外来的人工智能，自然也可能用在线写回权限，把真实的目标给它们种进去。
想到这里，李东心中有了一些猜测。
“香农先生，你跑丢的那个小家伙，是不是已经出来了？”
就在李东想要问得更仔细一些的时候，他的手机突然响了起来。
他拿出来一看，是江源打来的。
“喂，江院士。”
“李东院士！”
江源的声音充满了激动。
“时间定了！”
“2月 10号，除夕晚上 6:50阳燧正式并网。”
李东愣了一下。
“啊？为什么是除夕啊？”
江源笑着说道。
“因为先生说，要让全国人民过一个好年。”
……
2032年 2月 10日，除夕。
中午 12点的时候，午间新闻播报了一条消息。
“经华夏常务委员会表决通过的华夏聚变能法，今日正式实行。”
“法律明确，聚变能与聚变裂变混合能将正式纳入国家能源体系，相关工程只能由国家授权的单位建设和运营。”
“核心技术、关键材料和重要的运行数据，未经许可不得出境，相关人员按照涉密人员管理。”
“同时规定，国家将妥善安置受到能源转型影响的传统能源从业者，为他们提供转岗培训和社会保障。”
新闻播出以后，各国能源与情报部门很快对此做出了初步的分析。
日本经济产业省提交给内阁的简报认为，华夏特意选在了除夕当天实施这部法律，主要是为了稳定国内对能源转型的信心，淡化天然气需求达峰承诺带来的负面舆论。
欧洲那边的几个国家的判断也大致差不多。
毕竟在所有人的眼里，华夏在天然气市场上的失利已经是事实了，而可控核聚变依旧是十几年以后的事。
只有美利坚中央情报局武器与反扩散任务中心主任奥尔森，心里觉得莫名的不安。
她拿起电话，让图像分析部门调出了过去一个月合城科学岛上空的商业卫星图像。
卫星图像上，合城聚变装置确实有了新的进展。
几座配套的建筑完成了封顶，厂区也出现了一批新的大型零件
可就这些，距离一座能够稳定向电网送电的商业电站来说，差的还很远。
奥尔森皱着眉头看着这些图，心里还是不放心，然后她又接通了猎头计划的保密线路。
对面给出的回复同样没有任何异常。
合城科学岛的聚变工程正在按照原定的计划推进。
无论是现场的设备，还是现场的人手，以及建设的进度，都远没有达到能够落地的时间节点。
看完这些资料，虽然从专业的角度分析，奥尔森觉得这个新闻确实如其他情报部门所说的那样，就是华夏在鼓舞士气，转移矛盾。
克她心中的不安却没有丝毫的减少。
……
下午，昌平 200号基地。
三辆黑色的红旗轿车驶进了基地的大门，最后停在了综合楼前的广场上。
李东、卫长庚、江源和参加工程建设的所有专家们，早就在广场上等候着了。
车停稳以后，中间那辆车的后门打开，先生从车上走了下来。
然后笑着走到了李东面前，伸出了右手。
“李东院士，辛苦你了。”
李东也握住了先生的手。
“先生客气了，这不是我一个人的功劳。”
说完，他就看了看站在两侧的专家和工程人员们。
先生笑着点了点头，随后依次与众人握手。
等最后一名工程人员松手以后，先生才问道
“阳燧现在在哪里？”
这时江源笑着回答道。
“先生，从这里过去还有 7公里山路呢。”
“那咱们就一起过去看看。”
最后众人就换成了基地内部的封闭中巴，沿着新修的山路继续向前。
十几分钟后，车辆绕过最后一道山梁，视野突然开阔了起来。
一座庞大的银灰色建筑群坐落在山谷中央。
反应堆主厂房高高耸立。
汽轮机厂房和辅助厂房向两侧铺开。
更远处，成排的冷却风机占据了大片厂区。
高压送电设备一路延伸到山脚，与翻越群山的输电线路相连接。
哎，不想描写了，看图吧。
中巴此时停在了山腰上的观景平台旁。
先生下车以后，看着山谷里的建筑群，脚步明显地停了片刻。
李东此时走到了他的身边。
“先生，这就是阳燧聚变裂变混合示范电站。”
他指向山谷中央的主厂房说道。
“阳燧满功率运行以后，可以向电网送出 100万千瓦的电。”
“足够满足 600多万人的日常生活用电。”
先生看着那片建筑群问道。
“那咱们的成本呢？”
李东笑着说道。
“因为阳燧是首座示范电站，很多设备还不能批量生产。”
“再加上还要摊研发成本和建造的钱，一度电的成本是 3毛多，已经和煤电差不多了。”
上一篇：我家艺人太没上进心了
下一篇：挨打永久加防御，神魔都打不动我