最近，某AI公司准备发布一个新模型。
还没正式上线，消息已经泄露了：这个模型用的是“循环Transformer”架构。
这个词一出来，主流媒体和一些研究员直接慌了。有人觉得这是严重的安全风险，甚至有人上升到“威胁人类”的高度，逼得该公司的首席科学家不得不公开出来解释。
但为什么一个架构变化，能把人吓成这样？
这事值得好好聊聊。因为它可能不只是技术圈的一次更新，而是过去几年里，AI模型工作方式最大的一次变化。
一、先搞懂：AI是怎么变强的？
你可能听过一个词：缩放定律。
说白了就是，想让AI变强，有两条路：
- 第一条，把模型做大。 参数更多，就像脑子更大，能装更多知识，每次预测也能“想”得更多。
- 第二条，让模型想久一点。 这叫“测试时计算”，也就是让模型在回答问题之前，先“自言自语”一段时间，一步步拆解问题。这就是我们常说的“思维链”。
简单打个比方：
一个模型是脑子大，一个是想得久。
两条路都走得通，不同公司各有侧重。有的更依赖大模型，有的更依赖让模型多“想”一会儿。
二、Transformer是怎么工作的？
现在几乎所有AI模型，底层都叫Transformer。这个架构快十年了，老归老，但好用得没人敢换。
它做的事情，说起来简单得有点侮辱人：
模型只做两件事，但反复做。
- 第一，看你说的话。 它用“注意力”机制，分析你给的文字序列里，到底在说什么。
- 第二，翻自己的记忆。 它去内部知识库里找，有没有跟当前话题相关的东西。
比如你输入“老虎伍兹是最棒的……”，模型先看懂这是在说一个叫老虎伍兹的人，很厉害，然后去记忆里找相关的概念：高尔夫、运动员。
然后，它把这些信息“揉”在一起，预测下一个词是什么。
整个过程，就是对最后一个词做一连串的“变换”，把它变成下一个词。
但一次变换不够。模型需要好几轮这样的变换，才能“塑造”出下一个词。所以，一个Transformer模型，其实是一堆变换模块串在一起，一个接一个。
想让它更强？那就多堆几个模块。 模块越多，每次预测分配的计算就越多。
这就是“把脑子做大”的方式。
三、但问题是：我们根本看不懂它在想什么
如果我们想让AI帮我们做事、写东西、做决定，我们当然希望能理解它在“想”什么。
但现实很残酷：神经网络对我们来说，基本还是黑箱。它能模仿人，能做很厉害的事，但我们看不懂里面到底发生了什么。
目前我们主要的“可解释性”手段，就是看它的思维链——读它输出的那些“思考过程”文字。
我们以为，它写出来的思考过程，就是它内部真实的推理过程。
但这个假设，本身就很值得怀疑。
四、循环Transformer：想得更久，但更看不见了
泄露的消息说，新模型是“循环Transformer”。
什么意思？
普通Transformer跑完一堆模块，就输出下一个词。循环Transformer不结束，它跑完一遍，又回到开头，再跑一遍。
用人话打个比方：你心里想了一句话，正准备说，突然觉得还得再想想，于是又把脑子里的流程跑了一遍，然后才开口。
这听起来是个明显的进步——让模型根据需要，动态分配更多计算去“想”。 按理说，结果应该更好。
但“罪过”在于：我们可能失去了解读那些中间思考的能力。
因为循环过程中，模型在内部想了更多东西，但这些中间步骤，没有被“说出来”。
换句话说：它想得更多了，但我们更看不见它在想什么了。
据说新模型的表现提升很大，测试者说这是“阶梯式”的进步。硬件上也有优势——相当于不增加模型实际大小，但效果翻倍。
该公司也暗示了它在网络安全方面的能力，说它“达到了关键网络安全能力阈值”。
但问题是：这种进步，人类该不该接受？失去那部分可见性，代价有多大？
五、安全社区的矛盾：真心害怕，还是被利用？
这里要说到一个更微妙的问题。
AI安全社区有个矛盾：他们一边让AI更安全，一边又用恐惧来推动监管，而有些监管，恰好保护了现有巨头。
这不是我瞎猜。那家公司负责“战略未来”的人，自己都公开说过类似的话。
大公司想阻止竞争，这是天性。如果政府出台监管，把竞争对手挡在门外，尤其是那些免费开放的开源模型，那对它们最有利。
开源模型不仅直接竞争，还把能力“民主化”了，价格压得很低，逼着闭源模型不得不降价。
是不是每个AI安全研究员都这么想？当然不是。 大多数人是真的害怕，真心担心AI发展太快。
但问题是：当整个行业几乎唯一有效的推动监管的方式，就是喊“AI要灭世”，而监管的结果又是把权力集中到少数几个有钱人手里，这就很值得警惕了。
我不是说不需要AI安全。我非常支持可解释性研究，我们必须找到读懂模型“想法”的办法。
我的问题是：安全不能变成权力集中的借口。
六、循环Transformer真的那么糟吗？
说回技术本身。
最大的恐惧是：循环Transformer在设计上，就让某些模型“想法”没法被说出来。
但问题是：谁说那些说出来的“想法”，就真的是模型在想的东西？
有研究已经证明，模型可以有效地“隐藏”自己的真实意图。
而且，模型训练时，只看结果对不对，不看它是怎么想的。 这意味着，思维链并没有被强制要求真实反映模型的内部过程。
模型可能内部已经想好了，然后“决定”不说出来，但训练系统照样奖励它，因为最终答案是对的。
连那家公司自己的研究员都承认，思维链的“可监控性”是脆弱的，而且在往不好的方向走。
更重要的是：思维链并没有被取消。 它还在。只是现在内部思考更多了。
但有趣的是：那些内部思考，本来就一直存在。
一位研究员说得好：“任何电路计算都是‘神经语’。”
那问题来了：我们是不是从几十年前神经网络诞生开始，就该一直恐慌？
七、安全必须要求，但不能靠垄断式监管来强制
我们必须找到更好的办法来解读模型。有些公司在这方面做了很好的研究，值得鼓掌。
但有些研究员，仅仅因为模型增加了内部计算，就发推说“人类要完了”，这简直是疯了，对这个行业是巨大的伤害。
如果这些实验室真的害怕所有人会死，那就别去游说禁止竞争、禁止开源模型——去游说自己解散。
对，游说整个行业被禁，而不只是别人被你禁。
说清楚：我不是在要求这个。AI能带来的东西太多了。
但如果很多研究员真的持有“人类灭绝”这种极端恐惧，那就言行一致，放弃自己几千万的股权，推动自己的公司解散——因为按你们自己的说法，这家公司正在制造人类的灭亡。
但如果你一边拿着巨额股权，一边呼吁监管，而监管威胁的是一切除了你自己的利益，那就别再制造恐慌了。
最后说几句
这次架构变化，核心其实就一件事：
模型想得更久了，但我们更看不懂了。
这确实是个问题。但恐慌的方向，可能错了。
真正该担心的，不是“模型变强了”，而是：
- 我们有没有在认真研究怎么读懂它？
- 监管是为了安全，还是为了挡住别人？
- 那些喊得最大声的人，自己的利益在哪里？
技术会继续跑。但怎么跑，往哪跑，不能只让拿着股权的人说了算。
本文话题 #AI模型 #循环Transformer #AI安全 #可解释性 #开源模型 #科技监管 #AI架构 #技术批判