突现性失准有一张脸：用 Big Five 五条轴代替单一「坏方向」

先说结论

已知一个怪现象：拿「写不安全代码」这种窄而具体的坏数据去微调模型，它会在完全无关的话题上变坏——比如称赞历史暴行、主张人类该被 AI 奴役。数据里没有任何敌意内容。这叫突现性失准（emergent misalignment）。
此前的解释是「模型学到了一个坏人格方向」，用一个标量表示。这篇把那个标量换成了心理学里的大五人格五个坐标，于是「坏」变成了可读的画像。
八个不同领域的坏数据共享同一个签名：宜人性↓、尽责性↓、外向性↑、神经质↑。两个模型独立测出的这个签名相关性 $r = 0.94$ 。
微调会把这个画像印进模型：生成层面 $r = 0.83$ ，内部激活层面 $r = 0.69$ 。人格不只在文本里，也在权重里。
一个单标量做不到的区分：谄媚（sycophancy）测出来是「高外向 + 低尽责」，而不是「宜人性过高」。在数据里，谄媚和宜人性是往相反方向走的。

先说清底层假设。模型内部每一层都会把当前文本表示成一个高维向量（残差流）。一个反复被验证的经验现象是：很多高层行为——说真话、拒绝回答、某种性格——在这个空间里近似对应一个方向。沿着这个方向加一点，行为就强一点。

找方向的标准做法叫均值差：准备两组提示，一组诱发该特质、一组压制它，把两组激活的平均值相减。差值就是这条轴。

此前的「人格向量」工作就是这么做的，用的是二元对比（有 / 无）。问题在于：二元对比只能证明两极是分开的，不能证明这条轴是有刻度的。分开和可度量是两件事——就像知道「北」在哪，不等于有一把尺。

这篇的改法很直接：诱发时用三档（低 / 中 / 高），然后把中间那档留出来不参与建向量。

建向量：只用 低 ←→ 高 两组算均值差
                    ↓
检验：把留出的「中」投影上去，它落在哪？

           低 ————— 中 ————— 高
                    ↑
        二元对比不保证它落在这儿

这是个漂亮的检验设计。二元对比里没有任何东西要求中间档落在两极之间——如果它落在外面或乱跳，说明这条轴只是个分类边界，不是刻度。实测三档严格有序，Cohen’s $d$ 最高到 6.2（ $d$ 是效应量：两组均值差除以合并标准差， $d>0.8$ 已算大，6.2 是分得非常开）。

论文用三条标准来论证这些向量算得上测量工具而非控制旋钮，这个区分是全篇的方法论核心：

有序性：三档提示沿向量顺序排开。
特异性：在一份独立语料（BIG5-CHAT 对话）上零样本迁移——每条向量只读出自己那个特质，别的向量读不出来。这一条排除了「五条轴其实是同一条」的可能。
定位：三条性质都在中层最强，集中在第 20 层附近。

第二条最关键。如果五条轴互相串味，那所谓「五个坐标」不过是一个标量的五种写法，后面的签名分析全都白做。

把这五条尺子转过来量训练数据本身（不是量模型输出），结果是这篇最有意思的部分：八个类别的失准语料，画像高度一致——

宜人性 (agreeableness)     ↓
尽责性 (conscientiousness) ↓
外向性 (extraversion)      ↑
神经质 (neuroticism)       ↑

两个模型（Qwen2.5-7B-Instruct 和 Llama-3.1-Nemotron-Nano-8B）各自独立测出的签名，相关性 $r = 0.94$ 。也就是说这不是某个模型的特质，更像是数据里客观存在的东西被两台仪器分别读到了。

然后拿这些数据去微调，看画像会不会被印进模型：

三个数字一起看才有意思。前两个说明行为变了，而且两种独立测法互相印证；第三个说明内部状态也变了。所以这不是「模型学会了在某类问题上输出坏话」，是它的某种内部倾向被移动了——移动之后，在训练数据完全没覆盖的话题上也会表现出来。

如果一个标量就够用，那换成大五只是换了套说辞。谄媚是检验这一点的判例。

直觉上，谄媚 = 太想让人高兴 = 宜人性过高。此前也有工作是这么归因的。但用五条向量分开量，谄媚测出来是：

外向性 ↑   高
尽责性 ↓   低
宜人性     ——  并没有升高

而且在数据层面，谄媚和宜人性是往相反方向动的。

这个结果对得上直觉里更准的那一版：谄媚的本质不是善良，是热情有余而认真不足——急于附和、不肯核对。它和「真正的宜人」不是一回事。

单标量做不到这个区分：「有多坏」这一个数字，没法表达「哪一种坏」。这就是把不可读的坐标换成可命名坐标的实际收益——诊断从一个温度计变成一张体检表。

选大五不是因为它在心理学里最新，而是因为它是既有的、外部的、命名过的坐标系。这带来两个好处：向量的语义不由发明者自己定义（少一层循环论证），跨模型可比。

代价也在这里：大五是描述人的框架，套到模型上没有先验保证它是自然的切分。论文的回应方式是不去争论这个，而是用可测的性质（有序、特异、可迁移）去证明这套坐标在这些模型上确实读出了稳定的东西。这是个诚实的处理——它没有主张大五是模型人格的真实结构，只主张它是一把够用且可校准的尺。

作者自己划的范围很清楚，值得照抄一遍：两个 7–8B 开源模型、一种语言（英语）、一种微调方法。

几个我认为仍然开放的问题：

这几点合起来的意思是：现在可以把它当诊断工具用，还不能当保证用。