程浅 发自 凹非寺

AI的“情绪”也会影响工作状态？

最近，中科大、牛津等机构研究者让AI用情绪向量替代文本做技能选择，结果发现——

此前研究认为，LLM内部存在着与人类情感标签高度对应的计算模式。

允许AI识别这些“内心情绪”并由此做出行动，能大幅提高AI的工作能力……

包括不限于：好奇、渴望、乐观、困惑、紧张、恼怒。

△AI可提取的情绪表征

而当模型感知到这些情绪并以此作为自己行动依据时，任务将完成得更好……

允许AI不保持“情绪稳定”

此研究者发现：AI特定的情绪状态与特定的技能选择之间存在着连贯的配对关系。

何意味？

在实验中，研究者让AI去购物，这一过程中，Agent自动形成了四种可解释的配对模式：

实际上这件事在我们人类身上几乎是默认的，以至于很难察觉到：我们的情绪决定了我们接下来要做什么。

第一种：当Agent感到好奇且渴望时， 它会去自发搜索商品。

此时仍沉浸在购物的新鲜感和探索欲的满足之中。

第二种：当Agent感到困惑且紧张时，它会去自发查询重述。

当搜索结果不理想时Agent开始困惑不安，它选择换一些关键词重新提问。

第三种：当Agent觉得认可且乐观时，它会去自发确认购买。

此时Agent对自己挑的商品很满意，果断提交了订单。

第四种：当Agent终于失望且恼怒时，它会去自发去较为价格。

为了验证这些配对不是统计巧合，研究者抽取了200次技能选择事件，让AI独立判断每次配对是否在语义上连贯，结果表明一致性比例高达76.5%。

此时Agent在进行多次搜索后已经积累了大量的负面情绪，这时它会转向价格较为，试图货比三家。

接受“坏情绪”有助于提高任务成功率

在传统设计中，AI 犯错被视为一种需要被抑制或消除的异常。

但该研究指出，在那些需要频繁从失败中恢复的任务中，情绪的作用效果尤为显著。

所谓的“坏情绪”，如紧张、困惑、失望等，实际上是非常有用的元认知信号——

本研究中，研究者给AI布置了六类家务，其中“加热物品”和“拾取两个物品”的成功率十分之低，分别只有9.6%和4.4% 。

由于它们标志着当前策略与外部环境之间的失配，与其强行维持“情绪稳定”而忽略错误信号，不如让Agent直接去“感受”这种失配，从而触发针对性的恢复机制。

怎么做到的？

换句话说，情绪在此处是鲁棒性的来源，而非脆弱性的表现。

然而在使用情绪驱动技能选择（EMOTION2SKILL）后，该任务成功率大幅上升，竟然提升到了56.9%……而“拾取两个物品”也上升到了31.3%！

实际上这两类任务都有一个共同特征，那就是Agent只要去做，就几乎一定会犯错，而最终的成功仅取决于它能否在犯错后快速调整策略。

论文给了一个很直观的例子：让Agent“加热一个杯子并放到台面上”。

令人深思……

通常Agent做法是：导航到微波炉，执行“加热杯子”，将杯子递出去的时候收到反馈：“微波炉是关着的，任务失败。”

此时失败信号在错误行动之后出现。

而采用情绪驱动技能选择后，当Agent接近关着的微波炉时，情绪编码器率先检测到了它的“紧张”状态。

基于这种不安的情绪，Agent的路由被引导至“先检查”，再“打开微波炉” ，再“加热”的子序列，任务顺利完成。

论文的消融实验也证实了这一点，在所有任务类型中，“加热”和“捡两个东西”这两类任务激活频率最高的情绪模板分别是“挫败”（41%）和“困惑”（39%）。

重要就在于，如果只依赖外部文本和失败反馈，Agent往往要等到错误真正发生后，才知道应该换策略；而情绪信号则有机会在失败信号出现之前，提前捕捉到内部状态的变化。

换句话说，在这些情况下，坏情绪可能才是最有用的信号。

世界模型也开始用情绪做预测

通常，世界模型的任务是预测“接下来会发生什么”并据此行动。

其实，不只是Agent在技能选择上利用情绪信号，天津大学的研究将情绪直接嵌入了世界模型中（Large Emotional World Model, LEWM）。

传统的世界模型在面向以人为中心的环境时，往往陷入一种“物理还原论”的误区。

只要我们能够精准预测物体的位置、姿态及物理状态的演化，就可以理解并模拟人类环境。

然而在以人为中心的环境中，情感并非一种噪声，它是驱动人类行动与引发未来环境变化的关键内生因果变量。

就比如，开车追尾后，一个人瞬间产生的情绪可能最终使他安然无恙，或者遍体鳞伤。

△研究插图

第一步，预测未来的情绪状态；

LEWM由此将预测分成两步：

在其自建数据集上，该方法的准确率最高提升45.72%。

第二步，以预测出的情绪作为条件信号，引导对未来世界状态的预测。

该研究进一步通过消融实验发现：

从AI系统中移除情感资料后，性能下降不仅局限于情感理解等任务，更波及到了看似完全无关的逻辑推理与通用问答能力……

AI 的情绪正在变成一种可用的「功能」

实际上，这两个研究背后共享着一个更早些时候的发现：

LLM的内部，确实存在一些可以被“读出来”的情绪表征。

这来自于今年4月Anthropic的一次实验。

研究人员从Claude Sonnet 4.5的内部激活中，提取出了与GoEmotions 27类情感分类体系对齐的细粒度情绪方向，且这些方向因果性地影响Agent相关的行为输出。

△“小狗去世”带来的悲伤情感最大幅，而Loving存在于所有事件中

而现在，模型的内部状态正从纯粹的学术观察对象，转变为能够被提取、被利用、被整合进系统设计中的功能性信号。

在过去，研究者关注模型“是否有情绪”更多是出于对齐安全或哲学思辨的考量。

参考链接：

[1]https://arxiv.org/pdf/2608.09248

声明：本文来自量子位，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。