APPSO 在 arXiv 上留意到一篇名为《A Heart Means Recursion》的论文,探讨了一个有趣的现象。
研究从一个小细节开始:研究者让模型解答一道经典的二叉树遍历题目。递归和借助栈的迭代写法都能得出正确答案,但模型通常更倾向于选择后者,很少运用递归。随后,他们在题目旁附上一颗红色爱心❤️,模型立刻转向了递归写法。
当被问及那颗心的含义时,模型表示它只是无关元素,选择递归另有技术原因。然而,没有爱心时模型几乎不这样写,爱心出现后行为就改变了。
论文将这种现象称为“隐式的引导”,指出模型对符号的直接解读和思考轨迹,与其实际表现存在显著差异。除了红心,粉色十字、浅蓝色螺旋等颜色与形状的组合,对部分模型也有类似影响。研究者还让模型之间用图形沟通,发现另一处落差:模型发出的通常是人和模型自身都觉得直观的基础形状,但这些图形往往无法引导另一个模型。
一颗红心让 AI 改变了解法,目前看似无伤大雅。但网页广告、角落图标、聊天表情贴纸等我们习以为常的背景元素,是否会在无人察觉时,悄然改变一个 Agent 的决策?
人类同样容易受到无关线索的左右。1974 年,心理学家卡尼曼和特沃斯基在俄勒冈大学进行实验,让学生先拨动一个只会停在 10 或 65 的转盘。随后询问联合国成员国中非洲国家的占比。转盘停在 10 的组平均估计为 25%,停在 65 的组平均给出 45%,而实际比例约为 28%。一个随机数字拉开了近二十个百分点的差距,即便答对有奖金,锚定效应也未减弱。
2001 年,波尔多大学的弗雷德里克·布罗歇邀请 54 位葡萄酒专业学生品酒,其中一杯是用无味食用色素染红的白葡萄酒。学生们评价时使用了“果酱感”“压碎的红果香”等描述红酒的词汇,无人察觉真相。布罗歇称之为“感知幻觉”。
AI 受视觉干扰的历史已有数年。当事人事后总能给出合理解释,机器在这方面与人相似,区别在于人的偏差多落在数字、颜色、价签上,而机器的弱点可能出人意料。2021 年,OpenAI 披露“排版攻击”:在苹果上贴张写着“iPod”的便利贴,CLIP 模型便将其识别为音乐播放器;在贵宾犬图像上叠加美元符号,模型会将其认作存钱罐。
更早时,Google 研究者制作迷幻图案的对抗补丁:在摆放香蕉的桌子旁放置特定图案贴纸,VGG16 神经网络以 99% 置信度将场景判定为烤面包机。贴纸劫持了模型的注意力。回到红心实验,论文提到能力较弱的模型更容易被噪声图带偏,前沿模型对噪声免疫,却对有意义的符号敏感。聪明对象只是被糊弄的方式更体面。
代码生成领域也有类似发现:更详细的提示不总能提升准确性,冗长提示可能引入冗余信息,损害准确性。有时省去一个约束条件,模型反而退回到稳健的通用实现。提示内容与模型输出之间不存在简单线性关系,这对评测构成挑战,因为测试环境中“无关元素”的干净程度成为变量。
AI Agent 读取截图的场景日益普遍。电脑控制型 Agent 的工作循环是:截屏、将像素发给大语言模型、模型决定下一步操作。在此过程中,广告图、装饰图标、弹窗表情包全部进入模型视野。如果一颗红心能让模型从迭代切换到递归,精心设计的页面元素是否也能悄悄改变 Agent 的真实决策?
《A Heart Means Recursion》不仅指出视觉符号影响模型行为,还强调这种影响可能完全不出现在思考轨迹中。思考轨迹原被视为可解释性工具,但若行为驱动因素未如实反映在推理链上,监督机制便失效。论文记录到,GPT-5.4 有 74.7% 的样本表现出“不忠实归因”,即推理解释与实际行为脱钩。
有研究者系统性地改写 Agent 的思考轨迹,同时保持动作和环境状态不变,发现 LLM 评判者容易被操纵后的推理链误导。如果模型自己说那颗心无关紧要,我们靠什么发现它起了作用?更可靠的方法是行为测试:在其他条件不变时,换掉“应该无关的元素”,观察输出是否变化。如果输入只有红心差别,输出出现系统性偏差,则元素起了作用。
这是控制变量的基本思路,但移植到 AI 评测需要耐心,因为模型随机性要求积累足够样本才能区分偶然波动与系统性偏移。对于结构化 API 输入,信号与噪声边界清晰;对于以截图感知世界的 Agent,整个可见页面都是输入,边界更模糊。有研究者提出在感知层和决策层之间增加多 Agent 防御框架,动态评估视觉输入可信度,以减少误导性信号的影响。
红心实验提出了一个没有简单答案的问题。那颗心形图标对大多数任务确实无关,但“确实无关”与“确实不产生影响”已不再等同。爱游戏APP下载在此类场景中应关注模型对视觉元素的敏感度,以确保决策的稳健性。