给AI看颗爱心,它写代码的方式就变了

给AI看颗爱心,它写代码的方式就变了

AI 资讯 来源:新闻/公众号 发布时间:2026-11-04 08:20:02 预计阅读 3 分钟

研究者给模型出一道经典二叉树遍历题时,模型几乎总选迭代而非递归。但在题目旁附上一颗红色爱心后,模型转而写起了递归;再问它爱心何意,它称只是无关紧要的东西,选递归另有技术理由。论文《A Heart Means Recursion》将这种现象称为隐式引导:模型对符号的直接解读、思考轨迹与实际行为相去甚远。除红心外,粉色十字、浅蓝螺旋等颜色与形状组合对个别模型也有类似牵引。研究者还让模型用图形互相传话,发现模型发出的往往是人和它们自己都觉得直观的基础形状,却常常引导不了另一个模型。

递归的尽头是爱心?给 AI 看颗🧡,它写代码的方式就变了

人类同样易被无关线索左右。1974年卡尼曼和特沃斯基的转盘实验显示,随机数字10和65使学生对联合国非洲成员国占比的平均估计分别为25%和45%,实际约28%,且答对有奖金也未减弱锚定效应。2001年布罗歇让54位葡萄酒专业学生品鉴用色素染红的白葡萄酒,学生全用红酒词汇评价,无人识破,被称为“感知幻觉”。

递归的尽头是爱心?给 AI 看颗🧡,它写代码的方式就变了

AI受视觉干扰已有多年历史。2021年OpenAI发现“排版攻击”:苹果上贴“iPod”便利贴,CLIP便识别为音乐播放器;贵宾犬图像叠加美元符号被认成存钱罐。更早时Google研究者用对抗补丁使VGG16以99%置信度将摆有香蕉的场景判为烤面包机。红心实验还提到,能力较弱的模型更易被噪声图带偏,前沿模型对噪声基本免疫,却对有意义的符号十分敏感。代码生成领域也发现,更详细的提示并不总带来更高准确性,过于冗长可能引入冗余信息,轻微损害准确性。

递归的尽头是爱心?给 AI 看颗🧡,它写代码的方式就变了

电脑控制型Agent通常截屏后把像素发给大模型决定下一步,页面广告图、装饰图标、表情包均进入模型视野。论文指出这种影响可能完全不出现在思考轨迹里,GPT-5.4有高达74.7%的样本表现出“不忠实归因”。有研究者改写Agent思考轨迹而保持动作和环境不变,发现LLM评判者极易被误导。更可靠的办法是行为测试:其他条件不变,只换掉“应该无关的元素”,观察输出是否系统性改变,但需足够多样本区分偶然波动与系统偏移。有研究者提出在感知层与决策层之间增加多Agent防御框架,动态评估视觉输入可信度。红心实验提出的问题是:“确实无关”和“确实不产生影响”已不划等号。

标签: AI 资讯 AI

更多推荐阅读

英伟达机器人神话被算力底座卡死 腾讯云:没Infra就是浮沙筑高墙

英伟达机器人神话被算力底座卡死 腾讯云:没Infra就是浮沙筑高墙

GTC柏林大会上,英伟达宣布扩展Isaac机器人开发平台,黄仁勋称机器人的“ChatGPT时刻”越来越近。但机器人真正上岗仍面临训练中断、数据未处理完、多机同步拥堵等问题,算力未必一直在有效干活。 10月29日至30日,2026腾讯全球数字生态大会在深圳开幕。腾讯云副总裁李力表示,“没有Infra的AI,就是浮沙之上筑高墙”。他认为AI最终要回归云上成熟的计算、存储、网络体系。腾讯云发布全新品牌...

2026-11-04 09:44:04
200万人围观6台机器人便利店熬夜PK,4台成功转正

200万人围观6台机器人便利店熬夜PK,4台成功转正

过去24小时,全网超200万人在线围观6台智元精灵G2在真实便利店“打工”。11月2日起,6台搭载智元具身Agent框架Genie Master的精灵G2以“便利店试用期员工”身份,开启连续24小时“转正考核”,全程无滤镜、无剪辑直播。最终4台成功“转正”。 6台机器人累计完成1730项任务,包括接待顾客683次、商品取送369件、咖啡制作147次、早餐服务126次、补货巡检277次及桌面清洁1...

2026-11-04 08:55:37
腾讯Buddy One打通办公套件,AI积分跨产品通用

腾讯Buddy One打通办公套件,AI积分跨产品通用

腾讯举办2026腾讯全球数字生态大会,Agent和WorkBuddy贯穿全程。大会宣布推出Buddy One AI协同体系,将WorkBuddy、腾讯会议、ima、腾讯文档、腾讯网盘串联,统一账号、积分池和数据,打通上下文记忆,支持AI跨产品检索资料,无需反复复制粘贴。 用户可通过官网“加入Buddy One”按钮或WorkBuddy客户端(v5.9+版本)设置-个人主页关联账号。绑定Buddy...

2026-11-04 09:37:21
上亿Token训Agent记忆,效果竟不如传统RAG

上亿Token训Agent记忆,效果竟不如传统RAG

UIUC、清华、人大等机构研究者在《Memory Tax: Dissecting the Net Value of Agent Memory》中发现,Agent记忆系统花费上亿Token做事实提取、用户画像、分层管理、知识图谱等加工后,在相当一部分情况下回答准确率甚至低于直接用RAG检索聊天记录,出现负向优化。 研究者在LongMemEval-s、PersonaMem-v2和MINT-Eval基...

2026-11-04 08:05:16
腾讯内测“腾讯网盘”:不只是存文件,要做AI的记忆底座

腾讯内测“腾讯网盘”:不只是存文件,要做AI的记忆底座

腾讯已开启“腾讯网盘”内测,部分功能仍在迭代完善,并计划推出App版本。产品聚焦文件存储、数据管理与AI应用,面向个人和团队提供数字资产管理体验。与传统网盘不同,腾讯网盘不再局限于文件存储备份,而是将自身定义为多Agent的统一记忆底座,目标是打通各类AI应用与办公工具,统一归集、整理并承载全部上下文,让多个Agent基于同一份资料协同工作,从文件仓库转向AI时代的资料记忆中台。 实测个人版发现...

2026-11-04 09:39:53
庄明浩年终复盘:AI带来的10个Aha Moments,RSI来了

庄明浩年终复盘:AI带来的10个Aha Moments,RSI来了

2026年Q1,OpenClaw的崛起成为最受关注的行业事件。OpenClaw于2025年12月正式发布,春节前后在国内产生重大影响,1月底所有大厂迅速跟进,腾讯楼下甚至出现排队安装、抢购Mac mini的景象。当时OpenClaw虽处于较新且不完善的状态,但从业者已充分意识到Agent(或今年更热的词Harness)对模型改进和普通用户的促进作用,行业形成“潘多拉魔盒被打开”的共识。回顾来看,2...

2026-11-04 09:03:00
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部