重复即真相——大脑把“耳熟”算成“对”
重复怎么绕过你的判断系统,把熟悉感算成真
2026-10-17 · 02-心理学 · 认知心理学(判断一支)
事实分档图例
公认 51 教科书级共识或记载明确可核 推断 18 有依据但口径/解读有分歧 存疑 0 流传广但查不到可靠出处,或两说并列这份页面讲什么
一句假话,重复三遍,大脑就开始把它往“真”里算——哪怕你清楚地知道它是假的。知道,拦不住越来越信。
这不是比喻。1977 年以来,认知心理学把这件事做成了教科书级的效应,名字叫错觉真相效应(illusory truth effect):一个陈述被重复呈现之后,人们会给它打更高的“真值”分——跟它实际是真是假无关。假话重复之后涨的分,和真话重复之后涨的分,差不多多。顺带把剂量先说破:实验里“三遍”还高估了门槛——看一次就涨(s6),古人的“三”取的是整数,不是精确刻度。
这一页拆这台机器的三个零件:
- 发动机:大脑在“读得顺”和“是真的”之间装了一条短路——重复制造熟悉,熟悉制造流畅,流畅感被当成真值证据。这个过程在意识底下完成,你自己毫无感觉。
- 最反直觉的发现:知识防不住。实验里明明答得对“苏格兰人穿的短裙叫什么”的人,读过“莎丽是苏格兰人穿的一种短格纹裙”这种假句子之后,一样把它往真里挪。
- 最实用的推论:辟谣本身在给谣言做广告——先重复错误再纠正,等于替谣言又刷了一遍流畅度。怎么辟才对,是本页后半段的内容。
不写什么:“听熟了觉得好听”的单纯曝光效应(那是审美好恶那台机器,跟真值判断不同路,只在机制上有亲戚关系);说服研究的全景(中心路径/外周路径的双系统地图够单开一页);广告伦理评判——本页只负责拆机器,不负责骂用它的人。
座位:机制解释文第十三篇,认知心理学第二枝。上一枝《记忆是重绘不是回放》讲的是同一条通路的自传版——熟悉感被当成“我经历过”;这一篇讲它的判断版——熟悉感被当成“是真的”。两页合起来,是流畅性这条通道的完整现场。
两个现场:古人的观察与被重复五十万次的假名言
先看两段现场。第一段在两千三百年前。
《战国策·秦策二》记了一件事:曾参(就是那位以孝顺闻名的孔子学生)住在费地时,当地有个与他同名同姓的人杀了人。有人跑来告诉曾参的母亲:“曾参杀人了。”曾参的母亲正织着布,头也不抬:“我儿子不会杀人。”过了一会儿,又有人来说:“曾参杀人了。”她还是接着织。第三个跑来说“曾参杀人了”,她扔下梭子,翻墙跑了。公认(典故原文见《战国策》,成语“曾参杀人”的出处;讲的是春秋战国背景下的对话记录)
同一本《战国策》的《魏策二》里还有另一个版本,结论被压缩成一句更狠的话:魏国大臣庞葱(一作庞恭)出远门前问魏王——如果一个人说大街上有老虎,您信吗?魏王说不信。两个人说呢?魏王说将信将疑。三个人说呢?魏王说:“寡人信之矣。”庞葱总结:“夫市之无虎明矣,然而三人言而成虎。”公认(成语“三人成虎”的出处)
注意这两个故事的精确之处。曾参杀人,断点不在“母亲爱儿子”——前两次她说“我儿子不会杀人”,这份信任足够对抗单次的消息;它断在第三遍。重复次数,而非消息本身,是那根压垮信任的稻草。现代实验后来量出来的剂量曲线,跟古人的直觉惊人地合拍(本页 s6)。
第二段现场是当代的,而且更妙——因为它的主角是一句关于“重复”的名言。
“谎言重复千遍就是真理”——中文互联网把它叫“戈培尔效应”, attributed 给纳粹宣传部长戈培尔。这句话在英文世界至少有几十个变体,从“Repeat a lie often enough and it becomes the truth”到“如果你把一个大谎说得够大、重复得够多,人们早晚会信”。但这句名言查不到出处。纳粹宣传史研究者兰德尔·拜特沃克(Randall Bytwerk,卡尔文学院德国宣传档案馆创办人)考证:截至 2011 年底,这句话出现在约 50 万个网页和二十来本出版物上,没有一处给出原始文献——连书都没有,更别提戈培尔本人的讲话、文章或日记。维基语录的判定是 misattributed(错归于人)。公认(引语无可靠出处这一事实本身;两处独立考证一致:Bytwerk 的连载考据与维基语录条目)
有意思的是,最接近这个意思的原话出自希特勒《我的奋斗》第一卷第六章“战争宣传”:“宣传必须把自己限定在很少的几个点上,并把它们像口号一样反复重复”——这恰恰是一句被错安到戈培尔头上的话。公认(原句出处与错归过程可核)而戈培尔本人 1941 年的文章《丘吉尔的谎言工厂》里,反过来指责英国人的原则是“撒谎就撒大谎,然后死死咬住”。撒谎者不会公开宣布自己撒谎——这句常识在戈培尔身上同样成立。公认(原文可核)中文考据(文汇报“语录侦探”专栏引德国学者曼海默的考证)补了最后一刀:翻遍戈培尔日记等原始文献,他从未表达过“谎言-重复-真理”这个意思;最接近的一段是 1942 年 1 月 29 日的日记,说的是“宣传的真谛就是简单和重复”——承认手法,不承认谎言。推断(该专栏转引二手学术考证,原始德文日记本任务未核)
把两段现场叠起来看:一个流传极广、人人挂在嘴边、用来警示“重复的威力”的句子,自己就是被重复出来的假货。这句假名言能被 50 万人当真,靠的不是戈培尔说过它——而是它被重复得足够多。“重复即真相”这条心理学规律,自己完成了对自己的现场演示。它甚至比实验更适合当第一课:效应不挑对象,名言、谣言、成语、广告,一视同仁。
古人的观察停在故事层面——曾参的母亲、魏王,都是个案,而且你没法排除“第三个报信的人也许说得更急”这类干扰。1977 年,心理学家把这事儿搬进了实验室,第一次拿到了干净的剂量-反应数据。
1977,实验室里的第一组数据
1977 年,琳·哈舍(Lynn Hasher)、戴维·戈德斯坦(David Goldstein)与托马斯·托皮诺(Thomas Toppino)在《言语学习与言语行为杂志》(Journal of Verbal Learning and Verbal Behavior)上发表了第一组系统实验。公认(原始文献明确可核;该效应的起点研究,后续综述均以此立论)设计不复杂,但每一处都是冲着“古人的观察没法验证”去的:
- 材料:60 条听起来像百科知识的陈述,一半真一半假,全部刻意挑选普通人拿不准的——你既没法当场确认,也没法当场否掉。曾参母亲那种“我儿子我清楚”的强先验,被设计挡在门外。原文拿“格陵兰的总人口约 5 万人”说明什么叫“听得可信”:这句在实验当年恰好是真的(1977 年格陵兰人口约 4.98 万),但你没法当场分辨——可信的意思就在这,可信不等于真,只等于没人能立刻否掉。公认(例句与人口数:原文引言只拿它作“可信”示例未标真假;人口为联合国口径)
- 重复安排:三次实验隔两周各来一次,每次 60 条里只有 20 条是三次都出现的老面孔,其余 40 条每轮换新。这样“见过几次”就被拆成了 1 次、2 次、3 次三个剂量组,跟药理实验一个思路。
- 测量:每听完一条,在 7 点量表上打分——7 是“肯定真”,1 是“肯定假”,4 是“说不准”。
结果:被重复的陈述,真值分一路爬升——重复组整体从第一次会话的 4.35 爬到第三次约 4.7,其中假陈述从 4.18 爬到约 4.7,涨了约半分;“每轮都换新”的对照陈述停在 4.25 上下、还略有下滑。公认(原始报告数据表;涨幅“约半分”专指假句,重复组整体涨约 0.35)更扎心的是拆开真假来看:假陈述重复之后涨的分,和真陈述涨的分没有实质差别——重复根本不区分内容真假,它只认“这张脸我见过”。同一批被试,对真句子和假句子用的是同一套“耳熟=靠谱”的加法。
三项后续工作把这个结果从“单一实验”加固成了“效应”:
- 换人群:格尔德·吉仁泽(Gerd Gigerenzer,后来以“启发式也可以是理性”的立场出名)1984 年从慕尼黑郊区施瓦宾社区的电话簿随机抽样,请居民在家里做同款任务——不是大学生、不是实验室、不在镜头前,结果不变。公认(原始实验可核:电话簿抽样、上门施测)
- 换研究者:1989 年阿克斯(Arkes)等人的独立复制再次命中。公认(效应综述惯例引用)
- 换说法:被试被明确告知“有些句子是假的,重复不能当真值用”,重复效应照样发生——警告拦不住,这是后续复制系列里反复出现的结果。公认(后续复制系列的一部分)
再往后是元分析的量级确认:德谢讷(Dechêne)等人 2010 年汇集 51 项研究,效应量按呈现方式分两档——组内设计 d = 0.39,组间设计 d = 0.50。按心理学常用标尺,这是中等偏小的量级,但它是拿重复就能稳定复现的中等偏小,五十年里没有哪次大规模检验把它翻掉。两条自我限定一并记上:这项元分析里近半研究的方差靠插补补齐(原文自己承认,后来的研究者因此改做系统图谱而非再合并);2010 年之后样本还在涨——截至近年的汇总,研究超过 180 项、被试超过 3 万人,校正后的效应量仍落在 0.3—0.5 区间。推断(2026 年元分析与插补占比依据转述材料,本页未逐一核对原文,取区间口径而非单值)
这里必须先把剂量摆正,免得把效应读成“洗脑术”:g = 0.3—0.5 的意思是,重复把平均判断往“真”的方向推一把,不是掀翻。哈舍实验里那句 4.2→4.7,起点离“说不准”4 分很近,涨完之后也只到 4.7——离“肯定真”的 7 分还远得很。后来 BBC 专栏作者、谢菲尔德大学的汤姆·斯塔福德(Tom Stafford)提醒过一个更硬的读法:法齐奥(Fazio)团队 2015 年的原始数据里,对真值影响最大的变量仍然是句子本身的真假——重复是斜率上的小偷,不是方向盘的劫匪。公认(对原始效应量级与真假主效应的解读,属研究者共识层面)记住这个量级,本页后面的内容才不会被读歪。
流畅性:这台机器的短路原理
重复推高真值,靠的不是“多听一遍多一分说服力”这种内容层面的积累——句子一个字都没变,论据一个都没加。变的只有一件事:大脑处理这句话的容易程度。认知心理学给它起了个名字,处理流畅性(processing fluency):一段信息被加工得越省力,产生的“顺滑感”就越强。公认(概念本身是判断与决策领域的教科书内容,见 Alter 与 Oppenheimer 2009 年对流畅性研究的综述)
重复为什么必然制造流畅?因为编码通路已经走过一遍。第一次读“锂是最轻的金属”,大脑要完成整条加工链:识别字词、提取概念、理解句子结构。第二次遇到同一句,这条链上的每一段都有现成的痕迹可以借力——再认更快、提取更顺、整句话“滑”进意识。这种省力是自动的,不需要你努力回忆“我之前见过吗”,流畅感自己就冒出来了。公认(机制层面属学界主流解释,实证见 Fazio 等人 2015 年系列实验与多项神经成像研究)
问题出在下一步。流畅感本身没有标签——它只是大脑里一个“加工顺利”的信号,不注明“我为什么这么顺”。认知心理学家惠特尔西(Whittlesea)与威廉姆斯(Williams)2000 年前后的一系列实验揭示了这个信号的归宿:大脑会替它找一个当下的、说得通的解释。在同一间屋里,这份顺滑可以被归因给“这句好懂”,也可以被归因给“这话听着耳熟”,甚至可以归因给灯光心情——取决于当下哪条解释最顺手。公认(discrepancy attribution 理论,原文可核)而当语境是“判断这句话真不真”,流畅感就近水楼台地被记到了真值头上:读得顺 ≈ 耳熟 ≈ 见过 ≈ 大家都在说 ≈ 是真的。这条压缩链每一步都不严格,但它快——比“提取知识、比对事实”那条路快得多。
把这台机器按在实验里检验的办法,法齐奥团队做过不止一次,但最直白的一组证据甚至不需要重复——只需要让句子变得好读。这是下一节的事。
押韵与好读:同一台机器的另两种触发
如果“重复→流畅→真”这条链是真的,那么不需要重复、只要让句子变好处理的任何操作,都应该推高真值。这个预测被两条独立的路线验证了。
第一条路动视觉。1999 年,雷伯(Reber)与施瓦茨(Schwarz)让被试判断一组陈述的真假,句子内容不动,只动显示方式:一半句子用深底浅字、对比度低的方式呈现(读着费劲),一半用浅底深字、清清楚楚(读着省力)。结果读着省力的那半被打了更高的真值分。公认(原始实验可核,是感知流畅性影响真值判断的代表性研究)内容一个字没变,变的只是“好不好读”——流畅性直接换算成了真值。
第二条路动声音。2000 年,麦克龙(McGlone)与托菲巴赫什(Tofighbakhsh)在《心理科学》(Psychological Science)上发表了一组后来被叫作“押韵即有理”(rhyme-as-reason)的实验。他们拿陌生的格言做材料,每句都有原版(押韵)和同义改写版(不押韵):
- 原版:“What sobriety conceals, alcohol reveals.”(清醒所藏,酒精显形——押韵)
- 改写:“What sobriety conceals, alcohol unmasks.”(同一个意思——不押韵)
被试给每句格言打“像不像对人类行为的准确描述”。结果:押韵版被判定为更准——意思完全相同的两句话,仅仅因为押韵就多拿了真值分。公认(原始文献明确,标题就叫 “Birds of a feather flock conjointly (?)”;效应名称取自济慈“美即真”的典故,学界叫它 Keats 启发式)论文作者对机制的解释写得很白:押韵和重复一样,给陈述提供了一份额外的加工流畅性,然后这份流畅被错误地归因成了对内容真确性的信念。公认(摘要原文)
这篇论文还留了一个重要的尾巴:当被试被提前提醒“请注意区分格言的诗意形式和语义内容”之后,押韵优势明显缩小(attenuated)。注意措辞——是缩小,不是消失。公认(摘要原文)流畅性短路这台机器怕监督,但监督得专门、及时、有针对性才起作用;泛泛的“别轻信”拦不住它。这跟 s9 解药一节的“主动核查有效”是同一条规律的两侧。
广告行业对这台机器的用法不需要实验来教。中文语境里最典型的是十几年如一日的重复投放——同一句广告语在同一个频道、同一个位置重复成千上万次,诉求从“介绍产品”退化成纯重复。脑白金那句“今年过节不收礼,收礼只收脑白金”是行业公认的极端样本:句内自带重复(收礼……收礼),句外自带高频重复,播出量以十万次计。推断(广告语内容与投放规模是公开事实,但“它多有效”没法干净归因——广告的实际效果混着渠道、定价与渠道铺货,本页只取“大规模重复投放是行业常态”这一层,不做效果断言)顺带一提,押韵在广告语里同样泛滥——“钻石恒久远,一颗永流传”“农夫山泉有点甜”,格式全是同一台机器的触发器。推断(文案行业惯例属常识级,未单独立证)
知识防不住:知道答案还是越来越信
哈舍 1977 年的实验刻意挑了“拿不准”的句子,这留下一个体面的假设:效应大概只对知识盲区有效——你不知道锂是什么,才会上“耳熟”的当;凡是心里装着正确答案的句子,重复该无能为力。这个假设在 2015 年被正面击破。
法齐奥(Lisa Fazio)、布拉希尔(Nadia Brashier)、佩恩(Keith Payne)与马什(Elizabeth Marsh)当年发表在《实验心理学杂志:总论》(Journal of Experimental Psychology: General)上的论文,标题就是判决书:《知识防不住错觉真相》(Knowledge does not protect against illusory truth)。公认(原始文献明确,系列共六个实验)标志性实验这样设计:
- 材料里有直接反驳常识的假句子,比如“莎丽(sari)是苏格兰人穿的一种短格纹裙”——真正的莎丽是印度服饰,苏格兰短裙叫 kilt。任何一个受过基本教育的人都会划掉这句。
- 被试先读一批句子(真假混杂,一部分读两遍),然后给每句打真值分(1—6 量表,或直接二分“真/假”)。
- 关键一步:最后做一整套知识测试,逐题确认“这句话对应的知识你到底有没有”——比如“苏格兰人穿的那种短格纹裙叫什么?太平洋 / 大西洋 / 不知道”。
结果:在被试答对了知识测试的那些条目上,重复仍然推高真值——读过两遍的假句子,比只读一遍的假句子,被评为“更真”。知识在脑子里,答案拿得出手,重复照样把它往上推。公认(原始数据;知识测试与真值评分逐条配对分析)
团队用多项式加工树模型把数据拆开,找到了病灶的名字:知识忽视(knowledge neglect)——知识不是不在场,而是没被调用。判断“莎丽是苏格兰短裙”时,大脑先收到流畅感的报价:“耳熟,顺,大概率真”,然后知识检索那条慢通道还没跑完,判断已经交付了。知识的储存是免费的,检索是要花力气的——而流畅感恰好在检索完成之前就把结论填好了。公认(模型分析结论,原文可核)
两个必须贴在页边的限定,防止把这个结果读成“知识无用论”:
- 效应在“已知”条目上比在“未知”条目上小。知识拖住了重复的后腿,只是没拖死。原论文自己就是这么报的。公认(原文结论)
- 真假仍是最强预测因子。整个 2015 年系列里,判断真假的头号变量从头到尾是“这句话实际是不是真的”——重复只是在真假信号之上叠了一层小得多的熟悉感信号。斯塔福德在 BBC 评述里把这个量级关系讲得很直白:如果重复真能把假话洗成真话,宣传家就不需要其他一切说服技术了。公认(对原始数据的解读,属领域共识)
换句话说,这台机器的真实威力不是“翻转”——把知道真的人变成信假的;而是“侵蚀”——在你知识松动、注意缺席、情绪上头的那些边缘地带,重复替假话捡到的每一分真值,都是零成本的。顺带一提,“维生素C治感冒”这类错误观念的流行,法齐奥团队在论文开头点名过:重复,正是这类误区进入大众知识库的方式之一。公认(论文引言原文提及)
剂量:一次就够,一周还在
实验室里用的是“专业句子”——百科知识、格言。2016 年美国大选之后,彭尼库克(Gordon Pennycook)、坎农(Tyrone Cannon)与兰德(David Rand)把材料换成了真实的假新闻标题——那种完全由人编造、在 Facebook 上按原样传播的党派假新闻,连标题排版都照搬 Facebook 的样子。公认(原始文献:Journal of Experimental Psychology: General,2018 年,147 卷 12 期)
实验发现四件事,一件比一件扎手:
- 看一次就够。熟悉化阶段看过一遍的假标题,评估阶段的准确度评分显著高于第一次见的假标题——单次曝光,无需重复三遍,剂量门槛低到没有。公认(原文摘要:“even a single exposure”)
- 一周还在。一周后召回被试补测,重复效应仍在。公认(原文摘要)
- 警告拦不住。实验给一部分标题挂上了“第三方事实核查机构对此有争议”(Disputed by 3rd Party Fact-Checkers)的红色警告——正是 Facebook 当时实际采用的干预。警告确实把整体评分往下压了一点,但重复效应原样发生,一点没被削弱。看到“有争议”标签的那部分人,对自己见过两遍的假标题照样加分。公认(原文摘要与图表;作者由此推断“打争议标签不是解法”)
- 立场救不了。把假新闻按政治立场分组,与自己立场相左的假标题,重复效应照样出现——你本来就倾向于不信它,见过一遍之后还是多信了一分。公认(原文摘要)
单个标题上的量级可以拿一个样本感受:那句“特朗普将下令封杀所有宣扬同性恋内容的电视节目,从《嘻哈帝国》开始”,首次曝光只有约 5% 的被试评为“准确”,看过一遍之后再评,比例翻了一倍(约 10%)。推断(数值出自论文预印本的转引,本页未核对正式版原文;方向与幅度在多个二手来源一致)整体上,假标题整体可信度本来就低——被试总体上是怀疑的、也基本能分辨真假的——重复不是让人变傻,是让那道“不太信”的闸门漏一点水。
剂量-反应的完整形状,来自两组后续研究。一是次数:哈桑与巴伯(Hassan & Barber)2021 年的两个实验,一个把句子看 1、3、5、7、9 次,一个看 1、9、18、27 次,都是一周后测——真值分随次数单调上升、形状接近对数曲线,最大的涨幅出现在第二次遇见;另有单一来源转述“9 次之后增长不再显著”。推断(单调上升与“第二次遇见涨幅最大”有原文摘要支持;拐点值仅见单一来源转述,取趋势不取拐点)二是时间:一项注册在案的纵向研究(600 余人)在曝光后立即、一天、一周、一个月四个时点重测,重复句与全新句的真值差距依次为 0.68、0.39、0.27、0.14(量表分)——效应衰减,但一个月后仍可测到。推断(数值出自对注册报告的转述,本页未核对原始注册文本;衰减方向在多个来源一致)
把两组曲线合起来读,会得到一条对传播者的坏消息:伤害发生在早几次——第一次见面涨得最多,之后边际递减;而衰减是慢的,一个月后才退到小头。这意味着一条谣言进入你的信息流,哪怕你当时没信、划走了,它也已经在你的真值账户里存进了一笔余额。推断(“账户”是比喻性外推:剂量曲线量的是同一句话的重复,跨版本转述的叠加与长期规模是机制推论,见 s10 卡三)下一次有人在群里转同一句,每一遍都在续存——至少“复述谣言原文”式的辟谣帖也在续存,这一点 s8 有实验支撑;至于把谣言点名拆透的更正是否也帮倒忙,学界仍在争论,别把话说死。
两道真正的闸门
讲了这么多坏消息,该盘一盘这台机器的边界了。实验数据里能找到两道真正拦得住它的闸门,外加一个让人清醒的发现。
闸门一:极端荒谬。彭尼库克 2018 年那批假新闻里混了一类对照——“地球是一个完美的正方形”这种彻底超出可信范围的陈述。重复对它们完全无效。但研究者紧接着补了一句更重要的结论:只要陈述还剩一点可信度(a small degree of potential plausibility),重复就开始起效——所以效应的适用范围比想象中大得多。公认(原文摘要原话)这跟日常经验对得上:谣言从来不是“完全不可能”的句子,它是“恰好卡在你知识盲区边上”的句子——曾参的母亲不是逻辑差,是第三遍报信恰好落在“万一呢”的缝里。
闸门二:强信念。效应推不动的是那种强烈、情感上重要、随时能提取的信念——你不会因为多听几遍“地球是平的”就放弃几何课。判断研究的通行框架(布拉希尔与马什 2020 年在《心理学年鉴》的综述把它总结为三源:基率、感受、与已有知识的一致性)给了解释:当信念足够强时,“与我所知一致吗”这条检查通道会被可靠地触发,流畅感被当场否决。推断(框架本身是综述级共识;“强信念掀不动”这一条是研究者对边界条件的通行表述,具体量级没有单值来源)注意这和 s5 的“知识防不住”不矛盾——防不住的是知识测试里答得对的冷知识;防得住的是日常反复使用、情感卷入的热信念。冷知识是“知道”,热信念是“立场”;这台机器偷的是前者。
然后是那个清醒的发现:聪明人并不免疫。德·基尔斯迈克(De Keersmaecker)等人 2018 年直接检验了“认知能力强的人是不是不容易中招”——结果是:认知风格与能力不调节重复效应的大小,高分析思维者被重复推高的幅度跟其他人没有实质差别。公认(原始研究结论,多篇后续文献转引)更细的拆法来自彭尼库克与兰德的另一条研究线:分析思维水平影响的是“你整体上信不信假新闻”(深思的人平均更怀疑,判断准确率更高),但重复效应本身在谁身上都照转不误。两件事要分开:聪明防的是“第一次就信”,防不住“第二遍更信一点”。推断(区分性表述综合自两条研究线的转述,不是单一论文原文的结论)
最后一道半闸门,是唯一听话的:监督本身。当被试被明确要求“评估这条信息的准确性”时,重复效应大幅缩小——把慢通道强行拉上线,流畅感就失去垄断。推断(后续“准确性提示”(accuracy prompt)干预研究系的通行结论,转述自综述与科普材料;效应量级未单列)说它是“半道闸门”,因为它要求你当时、当场、主动拉开检查——而 s8 马上会讲,你等着看的“辟谣”反而经常在给机器喂料。
辟谣悖论:纠正为什么给谣言做广告
到现在为止,本页的坏消息都还是被动的——谣言传到你面前,你多信了一分。这一节讲主动操作的翻车现场:辟谣本身是重复。任何一条辟谣帖,结构上都是“错误信息 + 纠正”,读者每读一次,谣言内容就被再呈现一次、流畅度再涨一次。这不是抬杠,它有一个正式的名字:辟谣悖论(retraction paradox)——纠正必须重复错误才能指出错误,而重复正是错误涨真值的方式。公认(施瓦茨等 2007 年在《实验社会心理学进展》的综述对 retraction paradox 的系统讨论,后续辟谣研究均绕不开这层结构)
比“涨流畅度”更深一层的麻烦,是琼森与赛弗特(Johnson & Seifert)1994 年那组奠基实验抓到的。被试读一份连续发来的事故快报:一座仓库失火,早先的快报暗示起因是库房里存放的油彩和加压气罐(疏忽储存)。几条快报之后,一部分被试收到更正:储藏室其实是空的,根本没有那些东西。读完做两组题:公认(原始实验,持续影响效应的奠基研究)
- 直接问:“报告里有没有提到油彩和气罐?”——绝大多数人答对:“没有,后来更正了。”记忆没毛病,更正看进去了。
- 推理问:“火为什么蔓延得那么快?”——相当多的人开始引用油彩和气罐作答。
同一个人,前一组题里承认“没有那些东西”,后一组题里拿着那些东西当解释。这个现象被命名为持续影响效应(continued influence effect):被更正过的错误信息,在你需要推理的时候照用不误。公认(概念与实验均明确;后续综述见莱万多夫斯基等人 2012 年《公共利益中的心理科学》长文)解释它的主流叫“心理模型假说”:人脑理解一个事件要靠一张因果图,把“油彩气罐”抽走后,图上留下一个因果空位——大脑宁可要一张完整但错的图,不要一张正确但有洞的图。空位悬着难受,于是旧信息悄悄填回去。公认(mental model 假说是该领域主流解释框架)
更狠的版本来自赛弗特团队的后续实验(与布什合作,发表形式是赛弗特 2002 年的书章):他们试了一种“强化否认”——更正时把话说死:“油彩和气罐从未在库房里出现过。”按直觉这是最结实的辟谣。结果引用错误信息的次数不降反升。公认(“强化否认适得其反(backfired)”在持续影响效应的旗舰综述里有原文引述;该跟进工作的公开发表形式为书章,日期与会议版本不可考)道理拆开看很清楚:这句更正自己把“油彩和气罐”又完整地说了一遍,还加码渲染——流畅度+2,模型照旧没填。辟谣的诚意越足、修辞越用力,喂给流畅性机器的料就越多。
现实里的对应物不难找。典型的低效辟谣长这样:“网传‘吃 XX 致癌’为谣言”——标题里把谣言完整复述一遍,正文里只说“经查不实”,不给“那实际会发生什么”。读者读完记住的是更耳熟的“吃 XX 致癌”。反之,高效的纠正必须回答那个被谣言占住的问题本身——麻腮风疫苗与自闭症的争论之所以退潮缓慢,综述里给过机制侧的批注:在“那到底什么导致自闭症”这个问题上,公开传播层面长期没有拿得出手的替代答案,空洞就一直敞着。推断(该案例的机制归因转述自 Ecker/Lewandowsky 系研究的讨论段;社会事实层面复杂,本页只取机制侧批注,不对整个公共卫生事件做叙述)
把这一节的结论说公平:辟谣悖论不是说“辟谣无用”,是说“辟谣是一种工艺”。否认必须有,但否认只是拆——拆完得有人盖。“谣言 + 替代解释”的组合能把持续影响压到很小,但要求辟谣者手里真有一个简单、好记、能被转述的答案。答案是“我们要进一步研究”的辟谣,等于把洞留给谣言填。
解药:接种
辟谣是事后拆弹,还有一条事前的路。它的思路直接抄了医学:对付病毒,靠的不是感染后抢救,是提前注射一针弱化版的病毒,让免疫系统先认一遍脸。这个想法在心理学里的名字叫接种理论(inoculation theory),1960 年代由麦圭尔(McGuire)提出,沉寂几十年后,被剑桥的范德林登(Sander van der Linden)团队在假新闻时代捡了回来。公认(理论谱系明确;McGuire 原始工作与 van der Linden 的现代应用均有据可查)
2017 年发表在《Global Challenges》的那组实验,材料是当时最具政治热度的题目——气候变化。公认(原始文献明确,样本 2000 余人,美国全国代表性样本)流程被设计成一场攻防演练:
- 先给事实:告知“97% 的气候科学家认同人类活动导致全球变暖”,被试对科学共识的估计平均上抬约 20 个百分点。
- 再给谣言:展示“俄勒冈请愿项目”——一份声称“超过 31,000 名美国科学家签名否认人类致暖”的网站截图。看过这个之后,之前 20 个百分点的涨幅被整体抹平,观点退回起点。
- 关键组——先接种:在事实与谣言之间,先打一针。一般针剂是一句警告:“一些有政治与资金动机的团体,会故意用误导手法让你相信科学家之间存在严重分歧”。详细针剂则直接拆穿请愿网站:签名名单里有伪造的名字——查尔斯·达尔文(去世一百多年)、辣妹组合成员,有气候科学背景的签名者不到 1%。
结果:只打一般针,谣言之后观点仍保留约 6.5 个百分点的净涨幅;一般针加详细针,保留接近 13 个百分点——约等于没有谣言时那 20 个百分点的三分之二。而且效果在共和党、独立选民、民主党三组人身上方向一致,没有出现“越劝越反弹”的逆火。公认(数值与结论来自原文与剑桥官方新闻稿,两源一致)机制上这正是本页前面所有内容的镜像:谣言的武器是流畅与策略,接种把策略本身提前暴露——你先见过“31,000 名科学家签名”这种手法长什么样,第二眼再看到它,慢通道就被点名了。
后来这条路线做成了产品:2018 年上线的网页游戏《Bad News》让玩家扮演假新闻制造者——亲手用假账号、情感操纵、阴谋论、冒充官方这套组合拳去涨粉。逻辑还是接种:把谣言的手法拆成弱化剂量提前暴露。2020 年发表的对照实验显示,玩 15 分钟《Bad News》的被试,在随后 18 条虚构推文里识别操纵手法的能力显著好于玩俄罗斯方块的控制组。公认(实验结论明确;游戏与论文均公开可查)同类的还有“Harmony Square”“Cranky Uncle”等一批接种游戏,用户量以百万计。推断(用户规模来自媒体转述,未核运营方原始数据)
接种这一节和 s8 的辟谣工艺并不重复,它们各管一段:接种管“还没接触时”(提前认识手法,降低第一遍的入驻率),替代解释管“已经接触后”(填因果洞,压持续影响)。两条都用上的辟谣,才算把 s8 那张图从“甲乙”走到了“丙”的完整版。
学界在吵什么:三张争论卡
卡一 · 效应这么小,值得当回事吗
反方:g = 0.3—0.5 是中等偏小的量级,且真假本身始终是最强预测因子——实验里被试总体分得清真假的。如果重复真有洗脑之效,宣传家就不需要一切别的技术了(斯塔福德在 BBC 的评述把这个反驳讲得最直白)。单次重复在单个判断上挪动的分数,小到不值得恐慌。公认(对效应量级与“真假主效应”的解读,属领域共识)正方:实验量的是“几次重复、单次判断”;现实是无限重复环境——信息流里同一句话以不同措辞出现几十次,且每次转发的“别人也在说”本身就是二次流畅源。微小斜率 × 海量曝光,乘出来的总量不小;何况效应偏向在知识边缘、注意力缺席处生效——它不跟你正面对线,专挑岗哨空缺时进门。推断(“现实环境放大”的论证是研究者讨论段的通行表述,无单值来源)本库判据:两方都对——把效应读成“洗脑术”是错的,读成“无所谓”也是错的;正确的量级感是“重复是斜率上的小偷”,长期复利式地挪动平均判断。
卡二 · 流畅性是缺陷,还是被用坏了的好零件
正方(缺陷论):把“读得顺”当真值证据,是系统层面的误判,知识忽视的存在说明这台机器会压过明知的事实。公认(现象层无争议)反方(生态论):翁克尔巴赫(Unkelbach)与罗姆(Rom)2017 年在《心理学评论》(Psychological Review)提出参照真值理论(referential theory):在自然信息环境里,被重复的陈述确实更可能是真的——真话被说得更多,因为说真话不用换说法。流畅性利用的是一条统计上成立的线索,平时它是省力且大体准的启发式。公认(理论存在且为该问题的主要理论方案之一;对“线索平时有效”的表述为该理论核心主张)本库判据:问题不在零件,在环境。线索“重复≈真”的可靠度取决于信息生态——当复读机、水军、跨群转发把“重复”与“真实”的相关人为切断时,一个平时好用的零件就变成了漏洞。这跟《柠檬市场》讲“价格作为质量信号平时有用、在柠檬市场失灵”是同一种结构:机制没有善恶,环境的污染决定它是尺子还是陷阱。
卡三 · 实验室的简化,推得到现实吗
质疑:经典实验材料是单句、陌生、无来源的知识陈述,判断情境干净得像手术室;现实判断带着来源、上下文、情绪、群体认同,实验室结论外推要打折。推断(外部效度质疑是方法学讨论的常规项,非特定论战)回应:2018 年之后的研究线专门补了这一层——彭尼库克系列直接用真实假新闻标题、真实平台排版,效应稳在;接种实验用的是真实政治议题与真实请愿网站。但确实有一块仍是空白:单次会话内的真值评分,离“长期信念固化”还有距离——现实里重复的长期后果(几年尺度)主要靠推断。推断(“长期后果缺长程数据”的表述综合自综述讨论)本库判据:现象本身(重复→更真)是五十年、一百多项研究、三万余名被试撑住的硬结论;拿不准的只是它的现实长期规模。本页凡是向现实外推的段落,都相应挂了推断档。
随身四问
这台机器的特点是全程在意识之下运行——你不会觉得“我因为耳熟才信它”,你只会觉得“这话听着就是对的”。所以对付它只能靠外置的检查工序。四问,按使用场景排:
- 一问:我信它,是因为有证据,还是因为耳熟?把两个账户拆开对账——“我看过很多次”是流畅账户,“来源可靠、逻辑成立”是证据账户。流畅账户的余额一分都不算数;能当场说出原始出处,才准记入证据账户。这一问打的是归因错误:把“顺”记到“真”头上。
- 二问:这是我第几遍见它?如果你答不出来,那基本说明已经不止一遍了——重复越多越不会留痕,只留耳熟。评估任何说法时,先把它降回“第一次见”的状态:假装头一回听,你还信吗?这一问打的是剂量曲线:大半涨幅发生在早几次。
- 三问:我在辟谣,还是在复读?转发辟谣帖之前看一眼标题——如果标题把谣言原文完整复述了(“网传 XX 致癌系谣言”),你转发的动作就在替谣言续流畅度。要么改写成不含谣言原文的版本(“XX 不致癌;相关研究结论是 XX”),要么带上你的替代解释再转。这一问打的是辟谣悖论。
- 四问:换个马甲我还认得它吗?实验室里重复是同一句话;现实里的重复是换皮——同一主张换数字、换案例、换讲述人,流畅度照涨。识别“这说法我好像在哪见过”的那点余光值得放大:追的不是字面,是骨架。这一问打的是跨版本重复。
三条补充动作,各配一条理由:
- 来源和内容分开记账。不可靠来源说过的错话,过些日子会带着“耳熟”单独存活——来源记忆比内容记忆掉得快,这是实验里抓到的(1992 年那组“来源被标为不可靠,隔天再测重复的照样更真”的发现)。公认(Begg、Anas 与 Farinacci 1992,主结论原文可核;具体延迟档位各来源转述不一,本页不落单值)对策是把“在哪看到的”单独存一份:内容耳熟时,先调来源档案。
- 转之前的五秒,是真的有用了。“被要求评估准确性时效应缩小”这条实验结论的个人版:把一次机械的转发改写成一次主动的评估,慢通道就上线了。推断(准确性提示干预的推论,量级未单列)
- 对自己最常用的说法也要留怀疑席位。你自己重复过的观点——写过的、争论里说过的——在你自己的耳朵里流畅度最高。人给自己洗脑的效率,比别人高得多。推断(机制推论:自我复述同样喂流畅账户;无直接实验单列)
接线:这一页在库里挂哪
同科·认知心理学内部:本页与《记忆是重绘不是回放》是同一条流畅性通路的两个出口——那页讲自传层:熟悉被当成“我经历过”,想象膨胀靠的就是“编一遍比查一遍顺”;本页讲判断层:熟悉被当成“是真的”。两台病症共用一个病灶(流畅感无标签、归因看语境),所以两页的解法也同构:把“耳熟”从证据栏里划出去。记忆页 s9 的三张争论卡用上了《心理学是什么》方法工具箱的效应量与可重复性危机两把尺——本页顺带提供一个反例标杆:错觉真相效应五十年、一百多项研究复制稳定,是“心理效应也会被全面翻案”这件常事里少见的例外。《心理学是什么》的三个底层视角里,本页落在“机制”视角——判断过程的零件级拆解。
跨科·金融学:《思考,快与慢》讲页立过双系统与流畅性的底——“再认的放松感”那条通道在本页被拍到作案现场:真值判断是它最常用的作案对象之一。另一笔是欠账:《柠檬市场》s8 点名过本页(原话大意:真信息差与被制造的假信息,一个是信息不够,一个是信息有毒)——两页合起来是信息失灵的完整家族:柠檬市场拆“信息不够”怎么绞死市场,本页拆“信息被重复污染”怎么悄悄改写你的判断;连 s10 卡二的“线索平时好用、环境被污染时失灵”都是同一副结构。
跨科·历史学:《严嵩》拆的“奸臣”标签五层史料层累,心理引擎在本页——后一层转写者每复述一次指控,就给标签刷一遍流畅度;到第五层,“奸臣”二字已经耳熟到不需要证据。层累说的完整工艺链是“史料层累(那页)+ 重绘机制(记忆页)+ 流畅性加成(本页)”三页接力。
跨科·社会学:《文凭通胀》讲军备竞赛,本页补它的一条传声筒——“学历越读越贬值”这类叙事本身也是靠重复流通的;判断叙事与判断策略,两页各管一段。
一句话座位:库里已有一批“个体理性怎么出错”的页面(柠檬、诅咒、挤兑),本页补的是其中最安静的一台——它不出事故、不上新闻,只在你划走每一条消息时,往你的真值账户里存进一笔笔不打算提现的余额。
十句话
- 重复会推高一个陈述的“真值”评分,跟它实际是真是假无关——假话重复后涨的分,和真话一样多。
- 机器的零件叫处理流畅性:读得顺被大脑当成证据,全程在意识之下完成,你自己感觉不到这个过程。
- 知识防不住:能答对知识测试的人,照样把重复过的错误说法往真里挪——知识在场,只是没被调用。
- 一次曝光就够,一周后还在;大半涨幅发生在早几次接触。
- 重复不翻转判断,只侵蚀边缘——它挪的是平均分上的小数点,专挑你知识松动、注意力缺席的时点进门。
- 押韵、好读、对比清晰的字体,任何让处理变容易的东西都在偷渡真值——广告语是它的合法经济区。
- 辟谣本身是重复:空洞否认给谣言刷流畅度,“从未发生过”式的强化否认更糟;有效纠正必须给替代解释,把因果空洞填上。
- 事前解药是接种:提前认识一遍操纵手法,第二眼见到它,慢通道就被点名了。
- 聪明人不免疫——认知能力不调节这个效应;防它靠外置工序,不靠智商。
- “重复即真相”这句名言自己是假的,被五十万个网页引用才成了“戈培尔效应”——这条规律最大的现场,就是关于它自己的那句假话。
来源与免责
原始文献
- Hasher, L., Goldstein, D., & Toppino, T. (1977). Frequency and the conference of referential validity. Journal of Verbal Learning and Verbal Behavior, 16(1), 107–112.(错觉真相效应起点研究;数据表:重复组 4.35→约 4.7,假句 4.18→约 4.7)
- Fazio, L. K., Brashier, N. M., Payne, B. K., & Marsh, E. J. (2015). Knowledge does not protect against illusory truth. Journal of Experimental Psychology: General, 144(5), 993–1002.(知识不能防护;knowledge neglect)
- Pennycook, G., Cannon, T. D., & Rand, D. G. (2018). Prior exposure increases perceived accuracy of fake news. Journal of Experimental Psychology: General, 147(12), 1865–1880.(假新闻现场;单次曝光;警告无效)
- McGlone, M. S., & Tofighbakhsh, J. (2000). Birds of a feather flock conjointly (?): Rhyme as reason in aphorisms. Psychological Science, 11(5), 424–428.(押韵即有理)
- Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. Consciousness and Cognition, 8(3), 338–342.(知觉流畅性影响真值)
- Johnson, H. M., & Seifert, C. M. (1994). Sources of the continued influence effect. Journal of Experimental Psychology: Learning, Memory, and Cognition, 20(6), 1420–1436.(仓库火灾;持续影响效应)
- Begg, I. M., Anas, A., & Farinacci, S. (1992). Dissociation of processes in belief. Journal of Experimental Psychology: General, 121(4), 446–458.(来源不可靠与熟悉感分离)
- Dechêne, A., Stahl, C., Hansen, J., & Wänke, M. (2010). The truth about the truth: A meta-analytic review of the truth effect. Personality and Social Psychology Review, 14(2), 238–257.(51 项研究元分析:组内 d = 0.39 / 组间 d = 0.50)
- van der Linden, S., Leiserowitz, A., Rosenthal, S., & Maibach, E. (2017). Inoculating the public against misinformation about climate change. Global Challenges, 1(2), 1600008.(接种实验)
- Unkelbach, C., & Rom, S. C. (2017). A referential theory of the phenomenology of truth. Psychological Review, 124(6).(参照真值理论,争论卡二)
- Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N., & Cook, J. (2012). Misinformation and its correction. Psychological Science in the Public Interest, 13(3), 106–131.(错误信息与纠正的旗舰综述)
- Schwarz, N., Sanna, L. J., Skurnik, I., & Yoon, C. (2007). Metacognitive experiences and the intricacies of setting people straight. Advances in Experimental Social Psychology, 39, 127–161.(retraction paradox)
- Seifert, C. M. (2002). The continued influence of misinformation. Psychology of Learning and Motivation, 41, 265–292.(强化否认适得其反的跟进实验;与布什合作)
- Brashier, N. M., & Marsh, E. J. (2020). Judging truth. Annual Review of Psychology, 71, 311–334.(真值判断三源框架)
- Hassan, A., & Barber, S. J. (2021). The effects of repetition frequency on truth judgments. Cognitive Research: Principles and Implications, 6, 38.(两个实验:1/3/5/7/9 次与 1/9/18/27 次,对数形增长)
- De Keersmaecker, J., et al. (2018). Investigating the robustness of the illusory truth effect. PLoS ONE.(认知能力不调节)
- Whittlesea, B. W. A., & Williams, L. D. (2000). The discrepancy-attribution hypothesis. Journal of Experimental Psychology: Learning, Memory, and Cognition.(流畅感归因)
- Roozenbeek, J., & van der Linden, S. (2019). Fake news game confers psychological resistance against online misinformation. Palgrave Communications.(Bad News 游戏)
史料与考据
- 《战国策·秦策二》(曾参杀人)、《魏策二》(三人成虎)。典故原文,通行整理本可核。
- 戈培尔引语考据:维基语录条目(判 misattributed);Randall Bytwerk 德国宣传档案馆连载考据(约 50 万网页引用无一给源);希特勒《我的奋斗》第一卷第六章“战争宣传”原句;文汇报“语录侦探”专栏(2019-07-02)引曼海默对戈培尔日记的考证。
转述材料(推断档的主要来源)
- 2026 年发布的大规模元分析转述(182 项研究、N>31,000,校正后 g = 0.37)、注册纵向研究的衰减数值(0.68→0.14)、“9 次后不再显著”的拐点、Pennycook 论文预印本的具体百分比(5%→10.1%):均转引自二手材料,方向多源一致、单值未逐一核对原始文本,故挂推断档。
- 准确性提示干预、强信念边界、接种游戏用户规模:转述自综述与机构新闻稿。
免责
本页所有结构性解释只是在本库口径下的一种读法,不是学界定论。对普通人有什么用是本库的使用建议,不是学界共识。两处取证边界:① 戈培尔日记 1942-01-29 条目为中文专栏转引二手学术考证,本页未核德文原版;② 脑白金等广告案例只取“大规模重复投放是行业常态”这一层,投放规模与实际广告效果均未独立立证,不做效果断言。