虚假信息的传播已对公共卫生和全球流行病的成功管控构成相当大的威胁。研究发现,接触虚假信息可能会减少疫苗接种和遵守公共卫生准则的意愿。
二、虚假信息研究介绍
2020年初,世界卫生组织(WHO)宣布全球正在陷入信息流行病(Infodemic)。信息流行病的特征是信息过载,尤其充斥着虚假和误导性的信息。尽管研究人员已经讨论过假新闻对重大社会事件的影响(例如政治选举),但是虚假信息的传播更可能对公众健康造显著的危害,尤其是在新冠大流行期间。
当然,早在新冠大流行之前,虚假信息早已对公共卫生构成威胁。被揭穿的MMR疫苗和自闭症之间的联系与英国疫苗接种覆盖率的显著下降有关,李施德林(Listerine)制造商谎称他们的漱口水可治愈普通感冒达数十年之久,关于烟草制品的虚假信息影响了人们对吸烟的态度,2014年利比里亚的埃博拉诊所遭到袭击,因为人们错误地认为该病毒是政府阴谋的一部分。
鉴于现在虚假信息在网上传播的空前规模和速度,研究人员越来越依赖流行病学模型来了解假新闻的传播。在这些模型中,关键的焦点在于再生数(R0)——换句话说,在与已经发布虚假信息的人(传染性个体)接触后,开始发布假新闻(即再生病例)的人数。因此,把虚假信息想象成一种病毒性病原体是有帮助的,这种病原体可以感染宿主,在给定的网络中从一个人迅速传播到另一个人,而不需要身体接触。这种流行病学方法的一个好处在于,可以设计早期检测系统来识别超级传播者,从而能够及时部署干预措施,遏制病毒性虚假信息的传播[18]。
本综述将向读者提供关于虚假信息的最新文献的概念性概述,以及研究议程(Box1),其中包括与病毒类比相一致的三个主要理论维度:易感性、传播和免疫。
Box1未来研究议程和建议
研究问题1:哪些因素导致人们容易受到虚假信息误导?
更好地将准确性驱动与社会、政治和文化动机结合起来,解释人们对错误信息的易感性。
定义、开发和验证用于评估一般和特定领域对虚假信息的易感性的标准化工具。
研究问题2:虚假信息如何在社交网络中传播?
更清晰地勾勒出“暴露”在什么程度上导致“感染”的条件,包括反复暴露的影响、社交媒体上假新闻的局部受众定位、与超级传播者的接触、回音室的作用,以及社交网络本身的结构。
通过(1)捕捉更多不同类型的虚假信息,以及(2)将不同类型的传统和社交媒体平台上的假新闻风险联系起来,提供更准确的人口水平的虚假信息暴露风险估计。
研究问题3:我们能否为人们采取措施或使他们免受虚假信息的影响?
重点评估该领域不同揭穿方法的相对有效性,以及如何将揭穿(治疗性)和预防干预措施结合起来,以最大限度地提高其保护性能。
在回顾现存的文献以帮助回答这些问题之前,有必要简单地讨论一下“虚假信息”(misinformation)一词的含义,因为不一致的定义不仅影响研究设计的概念化,还会影响关键结果测量的性质和有效性。事实上,虚假信息被称为一个包罗万象的概念[20],不仅因为定义不同,还因为对公共健康的行为后果可能因虚假信息的类型而异。“假新闻”这个词经常被认为是有问题的,因为它没有充分地描述各种各样的虚假信息,它本身已经成为一种政治化的修辞手段。
Box2定义和操作虚假信息的挑战
虚假信息最常被引用的一种定义是“在形式上模仿新闻媒体内容,但在组织过程或意图上不模仿的编造信息”[119]。这个定义意味着,决定一个故事是否是虚假信息的重要因素是新闻或编辑过程。其他定义也反映了类似的观点,即虚假信息制作者不遵守编辑规范,“虚假性”的定义属性发生在出版者层面,而不是故事层面。然而,其他人则持完全不同的观点,他们或者从内容的真实性,或者从是否存在制作内容所使用的常用技术的角度来界定虚假信息[109]。
三、易感性
由于大众媒体、政客和社交媒体影响者经常重复许多虚假的事实,虚幻真相的可信度大大增加了。例如,关于“新冠并不比流感更糟糕”的虚假说法在媒体上反复出现。人们更倾向于认为重复的主张是正确的,主要的认知机制被称为处理流畅性(processingfluency):一个主张被重复得越多,它就变得越熟悉,就越容易处理。换句话说,大脑将流畅性作为表明真相的信号。
研究表明:
(1)事先接触假新闻会增加其被感知到的准确性;
(2)对于似是而非的主张,都可能出现虚幻真相;
(3)先验知识不一定能保护人们免受虚幻真相的伤害;
(4)虚幻真相似乎不会受到思维方式的影响,比如是分析型或直觉推理型。
虽然虚幻真相可以影响每个人,但研究表明,一些人仍然比其他人更容易受到虚假信息的影响。例如,一些常见的发现包括观察到老年人更容易受到假新闻的影响,这可能是由于认知能力下降和对数字技术不熟悉等因素造成的,尽管也有例外:面对新冠,老年人似乎不太可能认可虚假信息。那些政治倾向较为极端和右翼的人也一直表现出更容易受到虚假信息的影响,即使这些虚假信息是非政治性的。
1.疏忽解释
2.动机推理解释
与疏忽形成鲜明对比的是动机推理理论[53,54,55],该理论认为,缺乏信息或缺乏反思性推理不是对虚假信息易感的主要驱动力。动机推理发生在当一个人以一个预先确定的目标开始推理过程时(例如,有人可能想要相信疫苗是不安全的,因为他们的家庭成员共享这种信念),所以个人会解释新的(虚假的)信息以达到那个目标。因此,动机推理解释(motivatedreasoningaccount)认为,人们对与他们具有亲和力团体的忠诚是导致他们有选择地认可那些可以强化根深蒂固的政治、宗教或社会认同的媒体内容的原因。
3.易感性:局限性和未来研究
值得一提的是,这两种说法都面临着重大的批评和限制。例如,旨在提高准确性的干预措施的独立复制实验揭示了不同的结果[63],并且对这些研究中党派偏见的概念化提出了质疑[43],包括干预效果受到人们政治身份影响的可能性[44]。
反过来,动机推理理论也出现了几个失败的和结果不一致的重复实验[64,65,66]。例如,美国一项具有全国代表性的大型研究表明,虽然在基线水平上受教育程度最高的党派成员之间对全球变暖的两极分化确实最严重,但通过强调全球变暖问题上的科学共识[66],实验性干预措抵消甚至扭转了这种影响。
四、传播
1.测量信息流行病
2.接触并不等于感染
3.传播:局限性和未来研究
此外,假新闻通常被概念化为经过事实核实为真或假的URL列表,但这种类型的假新闻只代表一小部分虚假信息;人们可能更容易遇到误导性或操纵性的内容,而不是明显的虚假内容。最后,针对特定目标的努力(micro-targetingefforts)会大大提高虚假信息制造者识别和锁定最易被说服的个人亚群体的能力[83]。简而言之,需要进行更多的研究,才能对人群水平接触虚假信息导致感染(即说服)的可能性得出准确而有效的结论。
五、免疫
一个迅速出现的研究方向是评估在认知水平上使公众免受虚假信息影响的可能性。我将根据它们的应用主要是预防(接触前)还是治疗(暴露后)来对这些研究进行分类。
1.治疗方法:事实核查和揭露真相
1.首先说明真相;
2.诉诸科学共识和权威专家资源;
3.确保更正易于获得,不比最初的虚假信息更复杂;
4.清楚解释虚假信息为何是虚假的;
5.提供连贯的替代因果解释(图1)。
虽然普遍缺乏比较研究,但最近的一些研究表明,根据这些准则优化揭穿信息的方式,与其他或一切照旧的揭穿方式相比会改善效果[84]。
图1.有效揭穿虚假信息的最佳实践建议。一个有效的揭穿真相的信息应该以事实为开端,并以一种简单而难忘的方式呈现出来。然后应该对听众发布对虚假信息的警告(不要重复这个虚假信息)。随后识别和揭露用来误导人们的操纵技巧。最后重复事实,强调正确的解释。
2.揭露真相:局限与未来研究
也可以设计一种与受众的世界观相一致而不是冲突的方式来拆穿虚假信息,从而尽量减少世界观层面的逆火效应。尽管如此,由于揭穿谎言意味着对受众强加了一种修辞框架,在这种框架中,为了纠正虚假信息,需要重复这些虚假信息(即反驳别人的说法),因此存在一种风险是,这种重复会增强人们对虚假信息的熟悉程度,而人们随后却无法在长期记忆中编码纠正虚假信息。尽管研究清楚地表明,人们更可能相信重复的(虚假)信息,而不是不重复的(虚假)信息,但最近的研究发现,在揭穿一项谎言时,讽刺性地强化一个虚假信息的风险相对较小,尤其是当揭穿谎言的信息相对于虚假的信息被凸显出来时。因此,当前的共识是,尽管从业者应该意识到纠正可能有逆火效应风险,但考虑到这些副作用比较罕见,他们不应该阻止发布更正信息。
3.预防性措施:虚假信息的心理预防理论
因此,研究人员最近开始探索对付虚假信息的预防性或先发制人的办法,即在个人接触到或达到“传染性”状态之前行动。虽然“预防”(prebunking)是一个更为笼统的术语,用于指那些事先提醒人们“在发布事件之前要三思而后行”的干预措施[51],但这种自我提醒并不能使人们具备识别和抵制虚假信息的任何新技能。最常见的防止有害劝说的框架是心理预防(psychologicalinoculation)理论(图2)[100,101]。
心理预防理论遵循医学的类比,并假定,正如疫苗触发抗体产生来帮助获得免疫力以对抗未来感染,在信息层面同样可以实现这一点。通过先发制人地发出警告,让人们接触到严重减弱的虚假信息(再加上有力的反驳),人们可以培养对未来虚假信息的认知抵抗力。心理预防理论通过两种机制发挥作用,即(1)动机威胁(一种保护自己免受操纵攻击的愿望)和(2)反驳先发制人(预先接触弱化的攻击实例)。例如,研究发现,在接触阴谋论之前(而不是之后)为人们接种疫苗以防止关于疫苗的阴谋论争论,有效地提高了疫苗接种的意愿。最近的综述[102,104]和元分析[105]指出,心理预防是一种强有力的战略,可以获得对虚假信息的免疫力,在健康领域有许多应用,例如帮助人们对乳腺癌筛查中使用乳房X光检查的虚假信息形成免疫。
图2.心理预防包括两个核心组成部分:(1)预先警告人们可能被误导(激活心理上的“免疫系统”);(2)预先揭露虚假信息(策略),将人们暴露在严重弱化的虚假信息中,再加上强有力的反击和驳斥(产生认知“抗体”)。一旦人们获得了免疫力,就可以通过线下和线上互动,间接地将“疫苗”传播给其他人。
第二个进展是关于主动预防与被动预防的应用。传统的预防过程是被动的,因为人们会事先从实验者那里得到特定的反驳信息,而主动预防过程鼓励人们产生自己的“抗体”。也许最著名的主动预防的例子是流行的游戏化预防干预措施,例如在游戏BadNews和GoViral!中[110],玩家扮演一个虚假信息制造者的角色,在一个模拟的社交媒体环境中,受到用于传播虚假信息的常见策略的影响。作为这个过程的一部分,玩家积极地生成自己的媒体内容,并揭示操纵技术。
4.预防性措施:局限与未来研究
一个潜在的局限性是,尽管虚假信息在整个历史中反复出现(考虑到牛痘疫苗会把人变成人牛杂交的虚假信息和新冠疫苗改变人类DNA的阴谋论的相似之处),心理预防确实需要至少对人们在未来可能接触到的虚假信息有一些提前的知识。此外,由于医疗工作者正在接受对抗虚假信息的培训,因此在通过心理预防来对抗疫苗怀疑时,避免术语上的混淆是很重要的。例如,这种方法可以在没有明确和疫苗接种做类比的情况下实施,专注于“预防”的价值,并帮助人们揭穿操纵技术。
六、总结
虽然“暴露(接触)”并不等于“感染”,但虚假信息可以在网络上迅速传播,而且其传播性往往得益于政治回音室的存在。然而重要的是,社交媒体上的大量虚假信息往往来自有影响力的账户和超级传播者。治疗方法和预防方法都证明,在对抗虚假信息方面取得了一些成功,但是鉴于在接触虚假信息后的持续影响,预防方法有很大的价值,需要更多的研究确定如何最好地结合揭露和预防两种方式。我们也应鼓励开展进一步研究,来概述应用流行病学模型来理解虚假信息传播背后的心理学原理和潜在挑战。该领域今后的一个主要挑战将是明确界定如何衡量和概念化虚假信息,以及需要标准化的心理测量工具以更好地比较各项研究的结果。
参考文献:
1.Zarocostas,J.Howtofightaninfodemic.Lancet395,676(2020).
2.Allcott,H.&Gentzkow,M.Socialmediaandfakenewsinthe2016election.J.Econ.Perspect.31,211–236(2020).
3.Grinberg,N.etal.FakenewsonTwitterduringthe2016USpresidentialelection.Science363,374–378(2019).
4.Roozenbeek,J.etal.SusceptibilitytomisinformationaboutCOVID-19aroundtheworld.R.Soc.OpenSci.7,201199(2020).
5.Romer,D.&Jamieson,K.H.ConspiracytheoriesasbarrierstocontrollingthespreadofCOVID-19intheUS.Soc.Sci.Med.263,113356(2020).
6.Imhoff,R.&Lamberty,P.AbioweaponorahoaxThelinkbetweendistinctconspiracybeliefsaboutthecoronavirusdisease(COVID-19)outbreakandpandemicbehavior.Soc.Psychol.Personal.Sci.11,1110–1118(2020).
8.Loomba,S.etal.MeasuringtheimpactofCOVID-19vaccinemisinformationonvaccinationintentintheUKandUSA.Nat.Hum.Behav.5,337–348(2021).
9.Johnson,N.etal.Theonlinecompetitionbetweenpro-andanti-vaccinationviews.Nature58,230–233(2020).
10.Aghababaeian,H.etal.AlcoholintakeinanattempttofightCOVID-19:amedicalmythinIran.Alcohol88,29–32(2020).
11.Jolley,D.&Paterson,J.L.Pylonsablaze:examiningtheroleof5GCOVID‐19conspiracybeliefsandsupportforviolence.Br.J.Soc.Psychol.59,628–640(2020).
12.Dubé,E.etal.Vaccinehesitancy,vaccinerefusalandtheanti-vaccinemovement:influence,impactandimplications.ExpertRev.Vaccines14,99–117(2015).
13.Armstrong,G.M.etal.AlongitudinalevaluationoftheListerinecorrectiveadvertisingcampaign.J.PublicPolicyMark.2,16–28(1983).
14.Albarracin,D.etal.MisleadingclaimsabouttobaccoproductsinYouTubevideos:experimentaleffectsofmisinformationonunhealthyattitudes.J.MedicalInternetRes.20,e9959(2018).
15.Krishna,A.&Thompson,T.L.Misinformationabouthealth:areviewofhealthcommunicationandmisinformationscholarship.Am.Behav.Sci.65,316–332(2021).
16.Kucharski,A.Studyepidemiologyoffakenews.Nature540,525–525(2016).
17.Cinelli,M.etal.TheCOVID-19socialmediainfodemic.Sci.Rep.10,1–10(2020).
18.Scales,D.etal.TheCOVID-19infodemic—applyingtheepidemiologicmodeltocountermisinformation.N.Engl.J.Med385,678–681(2021).
19.Vraga,E.K.&Bode,L.Definingmisinformationandunderstandingitsboundednature:usingexpertiseandevidencefordescribingmisinformation.Polit.Commun.37,136–144(2020).
20.Southwelletal.Misinformationasamisunderstoodchallengetopublichealth.Am.J.Prev.Med.57,282–285(2019).
21.Wardle,C.&Derakhshan,H.InformationDisorder:towardanInterdisciplinaryFrameworkforResearchandPolicymaking.CouncilofEuropereportDGI(2017)09(CouncilofEurope,2017).
22.vanderLinden,S.etal.Youarefakenews:politicalbiasinperceptionsoffakenews.MediaCult.Soc.42,460–470(2020).
23.Tandoc,E.C.Jretal.Defining‘fakenews’atypologyofscholarlydefinitions.Digit.J.6,137–153(2018).
24.Allen,J.etal.Evaluatingthefakenewsproblematthescaleoftheinformationecosystem.Sci.Adv.6,eaay3539(2020).
25.Marsh,E.J.&Yang,B.W.inMisinformationandMassAudiences(edsSouthwell,B.G.,Thorson,E.A.,&Sheble,L)15–34(UniversityofTexasPress,2018).
26.Dechêne,A.etal.Thetruthaboutthetruth:ameta-analyticreviewofthetrutheffect.Pers.Soc.Psychol.Rev.14,238–257(2010).
28.Wang,W.C.etal.Onknownunknowns:fluencyandtheneuralmechanismsofillusorytruth.J.Cogn.Neurosci.28,739–746(2016).
29.Pennycook,G.etal.Priorexposureincreasesperceivedaccuracyoffakenews.J.Exp.Psychol.Gen.147,1865–1880(2018).
30.Fazio,L.K.etal.Repetitionincreasesperceivedtruthequallyforplausibleandimplausiblestatements.Psychon.Bull.Rev.26,1705–1710(2019).
31.Fazio,L.K.etal.Knowledgedoesnotprotectagainstillusorytruth.J.Exp.Psychol.Gen.144,993–1002(2015).
32.DeKeersmaecker,J.etal.Investigatingtherobustnessoftheillusorytrutheffectacrossindividualdifferencesincognitiveability,needforcognitiveclosure,andcognitivestyle.Pers.Soc.Psychol.Bull.46,204–215(2020).
33.Guess,A.etal.Lessthanyouthink:prevalenceandpredictorsoffakenewsdisseminationonFacebook.Sci.Adv.5,eaau4586(2019).
34.Saunders,J.&Jess,A.Theeffectsofageonrememberingandknowingmisinformation.Memory18,1–11(2010).
35.Brashier,N.M.&Schacter,D.L.Aginginaneraoffakenews.Curr.Dir.Psychol.Sci.29,316–323(2020).
36.Pennycook,G.&Rand,D.G.Lazy,notbiased:susceptibilitytopartisanfakenewsisbetterexplainedbylackofreasoningthanbymotivatedreasoning.Cognition188,39–50(2019).
38.Roozenbeek,J.&vanderLinden,S.Fakenewsgameconferspsychologicalresistanceagainstonlinemisinformation.Humanit.Soc.Sci.Commun.5,1–10(2019).
39.VanderLinden,S.etal.TheparanoidstyleinAmericanpoliticsrevisited:anideologicalasymmetryinconspiratorialthinking.Polit.Psychol.42,23–51(2021).
40.Dekeersmaecker,J.&Roets,A.‘Fakenews’:incorrect,buthardtocorrect.Theroleofcognitiveabilityontheimpactoffalseinformationonsocialimpressions.Intelligence65,107–110(2017).
41.Bronstein,M.V.etal.Beliefinfakenewsisassociatedwithdelusionality,dogmatism,religiousfundamentalism,andreducedanalyticthinking.J.Appl.Res.Mem.8,108–117(2019).
42.Greene,C.M.etal.MisrememberingBrexit:partisanbiasandindividualpredictorsoffalsememoriesforfakenewsstoriesamongBrexitvoters.Memory29,587–604(2021).
43.Gawronski,B.Partisanbiasintheidentificationoffakenews.TrendsCogn.Sci.25,723–724(2021).
45.Pennycook,G.&Rand,D.G.Thepsychologyoffakenews.TrendsCogn.Sci.22,388–402(2021).
46.vanderLinden,S.etal.HowcanpsychologicalsciencehelpcounterthespreadoffakenewsSpan.J.Psychol.24,e25(2021).
47.Evans,J.S.B.Intwominds:dual-processaccountsofreasoning.TrendsCogn.Sci.7,454–459(2003).
48.Bago,B.etal.Fakenews,fastandslow:deliberationreducesbeliefinfalse(butnottrue)newsheadlines.J.Exp.Psychol.Gen.149,1608–1613(2020).
49.Scherer,L.D.etal.WhoissusceptibletoonlinehealthmisinformationAtestoffourpsychosocialhypotheses.HealthPsychol.40,274–284(2021).
50.Pennycook,G.etal.FightingCOVID-19misinformationonsocialmedia:experimentalevidenceforascalableaccuracy-nudgeintervention.Psychol.Sci.31,770–780(2020).
51.Pennycook,G.etal.Shiftingattentiontoaccuracycanreducemisinformationonline.Nature592,590–595(2021).
52.Swami,V.etal.Analyticthinkingreducesbeliefinconspiracytheories.Cognition133,572–585(2014).
53.Kunda,Z.Thecaseformotivatedreasoning.Psychol.Bull.108,480–498(1990).
54.Kahan,D.M.inEmergingTrendsintheSocialandBehavioralsciences(edsScott,R.&Kosslyn,S.)1–16(JohnWiley&Sons,2016).
55.Bolsen,T.etal.Theinfluenceofpartisanmotivatedreasoningonpublicopinion.Polit.Behav.36,235–262(2014).
56.Osmundsen,M.etal.PartisanpolarizationistheprimarypsychologicalmotivationbehindpoliticalfakenewssharingonTwitter.Am.Polit.Sci.Rev.115,999–1015(2021).
57.VanBavel,J.J.etal.Politicalpsychologyinthedigital(mis)informationage:amodelofnewsbeliefandsharing.Soc.IssuesPolicyRev.15,84–113(2020).
58.Rathje,S.etal.Out-groupanimositydrivesengagementonsocialmedia.Proc.NatlAcad.Sci.USA118,e2024292118(2021).
59.Kahan,D.M.etal.Motivatednumeracyandenlightenedself-government.Behav.PublicPolicy1,54–86(2017).
60.Kahan,D.M.etal.Thepolarizingimpactofscienceliteracyandnumeracyonperceivedclimatechangerisks.Nat.Clim.Chang.2,732–735(2012).
61.Drummond,C.&Fischhoff,B.Individualswithgreaterscienceliteracyandeducationhavemorepolarizedbeliefsoncontroversialsciencetopics.Proc.NatlAcad.Sci.USA114,9587–9592(2017).
62.Traberg,C.S.&vanderLinden,S.Birdsofafeatherarepersuadedtogether:perceivedsourcecredibilitymediatestheeffectofpoliticalbiasonmisinformationsusceptibility.Pers.Individ.Differ.185,111269(2022).
63.Roozenbeek,J.etal.Howaccurateareaccuracy-nudgeinterventionsApreregistereddirectreplicationofPennycooketal.(2020).Psychol.Sci.32,1169–1178(2021).
64.Persson,E.etal.Apreregisteredreplicationofmotivatednumeracy.Cognition214,104768(2021).
65.Connor,P.etal.MotivatednumeracyandactivereasoninginaWesternEuropeansample.Behav.PublicPolicy1–23(2020).
66.vanderLinden,S.etal.Scientificagreementcanneutralizepoliticizationoffacts.Nat.Hum.Behav.2,2–3(2018).
67.Tappin,B.M.etal.Rethinkingthelinkbetweencognitivesophisticationandpoliticallymotivatedreasoning.J.Exp.Psychol.Gen.150,1095–1114(2021).
68.Tappin,B.M.etal.Thinkingclearlyaboutcausalinferencesofpoliticallymotivatedreasoning:whyparadigmaticstudydesignsoftenunderminecausalinference.Curr.Opin.Behav.Sci.34,81–87(2020).
69.Druckman,J.N.&McGrath,M.C.Theevidenceformotivatedreasoninginclimatechangepreferenceformation.Nat.Clim.Chang.9,111–119(2019).
70.Juul,J.L.&Ugander,J.Comparinginformationdiffusionmechanismsbymatchingoncascadesize.Proc.Natl.Acad.Sci.USA118,e210078611(2021).
71.Vosoughi,S.etal.Thespreadoftrueandfalsenewsonline.Science359,1146–1151(2018).
72.Cinelli,M.etal.Theechochambereffectonsocialmedia.Proc.NatlAcad.Sci.USA118,e2023301118(2021).
73.Guess,A.etal.Exposuretountrustworthywebsitesinthe2016USelection.Nat.Hum.Behav.4,472–480(2020).
74.Yang,K.C.etal.TheCOVID-19infodemic:TwitterversusFacebook.BigDataSoc.8,20539517211013861(2021).
75.DelVicario,M.etal.Thespreadingofmisinformationonline.Proc.NatlAcad.Sci.USA113,554–559(2016).
76.Zollo,F.etal.Debunkinginaworldoftribes.PloSONE12,e0181821(2017).
77.Guess,A.M.(Almost)everythinginmoderation:newevidenceonAmericans’onlinemediadiets.Am.J.Pol.Sci.65,1007–1022(2021).
78.Trnberg,P.Echochambersandviralmisinformation:modelingfakenewsascomplexcontagion.PLoSONE13,e0203958(2018).
79.Choi,D.etal.Rumorpropagationisamplifiedbyechochambersinsocialmedia.Sci.Rep.10,1–10(2020).
82.Kalla,J.L.&Broockman,D.E.Theminimalpersuasiveeffectsofcampaigncontactingeneralelections:evidencefrom49fieldexperiments.Am.PoliticalSci.Rev.112,148–166(2018).
83.Matz,S.C.etal.Psychologicaltargetingasaneffectiveapproachtodigitalmasspersuasion.Proc.NatlAcad.Sci.USA114,12714–12719(2017).
84.Paynter,J.etal.Evaluationofatemplateforcounteringmisinformation—real-worldautismtreatmentmythdebunking.PloSONE14,e0210746(2019).
85.Smith,P.etal.Correctingover50yearsoftobaccoindustrymisinformation.Am.J.Prev.Med40,690–698(2011).
86.Yousuf,H.etal.Amediainterventionapplyingdebunkingversusnon-debunkingcontenttocombatvaccinemisinformationinelderlyintheNetherlands:adigitalrandomisedtrial.EClinicalMedicine35,100881(2021).
87.Walter,N.&Murphy,S.T.Howtounringthebell:ameta-analyticapproachtocorrectionofmisinformation.Commun.Monogr.85,423–441(2018).
88.Chan,M.P.S.etal.Debunking:ameta-analysisofthepsychologicalefficacyofmessagescounteringmisinformation.Psychol.Sci.28,1531–1546(2017).
89.Walter,N.etal.Evaluatingtheimpactofattemptstocorrecthealthmisinformationonsocialmedia:ameta-analysis.HealthCommun.36,1776–1784(2021).
90.Aikin,K.J.etal.Correctionofoverstatementandomissionindirect-to-consumerprescriptiondrugadvertising.J.Commun.65,596–618(2015).
92.Lewandowsky,S.etal.Misinformationanditscorrection:continuedinfluenceandsuccessfuldebiasing.Psychol.Sci.Publ.Int13,106–131(2012).
93.Swire-Thompson,B.etal.Searchingforthebackfireeffect:measurementanddesignconsiderations.J.Appl.Res.Mem.Cogn.9,286–299(2020).
94.Nyhan,B.etal.Effectivemessagesinvaccinepromotion:arandomizedtrial.Pediatrics133,e835–e842(2014).
95.Nyhan,B.&Reifler,J.DoescorrectingmythsaboutthefluvaccineworkAnexperimentalevaluationoftheeffectsofcorrectiveinformation.Vaccine33,459–464(2015).
96.Wood,T.&Porter,E.Theelusivebackfireeffect:massattitudes’steadfastfactualadherence.Polit.Behav.41,135–163(2019).
98.Chido-Amajuoyietal.Exposuretocourt-orderedtobaccoindustryantismokingadvertisementsamongUSadults.JAMANetw.Open2,e196935(2019).
99.Walter,N.&Tukachinsky,R.Ameta-analyticexaminationofthecontinuedinfluenceofmisinformationinthefaceofcorrection:howpowerfulisit,whydoesithappen,andhowtostopitCommun.Res47,155–177(2020).
100.Papageorgis,D.&McGuire,W.J.Thegeneralityofimmunitytopersuasionproducedbypre-exposuretoweakenedcounterarguments.J.Abnorm.Psychol.62,475–481(1961).
101.Papageorgis,D.&McGuire,W.J.Thegeneralityofimmunitytopersuasionproducedbypre-exposuretoweakenedcounterarguments.J.Abnorm.Psychol.62,475–481(1961).
102.Lewandowsky,S.&vanderLinden,S.Counteringmisinformationandfakenewsthroughinoculationandprebunking.Eur.Rev.Soc.Psychol.32,348–384(2021).
103.Jolley,D.&Douglas,K.M.Preventionisbetterthancure:addressingantivaccineconspiracytheories.J.Appl.Soc.Psychol.47,459–469(2017).
104.Compton,J.etal.Inoculationtheoryinthepost‐truthera:extantfindingsandnewfrontiersforcontestedscience,misinformation,andconspiracytheories.Soc.Personal.Psychol.15,e12602(2021).
105.Banas,J.A.&Rains,S.A.Ameta-analysisofresearchoninoculationtheory.Commun.Monogr.77,281–311(2010).
106.Compton,J.etal.Persuadingotherstoavoidpersuasion:Inoculationtheoryandresistanthealthattitudes.Front.Psychol.7,122(2016).
107.Iles,I.A.etal.Investigatingthepotentialofinoculationmessagesandself-affirmationinreducingtheeffectsofhealthmisinformation.Sci.Commun.43,768–804(2021).
108.Cooketal.Neutralizingmisinformationthroughinoculation:Exposingmisleadingargumentationtechniquesreducestheirinfluence.PloSONE12,e0175799(2017).
vanderLinden,S.,&Roozenbeek,J.inThePsychologyofFakeNews:Accepting,Sharing,andCorrectingMisinformation(edsGreifeneder,R.,Jaffe,M.,Newman,R.,&Schwarz,N.)147–169(PsychologyPress,2020).
109.Basol,M.etal.Towardspsychologicalherdimmunity:cross-culturalevidencefortwoprebunkinginterventionsagainstCOVID-19misinformation.BigDataSoc.8,20539517211013868(2021).
110.Sagarin,B.J.etal.Dispellingtheillusionofinvulnerability:themotivationsandmechanismsofresistancetopersuasion.J.Pers.Soc.Psychol.83,526–541(2002).
vanderLinden,S.etal.Inoculatingthepublicagainstmisinformationaboutclimatechange.Glob.Chall.1,1600008(2017).
111.Basol,M.etal.Goodnewsaboutbadnews:gamifiedinoculationboostsconfidenceandcognitiveimmunityagainstfakenews.J.Cogn.3,2(2020).
112.Basol,M.etal.Goodnewsaboutbadnews:gamifiedinoculationboostsconfidenceandcognitiveimmunityagainstfakenews.J.Cogn.3,2(2020).
115.Abbasi,J.COVID-19conspiraciesandbeyond:howphysicianscandealwithpatients’misinformation.JAMA325,208–210(2021).
116.Compton,J.Prophylacticversustherapeuticinoculationtreatmentsforresistancetoinfluence.Commun.Theory30,330–343(2020).
117.Lazer,D.M.etal.Thescienceoffakenews.Science359,1094–1096(2018).
118.Pennycook,G.&Rand,D.G.WhofallsforfakenewsTherolesofbullshitreceptivity,overclaiming,familiarity,andanalyticthinking.J.Pers.88,185–200(2020).
120.Poutoglidou,F.etal.IbuprofenandCOVID-19disease:separatingthemythsfromfacts.ExpertRev.Respir.Med15,979–983(2021).