Kellogg Insight - 为什么社交媒体平台在打击虚假信息方面仍然十分糟糕?
Skip to content
Organizations Politics & Elections 8月 3, 2020

为什么社交媒体平台在打击虚假信息方面仍然十分糟糕?

脸书、推特和用户本身对于区分事实与编造缺乏动力。随着大选临近,风险也随之升高。

Based on insights from

Hatim Rahman

在2016年,俄罗斯互联网机构购买广告并在脸书上创建内容,企图以信息战扰乱美国总统大选。据脸书估计,有1.26亿用户观看了俄罗斯创建的内容,穆勒报告将此形容为一种“旨在挑起并扩大美国政治与社会冲突的社交媒体宣传活动。”

今年十一月大选前这几个月,凯洛格学院管理与组织学助理教授哈提姆·拉曼正密切关注脸书和其他社交媒体平台,例如推特、YouTube和WhatsApp),了解社交媒体这一次如何处理虚假信息。而他看到的趋势,使他不禁感到担忧。

“由于电脑算法日益强大,使得虚假信息传播的速度与规模到达前所未见的程度。”拉曼说道。

拉曼提出了三个原因,来解释为什么社交媒体上的虚假信息是如此棘手的挑战,以及这对今后可能代表的意义。

隐蔽的来源


主要社交媒体平台的一个缺点是用户往往很难判定进入他们信息流的信息来自何处。

大多数社交媒体用户都会同意,知道是谁在产生虚假信息很重要,然而到现在为止,用户、监管机构、甚至连平台本身,都很难确切查明消息的来源,更不用说产生这些消息的原因了。是在自家地下室里的孤僻者?像2016年那样的境外网络水军?或是由组织构成的网络?

问题的部分在于大多数平台不要求发布者在传播信息前表明自己的身份,平台也不会核实分享的信息是否正确。因此,个人和组织因此在设计宣传时往往意图在来源被确定之前赶紧将其传播到各平台。

拉曼表示,有关虚假信息的主要来源的研究正在持续进行,但他观察到一个日益明显的现象,就是政治上的虚假信息经常通过经过充分协调、资金充足的宣传活动来播种传播,而且这些活动可能都希望保持秘密,不要曝光。

“它通常被遮蔽得非常好,特别是因为经过协调的宣传活动或许希望给予人们它们的信息是草根的印象。”拉曼说道。“或者如果有知名资助者牵涉其中,他们也不想泄露这些关系。”

当然,如果社交媒体平台愿意,它们可以要求更严格的身份确认程序,以确保来源确实与自己宣称的相同。例如,谷歌已对其广告商这样做。推特也已设定一个核实用户的机制,即蓝色勾徽章,不过推特将此项功能保留给所谓的“公共利益帐户”,因此绝大多数推特帐户未经核实。

错误的激励


为什么社交媒体如此不愿意对虚假信息和宣传采取行动?

“如果你去看看脸书和推特这些平台本身,它们在某种程度上知道这些事情正在发生。”拉曼解释道。“只是它们的动机有别于”许多用户和监管机构。

拉曼的言下之意是忽略虚假信息在某种程度上符合这些网站的利益。毕竟,当用户人数增长并且网红内容快速传播时,股东们就能获得回报;而研究已显示,有分歧的内容往往获得更高的参与度。这一连串的情况为平台提供了反面的动机,使平台从相反的角度来看待虚假、暴力或种族歧视内容。

“网红内容有利可图。”拉曼说道。“它吸引了更多广告、更多眼球、更多时间和和对平台的关注。但我们已经看到将平台这类特色进行最大化时伴随的重大利弊得失。”例如,一项研究发现,在提到美国选举制重要组成部分--邮寄投票--的脸书最受欢迎的前50个贴子中,有44%包含虚假信息。

心甘情愿的传播者


由于平台主要关注用户增长率,因此辨别贴子真实性的责任主要落在用户身上。拉曼认为这样有失公平,特别是用户处于信息劣势的一方。不仅如此,用户要求改变的唯一真正筹码,也不过是“用脚投票”,删除他们的账号并离开平台。

将这个责任交给用户也不可能有效,部分原因在于用户倾向于相信自己想要相信的东西,另外则出于一种更令人不安的现象:用户根本不在乎事情是否属实。

在这方面,拉曼看到一个令人不安的趋势:虽然用户在判断网上内容是否准确方面越来越老练,但也有些用户自愿传播虚假信息,只要这些信息试图传达的观点与他们的一致,他们传播这些信息也越来越自如。此外,对于符合他们的世界观的消息或贴子,他们也更不愿意去验证消息来源或进行事实查核。

“问题在于有些人并不真正关心信息来源或真实性,这一点有时会被忽略。”拉曼说道。“只要信息和他们的政治观点相符,他们就会去传播。”

拉曼认为,这种行为代表了我们对于自从上次总统大选以来传播虚假信息的看法的转变。在2016年,许多人相信大多数用户会分享他们认为是真实的信息,只是模糊地意识到网络水军、“假新闻”和黑客。如今,人们越来越意识到网络欺诈,然而许多用户仍然助长这种现象。

希望的曙光


那么如果平台不采取行动来减少虚假信息,同时人们倾向于传播虚假信息,那该怎么办?拉曼说,目前还不清楚。

虽然监管复杂、快速发展的全球技术对于立法者而言可能很难,但提出一个政策以平衡责任与保护消费者言论自由仍然非常重要。

“监管的作用是要奖励组织,并让组织负起更积极主动的责任,而不是告诉平台怎么做。”拉曼说道。

即使如此,拉曼还是看到一丝希望,平台本身或许会着手解决虚假信息的问题。

鉴于新冠病毒疫情风暴、黑人乔治·弗洛伊德之死激起“黑人命也是命”的抗议风潮,以及十一月大选前的准备阶段,感觉平台对虚假信息的容忍度可能发生变化。

例如,推特在可能是误导信息的旁边加上“获取事实”标签,包括特朗普总统关于加州邮寄选票方案的贴子。在明尼阿波利斯发生对于美化暴力的抗议之后,推特还在特朗普的一条推文上添加了警告。脸书目前正面临着前所未有的压力,包括主要广告商的抵制,逼迫脸书采取类似步骤。

平台也可能重新配置它们的电脑算法,优先显示准确和易于识别来源的信息。

“人工智能可以看做是一种既不好也不坏的工具,在很大程度上取决于它们的使用方式,从而揭示出组织的价值与意图。”拉曼说道。

在短期内风险如此之多的情况下,现在是他所谓“推拉”瞬间“全体总动员”的时刻,所有利益相关者都必须发挥作用,不能袖手旁观。

“我们需要研究人员进行严格的跨领域问题解决方法。我们需要社区组织能够传达弱势群体的担忧心声。我们需要用户的亲身经历以及政府的监管权力。我们需要将全部这些以必要方式整合起来一起,但到目前为止平台仍然在抵制。”

Featured Faculty

Assistant Professor of Management and Organizations

About the Writer
Susan Margolin is a freelance writer based in Boston.
Add Insight to your inbox.
This website uses cookies and similar technologies to analyze and optimize site usage. By continuing to use our websites, you consent to this. For more information, please read our Privacy Statement.
More in Organizations