如果你想了解为什么Facebook经常是仇恨和虚假信息的粪坑，从约翰、米歇尔和卡尔文这样的用户开始是一个很好的起点。

约翰来自纽约州北部，是一名帽子锁的拥护者，他把众议院议长南希·佩洛西称为“PIGLOSI”，用的是“黑人”这个词，他还说，对他们不同意的民主党人的正确回应是“把他们全部毙了”。米歇尔怒斥这种“流行病”。卡尔文把同性恋当作一种侮辱，并宣称黑人社区永远是“粪坑”。你几乎肯定在网上遇到过这样的人。然而，你可能没有意识到它们有多么强大。

一年多来，我们一直在分析一个庞大的新数据集，我们设计这个数据集来研究美国500个Facebook页面上的公众行为芬狄诗官网，这些页面获得用户最多的参与度安奈儿童装官网。我们的研究，其中一部分将在今年晚些时候提交同行评审，旨在更好地了解那些在Facebook上传播仇恨和错误信息的人。我们希望了解他们如何使用这个平台，最重要的是，了解Facebook的反应。根据之前的报道，我们预计情况会很糟糕。我们发现的情况更糟。

阅读:Facebook是一个世界末日机器

我们的发现中最令人担忧的一点是，像约翰、米歇尔和卡尔文这样的人并不仅仅是边缘喷子，或者是对平台上真正重要的东西的干扰。他们是精英用户的一部分，之前从未被报道过，他们比美国99%的Facebook用户产生更多的点赞、分享、反应、评论和帖子。

他们是超级用户。由于Facebook的算法会奖励用户的参与度，这些超级用户对哪些帖子最先出现在其他用户的动态中、哪些帖子根本不会被看到有着巨大的影响力。更让人震惊的是，这些超级有影响力的用户大多是多么讨厌。事实证明，Facebook上最具虐待倾向的人，拥有塑造Facebook面貌的最大权力。

Facebook的活动比大多数人意识到的要集中得多。该公司喜欢强调其平台的广度:每月近29亿活跃用户，访问数百万公共页面和群组。这是误导。我们的分析显示，公众活动关注的网页和群组要窄得多，经常光顾的用户也少得多。

在我们的数据中，像本·夏皮罗、福克斯新闻和占领民主党这样的热门页面每月产生数千万的互动，而所有在参与度方面排名在300或更低的美国页面，每个页面的互动都不到100万。(参与度最高的页面包括极右和极左的例子，但在排名最高的公开政治页面中，右翼页面占主导地位。)这种赢者通吃的模式也反映在许多其他领域内存不能为read怎么解决，比如几本畅销书的主导地位，或者几十家大型蓝筹公司主导标准普尔500指数总市值的方式。然而，在Facebook上，注意力集中在几个非常受欢迎的页面上还不是广为人知。

我们分析了2020年夏季美国500个平均参与度最高的网页两个月的公众活动。排行榜的首页倾向于政治，但也包括其他主题的页面:动物、日常生活动机、基督教信仰、烹饪和手工艺，当然还有新闻、体育和娱乐。前500强的用户粘性急剧下降，统计数据显示这500个页面占了该平台美国公众页面粘性的一半。(我们的研究得到了非营利性的霍普韦尔基金的资助，该基金是一个向进步事业分发匿名捐款的组织网络的一部分。霍普韦尔的官员没有以任何方式参与我们的研究，也没有评估或批准我们的结论。我们收到的这笔拨款不与任何政治原因挂钩，而是一个项目的一部分，该项目旨在支持研究社交网络上的错误信息和问责制的研究人员。)

公共组与页面在几个方面不同。页面通常代表组织或公众人物，只有管理员才能在上面发布内容，而群组就像老式的互联网论坛，任何用户都可以在上面发布内容。因此，群组往往拥有更多的帖子，更多的评论，更少的点赞和分享——但它们也遵循一种赢家通吃的模式，尽管不那么极端。

因为群组发帖的数量要大得多，所以我们在2020年同样的两个月时间框架内，在两周内对群组进行了更深入的分析，从美国会员人数最多的41000多个公共群组中查看了数千万条互动最多的帖子。

Adrienne LaFrance:“历史不会仁慈地评判我们”

总的来说，我们观察到在这些美国页面和公共群组中有5200万活跃用户，这还不到Facebook宣称的美国用户基础的四分之一。在这些公开活跃的江西师大图书馆少数用户中，最活跃的1%的用户负责所有观察到的互动的35%;前3%的人占52%。许多用户似乎很少(如果有的话)与公共群组或页面进行交互。

尽管这些数字存在偏差，但它们仍然低估了超级用户的主导地位。Facebook用户的粘性有一个稳定的阶梯。很少公开活动的用户绝大多数只做一件事:他们喜欢在最受欢迎的页面上发表一两篇文章。随着活动的增加，用户会进行更多类型的公共参与——增加分享、反应，然后是评论——并扩展到最受欢迎的页面和群组之外。当我们看到越来越小的页面和群组时，我们发现越来越多的用户来自最热心的用户。因此，如果完全覆盖我们忽略的较小页面和最小群组，就会描绘出一幅更加赤裸裸的超级用户至上的画面。

超级用户的主导地位有着巨大的影响，超出了我们最初对滥用用户的关注。也许最重要的爆料来自前Facebook数据工程师弗朗西丝·豪根(Frances Haugen)的一批内部文件，这些文件涉及Facebook名为“有意义的社交互动”(Meaningful Social Interaction，简称MSI)的关键算法的内部工作。Facebook在2018年推出了MSI，当时该公司正面临平台用户参与度下降的问题。扎克伯格称赞这一改变有助于“与我们关心的人联系”。据报道，Facebook将员工奖金与这项措施挂钩。

MSI的基本原理很简单:它通过为不同的公众互动分配点数来对帖子进行排名。有大量MSI的帖子往往会出现在用户的新闻推送的顶部，而没有多少MSI的帖子通常根本不会被看到。据《华尔街日报》(The Wall Street Journal)报道，当MSI首次在平台上推出时，一个“赞”值1分;反应和重新分享价值5分;“不重要”的评论值15分;而“重要的”评论或信息值30。

像MSI这样的度量标准，给予较少频繁的行为(如评论)更多的权重，对更小的用户群体产生影画面好看的网游响。使用由《华尔街日报》引用的值并绘制Haugen的文档,我们估计1%的公开可见的用户会产生大约45%的MSI和组我们观察到的页面时,正负两个百分比取决于什么是一个“重大”的评论。根据描述其原因的内部消息，马克?扎克伯格(Mark Zuckerberg)最初拒绝了Facebook诚信团队提出的对新闻动态(News Feed)的修改，因为他担心MSI会降低。然而，由于活动如此集中，这有效地让极度活跃的用户否决了原本可以控制他们滥用的政策。

我们的数据显示，在美国最受欢迎的页面上的大部分MSI来自于Facebook声称拥有的2.3亿美国用户中的70万用户。Facebook拒绝回答我们在这篇文章中提出的问题，而是提供了这样一份声明:“虽然我们无法对我们尚未看到的研究发表评论，但与我们分享的一小部分内容是不准确的，似乎从根本上误解了News Feed的工作方式。排名是根据我们预测的每个人想看到的内容而优化的，而不是最活跃用户所做的事情。”

撇开Facebook的评论不谈，有充分的证据表明，该公司长期以来一直将好友和普通用户的活动作为“用户想看到什么”的关键预测指标，而MSI更是扎克伯格的“北极星”。各种各样的报告显示Facebook是如何反复调整不同MSI成分的权重的，比如反应表情符号。最初是5分，然后降至4分，然后是1.5分，然后“喜欢”和“喜欢”被提升至2分，而愤怒表情的重量降至零。正如《大西洋月刊》(The Atlantic)去年首次报道的那样，内部文件显示，Facebook的工程师们表示，他们发现，减少“愤怒”的分量意味着仇恨言论和错误信息的大幅减少。脸书表示，它在2020年秋季让这一改变成为永久性的。2020年1月的一封内部邮件称，Facebook将推出一项改变，以减少陌生人对MSI指标的影响。

我们的研究显示了一些不同的东西:这些调整都不会改变大局。引起公众反应最多的用户也会产生最多的点赞、分享和评论——因此，调整权重只是稍微调整了最活跃用户的重要性。现在我们可以看到，有害行为主要来自超级用户，很明显:只要添加不同类型的用户粘性仍然是Facebook推荐系统的关键元素，它就会放大同样超狭窄的用户群体的选电视剧大时代择。

那么这些人是谁呢?为了回答这个问题，我们从超过5200万的用户中随机抽取了3万名用户，这些用户参与了这些页面和公共群组。我们关注的是总的互动中最活跃的300个，这些人在他们总的喜欢、分享、反应、评论和群组发帖中排名前百分位。根据这些账户的公开资料信息和图片，我们对这些账户的审查显示，这些顶级用户大多是白人，年龄较大，而且在有虐待倾向的用户中，男性尤为突出。30岁以下的用户基本上不存在。

因为前300名都是重度用户，他们中的四分之三在我们的两个月期间留下了至少20条公开评论，有些人留下了数千条评论。我们尽可能多地阅读了他们的评论，总计超过8万条。

在219个至少有25条公开评论的账户中，68%传播错误信息，以垃圾方式转发，发表种族主义、性别歧视、反犹经典日本歌曲太或反同性恋的评论，希望对他们认为的敌人施加暴力，或在大多数情况下，以上几种情况都有。即使有6%的误差范围，很明显绝大多数最活跃的用户是有毒的。

顶级用户发布了大量令人眼花缭乱、相互矛盾的虚假信息。许多人声称，COVID并不存在，大流行是一种有计划的大规模屠杀，或者是通过比尔·盖茨的“杀手疫苗计划”，对人口进行微芯片化的精心策划。一遍又一遍地，这些使用者宣称，疫苗会杀死人，口罩会让人生病，而羟氯喹和锌可以治愈一切。我们遇到的错误信息并不全是关于covid -19的谎言，有关大规模选民欺诈的谎言出现在1000多条评论中。

种族主义、性别歧视、反犹太和反移民的言论不断出现。民主党女性政治家——尤其是黑人——被反复地称为“婊子”或更糟。对政治人物的辱骂和非人性化的语言无处不在，正如qanon式的信念，即世界是由一个由国际儿童性贩运者组成的秘密小集团所掌控。

除了恶意帖子的洪流之外，数十名顶级用户的行为也是垃圾邮件。在我们的数据中，我们没有看到大规模的机器人或非人类账户的证据，而评论历来是最难大规模伪造的活动。但我们确实看到许多帐户复制和粘贴相同的咆哮跨越许多帖子在不同的页面。其他账户也发布了相同的虚假视频或假新闻网站的链接。许多帐户也重复一个或两个字的评论，通常是简单的“是”或“是!!”——打了几十次，这对大多数用户来说是一种不寻常的行为。无论这种行为是否经过协调，这些随意的评论都极大地推动了MSI，并向Facebook的算法表明，这就是用户想要看到的。

在许多情况下，这种错误信息和仇恨席绢小说全集免费阅读的有毒混合物最终导致了对政治暴力的幻想。许多人想射杀、碾过、绞死、焚烧或炸掉“黑人命也是命”的抗议者、“非法移民”或国会的民主党议员。他们通常用种族主义的谎言或假想的反法主张来为这种暴力辩护。许多顶级用户夸口说，他们已经为看似不可避免的暴力做好了准备，他们正在购买枪支，这些枪支“上膛上膛”。

这些令人不安的言论并非空谈:我们的数据中也出现了许多因参与1月6日袭击美国国会大厦而被起诉的人。我们能够连接到前380个个人与210个Facebook账户;在我们的数据集构建期间，其中123人公开活跃，51人总共留下了1200多条评论。这些评论的内容反映了使用侮辱性语言的前1%的用户，这进一步说明了将有害用户伪装成普通用户中的几个害群之马所带来的风险。

推荐算法会随着时间的推移而改变，而Facebook对其内部运作讳疾忌讳。我们的研究捕捉到了一个重要但仍然有限的平台快照。但只要用户参与度仍然是Facebook推荐内容的最重要因素，它就会继续给予最糟糕的用户最大的影响力。Facebook在节制方面的努力在美国最为活跃，如果美国的情况如此糟糕，那么其他地方的情况可能会更糟。

让一小撮行为糟糕的人主宰平台是Facebook的选择，而不是必然。如果Facebook在美国的1.5万名审查员都积极审查数十名最活跃的用户，并永久删除那些反复违规的用户，Facebook上的滥用行为将在几天内大幅减少。但总体用户参与度也是如此。

也许这就是为什么我们发现Facebook很少采取行动的原因，即使是对最糟糕的违法者。在我们的样本中，有世界500强企业排名(2021最新名单)明显虐待行为的150个账户大雁塔简介中，只有7个在一年后被暂停。Facebook可能会公开谴责发布仇恨、传播错误信息和渴望暴力的用户。然而，在私下里，成千上万的惯犯仍然是Facebook上最重要的人物之一。