在2019冠状病毒病大流行期间，由于网上错误信息泛滥，许多平台宣布了旨在打击错误信息传播的政策和做法。这些努力奏效了吗?
发表在《科学进展》杂志上的一项新研究表明，全球最大的社交媒体平台Facebook的新冠病毒疫苗错误信息政策未能有效打击错误信息。这项由乔治华盛顿大学(George Washington University)的研究人员领导的研究发现，Facebook的努力被平台本身的核心设计特征所破坏。
“如今，社交媒体平台和人工智能治理受到了极大的关注。然而，这个讨论主要集中在内容或算法上。为了有效地解决错误信息和其他网络危害，我们需要超越内容和算法，还需要关注设计和架构，”该研究的主要作者、乔治·华盛顿大学工程管理和系统工程副教授大卫·布罗尼亚托夫斯基说。“我们的研究结果表明，如果不改变平台的设计目的，删除内容或改变算法可能是无效的——使社区成员能够就共同利益(在这种情况下是疫苗犹豫)建立联系，并找到他们有动力去寻找的信息。”
Facebook旨在围绕人们关心的事情建立社区。为此，它使用了几种不同的架构功能，包括推广品牌和社区名人的粉丝页面，使相对较小的影响者群体能够接触到大量受众。然后，这些有影响力的人可以组成小组——明确设计用于建立社区——社区成员可以在那里交换信息，包括如何访问平台外的错误信息或其他引人注目的内容。这些群组成员，尤其是群组管理员(他们通常是页面内容的创建者)可以利用Facebook的新闻feed算法来确保这些信息对那些关心它的人是可用的。
研究人员发现，尽管Facebook在Covid-19大流行期间花费了大量精力来删除大量反疫苗内容，但与之前的趋势相比，反疫苗内容的总体参与度并没有下降，在某些情况下甚至有所增加。
“这一发现——人们在Facebook大规模删除之前和之后同样有可能参与疫苗错误信息——令人难以置信地担忧。研究报告的作者、乔治·华盛顿大学米尔肯学院公共卫生学院的公共卫生教授洛里安·阿布罗斯说:“这表明我们作为一个社会在消除公共场所的健康错误信息方面面临的困难。”
在未被删除的内容中，指向平台外、低可信度网站的链接以及指向Gab和Rumble等“另类”社交媒体平台上错误信息的链接有所增加，尤其是在反疫苗团体中。此外，Facebook上剩余的反疫苗内容变得越来越不准确，包含关于疫苗副作用的耸人听闻的虚假声明，这些声明往往太新，无法实时核实事实。研究人员说，也有“附带损害”，因为支持疫苗的内容也可能由于平台的政策而被删除，总体而言，与疫苗相关的内容在政治上变得更加两极化。此外，反疫苗内容生产者比支持疫苗的内容生产者更有效地使用了该平台。尽管两者都有庞大的页面网络，但反疫苗内容生产者更有效地协调了跨页面、组和用户新闻提要的内容交付。
研究人员表示，即使Facebook调整了算法，删除了内容和账户，以打击疫苗的错误信息，该平台的架构也起到了反作用。
“可以把Facebook的架构想象成一栋大楼。机场的设计是为了引导人们轻松安全地进出登机口，体育场的设计是为了安全地聚集一群人观看表演。如果这些建筑的设计不是为了平衡旅行和娱乐与安全，人们可能会经常受伤。现在以同样的方式来思考Facebook的结构:它的设计目的是让有动机的人建立社区，并围绕任何话题轻松交换信息。Broniatowski说，并指出Facebook的架构导致了这项政策的失败。“那些积极寻找和分享反疫苗内容的个人只是按照系统设计的方式使用系统，这使得很难在这些行为与公共卫生或其他公共安全问题之间取得平衡。如果你想创造这种平衡，你就必须改变架构。”
Broniatowski的研究表明，社交媒体平台设计师可以通过合作为他们的平台制定一套“建筑规范”来促进公共健康和安全，这些规范有科学依据，可以减少网络危害。
他解释说:“建筑建筑师必须平衡建筑的设计目标和遵守保护使用者的规则。”“它们的设计必须符合防火、防洪、污染和地震规范，从而促进公共安全。他们需要通过结合设计特征来提高安全性，例如标记清晰、方便的出入口和旋转门，以防止破坏、恐慌、恐怖主义和骚乱。它们必须通过遵守管道、卫生和通风规范来促进公众健康，它们的设计必须尊重市政法规，如噪音和其他妨害条例。这些规则通常是由行业、政府和社区组织之间的伙伴关系制定的，它们有坚实的科学和实践依据。治理战略可以促进这些伙伴关系并支持科学研究。”
根据研究人员的说法，这是对世界上最大的社交媒体平台系统地删除错误信息和错误信息账户的有效性的第一次也是唯一一次科学评估。
