互联网和极端主义专家预测马斯克的推特上会出现更多仇恨言论和阴谋论
当亿万富翁企业家埃隆·马斯克上周完成对推特的收购并承诺“让鸟儿自由”时，费利克斯·恩达欣达看到一种威胁正悄然逼近。恩达欣达接受过国际法的培训，目前在荷兰蒂尔堡担任咨询顾问，专门研究非洲大湖地区冲突与和平相关问题。他早已见证了一个“自由”的推特能造成什么影响。多年来，他一直在追踪刚果民主共和国武装冲突中在社交媒体上蔓延的仇恨言论。这些煽动性言论中有很多一直未被推特等平台用于识别有害内容的系统察觉，因为这些言论使用的是这些平台筛查工具中没有内置的语言。尽管如此，恩达欣达认为，马斯克承诺减少对推特社交媒体帖子的监管，将进一步加剧大湖地区乃至其他地区的仇恨言论的势头和影响力。恩达欣达表示：“只要有一个‘随你便’的文化氛围，趋势就会加剧。这将使仇恨言论的传播者更加大胆，其言论也更加极端。” 目前，所有目光都集中在推特上，随着马斯克的平台计划逐渐明朗。但目前还不清楚他是否会实现自己最初的承诺，成为“绝对自由言论”的倡导者，而这引发了人们对他可能会削减对冒犯性或潜在有害推文监管的担忧。然而，过去的研究为我们提供了一些线索，表明放宽对推文的限制可能会带来什么后果。马萨诸塞州波士顿大学研究网络安全和网络安全部门的吉安卢卡·斯特林希尼表示：“这其实是一个非常复杂的生态系统。但如果你完全取消推特的监管，那么情况会变得更糟。” 目前，推特通过自动和人工编辑相结合的方式来管理平台上的讨论，有时会在有问题的内容上附加链接，引导用户查看更为可信的信息来源；有时则会因用户多次违反有害或冒犯性言论的政策而封禁其账号。马斯克曾多次表示，他希望放松对推特上言论的限制。在他收购公司后的几天，推特上的仇恨言论激增。到10月31日，该公司表示已删除了1500个与此类帖子相关的账户，并且马斯克表示，目前推特的监管政策没有发生变化。公司下一步如何发展仍然不确定。马斯克已与民权领袖会面，讨论他计划成立一个“监管委员会”来制定仇恨言论和骚扰行为的政策。马斯克表示，在制定允许被封禁用户重新加入的流程之前，此前被封禁的用户不会被重新启用。斯特林希尼指出，有些被封禁的推特用户可能会转向知名度较低、监管较少的平台。一旦进入这些平台，他们的社交媒体活动往往变得更加有毒和极端。“我们会看到一个更加坚定、更加活跃的社区——但规模也更小。”他说。通常，这些平台正是虚假叙述的发源地。斯特林希尼表示，当这些叙述渗入推特或脸书等主流平台时，它们就会迅速扩散。“它们会被推上推特，失去控制，因为所有人都能看到，记者也会报道它们。”他说。推特针对某些话题（如新冠）的仇恨言论和虚假信息的限制政策，能减少这些推文被放大的可能性，因此放松这些政策将让它们触及更广泛的受众。 “坏生意” 宾夕法尼亚州立大学帕克分校研究恐怖主义的詹姆斯·皮亚扎表示：“当一些在社交媒体上具有一定公众影响力的人使用煽动性言论——特别是那些贬低他人的人性言论——时，我会感到非常担忧。因为这正是导致更多暴力的场景。”但皮亚扎指出，根据其他社交媒体平台上宽松的言论限制来看，像推特这样具有主流吸引力的平台，若出现极端主义和虚假信息的上升，可能会变成一种糟糕的商业行为。皮亚扎表示：“这些社区会退化到几乎无法使用——它们充斥着机器人、色情内容和令人反感的材料。人们自然会转向其他平台。”乔治华盛顿大学华盛顿校区的政治科学家丽贝卡·特朗布尔也指出，欧盟即将出台的监管措施可能会使马斯克“自由言论”的言论变得不切实际。欧盟《数字服务法案》计划于2024年生效，该法案将要求社交媒体公司减轻非法内容或虚假信息带来的风险。理论上，推特等平台可以尝试为欧洲制定不同的政策和实践，但在实践中，这可能会变得很困难。特朗布尔说：“当核心系统，包括核心算法，导致这些风险时，缓解措施不可避免地会影响整个系统。” 特朗布尔预计，马斯克时代的推特将从一个混乱的时期开始，因为马斯克和推特用户测试平台的边界。随后，她认为推特可能会逐渐恢复到以前的运作模式。在未来几周内，斯特林希尼预计研究人员将开展研究，比较马斯克收购推特前后的状况，并分析虚假信息的传播变化、哪些用户账号被封禁，以及推特用户是否因新政策而抗议性地退出平台。特朗布尔则计划跟踪推特上协调性骚扰活动的动态。然而，推特政策的变化是否会影响现实世界的行为，仍然是一个悬而未决的问题。研究人员一直难以明确区分社交媒体的影响与不断变化的社会环境中诸多其他因素之间的确切关系。例如，2017年一项针对1200多名美国共和党人和民主党人推特用户的研究表明，接触由俄罗斯互联网研究机构运营的账号，对政治态度和行为并没有显著影响。斯特林希尼表示：“在我们的大多数研究中，我们衡量的是哪些类型的叙述会传播开来，以及它们如何病毒式扩散。但我们仍然无法真正判断，这种在线传播是否真的改变了任何人的现实行为和观点。” 然而，对恩达欣达而言，社交媒体上仇恨言论和阴谋理论的常态化显然可能加剧刚果民主共和国的暴力事件，即使学术界尚未能明确勾勒出它的确切影响。“从推文到暴力行为之间的因果关系，是一件非常难以确定的事情。”恩达欣达说，“但我们看到很多行为者公开煽动犯罪，而随后这些犯罪真的发生了。” 本文经授权转载，最初发表于2022年11月4日。
查看全文
作者最近更新
-
我们进化的历史可以教会我们人工智能的未来scientific
2023-11-11 -
“ChatGPT检测器”以前所未有的准确率识别人工智能生成的论文scientific2023-11-11
-
人工智能需要规则，但谁将拥有制定规则的权力？scientific2023-11-07
评论0条评论