社交媒体算法扭曲了人们彼此学习的方式
以下文章经许可转载自《The Conversation》，这是一家在线出版物，报道最新研究成果。我和我的同事发现，人们每天与在线算法的互动会影响他们从他人那里学习的方式，其负面影响包括对社会的误解、冲突以及虚假信息的传播。人们越来越多地在社交媒体环境中与他人互动，这些环境中的算法控制着他们所看到的社会信息流动。算法部分决定了社交媒体用户看到哪些信息、哪些人以及哪些观点。在社交媒体平台中，算法主要设计用于放大能够保持用户参与度的信息，这意味着它们让人们不断点击内容并返回平台。我是一名社会心理学家，我和我的同事发现，这种设计的一个副作用是，算法会放大人们特别偏向于学习的信息。我们将这些信息称为“PRIME”（即具有声望、群体内、道德和情感的）信息。在我们进化的历史中，偏向于学习PRIME信息是非常有利的：因为学习来自有声望的个体是高效的，因为他们是成功者，他们的行为可以被模仿。关注违反道德规范的人也很重要，因为制裁他们有助于社区维持合作。但当PRIME信息被算法放大，且有些人利用算法放大来提升自己时，会发生什么？声望变成了一种成功能力的较差信号，因为人们可以在社交媒体上伪装声望。新闻流被负面和道德信息填满，从而导致冲突多于合作。人类心理与算法放大的互动导致了功能失调，因为社会学习支持合作与解决问题，但社交媒体算法的设计目的是提高参与度。我们将这种不匹配称为“功能错配”。为什么这很重要功能错配在算法中介化社会学习中的一个关键结果是，人们开始形成对社会世界的错误认知。例如，最近的研究表明，当算法选择性地放大更极端的政治观点时，人们开始认为他们的政治内群体和外群体之间的分歧远比实际情况更尖锐。这种“虚假极化”可能是导致政治冲突加剧的重要原因。功能错配还可能导致虚假信息的更大范围传播。一项近期研究表明，传播政治虚假信息的人利用道德和情感信息——例如，引发道德愤怒的帖子——来促使人们更多地分享这些信息。当算法放大道德和情感信息时，虚假信息也被纳入其中。其他相关研究目前，关于这一主题的研究仍处于早期阶段，但已有新的研究开始探讨算法中介化社会学习的关键组成部分。一些研究已经证明，社交媒体算法确实明显放大了PRIME信息。目前，这一放大是否导致线下极化仍然存在争议。最近一项实验发现Meta的新闻流会加剧极化，但另一项与Meta合作进行的实验则发现，接触其算法驱动的Facebook新闻流并不会增加极化。需要更多的研究，才能充分理解人类与算法在社会学习反馈循环中互动所产生的结果。社交媒体公司拥有大部分所需的数据，我相信他们应该在平衡隐私等伦理问题的同时，向学术研究人员开放这些数据。下一步的关键问题是，可以采取什么措施，使算法促进准确的人类社会学习，而不是利用社会学习的偏差。我的研究团队正在开发新的算法设计，以提高用户参与度的同时惩罚PRIME信息。我们认为，这可能会在维持社交媒体平台所追求的用户活跃度的同时，也提升人们对社会的认知准确性。本文最初发表于《The Conversation》。阅读原始文章。
查看全文
作者最近更新
-
我们进化的历史可以教会我们人工智能的未来scientific
2023-11-11 -
“ChatGPT检测器”以前所未有的准确率识别人工智能生成的论文scientific2023-11-11
-
人工智能需要规则，但谁将拥有制定规则的权力？scientific2023-11-07
评论0条评论