算法与偏见——机器如何塑造思想?

所谓的“算法偏见”是指在看似没有恶意的程序设计中,却带着开发人员的偏见,或者机器所采用的数据是带有偏见、算法是积累偏见的。结果当然会带来各种问题,例如本文讨论的「Google偏见门」:Google的动态新闻算法是一种基于用户社交使用的协同过滤机制,目的在于过滤出对于用户”有意义”的信息;但该机制有可能在当前的社会条件下产生算法审查、信息操控与平台偏向,从而影响受众态度。这样的推送机制已然在挑战传统的新闻价值观。

算法真的是偏见的源头吗?还是由于新媒体时代自然形成的社交媒体部落化,真正促成了各种各样的“信息偏见“?我们到底期待怎样的大众媒体呢?反思既存的事实,新闻的未来究竟在何方?

1 阴谋论何以形成并获得病毒式传播?揭示人思维的“偏见本质” 我们总能在种种网络热议中,看到关于几则事件之间联系的“刻意”阐释。如关于'911"事件,有人认为是美国政府的一场精心骗局,目的是出兵伊拉克和阿富汗;再如孟晚舟被扣与张首晟之死,有人猜测是张将某芯片核心技术给了孟晚舟……建立事物之间的联系,是我们认识和阐释客观世界的一条途径。但是,若报道是没有严谨逻辑的推论,或者这种理论难以找到足够的事实来支撑,仅仅以未明确的报道细节和时间的相关性,来推导事与事之间的因果关联,未免容易走向阴谋论式的曲解。 阴谋论者善于利用这种对“驯化意外”的渴求,轻易煽动情绪,传播被曲解的讯息。他们往往不在乎事实证据和逻辑,只在意如何建造各种联系——在各种不可能的事情之中搭建出一些联系,刻意制造出他们之间的联系。以达到某种他们所想要的舆论效果。

作为信息的受众,我们面对意外和惊奇的时候,会倾向不可自控地寻求合理的解释,人的本能里有着理解一切事物的急切的欲望。由于目前没有一个为公共所接受的权威。并且大多数时候事实是不可检测的,或者说很难检测。此时阴谋论是一种很方便的理解世界的工具,很简单的看待世界的方法。而当你已经认定了一个结论,大脑就会不自觉地扭曲信息来适应对于此结论的判断。你将对「某件事情的真实性及其前因后果」深信不疑。 阴谋论横行的可怕之处,会使我们对社会失去信任感,徒增无力感,我们开始渐渐失去对真相的关注,只想听到自己认同的观点,只想相信自己认可的事实。

2 新媒介环境的潜在危机——社群同质化;立场部落化 在传统媒体时代,“媒体对于个体想什么或者怎么想具有重大的作用”。在新媒介背景下,这一法则转化为:“由多元个体组成的社群通过互联网等新媒介对于人们想什么或者怎么想具有重要作用”。 新媒介环境下,过去“媒体”的传播作用逐渐转向“社群”:公共媒体的一部分正在逐渐被社交媒体取代。拥有怎样的的价值观、兴趣爱好;从事怎样的事业与专业,决定了你的社会环境,或者一定程度上决定了你的「朋友圈」及「特别关注」。兴趣、价值观、信息来源及认知水平相似的社群筛选并酝酿相同的新闻品味和立场——这就造成了社群的信息同质化、封闭化与部落化。社交立场逐渐取代真相。

3 新闻“商品化”,搜索引擎的“用户至上”——算法推荐系统如何加剧偏见 正如“选择怎样的媒体,决定你看到怎样的世界”。算法推荐系统通过记录浏览信息,并根据此分析预测个人喜好,为人们推荐“信息”这一商品,这是当今绝大多数搜索引擎及部分新媒体面向用户的策略——对群众喜好的迎合,通过智能推荐算法、人口统计学预测并提供给我们那些我们会感兴趣,并有倾向去相信的信息——无论其真实与否,是否公正。 过去的公众媒体,由于各方专业记者的专业素养,在事实的陈述方面尚能一致。如今,私人定制的“智能”媒体,正在通过比社群同化更直接、精确、谄媚的方式,决定了我们更可能看到「哪些新闻」与「哪种论调」。此时我们每个人面对的,甚至可能是同一件事的「不同版本」,并且每个人都「信自己为真」。

4 我们该怎么做?以什么方式面对复杂信息? 如今经常有新闻反转的普遍现象。由于新闻在信息收集、加工、分发和传播等新闻生产的每个环节中,都可能存在报道失实与相关偏见混入的情况,大家应该以什么样的态度去面对复杂信息呢?这里笔者借用课程讨论中的结论给出建议: 收到一条信息的时候,首先思考: 1 信息的发布者是谁? 2 他出于什么目的发表了这条信息? 3 言论是否公正?推论是否合理? 4 是否有足够事实证据?数据的来源是否科学? 然后怎么做? 1 识别【物理叙述性事实】和【分析性事实】。 2 跳出惯用媒体来源,寻求不同的信息来源,对比分析对同一件事实的阐述与报道。 3 结合自己的逻辑分析能力、专业知识,分析何为公正、何为偏颇,形成自己的立场。

————————————————————————— 现在,我们通过对同一事件的多方引述来看看这个问题 「Google搜索结果是否存在政治偏见?"」 ————————————————————————— 材料1 “极不可信”的数据,大有作为 涉及人物:“极不可信”的数据作者 Bolyard;特朗普 来源:路透社 8月,保守派媒体PJ传媒(PJ Media)的监督编辑Paula Bolyard发表了一篇报道,报道说谷歌在对唐纳德·特朗普(Donald Trump)搜索结果中,96%的“出自左倾的言论和反特朗普”被放在了优先位置。 她在Google的新闻标签中搜索“Trump”,然后使用一个“极不可信”的统计媒体图表,将网站分为“左”和“右”来列出搜索结果。她报告说,100个调查结果中有96个来自所谓的“左倾”新闻机构,其中21个来自CNN。尽管她认为自己的方法并不科学,但数据结果仍广为流传。 由于技术公司对其内容算法保密,因此无法从外部明确证明算法存在反保守的偏见。在缺乏证据的情况下,像PJ媒体、《布莱特巴特》、《每日电讯报》和《华盛顿审查报》等超党派的新闻媒体突出报道了硅谷“敌视”保守派的故事。仅从这些案例中,即可推断出硅谷正通过不同公司间的技术联合镇压抵制保守党。 几天后,唐纳德·特朗普(Donald Trump)在推特上说,谷歌的结果对他不利,他引用了Bolyard的数据。特朗普利用这一统计数字来证实这样的猜测,即科技公司正在将反保守的偏见编码到自己的业务架构中。“谷歌和其他公司正在压制保守党的声音,并隐藏好消息和新闻。” 有趣的事是,他通过引用Bolyard的轶事数据作为可靠的证据,无意识地揭示了反保守偏见的说法是如何作为阴谋论而非可证实的事实通过媒体传播的。

材料2 来自自由电影人的暗示 来源:路透社 涉及人物:提出“搜索引擎操纵效应”心理学家 Epstein;纪录片导演Taylor 今年由导演Taylor和前布莱特巴特编辑Peter Schweizer发行的纪录片《令人毛骨悚然》对这一论点进行了广泛的探讨。这部电影基于心理学家 Robert Epstein的研究。自2013年以来,他发表了一系列研究报告,证明搜索引擎如何通过排序和过滤搜索结果来操纵政治观点,并称之为“搜索引擎操纵效应”。 虽然Robert Epstein,提出,这种影响理论上可以用于任何政治议程,但整个电影中贯穿着潜台词的暗示——暗示这种操纵被明确地用于支持民主党和自由事业。 影片的叙述者彼得·施韦泽(Peter Schweizer)发表了挑衅性的言论,在其描述谷歌和Facebook如何操纵选举,支持一位候选人时,奥巴马和马克·扎克伯格以及埃里克·施密特的合影,及关于大型科技公司反保守党偏见的新闻头条在屏幕上闪过。他认为“这些公司的议程远比他们透露的要深远”,或是“政府试图引导我们走向乌托邦”。 这种想法贯穿整个纪录片,将谷歌和Facebook描绘成反对保守思想的自由筒仓。电影导演泰勒认为:“公司的政治倾向通常并不重要。”“但是,当你控制着信息的起伏,并具有政治倾向,决定某些信息是否应该存在,那就是偏见开始进入谈话的时候。”

材料3 算法背后——不完美的系统本身创造偏见? 涉及人物:谷歌,Facebook和Twitter技术执行官 来源:Facebook;Twitter;Pinterest 虽然反对保守主义偏见的叙述来自这些右倾媒体来源,但它开始在更多主流观众中占据主导地位。在过去的一年里,一些共和党政治家公开质疑社交媒体平台是否偏袒他们的算法来歧视保守派。 社会学教授弗朗西斯卡认为,反保守偏见的轶事证据通过媒体传播为事实,部分原因在于对搜索引擎和内容审核实践中的偏见如何运作存在深刻的误解。 “这些算法非常复杂”:它会衡量许多因素。「事实上,Google已同时用了数百种不同的算法来确定最终显示给用户的搜索结果顺序。top3: 搜索内容与标题关键词的相关度;网站之间的链接性。RankBrain:搜索用户对于搜索结果的满意度——建立权重模型,以点击率和停留时间等权重因子衡量满意度。」

Tripodi解释说,如果你搜索唐纳德特朗普并获得大多数负面结果,那不是因为谷歌高管正在审查支持特朗普的声音,而是因为大多数谷歌用户正在寻找或愿意链接到这种特定类型的新闻。 “换句话说,谷歌有偏见,但它的偏见倾向于人们希望看到的结果类型。搜索结果有点像关于什么新闻重要的民意调查。该公司依赖于智能推荐,如果他们不这样做,用户就不会继续使用他们的服务。 “我们要意识到的是,这些系统不是中性的,往往会放大偏见,”Tripodi说。 “但这会影响我们所有人。”事实上,错误的内容审核实践已经影响了许多的进步。与Black Lives Matter相关的活动家由于呼吁种族主义已经被平台禁用,而LGBT活动家的有关同性婚姻的视频也被YouTube过滤。 谷歌,Facebook和其他大型科技公司在应对被指控持有反对保守的偏见和审查时提出了类似的解释,并承认正在努力研究——如何去调整和过滤如此大量的内容”。“这个问题的一个重要部分是这些过程不透明,”Tripodi说。 “也许如果我们更多地了解为什么内容被提升,删除,标记或取消,那么所有这些适得其反的猜想都会有更少的空间。” 在缺乏透明度的情况下,硅谷反保守偏见的观念仍然茁壮成长:今年9月,亚历克斯·琼斯(Alex Jones)在国会听证会上揭幕,共和党人质疑技术高管杰克·多尔西(Jack Dorsey)和谢丽尔·桑德伯格(Sheryl Sandberg)关于他们平台的政治偏见。琼斯抗议他最近因为传播仇恨言论而被YouTube和Facebook禁言。

材料4阴谋理论家施压社交媒体公司 涉及人物:阴谋理论家琼斯及极右派;社交媒体公司 来源:Facebook;推特;Pinterest 电台主持人和阴谋理论家琼斯在参议院委员会听证会上与Twitter和Facebook高管谈话时向媒体发表讲话。正如丹娜·博伊德在在线新闻协会会议上的演讲中所解释的那样,琼斯的仇恨言论并不构成保守价值观。但是他玩世不恭地操纵着反保守主义偏见的叙述,在“保守主义的虚假旗帜下”赋予他存在的合法性。“这是用名义上的保守主义作为斗篷,以促进有害的男性和白人主义至上。”从根本上说,这是一种通过向公众施放毒气并使现实看起来模糊来获取权力的技术。 其他极右派也采用了同样的策略,他们也通过恳求唐纳德·特朗普“拯救”保守派免受社会媒体审查而打断了诉讼程序。不管怎样,这个策略似乎奏效了。社交媒体公司对于禁止用户变得更加犹豫,他们因为害怕被描绘成审查员而公然违反他们的服务条款。而自称“另类”的社交媒体平台,如Gab,也开始出现,它们自诩为言论自由的堡垒和保守派的避风港,实际上却充当仇恨言论的滋生地。

材料5来自教授的质询—— “压抑算法”与民主进程 涉及人物:传播新闻学院教授Safiya U Nobl 来源:Facebook;推特;Pinterest 最后,与Bolyard和Taylor谈话时,他们都声称他们最关心算法偏见如何破坏民主进程的稳定。 “无论你是谁,或者你如何在政治上倾斜,或者你是什么性别,有一天算法平台都可以将你扫地出门——这对社会不利。与此同时,根据南加州大学安纳伯格传播与新闻学院的教授Safiya U Noble的说法,那些在没有充分证据的情况下传播反保守党偏见的叙述的人,应明白他们的观点应考虑真实的政治环境。 “我认为这是一个微妙的问题:鉴于现代民主国家中保守派和右翼政治力量的崛起,保守派偏见的主张并未成立。” Noble在她的“压抑算法”(Algorithms of Oppression)一书中提出,虽然所有的算法系统都嵌入了预先存在的社会偏见,但这些偏见增强了权力,从而对付那些被系统剥夺权利的人。例如,她通过谷歌搜索“黑人女孩”,页面展示出过多的色情结果。 正如Noble所解释的那样,未经证实的反保守偏见的呼声会通过转移这些“压抑算法”对真实世界造成更为严重的影响。 “我们必须理解这些保守偏见概念中的价值,”诺布尔说,“并且理解这只不过是一个红色的鲱鱼。”(hot hiring 俚语:指微不足道、混淆视听的东西——从而引诱你在真正重要的问题上作出让步 )

5 结语:我们正在期待怎样的「好媒体」?我们怎样拥有「更好的社会」? 当今社会,新闻的作用已经远远超出了“让大众知情”这一基本功能。行业中已经出现了不同形式的、迎合不同受众口味的新闻形式。结合上文所述,尽管人的心智缺陷与流行的「压抑算法」在不断强化受众的新闻偏见,尽管克服自己的已有偏见、周遭媒体不断强化的对他人的刻板印象并非易事,但信息的透明性与其越来越强的流通性同时也具有强大的力量去打破不同社交媒体部落间的藩篱。

在即将到来的时代里,我们拥有一个前所未有的机会去创造一个传播系统,它具有强大的力量推动社会的平等、人性化、可持续性和创造力,公正和自治是该时代的秩序。 ——罗伯特 W. 麦克切斯尼在《传播革命》

那么,我们究竟怎样拥有这个「平等、公正、自治、创新、人性化与可持续的好社会」呢?对于结语的问题,笔者先抛砖引玉,仅仅代表Qian的价值观与立场:

  1. 个人层面:不是强化偏见,而是打破偏见。跨界交流,保持质疑。

  2. 企业层面:价值观与行业道德建设。担负起公众声音的责任。 公共媒体更应承担引导、教育、启发的功能。质疑基于经验主义的智能算法应用于此领域的合理性,算法“迎合用户”——短视的商业利益至上的价值观,导致基于经验、偏好的连接,进一步加强认知偏见与真相隔离。

  3. 第三方机构监督:创建非盈利组织,如多方新闻观点平台(Allsides)于相关问题展开理性讨论;网络平台对既存偏见算法的清洗:如黑人女孩与「色情」的强联系算法

  4. 创新新闻格式:既然在当今社会,新闻的作用已经远远超出了“让大众知情”这一基本功能,不妨将超出的内容“规范化”,展现事件更完整的样貌,如解困新闻学: 解困新闻学 (Solutions Journalism) 往往针对深刻的社会问题进行报道,但并不拘泥于刻画问题本身的严重性,而更专注于社会、机构、人群对社会问题的解决过程。他们着力报道成功案例背后的原因与机制,和不成功案例背后的挑战与改良途径。这样的报道聚焦在人们为解决社会问题而做出的努力,并通过更加全面的报道,启发民智并持续推动问题的解决。 我们正在期待怎样的「好媒体」?我们怎样拥有「更好的社会」?

参考网站:

Media Biashttps://mediabiasfactcheck.com/

Reuters: https://www.reuters.com/site-search/?query=media+bias&offset=0&sort=relevance

CambridgeConspiracy theory vs free speech – should we regulate social media?

Solutions Journalismhttps://www.solutionsjournalism.org/