作者简介:梁阿敏,女,湖北宜昌人,贵州财经大学法学院讲师,法学博士,硕士生导师,研究方向:网络法治。
摘要:数字平台在治理网络仇恨言论中面临技术辨别有限、权责边界不清、法律规则模糊的困境。欧洲人权法院高度重视平台在网络言论治理中的作用,通过语境化综合考量、平台协同义务、程序保障机制的制度化嵌入形成一套有效规制网络仇恨言论的体系。可以发现,平台责任规范的演进不仅回应了弱势群体的结构属性,也在表达自由与反歧视义务之间进行法益衡量,并揭示了形式中立原则的限度与实质平等保护的必要性。因而,数字平台在限制仇恨言论时,应将实质平等理论内嵌于自身规则与技术架构中,明确合理的责任边界,并在权利保障与治理有效性之间实现平衡。
关键词:网络仇恨言论;平台;边界;实质平等;治理
一、问题提出:三重困境下的平台责任失衡
(一)能力受限:技术辨别有限,平台履责能力不足
数字时代下,个体言论表达能力受制于控制数字空间的平台公司。数字平台作为网络仇恨言论治理的第一责任人,通常采用技术手段审核不当言论。根据Meta的数据披露,在2023年第三季度移除的960万条仇恨言论内容中,94.8%是通过AI主动检测到的。然而,技术治理也会引发新的困境,在技术辨识机制与法律义务履行间面临结构性错配。2023年欧盟基本权利机构报告显示,随着时间的推移,算法很容易出错甚至会助长网络仇恨言论。数字平台的自动化审核系统在对仇恨言论识别与过滤中往往面临识别能力不足的问题。自然语言处理技术是数字平台应用较多的自动检测网络仇恨言论的工具,其主要应用算法技术来解析文本含义,从而判断或预测语言中的仇恨信息。然而,工具对文本中仇恨言论的认定尺度不一。与自然语言处理技术中的其他任务不同,仇恨言论往往具有强烈的文化指涉性,即某一表述是否被视为冒犯性内容,常常取决于个体所处的具体文化背景。同一言论可能因语境、受众背景、传播媒介等的不同,其含义和效果大相径庭。这正是因为“意义总是因人而异的,是建立在个人经验之上的,是个人反应组合的结果”。自然语言处理技术通常使用统一的语义框架和训练模型,难以捕捉到语言中的差异、表达意图和受众之间的微妙张力。技术要想突破既有语言模型识别阈值,只能依赖模型知识库的持续拓展与语料体系的精细化训练,工作量复杂、繁重。此外,深度学习算法会因继承“历史偏见”而导致特定群体仇恨言论识别率失衡。例如,在Facebook平台上,某段将美洲原住民称为“残忍的印第安野蛮人”的文字,其措辞在形式上满足多数仇恨言论定义中的贬损性和劣等化要素,极可能被系统判定为仇恨内容。实质上,该段文本系美国《独立宣言》的历史性引述,具有特定的历史背景与政治文本属性。本应保护弱势群体的技术反而成为系统性歧视的自动化工具。多模态表达如AI换脸视频、GIF表情包、隐性标语图像等也会使仇恨言论逃逸技术检测,书面、视觉、视听材料的叠加使得发言者的表意变得复杂。从技术角度来看,多模态问题会严重影响自动匹配分类器的准确性。可以发现,网络仇恨言论通常以隐蔽化、碎片化的方式藏匿在海量信息中,技术识别与筛选具有局限性,而持续进行技术更新无疑会抬高平台治理成本,导致平台履责能力不足。
(二)责任措置:权责边界不清,平台审查尺度失衡
网络仇恨言论治理中,平台作为数字守门人被赋予信息审核、秩序维护等多重规制职能。正如巴尔金所言,20世纪的言论监管是以政府为主导的二元结构,只有政府与发言者,而21世纪的言论监管则演变为以政府、数字平台与发言者为顶点的三角权力架构。例如欧盟的“被遗忘权”要求谷歌从搜索引擎中删除某些报纸文章,德国要求社交平台在接到投诉后24小时内删除明显非法内容。同样,我国的《网络信息内容生态治理规定》《互联网用户公众账号信息服务管理规定》《互联网信息服务算法推荐管理规定》等部门规章要求平台主动识别、删除违法有害信息,承担起前置监管的治理角色。一方面,平台凭借数据掌控、技术能力以及规则设定等结构性优势在言论审查方面具有主导地位,另一方面政府通过制度授权赋予其派生性的治理权能。这意味着政府直接将言论监管的职责委托给数字平台,平台作为实质监管者,需要在个体的言论自由利益与公共利益之间取得平衡。“与某些具有‘高权决定能力’的社会组织一样,平台企业此时实质上在实施监管、履行‘公共职能’。”然而,作为具有商业利益导向的平台,责任边界一旦模糊势必会导致平台审查义务与权力失衡。数字平台通过服务协议为用户提供存储、传播等服务,一旦被赋予公法治理的职责,则会导致平台规制向“准立法—准行政—准司法”的方向转化,私权力呈现出高度扩张的趋势。例如,德国一名右翼政客Themel在Facebook发表了诽谤性言论,Facebook暂停其账户30天,而慕尼黑高等法院认为Themel 的评论不构成仇恨言论,因此 Facebook 删除该评论并暂停 Themel 账户的行为违法。法院认为,仅仅因为 Facebook 单方面认定其评论违反了社区准则就要求其删除评论,显失公正。此外,平台的逐利性会驱使其与政府合作来规避合规风险,并通过营造安全社区来提升用户黏性。因此,平台往往倾向于采取过度删除、扩大审查范围的措施,从而引发对合法言论的误伤。特别是在仇恨言论的判断需要高度依赖语境以及社会背景的情况下,平台为避免监管风险以及降低成本,普遍使用技术采取过度审查、过度删除的策略,将模糊边界内的表达一律判定为高风险内容,进而侵害用户的合法表达空间。平台在缺乏统一规则约束的情境下,利用算法规则与技术结构实施治理,又极易突破合法边界,演化为对用户基本权利的侵害。
(三)规则失灵:法律规则模糊,仇恨言论界限难明
网络仇恨言论的界定缺乏明确标准,致使平台在言论治理中难以把握合法表达与违法侵权间的界限,进而引发治理模糊与责任错配的系统性问题。在表达自由与仇恨言论的张力关系中,合理与适度的界限极难把握。若有“合理性如美感,取决于观看者”的说法适用之处,莫过于划定表达自由与仇恨言论之间的界限。网络仇恨言论往往披着公共表达与舆论监督的外衣,其外在形式具有高度的表达自由特征。部分用户在发表言论时自认为在履行监督权并维护社会正义,语言虽激烈,却并未触及传统意义上侮辱、诽谤、煽动暴力等违法底线。由于仇恨言论本身具有高度主观性和情境依赖性,同一言论在不同语境中可能引发不同解读,平台难以据此进行有效识别与区分。更有甚者,随着时间和社会环境的变化,仇恨言论的认定也会发生变化。例如在澳大利亚,有案例表明“Nigger”(黑鬼)一词并不必然构成种族歧视,在历史性体育场馆命名的情境中,该词作为著名橄榄球运动员的昵称使用。同样,现行规范对于仇恨言论的认定标准也尚未形成清晰、统一的体系。尽管联合国《拉巴特行动计划》提出了六项判断因素,用以评估相关言论是否达到应予限制的程度。但迄今国际人权法仍未形成关于“仇恨言论”的普遍定义。南非宪法法院也指出,将“伤害”作为仇恨言论的构成要件过于模糊,难以满足法律适用所要求的明确性。我国《网络暴力信息治理规定》以及《关于依法惩治网络暴力违法犯罪的指导意见》等规范性文件,虽然尝试提出判断依据,但整体上仍主要围绕行为人的主观恶意和行为后果展开。一方面,平台需要判断相关信息是否出于侮辱、诽谤、威胁等恶意目的;另一方面,还需考察该言论是否已经造成名誉受损、心理伤害,乃至“社会性死亡”、精神失常、自杀等严重后果。然而,这些标准本身较为抽象,并且明显偏重结果判断,这与平台治理所要求的事前识别和即时处置之间存在明显张力。从司法实践看,仇恨言论的认定也具有较强不确定性。例如,加拿大最高法院认为,仇恨言论判断关键在于其对受众造成的社会心理影响;南非宪法法院则强调,应当以客观的“合理人”标准加以判断,不能仅以目标群体的主观感受作为依据。除此之外,欧洲人权法院、挪威最高法院和印度最高法院在相关案件中也都指出,特定言论是否构成仇恨言论,必须结合其发生时的背景、时机、语境以及受众结构等因素综合判断。由此可见,仇恨言论的司法认定具有显著的个案化特征。因此,平台在治理仇恨言论时往往难以形成稳定、可操作的识别机制,容易陷入误删与漏判并存的困境,并进一步加剧表达自由保护与反歧视治理之间的制度紧张。
二、数字平台责任的实践裁量标准
(一)内容语境化的综合裁量
欧洲人权法院在审查网络仇恨言论时,逐步形成了以“语境化综合裁量”为核心的内容审查路径。该路径并不拘泥于言论字面含义,而是强调结合言论发表时的具体社会环境及其可能产生的社会影响,对言论性质与危害程度进行整体判断。具体而言,法院通常会综合考量言论所处的社会背景、传播范围、发言者的社会地位以及受众的身份特征等因素。国家所处的社会背景,往往决定了相关言论危险性的识别方式,也影响国家干预措施的正当性判断。在Perinek v. Switzerland案中,欧洲人权法院指出,判断某一言论是否应受限制,需要考察其是否发表于政治对立尖锐、社会紧张突出的环境中。相反,如果一国并未处于冲突或骚乱状态,即便相关言论具有侮辱性或者威胁性,也不能当然认定其构成对仇恨或暴力的煽动。本案中,法院认为俄罗斯不处于紧张局势中,申诉人的评论并未鼓励对俄罗斯警察的暴力。言论的影响范围也是欧洲人权法院判断言论伤害程度的重要考虑因素,其中,数字时代的媒介特性是审查重点。法院认为,在大型网络平台发表言论,其受众更加广泛,并从传播速度、范围、评论环境、可识别性以及对受害方的实际影响综合判断。当然,评论数量、公开可见性及是否呈现系统性,也可能成为判断危害程度或刑责门槛的因素之一。发言者的身份也是影响言论的制度性力量。仇恨言论在权力和权威的支持下会更加强大,因此仇恨言论发言者的地位欧洲人权法院尤为关注。在Perinek v. Switzerland案中,法院认为作为政治人物就公共事务表达政治观点,只要未触及煽动暴力、仇恨、排斥的底线,就不应视为对公共利益的损害。法院也高度重视言论潜在受众及身份的脆弱性,一方面关注目标群体是否为少数族裔、宗教、性少数等传统弱势群体,另一方面评估言论对此类群体的实际感受。欧洲人权法院认为警察群体就不构成特殊保护的弱势群体,他们应该具备更高的容忍。在Vejdeland and Others v.Sweden 案件中,欧洲人权法院考虑到仇视同性恋的宣传单可能会对处于敏感期的青少年造成伤害。在Vajnai v.Hungary案中,法院认为随处展示共产主义标志可能会使历史受害者和亲属感到不安。在Perinek v. Switzerland案中,法院将亚美尼亚族群视为历史迫害群体,明确提出必须衡量言论对其尊严的实际影响,体现出对受众尊严的尊重。欧洲人权法院确立的“语境化综合裁量标准”不仅关注言论本身,更强调语言所处的社会语境、结构力量和传播媒介,形成了稳定性与灵活性交织的审查体系,既防止了对言论自由的任意限制也实现了对特殊群体的平等保护。
(二)平台协同义务的适度界定
传统政治理论中,权力主体通常界定为国家。数字社会逐渐瓦解了传统社会中政治国家—市民社会的二元结构,权力的专属性被稀释,碎片化的社会权力层出不穷,权力社会化成为一种新趋势。“数字化最大的特征在于其不仅为自身建立规则,而且为社会重建规则。”循此,数字平台集合信息传播优势形成了较强的传播能力与治理能力,成为国家权力向社会领域延伸的典型体现。在数字社会中,平台不仅承担内容传播者的角色,也被广泛视为言论空间的管理者。正如扎克伯格所言,Facebook在许多方面与其说是传统公司,不如说更像一个政府。我们管理着一个庞大的社区,并且相比其他科技企业,我们实际上在制定规则和政策。数字平台通过算法推荐、内容分发和用户互动机制深度参与信息传播,其所形成的结构性控制力赋予其显著的社会治理功能。当然,平台不仅为言论表达提供广阔空间,也为仇恨言论的滋生提供沃土。立基于此,平台有义务采取合理措施防止违法言论的持续扩散,由此产生的协同义务构成其基本治理职责。这一义务在欧洲人权法院一系列判决中得到了明确确立和具体展开,协同责任可大致归纳为以下三类判断标准:
一是基于平台控制力的责任确立。在数字社会中,平台对用户生成内容的控制程度已经成为划定其法律责任边界的重要依据。卡斯特在网络权力理论中指出,网络社会中的权力运行主要体现为四种形态,即网络准入权、网络规范权、网络控制权和网络建构权。其中,平台围绕内容发布、分发和传播所进行的机制设计正是其网络控制权和网络建构权的具体体现。尤其是在算法推荐机制下,平台不仅影响信息的可见性和扩散路径,也在事实上重塑了用户表达的机会结构。“算法使权利人能以近乎零边际成本发起海量通知,而用户反通知需承担身份验证、证据收集及后续诉讼成本。”由此可见,平台并非只是中立的信息通道,而是在内容流通秩序中占据了更为主动的支配地位。Delfi AS v. Estonia案通常被视为确立数字平台仇恨言论治理责任的标志性案件。Delfi是爱沙尼亚最大的新闻门户网站之一,因其未能及时删除用户在相关新闻评论区中针对SLK公司负责人L.发表的仇恨性评论,欧洲人权法院最终认定其应承担相应责任。法院之所以作出这一判断,关键就在于Delfi对于用户评论内容并非毫无控制能力,相反,其在评论功能的设置和运营中占据明显的主导地位:一方面,平台通过评论机制吸引用户互动并由此获取商业利益;另一方面,其又实际掌握删除评论的技术手段。正因如此,Delfi不能被简单理解为消极、被动的中介,而应当就平台内仇恨性评论承担相应的治理义务。Delfi对评论系统的支配能力正体现了平台对信息流通路径和互动结构进行组织、塑造乃至重构的能力,这正是网络建构权的典型表现。相较Delfi的大型商业门户,Pihl案中的平台控制力显著偏弱,欧洲人权法院的裁决中反复强调该博客具有小型以及非盈利性特点,其无法吸引大量评论。因而要求平台利用过滤系统对评论进行审查与平台的能力不具有相称性。可以说,Pihl v. Sweden案确认了控制力有限的平台会出现责任豁免的情形。Pihl案法院认为对于非仇恨类侵权言论(如名誉诽谤),“通知—删除”已经是平台尽责的充分体现。法院并不要求平台对这类内容进行主动审查或实时过滤。欧洲人权法院打破了中介免责逻辑,将平台经济动因与治理能力纳入责任评估机制,构建谁控制、谁负责的责任框架。具体而言,平台在具备网络建构权和网络控制权的情况下应承担更高的治理义务;而缺乏建构与控制能力的平台则在合理限度内被豁免或减轻责任。法院同时强调,数字平台责任的承担是有限的,仅在平台对内容具有可控性且涉案言论违法性明显时,才要求其积极介入治理。这种责任界定方式既防止了大型平台滥用建构权形成责任空洞,又避免了对小型平台施加过重的合规负担。
二是基于风险可识别性的义务启动。平台是否出现明显仇恨言论或者具有社会危害性的内容是启动平台义务的重要前提。在Delfi AS v. Estonia案件中,尽管Delfi平台已设立一定的过滤与举报机制,但其未能主动、及时删除明显构成仇恨言论和暴力威胁的评论,导致违法内容在线长达六周。平台对评论区具有实质控制力,因此负有及时移除明显非法内容的义务,即便未接到受害人通知,也应依法承担相应责任,而不构成对表达自由的不当限制。法院重点回应了平台对极端言论进行事前预防与审核的合理性,当然这一义务仅适用于极端、可识别的仇恨性表达。这就要求数字平台从被动响应转为主动筛查。在MTE & Index.hu案中,欧洲人权法院认为,尽管涉案评论具有攻击性甚至粗俗,但其主要表达的是对涉及公共利益商业行为的不满与批评,属于在特定网络语境下的情绪化价值判断,而非恶意中伤,因此新闻门户平台在此类表达中不应承担过度责任,须结合言论语境、评论风格与公共讨论性质进行整体评估。而在 Pihl v. Sweden案中法院认为,涉案评论虽然令人反感,但并未达到仇恨言论或暴力煽动的程度,并不苛求数字平台过度采取措施。在Lilliendahl v. Iceland案中法院强调,风险可识别性的判断标准并不以言论是否呼吁暴力为限,即便是单纯的侮辱性、贬抑性语言,只要其社会效果能够合理预期为强化对特定群体的偏见与敌意,即应当引起国家机关及相关平台的警觉。申请人的评论虽由普通公众所发,传播途径亦非传统大媒体渠道,但考虑到言论的公开性、针对性及表述方式,其潜在社会危害性已达到干预启动的门槛。欧洲人权法院依据其一贯判例,将仇恨言论区分为两类:一类为最严重的仇恨言论,适用《欧洲人权公约》第17条,直接排除保护;另一类为可合理限制的较轻程度仇恨言论,不足以适用第17条,其涵盖了通过侮辱、嘲弄、贬低特定群体而造成的社会危害。在数字平台与社交媒体环境中,这一标准要求平台运营者和国家机关负有更为主动的识别与反应责任,以防止潜在的仇恨情绪在公共言论空间中扩散,确保弱势群体免受再度边缘化和伤害。
三是基于披露匿名发言人的配合责任。当匿名机制事实上阻断受害人的有效救济,而平台又相较于普通用户更具识别、控制与处置能力时,平台应承担与其能力相称的预防、删除以及必要的披露协助义务。在Delfi AS v. Estonia案中欧洲人权法院指出,尽管匿名在促进表达自由中具有重要价值,但当其阻碍仇恨言论的责任追究时,平台作为更具识别能力与资源优势的主体,不能将责任完全转移至匿名用户,合理承担适度的治理与配合披露匿名者的义务是保障受害人救济权与言论空间平衡的必要条件。并进一步强调在特定情景下,个人的基本权利高于数字平台经济利益和其他网络用户的利益。与此相对,Pihl v. Sweden案却并未要求平台承担披露匿名者责任,形成这一差异的关键在于言论性质和损害程度的判断。Pihl案的匿名言论虽构成诽谤,但影响范围有限(小博客浏览量有限),且被迅速删除并公开道歉,实际造成的后续损害很小。MTE & Index.hu案进一步说明平台协同义务并不等于对所有用户评论承担普遍性的主动筛查义务。匈牙利宪法法院认为由于评论者的身份未知,所以网络平台应当承担责任。欧洲人权法院认为国内法院并未考虑匿名者身份能否识别的问题,而直接采用了客观责任。这种不考虑匿名识别实际困难而对平台过度施加责任的行为不符合《欧洲人权条约》第10条的规定。Standard Verlagsgesellschaft v. Austria 案焦点更是从言论内容本身转向平台是否有义务协助识别匿名用户。这涉及平台在保护用户匿名发表意见方面的角色认定,以及这种保护在何种情况下可以被合法削弱。正如法院所确认,如果平台无法以自身力量捍卫这种匿名性,此种匿名保护将无法发挥效力。可以看出,欧洲人权法院在判定平台是否有披露义务时认为,言论表意越接近仇恨言论或暴力煽动,平台规模与控制能力越强,受害人替代救济越不足,平台所负协同义务就越重。反之,若言论影响有限、删除和道歉等补救可及时到位,则不宜将平台推向一般性主动审查或当然担责的位置。
(三)程序保障机制的制度化嵌入
数字平台在治理网络仇恨言论中拥有强大私权力,其对用户的“规训”进一步推动“数字利维坦”的形成。平台作为准公共空间主体,治理方式与手段多样,且集规则制定权和执行权于一身,其行为直接影响到用户的表达边界。近年来,无论是法院判决、法律制度抑或部分主流平台都开始尝试制度化构建程序保障机制。例如,Facebook 和 YouTube 都建立了内容审核准则与申诉程序,YouTube 还设有专门的透明度报告与内容移除通知机制。微博则通过社区公约列明违规类型,并设有用户申诉入口与社区评议试点机制,用于部分争议案件的程序复核。尽管这些机制尚存局限,但其制度化尝试已初步回应了程序正义原则对平台治理的基本要求。结合司法判例、法律规则以及平台自治实践可将程序保障机制的制度化嵌入概括为以下两个主要方面:
一是治理透明度机制。“信息的分享与可获得性即是一种透明,它首先解决的是信息流动、沟通过程中的不对称性。”透明度机制的核心在于推动规则公开与信息披露,通过降低平台与用户之间的信息不对称,强化治理的可预期性与正当性。透明度机制不仅能够保障用户的知情权,也有助于用户在表达中预判潜在后果。显然,透明度机制是用户主张权利的基础。欧洲人权法院在其判例中确定了平台治理中透明机制的重要性。法院认为,由于网络用户未得到充分通知,削弱了其补救措施的有效性并进一步说明未收到平台通知是用户无法实施救济的重要因素,对用户实现充分有效的通知与解释正是透明度的要求之一,也是保障用户权利的基础。同时指出,对于高度侵入性的自动化识别技术,必须有规范措施范围和应用的详细规则。欧盟的《数字服务法案》作为数字领域最新治理制度,对平台透明度机制确立了系统性框架。其中,第14条明确要求中介服务平台须使用“清晰、明了、易懂且毫不含糊”的语言,向用户披露其内容审核所依赖的政策、程序与技术措施。第15条进一步规定,所有在线平台原则上每年发布透明度报告,涵盖内容审查的总量、举报来源、使用的自动化系统、处理时间与申诉统计等维度。第17条则规定,在采取任何限制性措施时,平台需说明具体理由及适用依据,并明确可用的救济路径。此外,第27条特别要求使用推荐系统的在线平台应当说明其推荐算法逻辑,并赋予用户选择退出自动排序机制的权利。这些条文构成了平台透明义务的多层制度嵌入,推动透明机制从自愿披露跃升为合规要求,实现了从道德期待到法律义务的结构转化。事实上,《数字服务法案》中所规定的用户通知义务与算法揭示义务并非孤立条文,而是构建透明治理逻辑的系统环节,其制度化嵌入有助于平衡平台自治与公共规制之间的张力。 主流平台在回应制度义务的过程中,亦开始构建透明度导向的内部机制。Meta集团旗下的Facebook与Instagram设立了详细的社区准则,将仇恨言论、暴力煽动、歧视性内容的识别标准进行公开,并在透明度中心发布定期报告,披露内容删除数量、政策违规类别及政府请求干预数量等。YouTube在其透明度报告中,不仅说明了因违反仇恨言论政策而移除视频的统计,还披露了因用户申诉而恢复内容的成功率,体现了平台对复议结果的统计和流程可追踪性。微博也相继发布《微博社区公约》,明确指出平台不容忍仇恨攻击、民族歧视等言论,并在规则说明中用案例及视频解释各类治理行为的执行逻辑。可以发现,平台内容治理的标准在逐步明确,用户在发表言论时能够判断其是否达到规则的可预期性,当然治理数据的公开发布使得用户有可能通过相应渠道对平台行为进行监督。因此,透明度机制通过规则公开、数据披露、用户通知与算法公示等多重机制提升治理正当性与保障用户权利,已成为平台责任合法化、治理结构制度化的重要支点。
二是用户的申诉机制。平台治理中嵌入制度化的申诉和纠错机制是正当程序原则融入平台规则的具体体现。申诉制度不仅能够为用户提供救济,也有助于提升内容治理的透明性与合法性。数字平台正在扮演准行政机关角色,承担类似公共机构的审查、裁决与申诉处理职责,但其缺乏透明性、解释性与独立审查程序,构成了严重的合法性赤字。申诉制度本质上是平台赋予用户的一种发声权,在一定程度上恢复了应存在的对话关系。内容审核决定常被视为单方面的命令而缺乏对话,但申诉机制的引入在一定程度上恢复了对话契机。在司法实践中,欧洲人权法院的判例亦强化了平台设立救济机制的正当性。法院对平台未能及时回应投诉的批评,间接要求平台必须为用户提供救济渠道。法院在判决中批评涉诉平台未能充分处理申请人提出的投诉,也未履行其应采取适当行动的义务。在立法层面,欧盟《数字服务法案》第20条要求平台建立电子化、免费、有效的内部申诉系统,允许用户就删除内容、封禁账户、限制变现等一系列决定提出异议。第21条的平台外部争议解决机制鼓励用户和平台通过经认证的独立第三方争议解决机构进行非诉讼调解,但不妨碍用户直接向法院起诉。 从知情通知到内部申诉再到外部调解或司法诉讼,建立了递进的救济机制,平衡了效率、成本与权利保障。德国2021年6月修订的《网络执行法》(NetzDG),曾新增复审机制。社交媒体提供者必须建立一个机制,使举报人和被处理内容的发布用户都可以对平台决定提出复审请求。从平台实践来看,主流平台普遍建立了内部申诉流程,但其实施效果大相径庭。作为全球最大的社交平台,Facebook及其母公司Meta在内容审核和申诉方面备受关注。Meta平台每天删除的内容中,约有10%至20%存在错误。为减少误删,Facebook设置了申诉机制,平台随后启动第二轮审核。申诉一般会触发人工复核,审核员可能纠正机器或初次判断,进而恢复内容。Twitter(现已更名为“X”)的申诉机制则更为明确。当用户的推文被删除或者账号受到限制时,平台通常会说明处理原因并在应用程序或者网页端提供申诉入口,允许用户提交说明并请求复议。根据X发布的2024年《数字服务法透明度报告》,其内容审核体系采取机器识别与人工审查相结合的方式,相关处理团队覆盖多语种并实行全天候运作,平台同时设置了较为完整的申诉程序,以便用户就可能存在的误判提出异议。用户救济机制已不再只是平台治理中的附属安排,而逐渐成为内容治理体系的重要组成部分。其意义不仅在于纠正个别错误决定,更在于通过程序性保障缓和自动化审核可能带来的权利侵害,从而为数字公共空间中的权利保护与治理正当性提供支撑。
三、实质平等理念与平台责任规范逻辑的演进
网络仇恨言论的治理并不仅仅是对技术行为的规范问题,其背后还涉及表达自由与反歧视义务之间的价值权衡。传统上,平台通常被理解为中立的信息中介,主要承担信息传输义务,因此在对待用户时应遵循形式上的一视同仁。然而,仇恨言论往往以特定身份群体为对象,其所造成的并非一般性的言语冒犯,而是具有持续性和扩散性的排斥、压制与污名化效果。在这种情况下,单纯依赖形式中立的治理逻辑,已经不足以回应弱势群体所承受的实质性伤害。平台责任也因此呈现出从消极守门向积极治理转变的趋势。
(一)仇恨言论的结构性属性与弱势群体伤害效应
仇恨言论具有明显的结构性属性。联合国将仇恨言论定义为因为个人或群体的身份(即他们的宗教、族裔、国籍、种族、肤色、血统、性别或其他身份因素)而攻击他们或对他们使用贬损或歧视性语言的任何言论、文字或行为交流。仇恨言论的目标群体往往针对的是个人或群体被赋予的不受欢迎的属性或者标签。进一步说,仇恨言论深深植根于既有的社会权力结构、历史文化偏见以及复杂的社会认同机制,并通过这些结构再固化不平等。仇恨言论以群体化的方式建构偏见和敌意,从而导致现实生活暴力行为的升级。这种结构性主要表现在:一是权力的不对等。仇恨言论本身是社会权力不对等的一种表现,语言的伤害性往往来源于社会中既存的结构性、不平等体系。危害性并不单纯源于措辞的攻击性,而在于其所依附的结构性语境。“仇恨言论之所以具备伤害力,是因为它在表达的同时,再现并加固了系统性歧视下的权力结构。” 在这一结构中,发言者所拥有的社会位置使其具有“决定何种声音可以被听见”的权力,从而将目标群体进一步边缘化。例如,社会对移民、宗教、种族与性少数群体的贬损性语言司空见惯,实质上这是主流群体对弱势群体的歧视与地位压制。二是身份的污名化与标签化。污名化指的是个体因拥有某种不被社会主流所接纳的特征或归属,被视为有瑕疵的或不完整的存在。仇恨言论直接导致对某种身份的标签化和污名化,例如将特定族裔与犯罪、暴力联系起来,或者将特定宗教信仰与极端主义进行联系。这种刻板印象一旦通过仇恨言论传播,便可能在社会交往与公共舆论中逐步固化为对特定群体的集体认知,并通过社会化过程内化为多数群体成员的常识性观念。三是历史延续性。仇恨言论对少数群体尊严、身份认同和社会融入的系统性侵害并不是偶然发生的,而是嵌套于历史、文化和制度性歧视的延续中。事实上,种族主义系统性地、广泛地使黑人、原住民及其他有色人种在社会中处于多重不利地位。这种现象往往可追溯至历史上的蓄意歧视行为,一旦形成,这种种族主义机制便常具有自我延续性。仇恨言论具有根深蒂固的历史,其通过制度、文化、政策进行固化,例如针对特定种族、宗教或地域群体的仇恨,往往与历史上的殖民统治、族群冲突或文化偏见相关联。鉴于仇恨言论的结构性,如果不对其进行有效规制,那么其存在将合法化,无论是受众、社会抑或法律的沉默,都会无形中鼓励仇恨言论,使其成为一种系统性压迫的持续机制。此外仇恨言论也进一步导致了对弱势群体的伤害和边缘化,受害者会出现类似心理压力增大的症状并处于焦虑与情绪紧张的状态等。仇恨言论也会引发暴力事件,即使不依赖任何诱发性事件,网络仇恨言论与现实种族、宗教仇恨犯罪之间也存在普遍关联。例如在2018至2019年间,社交媒体上的仇恨言论与虚假信息煽动了族群宗教的紧张关系,并在斯里兰卡引发了群体性暴力。正是因为仇恨言论所表现的结构属性以及群体伤害性,传统以个体为中心的言论自由保障逻辑难以充分回应仇恨言论对社会平等结构的破坏性影响。数字平台也已经从言论的传播中介转变为言论放大器,他们通过算法对信息进行推送,由于算法以用户参与度最大化为目标,倾向于推送那些更能激发情绪反应、引发互动的内容。而仇恨性表达往往具有高度煽动性,因此更容易被算法识别为高参与材料而获得优先推荐。这种算法偏好进一步加大了仇恨言论的扩散效应。传统治理将技术中立作为主流,也就是技术应当遵循固有逻辑,而与“善恶”或“好坏”等社会价值评析无涉。传统的法律责任要求直接的因果关系和实际损害,这与数字平台所带来的社会危害的弥散性和系统性相冲突。早期互联网的避风港原则也难以应对数字平台的规模和复杂性。数字平台的传播模式及对非法内容的不作为,会加剧社会结构的不平等以及促进弱势群体的边缘化。因此,平台是否承担积极义务对仇恨言论加以干预,已不仅是技术管理问题,更是对实质平等理念的制度回应。理解仇恨言论的结构性伤害机制,是推动数字平台责任逻辑转向积极治理的理论前提。
(二)表达自由与反歧视义务之间的法益衡量逻辑
数字平台在治理网络仇恨言论时面临着一个根本性难题,即如何在保障表达自由与履行反歧视义务之间实现平衡。言论自由的基础在于宽容。只有容忍极端主义言论,社会才能在不断的交往中学习包容异见。然而,言论自由并不是绝对的,这一点在国际人权法中得到了确认。《公民权利和政治权利国际公约》(ICCPR)第19条第1款和第2款确认表达自由为基本权利,但其第3款规定,表达自由可为实现正当目的而加以限制,例如维护国家安全、公共秩序、公共健康或保护他人权利与名誉。此外,第20条第2款则进一步要求缔约国禁止任何鼓吹民族、种族或宗教仇恨,构成煽动歧视、敌意或暴力的言论。同样,《消除一切形式种族歧视国际公约》(CERD)第4条明确要求各国将煽动种族仇恨与歧视行为入罪,并积极防止仇恨性内容的传播。这一体系显示,表达自由虽为基本权利但并非绝对权利,应与反歧视义务一并予以考量。在数字平台的治理场域中,表达自由与反歧视之间的关系不仅涉及言说的权利,更关乎谁能平等地参与公共言论空间。如欧洲人权法院指出,侮辱、嘲讽或诽谤特定群体即可构成限制言论自由的正当理由,即使未直接煽动暴力。这一判例逻辑反映出表达自由并不赋予任何人制造社会仇恨与排斥的正当性,尤其是在其对群体尊严产生实质性伤害时。反歧视义务不仅是国家义务的一部分,也应延伸至平台的治理实践。《工商企业与人权指导原则》中强调,企业应尊重人权,避免侵害他人权利,并对其涉及的不利人权影响予以预防、减轻和处理。在法益衡量上,表达自由与反歧视并非此消彼长的简单二元对立,而应建立在多元权利互动、限制与保障并存的复杂结构中。这种权衡不是静态的价值比较,而是将目光转向结构性正义。表达自由更应在社会既有的权力结构中考虑,形式上的表达自由保障可能掩盖结构性不平等,使既有权力占据表达资源,反而压制边缘群体的声音,当支配者的言论越受保护,他们就越具支配地位,而被压迫者的声音就越少被听到。表达自由更应当置于反歧视的社会结构中考虑。仇恨言论是社会结构性不平等的典型形式,因为仇恨言论攻击的并非自尊或自我感受,而是人作为社会良好成员的基本资格。它剥夺个体在社会中被平等对待的资格。尽管限制仇恨言论确实会使公众表达思想的自由性低于本可达到的程度,但这并非对自由的否定,而是一种有目的的权利平衡,其正当性来自于对受攻击群体尊严与社会地位的制度性保护。更进一步说,限制仇恨言论的正当性正是为了维护社会的平等性结构,而不是限制言论表达的多元性。数字平台应当以差异化的方式治理仇恨言论,确保目标群体不因仇恨攻击而保持缄默。当然,这种治理更应在履行反歧视义务时从消极走向积极,其核心在于不再关注个体是否实施了歧视行为,而是将注意力集中在最有能力推动平等的主体上,其目标不仅是惩罚个别歧视行为并补偿个体受害人,更在于通过结构性变革推动平等。数字平台作为私人治理主体,其在内容审查、规则制定和推荐算法中承担的角色,意味着其行为不仅影响个体言论权利,也直接塑造社会结构包容性。实质平等更强调个体的社会性,人的完整性体现在其能够在社会与群体中平等地参与。数字平台更需考虑如何通过制度设计实现表达自由与反歧视之间的平衡,而非牺牲其中任何一项价值。
(三)形式中立原则的限度与实质平等保护逻辑
网络仇恨言论的目标群体往往是社会中的弱势群体,而仇恨言论的攻击会进一步深化这类群体的不平等地位。作为社会的边缘群体,他们对平等权有着更强烈的需求。平等作为一种普世价值观几乎出现在所有社会制度和政治运动中。罗尔斯就系统论述了形式平等和实质平等,他认为形式平等是一种程序正义,“社会会以一种公平的方式分配财富和收入、权力和责任,而不管分配结果是什么”。在网络仇恨言论中,形式平等意味着作为内容监管的数字平台保持中立,对网络言论履行消极义务,避免不当干预。这一理念在欧盟的《电子商务指令》中曾有明显体现,该指令第14条确立了宿主服务免责规则,即平台在未发现用户违法行为或在知悉后及时移除违法信息的情况下可以免责。此外,第15条进一步规定成员国不得强制服务提供者承担普遍监督义务,禁止平台主动搜索违法内容或全面审查用户行为。美国《通信规范法》第230条强调平台即便面对明显违法、歧视性内容,亦可因并非发布者身份而免责,甚至因善意删除行为获得额外保护。无论是欧盟的《电子商务令》还是美国的《通信规范法》均强化了数字平台的中立角色,平台对内容审查免责。然而,平台看似中立地适用统一规则,实则是对仇恨言论的鼓励。这类形式中立在网络仇恨言论治理中凸显出局限性。形式中立实际上是一种不当干预,算法的优先排序会放大情绪性表达言论,这无疑是对弱势群体的二次伤害。形式中立假定了所有主体均具有表达的可行能力,而忽视了弱势群体的表达能力困境。个体往往并不是因为其个体身份被压迫,而是因其群体身份而持续性地被边缘化与沉默。在不平等的社会结构中,表达无法实现真正的自由。这主要是因为表达自由的实现依赖于平等的社会承认结构,当社会中某些人被仇恨言论驱逐出尊重共同体,他们的表达自由在事实上已被瓦解。数字平台的形式平等就忽略了既有的实质不平等。在网络仇恨言论治理中,形式平等并非本身无效,而是未能回应结构压迫与群体伤害的困境。为此,平台责任逻辑必须从形式中立转向实质平等保护。实质平等强调结果正义,也就是“社会必须要注意那些天赋较低和出生于较不利社会地位的人们”。这要求数字平台关注社会弱势群体,并消除他们的结构性困境。实质平等是对形式平等的修正,“社会和经济的不平等应这样安排,使他们:在与正义的储存原则一致的情况下,适合于最少优惠者的最大利益;并且依系于在社会公平平等的条件下职务和地位向所有人开放。”罗尔斯综合考虑了经济、社会文化的各种情况,表达出对弱者的关怀。也就是说要想实现实质平等,必须从最少受惠者的利益出发。仇恨言论的目标群体也即罗尔斯平等理论下的最少受惠者。数字平台更应给予目标群体更好的关注,补偿他们本应当享受到的资源。欧洲委员会部长委员会提到在打击仇恨言论时应关注受害者的想法,同时要求数字平台不得直接或者间接促进仇恨言论的传播。这些均是在打击仇恨言论方面向实质平等的努力。因此,平台在治理仇恨言论过程中更应将其实质平等导向内嵌于技术逻辑、运营模式和公共功能之中,通过消除目标群体的不利地位、污名化影响以及提供发表言论渠道使得他们受到公正对待。
四、走向实质平等:数字平台的责任边界与规范进路
(一)厘清责任边界,推动共治型中介责任结构
传统依赖于避风港原则的中介责任强调平台在未主动干预信息内容的情况下,不承担法律责任。然而,在网络仇恨言论治理中,随着平台算法推荐、内容推送机制对信息流通的深度干预,其角色早已从中立中介演化为内容组织者甚至言论场建构者,传统中介责任结构已难以回应现实治理需求。数字平台在治理网络仇恨言论中更应厘清数字边界。
首先,平台在数字空间的演进中已经从具有私权力的主体转化为对用户具有控制力和支配力的准主权者。平台权力的逐步增强,使其逐渐成为协助行政机关履行监管职能的重要主体。然而,平台在内容监管、仇恨识别方面也面临技术、资源和法律方面的限制。一味将行政责任施加给平台会限制平台自身发展权利。因此,有必要在国家、平台之间形成一种多主体共治的治理结构。对于平台而言应当避免全责或者免责的二元化理解,国家应设立最低治理基线与程序保障,平台在其控制力范围内实施自律和技术治理。网络仇恨言论的发展本身也基于平台有广泛的权力,为避免平台滥用其自由裁量权,国家有必要为平台引入义务机制,包括网络仇恨言论内容的快速识别和移除、实施有效的用户身份验证机制以防匿名攻击、提供受害者报告和救济渠道等措施。通过这些措施,不仅限制了平台的自由裁量权,也强化了其在防止和应对网络仇恨言论方面的责任,确保数字环境的安全与健康。国家在设立法律底线时可以《公民权利和政治权利公约》第20条“任何鼓吹民族、种族或宗教仇恨的主张,构成煽动歧视、敌视或强暴者,应以法律加以禁止”为规范基础,同时结合《拉巴特行动计划》界定的六要素,即以语境、说话者、意图、内容、传播范围、危害可能性来判定仇恨言论是否应当禁止。具体而言,我国《网络安全法》第13条“不得宣扬民族仇恨、民族歧视”为行政监管提供了依据,同时,我国《刑法》第249条将煽动民族仇恨、民族歧视情节严重的定为犯罪,完成了刑事与行政的衔接。然而目前位阶较高的法律对仇恨的解释依然停留在民族仇恨,建议结合《拉巴特行动计划》六要素,进一步扩充仇恨言论的范围,并给予仇恨言论恰当概念。同时,当违法显著和现实危害性达到一定阈值时,可以进入行政或者刑事的规制范围,尚未达到阈值但是有扩散风险时,可由平台采取删帖、限流、提示等软措施。当前国家已经就网络内容发布的关键环节形成了规则群,《网络信息内容生态治理规定》作为总纲为网络仇恨言论的分级分类处理提供了依据。《互联网跟帖评论服务管理规定》《互联网用户账号信息管理规定》则在实名、账号标识、分级管理方面明确了网络平台对用户的管理。尽管上述干预程序已经初具雏形,但在阈值与分级处置上,宜将《拉巴特行动计划》的六要素内嵌为执法与平台合规的证明要件。在技术方面,《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》与《互联网信息服务算法推荐管理规定》要求平台嵌入合成标识和来源提示,并给予用户关闭个性化的选择权。技术方面的规定可将《拉巴特行动计划》中的传播范围、危害可能性纳入,从而迫使传播范围收窄,受众降低,转而降低仇恨言论的危险性。
其次,数字平台在网络仇恨言论中的治理责任应当依据平台的功能类型、技术能力与社会影响力确定,“平台越大,对平台的中立性、公平性、道德性要求就越高”。更进一步说,数字平台的控制力是衡量平台责任的重要考量因素,因为这直接影响到仇恨言论的损害后果。因此不应苛求平台完全禁止仇恨言论,责任范围应与平台控制力相匹配。平台的控制力强,对内容和影响干预程度越大,其在识别仇恨言论、提供申诉渠道、建立透明机制等方面应承担更高的义务。社交平台,如Facebook、Twitter、微博、微信、抖音就具有内容互动性强的特点,其算法推荐系统能够影响用户的信息可获得性,因而其治理责任应当高于一般平台。如YouTube、知乎、小红书这类内容提供类平台能够影响与控制用户上传内容的传播范围与传播效果,其责任也趋向严格。反之,小规模、被动性的平台如小型网站,由于缺乏中心化的管理和内容监管手段,其平台控制力较弱,因此其责任范围应当适度减小,给予相应的责任豁免或缓冲机制。
(二)完善程序正义机制,提升平台治理的合法性与透明性
平台治理仇恨言论的过程本身就是一种对信息的权力性操作。平台作为裁判者不仅会影响言论发表者的表达权利,也可能因治理不当造成限制言论或歧视性后果。程序正义作为一种法律价值,能够更好地调和裁判者与被裁判者的权利义务关系。进而言之,“程序正义的基本要求就体现在对裁判者权力的制约以及对被裁判者程序性权利的保障上面”。因此,平台在执行内容管理行为时,可以“将现有的法律规则通过计算机语言表达,让人工智能直接遵循已经被计算机语言和方法表达的法律规则”,确保治理行为具有合法性、可预期性与可救济性。
首先,在事前规范阶段,平台应当设定明确、透明的内容规则。平台应将仇恨言论这类模糊概念细化为可识别的要素,一是受害群体的范围,如种族、民族、国籍、残障、性别等,二是行为类别,如攻击、非人化、暴力煽动、威胁、侮辱、去人格化隐喻等,并配套相应的正反示例库与边界情况说明。对于仇恨言论的词库可以定期更新与扩充,并按月向用户发布典型案例与处置结果。平台中所有社区条款均应在显著位置呈现与发布,标注关键词释义、典型场景与不适用情形,并提供多语种版本,避免带有价值判断色彩或潜在歧视的措辞。值得注意的是,根据仇恨言论不同程度,平台应给出不同处置梯度,包括提醒、限流、删除、封禁,确保用户的可预期性。事实上,要想处置结果公正,就是要“使其参与裁判结果制作过程、 与裁判者展开理性的对话”。因此,平台规则的制定与更新不仅需要专家评估,也应当引入受影响群体的意见,并设立常态化反馈板块与快速纠错途径,以实现规则来源的多元性和规范性,从而提升其社会认可度与公正性。
其次,在事中程序阶段,平台应当建立清晰的决策流程。自动化技术是平台处理海量内容的必要工具,其“黑箱性”往往引发法律及伦理问题,用户既缺乏法律上的救济权利也难以获得清晰解释。这就要求平台提前向用户发布言论治理的内在逻辑或者言论审核的关键信息,如处理方式、救济方式、审核员信息等。对于仇恨内容提供者而言,平台及时、准确地向用户提供限制言论的决策依据及裁决说理尤为重要,因为这是其行使申诉权与抗辩权的前提。尽管人工干预是弥合算法黑箱引发错误及隐形歧视的关键策略,但全过程人工介入势必会给平台带来过重负担。因此,在诸如复核及抗辩审查等复杂环节可要求人工介入,以便用户更好地明确决策流程。
最后,在事后救济阶段,平台应当设立具体可操作的用户救济机制。救济是平台治理网络仇恨言论的最后阶段,也是给予用户权利的第二次机会。首先,平台应向用户公布救济的材料、时间节点、证据采纳与处理标准。当然,平台应当向发表言论者和举报者抑或受害者平等开放救济渠道。对于发表言论者而言,可以允许其就内容删除、封禁等处理结果提出异议,从而避免平台因过量举报大面积删除引发“寒蝉效应”。对于举报者或受害者而言,救济是平台拒绝采取处理措施后维护自身权益的重要机会。各互联网平台可与民间社会组织合作在全行业内建立监督机构,使得用户可以获得第三方救济。2019年12月Meta(即前Facebook)在内部建立了监督委员会,该委员会相当于Meta建立的私人的、独立的“司法”系统,其在章程中明确可以维持或撤销Meta的决定。监督机构可对平台决策进行抽样审查与评估,督促平台进行政策修正。在用户穷尽平台内部救济措施时,亦可寻求监督机构的救济。
(三)融入实质平等价值,构建弱势群体保护导向的治理体系
如前所述,网络仇恨言论治理仅依赖形式中立的技术规则与抽象的表达自由原则,无法有效回应其对弱势群体造成的结构性不平等问题。因此,平台治理体系的设计与执行应主动融入实质平等的价值理念,将弱势群体的权利保障置于制度考量的核心位置。
首先,平台应在技术系统中关照受害者,以提高弱势群体的可行能力。可行能力是一个人“有可能实现的、各种可能的功能性活动(functionings)组合”。可行能力更加关注机会、权利以及人的自我实现。可行能力关注个体的自由选择机会,提高可行能力既是实现实质自由也是实现个体实质平等的路径。网络仇恨言论的目标群体作为数字社会的弱势群体面临权利弱化的困境,其缺乏同场域、低门槛且有效的对质渠道,这实际上是对其机会自由的制度性剥夺。更进一步说,目标群体的潜在表达权利与辩护能力无法实现,形式上的表达自由难以兑现为实质自由,弱势群体的实质平等亦因此受阻。因此,平台有拓展弱势群体能力集合的义务,以免其处于能力匮乏的不利结构之中。平台可通过提供更多识别仇恨言论的工具,提高受害群体的识别能力并促进他们积极参与反仇恨言论的治理。基于语言数据、互动模式和历史案例,平台可借助AI技术与人工审核结合的方式,提前识别可能针对特定群体的攻击性内容,并在传播初期进行干预。例如可以采用隔离措施,平台通过自动化仇恨言论识别对帖子进行分级处置,一旦检测到仇恨要素,相关内容即被纳入暂缓发布流程并触发受众告警,以降低对潜在受害者的即时侵害。在规定时段内,该类帖子处于允许与禁止的中间状态,须经评估或复核后方可决定是否放行。此外,优先处理涉及弱势群体的举报和申诉请求,提升其在平台治理中的话语地位与制度响应能力。
其次,平台治理机制应主动推动包容性内容生态的建设,鼓励对边缘群体声音的可见性、合法性和正当性表达。平台应当提供反制仇恨言论的便利环境,边缘群体声音被掩盖导致其很难与主流声音进行平等对话。对仇恨言论的沉默意味着承认了其合法性,因而建立反仇恨言论的环境十分必要。平台可通过“受害者导向”的判断标准在平台页面增加一键回应按钮,并附简要模板帮助受害者厘清回应思路。对于长期或反复遭受仇恨攻击的目标群体,平台宜构建法律、新闻传播、心理学等跨学科志愿者支持网络,提供快速法律咨询、媒体沟通与心理支持,组织经训练的联合反叙事与危机应对,从而形成协同反制合力,提升弱势群体的可见性与正当性表达,并优化整体平台的安全与包容生态。此外,可以构建面向公众的反仇恨言论表达与存证平台,通过对反对意见的系统化采集、结构化编码与可视化呈现,使公众的声音得到关注。当然,为了打破算法制度下的歧视再生产逻辑,平台在内容推荐制度上更应侧重于支持反对仇恨言论的内容,提升残障人士、少数群体等弱势群体内容分发的可达性。
最后,平台应在技术维度进行反歧视评估,其核心在于识别并纠正推荐、排序与自动审核工具对不同群体的影响,避免诱发“寒蝉效应”。就自动化审核与推荐而言,平台负有避免间接歧视的注意义务。自动化审核工具往往通过关键词进行删除及禁言,如不考虑语句的社会环境与上下文难以准确判断仇恨言论,这不仅容易扩大限制范围并伤及合法表达,同样也可能放过未触发关键词的隐匿性仇恨表达。因此,引入经多语言、多语境经验训练的模型是评估与校正偏差的关键环节。对存在重大影响力的推荐机制,宜纳入透明审计与公众知情程序,例如可设立数字伦理委员会,在数据使用、算法系统及其他数字创新相关的伦理议题上,提供专业的外部意见与咨询支持。对推荐系统提供解释与选项,避免把边缘化群体暴露于放大仇恨的“回声室”。可将用户偏好内容与高质量但立场相异的内容适度混合,以削减“回音室”并提高少数群体观点的可见性,从机制上抑制对立极化与歧视性放大效应。
结语
仇恨言论具有嵌套于历史歧视结构的深层属性,对弱势群体构成超越个体层面的集体性伤害。面对网络仇恨言论对社会公正秩序与弱势群体权利的冲击,数字平台已难以再以中立技术提供者身份规避治理责任。在结构性伤害显著、言论后果高度可视化的数字空间中,平台需从消极被动走向积极治理,其责任边界与规范路径的重塑成为制度重构的关键一环。平台不仅应在表达自由框架下维护开放性讨论空间,更应融入反歧视与实质平等理念,承担起保护性义务。这一治理转向不仅需要国家在立法和规制层面设定底线责任,也要求平台内部在内容审查、算法设计与申诉机制等方面建立起程序正义与透明治理的标准化机制。
因篇幅限制,已省略注释及参考文献。
引注:梁阿敏:《网络仇恨言论治理中数字平台的责任边界与规范路径》,载《河北法学》2026年第9期,第160页-182页。