社科大互联网法治研究中心：2023互联网平台网络暴力治理机制构建与测评报告（60页）.pdf

1、互联网平台网络暴力治理机制构建与测评报告中国社会科学院大学互联网法治研究中心2023.07.13中国社会科学院大学互联网法治研究中心中国社会科学院大学互联网法治研究中心长期致力于互联网法律和政策相关的前沿问题和基础理论研究，研究团队涵盖互联网犯罪、数据治理、知识产权、平台治理、竞争法、行政法、电子证据等专业领域，通过课题研究、产业调研、系列沙龙、开放论坛等方式与互联网理论与实务界展开合作，为立法司法、政府决策、产业发展提供研究支撑，立足于为互联网领域搭建沟通交流的平台，促进产业界、理论界以及从事政策制定、执行、司法裁判的相关机构形成持续对话、良性互动和共同研究的长期机制。“互联网平台网络暴力治

2、理机制构建与测评报告互联网平台网络暴力治理机制构建与测评报告”课题组课题组课题组负责人：刘晓春课题组成员：姜瀚（协调人）、石嘉浩、张芮、许冷玉洁、金昊堉、郑开心、李广钊、朱琳、陈之杞、李凡非、杜天星、杨超然网址：https:/ 年 7 月网络暴力现象在互联网络空间中时有发生，侵害了广大互联网用户的合法权益，扰乱了正常网络秩序。针对网络暴力现象的多元治理，是维护互联网络空间信息生态秩序健康稳定的题中之义和关键所在。2022 年 11 月 4 日，中央网信办印发关于切实加强网络暴力治理的通知，提出要切实加大网暴治理力度，进一步压实网站平台主体责任，有效保障广大网民合法权益，维护文明健康的网络环境。

3、2023 年 6 月 9 日，最高人民法院、最高人民检察院、公安部三部门起草了关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿），向社会公开征求意见。7 月 7 日，国家互联网信息办公室发布网络暴力信息治理规定（征求意见稿），提出了“强化网络暴力信息治理，营造良好网络生态，保障公民合法权益，维护社会公共利益”的网络暴力治理目标。对网络暴力现象进行有效的治理，需要对我国互联网络空间网络暴力现象的特征进行归纳，从生成机制角度对网络暴力行为和现象加以识别、预防，明确网络服务提供者的主体责任及其边界，充分发挥多元主体的治理效能。一、网络暴力的界定、机制、形态和类型一、网络暴力的界定、机制、形态和类型

4、（一）网络暴力的界定和类型（一）网络暴力的界定和类型近二十年来，互联网尤其是移动互联网降低了社会公众使用网络的成本，网民数量急剧增加，与此同时，网络暴力现象在世界范围内越来越多地进入了公众视野，对网络暴力的法律治理、技术治理、平台规则治理也成为了全球多个法域在互联网络信息生态治理层面的共同需求。然而，由于“网络暴力”这一概念固有的模糊性，其与网络犯罪、网络欺凌乃至部分网络舆论监督之间的区分始终不够明确，这使得对网络暴力行为的治理以及相关研究的深入开展面临难题。1.现有的网络暴力定义方式及其界定难题由于“网络暴力”这一概念固有的模糊性，其与网络犯罪、网络欺凌乃至部分网络舆论监督之间的区分始终不够

5、明确，这使得对网络暴力行为的治理以及相关研究的深入开展面临难题。1.现有的网络暴力定义方式及其界定难题2（1）网络暴力指通过网络实现的任何伤害例如，在欧盟委员会一项关于网络暴力的研究中，网络暴力被界定为“利用计算机系统造成、促进或威胁对个人的暴力，导致或可能导致身体、性、心理或经济伤害或痛苦，并可能包括利用个人的情况、特点或脆弱性。”1这一定义方式绕过了对具体行为的描述，从工具（计算机系统）和后果（伤害或痛苦）两个视角界定了网络暴力的概念，实现了对网络暴力行为的全覆盖，但未能对网络暴力与网络上一般性的违法犯罪行为作出区分，对于网络暴力的治理尤其是技术治理和平台规则治理方面无法提供具有针对性的参

6、考。（2）网络暴力是通过某些特定网络行为实现的特定后果另一类典型的定义思路来自于对具体网络暴力行为展开讨论的研究者，这类定义试图将其与其他网络空间的恶意行为区分开，因此采取列举或穷举网络暴力行为的方式界定网络暴力的内涵。这一类型的尝试主要见于网络暴力研究的早期，如将其定义为“包括侮辱、谩骂、网上围攻、诽谤、恶意暴露个人隐私等人身攻击、严重践踏网络文明的网络事件”2，或描述为“网络暴力行为人对某种不符合社会道德的行为采用网络黑客的手段，公布个人隐私，从网上追到网下，并以无形的舆论压力，造成被害人心理上被强制，进而导致其生理上也被强制的状态，足以妨碍被害人意思决定自由与依其意思决定其行动的自由”3

7、等。这一定义方式的优势是能够将“网络暴力”的行为限定在特定类型之中，避免因定义的模糊而将其他网络犯罪行为纳入网络暴力范畴，并且客观上也将“网络暴力”一词所指涉行为的烈度限定在了一定范围内。但这一定义的问题在于，列举方式并不能穷尽网暴的所有表现形式，例如，早期以“人肉搜索”为代表的网络暴力形态与社交媒体、视频时代网络暴力的形态已经大不相同。因此，列举行为的界定方式，存在过于零散而缺少抽象层面概括的问题。（3）网络暴力是特定机制生成的现象这类思路主要从网络暴力的生成机制入手加以定义，较具典型参考价值的定义包括“网络暴力是现实暴力在网络世界的体现”4或“网络技术风险与网下社会风险经由1欧盟网络犯罪公

8、约委员会(T-CY)：关于网络暴力的绘图研究附 2018年 7 月 9日 T-CY通过的建议，载欧盟网络犯罪公约委员会网站：www.coe.int/cybercrime，2018年 7月 9 日。2王刚：从“铜须事件”看网络暴力的成因，载传媒观察2007年第 1期。3陈秀丽：网络暴力现象内涵及原因分析，载成都大学学报（社会科学版）2007年第 5期。4侯玉波、李昕琳：中国网民网络暴力的动机与影响因素分析，载北京大学学报（哲学社会科学3网络行为主体的交互行动而发生交叠，继而可能致使当事人的名誉权、隐私权等人格权益受损的一系列网络失范行为”5等。这类思路关注网络暴力“何以生成”，能够从较深层次对网

9、络暴力的成因或形态加以概括，因此虽然在精确度上往往不如列举式定义，但对网络暴力现象往往能够提出较为深刻的观察。（4）网暴、类网暴、非网暴的区分网暴、类网暴、非网暴的区分对于网络暴力，学界尚且没有统一标准的定义，但实践中各主体早已关注并着手解决这一社会问题。2022 年中央网信办开展了“清朗网络暴力专项治理行动”，并出台了关于切实加强网络暴力治理的通知，在该通知中首次规范界定了网络暴力行为，即“针对个人集中发布侮辱谩骂、造谣诽谤、侵犯隐私等违法信息及其他不友善信息，侵害他人合法权益，扰乱正常网络秩序”。尽管这一界定仍有模糊之处，如“不友善信息”的范围该如何界定等，但它指出了网络暴力的核心在于侵害

10、他人合法权益、扰乱正常网络秩序，因此网络暴力应当具有群体性、欺凌性、煽动性的特点，且对社会秩序造成损害。2023 年 7 月 7 日，国家互联网信息办公室发布网络暴力信息治理规定（征求意见稿）通知，进一步将网暴明确为“通过网络对个人集中发布的，侮辱谩骂、造谣诽谤、侵犯隐私，以及严重影响身心健康的道德绑架、贬低歧视、恶意揣测等违法和不良信息。”与网暴密切相关的另一个概念是类网暴，其表现形式与网暴有很多相似之处，与网暴密切相关的另一个概念是类网暴，其表现形式与网暴有很多相似之处，比如行为的“不友善性”、影响范围较大、持续时间较久等。类网暴有很多表现形式，如网络舆论、网络批评、谩骂等，但类网暴与网络

11、暴力有两个重要区别：其一，是否造成了恶意后果；其二，是否符合“巨量”的特征。首先，网络暴力的关键点在于“暴力”，现实中的暴力行为往往出于恶意的目的，并且会造成恶劣影响，但网络舆论和批评并不能一概而论认定其目的恶意，且舆论往往具有监督作用，如果加以引导甚至可以对社会治理起到正面作用。第二，网络批评和谩骂有时只是个人行为，尽管表面上可能与“暴力”类似，但由于数量太少，造成的后果并未达到群体性、欺凌性、规模性的特征。因此，类网暴并不能简单地归类到“网络暴力”这一概念之下。由于网暴定义与边界不清晰，网暴界定与识别存在困难。在许多场景和语境中，以“网暴”为名，消费“网暴”，甚至引发真正“网暴”的行为时有

12、发生应当将由于网暴定义与边界不清晰，网暴界定与识别存在困难。在许多场景和语境中，以“网暴”为名，消费“网暴”，甚至引发真正“网暴”的行为时有发生应当将版）2017年第 1期。5姜方炳：“网络暴力”:概念、根源及其应对基于风险社会的分析视角，载浙江学刊2011年第 6期。4这样的行为界定为消费“非网暴”。所谓的消费“非网暴”是指个别媒体或自媒体，未核查新闻事实直接将事件定性为网暴，或者将事件结果与网暴强行挂钩的行为，这种行为以“网暴”的名义，混淆了事实，消费了公众情绪和流量，也加大了治理难度和成本。若是不加区分地将一些批评扣上“网暴”的帽子，则可能会模糊网暴概念与治理边界。必须指出，网络暴力不是

13、“箩筐”，不能随意将争议事件与网暴不当关联。在各方尚未达成共识的情况下，应当审慎认定网络暴力，警惕网暴概念的泛化和滥用，同时平台和媒体也应加强正向宣导，不应炒作和夸大个别评论的影响力。这样的行为界定为消费“非网暴”。所谓的消费“非网暴”是指个别媒体或自媒体，未核查新闻事实直接将事件定性为网暴，或者将事件结果与网暴强行挂钩的行为，这种行为以“网暴”的名义，混淆了事实，消费了公众情绪和流量，也加大了治理难度和成本。若是不加区分地将一些批评扣上“网暴”的帽子，则可能会模糊网暴概念与治理边界。必须指出，网络暴力不是“箩筐”，不能随意将争议事件与网暴不当关联。在各方尚未达成共识的情况下，应当审慎认定网络

14、暴力，警惕网暴概念的泛化和滥用，同时平台和媒体也应加强正向宣导，不应炒作和夸大个别评论的影响力。6 6需要明确的是，本报告所针对的对象是治理范围内的网络暴力，而类网暴、非网暴在实质上并不属于网络暴力的范围，类网暴与非网暴行为也要排除在此份报告的讨论范围之外。（5）网络暴力界定的六大难点（5）网络暴力界定的六大难点目前针对网络暴力的概念和内涵仍未有明确的规定，界定难成为网暴治理的首要难题。有专家提出，“网络语言暴力”应包含以下定义要素：第一，语言形式使用负面表达；第二，聚集大量冲击性语言；第三，对当事人产生巨大负面影响。这种界定对典型的网暴行为可以涵盖，但仍面临很多疑难杂症。如果网暴的定义不能明

15、确，关于网暴的争论就永远无法休止。7因网暴难以界定且容易引发社会关注和同情，部分媒体、自媒体可能在未核实基本事实的情况下，将事件结果与网暴强行关联，形成了以“假网暴”催生真网暴的现象。首先，“风言风语”、“揣测暗示”以及难以准确定义的部分语言暴力是否应纳入法律意义上网络暴力的范畴，是横亘在网暴治理中悬而未决的难题。首先，“风言风语”、“揣测暗示”以及难以准确定义的部分语言暴力是否应纳入法律意义上网络暴力的范畴，是横亘在网暴治理中悬而未决的难题。有专家指出，以冷嘲热讽、煽风点火、风言风语、阴阳怪气为主的不良信息型网络暴力违法特征并不明显，但对当事人造成的伤害不亚于造谣诽谤、侮辱谩骂、侵犯隐私等网

16、络暴力违法信息。这些难以界定为违法信息的不良信息，是否应受到法律的规制有待进一步讨论。8其次，网络暴力难以有效界定的主要难点和最大问题在于，网络暴其次，网络暴力难以有效界定的主要难点和最大问题在于，网络暴力造成的伤害力造成的伤害6参见评论：警惕网暴概念泛化，当心奇葩言论炒作挤占公共表达空间，载南方都市报2022年 10月 25日，https:/ 关键在于明确定义，载人民论坛网 2023年 6 月 26日，http:/ 6月 10日。5是以其规模为基础的，单次的网络暴力行为对受害者造成实质性的伤害不像多次行为那么严重，而多因一果的逻辑链条则使得单一网络暴力行为的责任非常难以确定，容易带来追责难题

17、。在具体的网络暴力事件中，“多对一”行为和结果之间的因果关系很难确定，是以其规模为基础的，单次的网络暴力行为对受害者造成实质性的伤害不像多次行为那么严重，而多因一果的逻辑链条则使得单一网络暴力行为的责任非常难以确定，容易带来追责难题。在具体的网络暴力事件中，“多对一”行为和结果之间的因果关系很难确定，事实上许多案例中，网络暴力受害者与网络暴力实施者之间可以实现沟通，但这种沟通覆盖的范围注定是狭窄的，最终难以扭转网络空间谣言及恶意汹涌的大局。例如在“粉色头发女孩被网暴去世”一案中，当事人自述其曾与网络暴力实施者交流并取得一定的澄清效果，但大规模的恶意评论仍然使得其无力招架。第三，从实践情况来看，

18、一般的量化指标往往难以实现网络暴力现象的准确界定。从实践情况来看，一般的量化指标往往难以实现网络暴力现象的准确界定。例如在“女篮运动员李梦微博遭网暴”一案中“这个银牌和你关系不大吧？”“发烧打一针不能上场吗？”“决赛为什么不能拼一下呢？”等攻击性评论实际占比不足 1%，李梦本人也亲自予以反击，这算不算得上网暴？在李梦事件中，有声音对相关评论是否属于网暴范畴提出质疑。从施暴人数、攻击频次等因素看，也存在尚待厘清的判定细则比如在单个施暴者和数以千百计的施暴者之间、随机偶发和持续不断的网络攻击之间，构成网暴的标准几何，是否应当考虑网暴评论数量以及在整体评论中的占比情况等等。9第四，当事人的主观感受影

19、响对网暴的认定，网暴界定需要考虑不同情境。第四，当事人的主观感受影响对网暴的认定，网暴界定需要考虑不同情境。对话者的身份不同，语言中的暴力属性完全不同，比如一句话用在父母朋友之间可能会认为是开玩笑，但放在陌生人之间就是恶语相向。一些表达可能仅仅会对特定的人带来伤害，一旦脱离情境，如何用一种普遍性的规则界定其是否为网络暴力较为困难。如果把负面的、不友好的、不当的评论也纳入网暴范畴，可能会进一步缩小言论的边界，压缩正常批评的空间。在快速处置与精准处理的双重诉求下，应赋予平台一定的试错空间，不应过度苛责。此外，网络暴力产生伤害的机制本身也是动态的，一方面，作为个案的网络暴力现象发展变化很快，有关评论

20、的规模可能在几天内迅速膨胀到千万级；另一方面，对受害者造成伤害性后果的舆论焦点从事前来看常常难以预测。这种混沌系统的特征使得网络暴力现象难以在早期识别，也很难在现象早期通过某种单一手段的介入实现正向引导。第五，多数情况下网络暴力的表现形式是言论，这使得单次的网络暴力行为与许多舆论监督乃至公共议题的一般讨论很难区分开。由于网民数量较多，网络监管具有客观的局限性，网络服务提供者很难在第一时间制止一些不良行为，也很难把握言论第五，多数情况下网络暴力的表现形式是言论，这使得单次的网络暴力行为与许多舆论监督乃至公共议题的一般讨论很难区分开。由于网民数量较多，网络监管具有客观的局限性，网络服务提供者很难在

21、第一时间制止一些不良行为，也很难把握言论9参见评论：警惕网暴概念泛化，当心奇葩言论炒作挤占公共表达空间，载南方都市报2022年 10月 25日，https:/ 1855期第 2版。7侵权或犯罪行为。侵权或犯罪行为。聚集型网络暴力应当具有以下特点：（1）网络暴力所涉言论、行为等本身不具有道德正当性，且无法解释为某种通过网络实现的公众监督；（2）孤立的单项言论或行为不符合法定违法或犯罪行为的构成要件，亦一般不会对受害人造成实质的生理或精神损害；（3）达到聚集规模后会对受害人造成实质的生理或精神损害。（1）网络暴力所涉言论、行为等本身不具有道德正当性，且无法解释为某种通过网络实现的公众监督；（2）孤

22、立的单项言论或行为不符合法定违法或犯罪行为的构成要件，亦一般不会对受害人造成实质的生理或精神损害；（3）达到聚集规模后会对受害人造成实质的生理或精神损害。该定义从网络暴力损害后果的生成机制入手，将网络暴力与通过网络实现的暴力犯罪、主要由线下欺凌转入线上的未成年人网络欺凌、正当的网络舆论监督等都作了区分，特别是从治理角度，将网络暴力治理的目标行为从模糊的灰度地带剥离出来加以探讨，试图为治理体系和指标的建立提供概念基础。（二）网络暴力的发生机制（二）网络暴力的发生机制1.我国网络环境的现实特征从传统时代的书面及线下交流，到网络时代的贴吧、微博、微信、短视频等，都是语言暴力发生的场所，也是语言暴力在

23、网络空间的延续和发展。1.我国网络环境的现实特征从传统时代的书面及线下交流，到网络时代的贴吧、微博、微信、短视频等，都是语言暴力发生的场所，也是语言暴力在网络空间的延续和发展。在国外，网络暴力还蔓延到元宇宙的虚拟现实空间中。网络暴力治理是现在以及未来网络生态治理中不可缺少的一部分。2.网络暴力发生的成因分析网络暴力是网络技术风险与现实社会风险交互重叠的产物。2.网络暴力发生的成因分析网络暴力是网络技术风险与现实社会风险交互重叠的产物。网络暴力的成因极具复杂性，深受社会伦理及现实、网民心理及情绪等问题影响。可以说，网络暴力是诸多社会问题在网络平台的投射。网络暴力防控与网络文明专题调查报告显示，网

24、络暴力的产生多因并存，既有网络环境内生性的原因，也有网民素质、社会法治等外部因素。其中，网民素养不足、相关事件认识不清草率评论是最突出的原因，这两项分别占比 69.16%和 68.04%。网络暴力是诸多社会问题在网络平台的投射。网络暴力防控与网络文明专题调查报告显示，网络暴力的产生多因并存，既有网络环境内生性的原因，也有网民素质、社会法治等外部因素。其中，网民素养不足、相关事件认识不清草率评论是最突出的原因，这两项分别占比 69.16%和 68.04%。另有 58.91%的受访网民认为网络管理制度和道德约束的缺乏也是造成网络暴力的一大因素。此外，情绪宣泄、误解、跟风站队等也是诱发网络暴力的重要

25、原因，相关占比超过半数。网民素养、法治建设等问题叠加网络环境的虚拟属性共同造成网络暴力的产生，治理网络暴力也需多方发力，综合施策。网民素养、法治建设等问题叠加网络环境的虚拟属性共同造成网络暴力的产生，治理网络暴力也需多方发力，综合施策。（1）发生过程网络暴力是由语言和各种各样的信息所营造、裹挟、助推的“软暴力”，在网络8上的具有“诽谤性、诬蔑性、侵犯名誉、损害权益和煽动性”的言论、文字、图片、视频或各种信息形式整合在一起的内容。本研究通过对发生在 20012023 年的 77 件主要“网络暴力”事件进行分析、比较，归纳出网络暴力在发生过程中的以下特点，并具体总结出受网络暴力的人群特征、网络暴力

26、实施者的行为模式、网络平台及媒介的传播效应。首先，受网络暴力的人群具有一定特征，网络暴力受害人为公众人物、热点事件卷入者、具有特定组群身份的人，主要涉及明星娱乐、社会民生、涉政府官员。其次，实施网络暴力人群的行为模式，从网络暴力事件的统计来看，其具体实施的网络暴力行为包括言语暴力、人肉搜索、隐私泄露、引导到线下的恶性行为。其中实施者的身份具有匿名性与虚拟性，发表具有攻击性、侮辱性、煽动性言论或不当的极端言论。本研究通过对发生在 20012023 年的 77 件主要“网络暴力”事件进行分析、比较，归纳出网络暴力在发生过程中的以下特点，并具体总结出受网络暴力的人群特征、网络暴力实施者的行为模式、网

27、络平台及媒介的传播效应。首先，受网络暴力的人群具有一定特征，网络暴力受害人为公众人物、热点事件卷入者、具有特定组群身份的人，主要涉及明星娱乐、社会民生、涉政府官员。其次，实施网络暴力人群的行为模式，从网络暴力事件的统计来看，其具体实施的网络暴力行为包括言语暴力、人肉搜索、隐私泄露、引导到线下的恶性行为。其中实施者的身份具有匿名性与虚拟性，发表具有攻击性、侮辱性、煽动性言论或不当的极端言论。此外通过人肉搜索，侵犯到受害者的隐私权和个人信息，出现从线上行为蔓延到线下的趋势。形式包括文字私信谩骂、词条侮辱、图片恶搞、视频恶意剪辑、弹幕刷屏，甚至借助深度伪造的 AI 技术等实现网暴目的。网络暴力具有不

28、同类型，结构性暴力和事件性暴力并发，同类事件多米诺效应显著，而实施网络暴力的人群则有“低龄化”趋势。网络暴力具有不同类型，结构性暴力和事件性暴力并发，同类事件多米诺效应显著，而实施网络暴力的人群则有“低龄化”趋势。最后，体现了网络平台媒介的传播效应，目前网络暴力事件舆情的演化阶段更加复杂，基本可分为舆情发酵期、舆情形成期、舆情上升期、舆情转变期、网络暴力形成期、舆情消退期、网络暴力平息期。（2）发生机制的分析在网络文化角度，网民构成极具复杂性，受教育程度、价值观以及情感认识都存在很大的不同，网络环境鱼龙混杂。部分网民的言行表明了其媒介素养的缺失，媒介素养是一种能够成熟判断信息的能力，当某一事件

29、发生时，有媒介素养的人会独立理性思考，辨别正反方信息，寻找自己的立场；而缺失之人则会被信息洪流席卷，反复横跳，容易成为网络暴力的帮手。在网络文化角度，网民构成极具复杂性，受教育程度、价值观以及情感认识都存在很大的不同，网络环境鱼龙混杂。部分网民的言行表明了其媒介素养的缺失，媒介素养是一种能够成熟判断信息的能力，当某一事件发生时，有媒介素养的人会独立理性思考，辨别正反方信息，寻找自己的立场；而缺失之人则会被信息洪流席卷，反复横跳，容易成为网络暴力的帮手。网络正逐渐成为具有不同观念和教育背景的人的重要发声地，网络时代将“民意”汇聚公共空间，私人极端言论也同样进入公共领域。虚拟身份具有匿名性与虚拟性

30、，匿名化弱化了网民对自身真实身份的认知，他们利用网络的匿名性来隐藏自己，逃避制裁。此外，匿名化、网络泛化、网络暴力与各种所谓的“文化”结合，例如“饭圈文化”，形成站队效应和极化效应，网络暴力也离不开各种有形的信息和无形的“推手”。在传播学角度，个体很容易在从众心理与共情驱使下，投入所谓的“主流”观点。当这种观点在失去理性思考之后，无论事情是否真实，网民极易做出语言暴力行为，破坏原本和谐的社会秩序。这使得在网络时代公共空间施暴者们的“群起而攻之”对在传播学角度，个体很容易在从众心理与共情驱使下，投入所谓的“主流”观点。当这种观点在失去理性思考之后，无论事情是否真实，网民极易做出语言暴力行为，破坏

31、原本和谐的社会秩序。这使得在网络时代公共空间施暴者们的“群起而攻之”对9于当事人通常是“单方面的碾压”，不论当事人如何解释，他们总能源源不断地制造刷屏般的失控，掌握话语权，当事人有苦说不出却也辩理无人寻，从而产生“沉默的螺旋”效应，人们为避免成为众矢之的，或放弃表达，或加入群体，从而网暴的声音会在不断消除异己的过程中壮大力量。于当事人通常是“单方面的碾压”，不论当事人如何解释，他们总能源源不断地制造刷屏般的失控，掌握话语权，当事人有苦说不出却也辩理无人寻，从而产生“沉默的螺旋”效应，人们为避免成为众矢之的，或放弃表达，或加入群体，从而网暴的声音会在不断消除异己的过程中壮大力量。所以，我们通常看

32、到的公众舆论不一定是集体理性的结果，更多情况下可能是怕被视为“异己”、“另类”后的趋同行为。大量互联网用户聚集的讨论空间，被带有偏颇导向性的信息内容占据，损害网络空间的风气，甚至诱发网民采取非理性的线下行为。在这个过程中一般会出现两种情形，共同加速以情绪为主导的网络暴力蔓延。首先，身为个体的网民在看到与自身持有相同观点的群体时，就相当于找到了“组织”，通常不会对当事人发表攻击性言论的个人，在受到群体感染时，容易产生群体极化行为。此时的观点表达已非个体，而是群体的一种声音。其次，当这种群体非理性的声音不断扩大占据主要舆论时，理性声音就会被误伤甚至被压制。久之，网络上就只存在一种声音，这反而鼓舞了

33、群体进一步扩大声势，不断裂变，加速网络暴力传播。从众与共情心理会让个人聚集为群体并产生双重压力，使得个人与集体裹挟着向前。在自媒体爆发的时代，部分自媒体通常会使用骇人惊闻的标题、片面或夸大的信息和充满争议性的内容来吸引流量，构成事件拐点。在自媒体爆发的时代，部分自媒体通常会使用骇人惊闻的标题、片面或夸大的信息和充满争议性的内容来吸引流量，构成事件拐点。其观点契合部分网民的情绪，言论不断裂变传播，影响扩大，网络暴力也就接踵而至。参与讨论的大量网民已经习惯带着预设立场去判断，选取对自己有利的信息碎片和角度，将互联网信息平台作为“虚拟法庭”，将自己想象为法官或人民陪审员，在网络社交平台尽情展示自己的

34、话语权与价值立场，毫无顾忌地用情感和道德评判去碾压对手和涉案事件的当事人，形成显著的多米诺效应。在互联网平台治理角度，存在技术防护架构及平台治理标准参差不齐、网暴行为跨平台传播的问题。在互联网平台治理角度，存在技术防护架构及平台治理标准参差不齐、网暴行为跨平台传播的问题。中国逐步进入移动互联网时代，以用户生产内容为核心特征的社交网络平台如雨后春笋般出现，它们中的一些开放性强、交互强的平台也成为网络暴力新的集散地，网暴容易跨平台相互流转。而平台作为治理者，在法律尚有空白时，面临如何承担应责任与期望的难题。同时，网络暴力乃至网络治理问题从来不是单一方能够解决的问题，未来需要建立的是多方协同的预防处

35、理机制。在法律救济角度，由于网络空间的空间虚拟性、主体隐蔽性、群体参与性、内容模糊性等特征，网络暴力判别尺度、界定治理等方面都存在一定难度，在民法上“海恩法则”（该法则强调两点：一是事故的发生是量的积累的结果；二是再好的技术，再完美的规章，在实际操作层面，也无法取代人自身的素质和责任心）与“涌现”现象结合使得侵权法系统运行成本超出运行收益导致的侵权法失灵。而在刑法上网络暴而平台作为治理者，在法律尚有空白时，面临如何承担应责任与期望的难题。同时，网络暴力乃至网络治理问题从来不是单一方能够解决的问题，未来需要建立的是多方协同的预防处理机制。在法律救济角度，由于网络空间的空间虚拟性、主体隐蔽性、群体

36、参与性、内容模糊性等特征，网络暴力判别尺度、界定治理等方面都存在一定难度，在民法上“海恩法则”（该法则强调两点：一是事故的发生是量的积累的结果；二是再好的技术，再完美的规章，在实际操作层面，也无法取代人自身的素质和责任心）与“涌现”现象结合使得侵权法系统运行成本超出运行收益导致的侵权法失灵。而在刑法上网络暴10力中的“暴力”并非规范术语，网络空间相关的约束和惩戒时常难以发挥作用，网络暴力成本低且代价小。再加上网络匿名性与网暴单向性，这成为施暴者们肆无忌惮发表攻击性言论的重要原因。力中的“暴力”并非规范术语，网络空间相关的约束和惩戒时常难以发挥作用，网络暴力成本低且代价小。再加上网络匿名性与网暴

37、单向性，这成为施暴者们肆无忌惮发表攻击性言论的重要原因。（3）机制间的协同作用从发生机制来看，网络暴力是多方面综合作用的结果，其中有属于预防层面的网络文化、传播学特点，也有治理机制的失灵情况，致使伤害扩大、事件升级。其中既有网民个人的非理性表达，也有网络媒体的推波助澜；既有政府部门的管理盲区，也有平台社区因界定难而产生的操作难点、无所适从，或个别中小平台的不当纵容。网络暴力是多种机制共同作用产生的结果，相对应的，治理网络暴力也需要构建多元主体共同参与的协同治理体系。3.网络暴力发生机制的结果及后续影响网络暴力是多种机制共同作用产生的结果，相对应的，治理网络暴力也需要构建多元主体共同参与的协同治

38、理体系。3.网络暴力发生机制的结果及后续影响（1）对被网络暴力人群的影响网络暴力通常会对受害者造成名誉受损、心理伤害。受害者可能因为刺激的言语而不堪其辱，轻者产生抑郁心理，重者轻生。（2）网络生态环境极端化纵然有网络暴力的存在，我们也仍能看到一些理性的民意表达。网络公共领域实际上更具有便捷性和优越性，提供了相对充分的公共讨论空间。然而网络暴力事件中网民的极化现象更加明显，也可能会催生出新的“网络暴民”人格。网络暴力事件在挑起群体对立和价值观冲突的过程中，网民被单向信源点燃愤怒之情，在网络空间尽显撕裂和冲突，其爆发、蔓延与扩张演变为情绪主导。在传播过程中，当信息汇聚引发舆论时，网络集群效应下的群

39、体容易盲目性从众，出现大量不理智的情绪化倾向与极化行为，以“执法者”、“正义守卫者”的心态侵犯他人的个人权利。如果任由其泛滥，损害的不仅是个体权利，还有社会赖以生存和发展的个体尊严与自由，以及社会的基本秩序。（三）网络暴力的表现形态（三）网络暴力的表现形态1.依据网暴对象划分表现形态1.依据网暴对象划分表现形态通过对 20012023 年网络暴力事件的大致梳理，依据网络暴力受害者生活和职业的不同，划分为明星网红领域、政府官员领域、社会民生领域、特定群体领域。20012007 年网络暴力发生频率较低，主要集中在社会民生领域；2007 年“华南虎”11事件以来，公职人员领域明显增多，并随着服务型政

40、府的深入推进逐渐减少；2014 年“文章出轨”事件引起社会广泛关注，明星网红领域伴随我国媒介产业市场化程度的加深甚嚣尘上，数量激增；近年来自媒体的异军突起，将普通民众卷入舆论风波，社会民生领域与日俱增，与明星网红领域交替成为网络暴力的中心，而特殊群体领域也出现增多趋势。近年来自媒体的异军突起，将普通民众卷入舆论风波，社会民生领域与日俱增，与明星网红领域交替成为网络暴力的中心，而特殊群体领域也出现增多趋势。（1）明星网红领域：公众人物或网红的负面新闻与普通人相比，明星网红作为颇具影响力的公众人物，有着各自的“人设”，一向是大众关注的焦点。然而互联网作为一个“放大镜”，在增强明星光环影响力的同时，

41、也将其缺点暴露在公众视野。一旦产生负面舆情事件，极易诱发民众的非理性情绪，导致网络暴力在明星网红领域频发。自 2014 年“文章出轨”事件以来，一系列“出轨门”被曝光占据各大新闻媒体头条，“马蓉出轨”“林丹出轨”“刘恺威出轨”迅速引爆网络舆论场，“王宝强离婚案”甚至被多家国外媒体报道，带来一场场灾难性的娱乐窥探和隐私泄露。此外，随着自媒体的兴起，网红也成了网络暴力的重灾区。网红 saya 打孕妇、“辣笔小球”道歉等事件层出不穷，风波难平。（2）社会民生领域：悲剧人物、同情弱势群体、违背主流价值观的争议事件、博眼球炒作等社会民生一直都是网络暴力活跃的主要领域，普通人的生活难题容易涉及一些“结构性

42、”的社会问题、政策漏洞甚至是制度缺陷，引起大众的共鸣，社会民生一直都是网络暴力活跃的主要领域，普通人的生活难题容易涉及一些“结构性”的社会问题、政策漏洞甚至是制度缺陷，引起大众的共鸣，如“珞珈山炮王事件”“优衣库事件”“上海地铁色狼案”体现了网民对日常事件的关注。近年来随着视频类信息的增多，越来越多的普通人生活被记录下来，在“沉默螺旋”“回声室效应”“群体极化”的作用下，容易成为网络暴力的受害者。（3）特定群体领域：饭圈、地域歧视等拉仇恨行为特定群体领域主要指的是一些长期存在、有个性标签等的少数群体。比如性少数群体、不同肤色群体、熊孩子群体、女权群体、饭圈群体等。如 2020 年的“肖战 22

43、7事件”，引起了饭圈群体和耽美爱好群人的倾轧，从一开始的肖战粉丝网暴耽美群体和 AO3 平台，再到耽美群体网暴肖战，引发民众广泛关注。2.依据网络暴力参与者身份划分表现形态2.依据网络暴力参与者身份划分表现形态在网络暴力事件中，网络施暴者的身份并不特定且多为匿名，但仍可基于与被施暴者的关系，主要分为熟人网络暴力和陌生人网络暴力。共同之处是施暴者都是对事件当事人进行人身攻击，恶意诋毁，甚至是对事件当事人进行“人肉搜索”，将其真12实身份、姓名、照片、生活细节等个人隐私公布于众。不同之处主要是熟人和陌生人实施网络暴力的目的不同，曝光的个人隐私的程度存在区别。（1）熟人网络暴力网络暴力事件中“熟人作

44、案”的情况十分普遍。涉网络暴力诉讼案件主要集中于熟人之间，双方或为邻居或为朋友，也有可能是互相了解的企业，因生活中发生的某些矛盾和竞争目的导致网络言论失格。在熟人网暴中最为典型的是校园欺凌转化型，即校园暴力往往会蔓延到网络空间的暴力。2019 年，联合国儿童基金会警告称，全球 70.6的 15 至 24 岁年轻网民正面临着网络暴力、欺凌和骚扰的威胁。2017 年，教育部等十一部门印发加强中小学生欺凌综合治理方案明确规定网络欺凌是一种新型校园欺凌形式。比如，武汉市高一学生李林被同校学生通过“网上悬赏”组织起来的多名施暴者网暴。又比如，苏州大学 2019 级某商学院男生从 2022 年 5 月开始

45、，利用高中、大学的同学，甚至是多年好友在朋友圈分享的照片 PS 处理后，配以虚构的文字描述，在色情网站上发布十一篇帖子，在不雅网站上公然造谣污蔑了他人的清白，从而使对方遭受到严重的损失和伤害。为此，该男生被网友群起攻之，最终也被学校退学处理。但是该男子在受到网络暴力后，感到痛苦，转而又通过各种手段来继续攻击他人。又比如，2019 太原师范学院校园暴力案件，网民“王芝芝会有狗的”的同宿舍女生多次扒掉她的衣服并录制视频，甚至将偷拍的裸露照片和视频上传至多人 QQ 群中，导致该女生患上重度抑郁。该事件后被曝光，施暴者迅速成为被网暴的对象。因此，有时被网络暴力的人，可能一开始是施加危害行为的人，但是不

46、能因其犯错误而使其遭受网络暴力，对这类人群被网暴也应采取相关的措施予以关注，而不是任由其走向下一个网络暴力。成年人之间的熟人网暴也十分严重。此类型大部分网络暴力事件发生是基于报复心理，表现为微信朋友圈、业主群造谣辱骂他人、曝光对方个人信息等等。比如，双方本是上下楼邻居，因琐事导致邻里关系不睦，进而因一时冲动在网络上发布不当言论，导致双方矛盾更为激化。成年人之间也可能基于嫉妒的心理实施网络暴力。比如，2022 年 9 月 21 日，文春在线报道了源田选手的妻子、卫藤美彩（29 岁）生育后在Instagram 上受到了西武队内野手山田遥枫的妻子长达 2 年的诽谤中伤，期间卫藤美彩的居住地址，孩子状

47、况，丈夫工作的信息被她不断曝光。基于这种熟人关系的特点，当事人一旦成为网络暴力的对象，不仅会对当事人名誉权造成侵害，更可能对当事人的精神造成极大创伤。（2）陌生人网络暴力13相比于线下暴力，在匿名状态下在网上对陌生人施暴的行为是难以被追踪的。并且很多网友认为在网络上发布的个人的言论，属于个人行为，不会对他人造成伤害，但有时却会不经意转变为一场公开的论战，特别是网民采用一些激进的表达时，更是会成为网络暴力的导火索。不同于熟人之间网络暴力目的的明确性，陌生人之间的网络暴力事件中，相当一部分施暴者是基于无聊，又或者是因孤独或被孤立而挣扎的人，想要通过对他人的抨击使得内心得到满足。社群网站是陌生人网络

48、暴力诞生的主场，如贴吧、论坛、社交媒体等等。不同于熟人之间网络暴力目的的明确性，陌生人之间的网络暴力事件中，相当一部分施暴者是基于无聊，又或者是因孤独或被孤立而挣扎的人，想要通过对他人的抨击使得内心得到满足。社群网站是陌生人网络暴力诞生的主场，如贴吧、论坛、社交媒体等等。这些社群网站具有留言板、日志、投票等多种功能，为网络暴力的出现提供了媒介，施暴者可以较为随意地留下非理性的评论。在这些社群网站中，陌生人对于相关的图片、视频中涉及的人物并不了解，但仍评头论足，产生侮辱谩骂、恶意攻击、不实言论等信息的行为。比如，在名为“孙笑川吧”的贴吧中，用户曾经经常从其他平台中将一些女性的照片搬运过来，评论区

49、内布满带有侮辱性以及人身攻击性的语言。一个女孩简简单单的自拍可以被骂 11420 贴。比较特殊的是通过技术手段入侵网课，实施网络暴力。这种情况虽不常见，但是陌生人介入网课这种较为私密空间实施网络暴力的行为需着重注意。比如，河南郑州新郑三中的历史老师的网课遭到了网暴入侵，从多条网课直播录屏中，存在陌生人进入刘老师的网课课堂，故意搞破坏，通过语音辱骂、共享屏幕干扰课件投屏、放哀乐、说荤段子、散发淫秽色情视频等多种方式侮辱教师。3.依据网暴实施手段划分表现形态3.依据网暴实施手段划分表现形态现代人已经进入“数字化生存”状态，每个人在网络上的行为举止都留有数字痕迹，一旦触发特定的条件，就有可能成为网络

50、暴力的“集火点”，轻则受到恶性言论的侮辱，重则被“人肉搜索”，更有甚者，网络暴力渗透到现实空间，导致线下恶性事件的发生。（1）恶性言论：捏造事实侮辱诽谤类当下，某些疑似违背常理常情或法律的事件被传入网络，有可能引发矛盾和情绪，引起广泛关注和激烈讨论，作为风口浪尖的当事人往往会遭受非理性情感宣泄的恶性言论，被“沉默螺旋”和“群体极化”效应下的网民们冲击。网民们站在道德的制高点或在使命感的美化下，凭借自身的价值观和道德理论对网络暴力当事人进行大肆评论、谩骂、诋毁、嘲讽，已然成为网络空间的一种常态化、病态化现象。由于互联网去中心化的特性，个体可以在高度匿名的网络空间中成为网络暴力的发源地和“助推器”

51、，甚至在网络暴力的群情激奋下收获巨额流量和收益，导致恶性言论极具传播力、杀伤力和破坏性，致使被网暴者身心重创，甚至抑郁自杀。如 2023 年的“粉红头发女14孩遭遇网暴事件”，24 岁女研究生被大量恶性言论侮辱，诸如染发“不正经”，不配做老师等等，最后导致她抑郁自杀。（2）隐私泄露和个人信息侵害类网络空间信息发达，任何人都可以突破时空的限制一键检索信息，其成本接近于零，个体的真实姓名、家庭住址、电话号码、婚姻状况等信息在网络上曝光，但实施“人肉搜索”的行为却是高度隐秘的，网民可以利用网络强大的信息聚拢作用，不负责任地将当事人的照片、视频等个人信息泄露到网络，形成一张实质性的“通缉令”，对当事人

52、的个人隐私造成严重的侵犯，甚至令其身败名裂，“社会性死亡”。如 2007年的“中国人肉搜索第一案”，姜岩“死亡博客”的发布引爆网络，群情激奋之下，网民将其丈夫王菲的个人信息，私人住址、电话号码、户口本、身份证曝光，遭受四个多月网络暴力后的王菲患上了抑郁症，最终选择了法院诉讼维权的道路。（3）引导向线下恶性行为线下恶性行为是网络暴力中对当事人伤害最直接、最恶劣、最难以躲避的一种类型，它不仅仅涉及矛盾纠纷的层面，更可能违反法律，甚至触犯刑法。线下恶性行为一般以隐私泄露为前提，通过前期的人肉搜索，当事人的家庭地址等空间信息被散布在网络，当失去理智的网民，特别是一些群体极化下的网民群体掌握到这些信息后

53、，并被网络暴力引导向线下行为，当事人很可能遭受现实生活中的暴力。如 2020 年的“山东理工学生虐猫事件”，事件发生后，当事人的真实姓名、身份证号、照片、电话、住址被上传到网络，当事人不仅遭受来自线上的微博私信、短信、电话的网络暴力轰炸，而且其中一些人的老家被人寄去了祭祀用品，其母亲也接到骚扰电话，生活陷入混乱。4.依据网络暴力实施的载体划分表现形态4.依据网络暴力实施的载体划分表现形态通过对 2001-2023 年的网络暴力事件梳理，在互联网平台，主要是以文字、图片、视频、音频等方式而实施侮辱、诽谤、威胁、恶意诋毁他人形象等行为都属于网络暴力的范畴。（1）以文字语言为形式的网络暴力网络暴力最

54、普遍的形式为文字语言，其中发帖发文、评论区留言评论是网暴重灾区，对网暴者来说成本很低、指向性明确且网暴者本人曝光量不多，隐蔽性较强。从网络构建伊始的聊天室，到现在评论新闻时事的社交媒体，都可以发现无逻辑性甚至无目的性的攻击性语言，这些网络虚拟空间里的攻击性语言往往会导致现实中的恶果。从网络构建伊始的聊天室，到现在评论新闻时事的社交媒体，都可以发现无逻辑性甚至无目的性的攻击性语言，这些网络虚拟空间里的攻击性语言往往会导致现实中的恶果。15据抖音安全中心统计，其平台每天产生 8 亿条评论，其中，被投诉、举报并最终处理的评论中，“谩骂，人身攻击”占比 32.79%。据抖音安全中心统计，其平台每天产生

55、 8 亿条评论，其中，被投诉、举报并最终处理的评论中，“谩骂，人身攻击”占比 32.79%。由于侵权主体众多，难以划分责任，很多互联网平台的评论区成为不少实施网暴者心目中的“绝佳场所”。比如，B 站 UP 主“卡夫卡松饼君”因肺癌离世，许多网友在她的微博下留言悼念，其中一条充满恶意的热评十分刺眼，只有短短五个字“开香槟庆祝”。松饼君生前经历了多次网暴，她的最后一条微博写道：“很多事情都是没轮到自己头上，所以能在旁边为虎作伥，叫嚷熏天”。再比如，一网友通过微博客类社交平台发布“抱怨飞机毛毯少”相关博文，吐槽坐飞机太冷没拿到毛毯，顺手了民航官博，没想到这一情绪表达在互联网上引火上身，“巨婴”、“矫

56、情”等负面情绪词扑面而来，成为网友抨击的对象。此前，私信轰炸进行网络暴力较为常见，但是近几年互联网平台对陌生人之间发送私信都进行一定的限制，因此通过该途径实施网暴的数量此前，私信轰炸进行网络暴力较为常见，但是近几年互联网平台对陌生人之间发送私信都进行一定的限制，因此通过该途径实施网暴的数量较少。特别指出的是朋友圈并不算是严格意义上的私密场所，在朋友圈发布的视频、信息，也会被转载传播。虽然是一人发布，但却被多人广泛传播。较少。特别指出的是朋友圈并不算是严格意义上的私密场所，在朋友圈发布的视频、信息，也会被转载传播。虽然是一人发布，但却被多人广泛传播。比如，在最高检发布的第三十四批指导性案例中，第

57、 137 号案例“郎某、何某诽谤案”。被告人郎某在被害女子取快递时偷拍视频，并与何某编造被害女子出轨快递小哥等聊天内容，后谣言转发至网络后不断发酵，导致被害女子工作、生活受到严重影响，遭遇“社会性死亡”。又比如，浙江杭州一个年轻女孩去门口取快递时遭到便利店老板偷拍。该老板其后编造虚假的微信聊天记录，炮制出“富婆出轨快递小哥”的剧情，并配以女孩的影像资料发至网上。在并未弄清真相的情形下，众多网友就掀起对这个女孩的无情鞭挞。女孩经此打击丢了工作、找新工作又被拒，并最终罹患抑郁症。在接受媒体采访时，这个女孩坦陈这种网暴已使自己“社会性死亡”。（2）以视频或图片信息为形式的网络暴力以视频或图片信息形式

58、实施网络暴力成本较高、针对性不强、目标较大。通常呈现以下几种模式：第一，录制或剪辑短视频发布至平台。最常见的就是将校园殴打他人的视频上传。如，2016 年湖南某校学生将殴打同学的视频上传网络并进行广泛传播。又或者通过对视频恶意剪辑进行恶意“锤人”。比如，2018 德阳女医生自杀事件，该事件当事人男孩的家人将剪辑过的游泳池视频发布在微博上，刻意隐瞒事实真相。网络上充斥着对安医生及其丈夫铺天盖地的辱骂、谴责。最终，安医生因不堪舆论压力服药自杀；第二，在网络平台评论或上传照片。如“史上最毒后妈”案中，发帖人张贴了被打女童口吐鲜血的照片，网友纷纷对当事人“最毒后妈”群起攻之，后续证明为小女孩自己跌倒摔

59、伤所致；第三，将图片制作成表情包。比如，徐州市某学生表示：“他们不仅嘲笑我的长相，还把我的照片传到网路上，做成表情包”。16（四）网络暴力的传播节点（四）网络暴力的传播节点大数据时代下，网络空间内充满各类信息，网络舆情则是各类信息的汇集与融合，其大致存在与信息相同的从产生、使用、维护、存档到删除的生命周期。因此基于信息生命周期理论，网络暴力可以分为潜伏发酵期、规模扩大期及消退恢复期等三个阶段。各个阶段存在着不同的特征，同时各网络平台对不同阶段也存在不同的治理手段及治理经验。1.潜伏发酵期1.潜伏发酵期（1）特征在潜伏发酵阶段中，网络暴力经常会出现在负向行为、争议事件、热点话题、道德绑架以及偏见

60、歧视等话题中。同时在话题讨论的初期，平台对于网络暴力行为难以进行详细辨别。其原因在于，相关话题可能产生于平台内用户好友之间，但随着话题的进一步传播可能逐渐出现圈层式的扩散，导致更多人关注该话题的讨论与争议，进而可能演化成网络暴力。同时，网络暴力在发酵潜伏期中往往引起一定范围内的舆情主体的关注，引发较小范围内的争论，但暂时并没有引起较大风浪。随着网民不断交流在潜伏发酵阶段中，网络暴力经常会出现在负向行为、争议事件、热点话题、道德绑架以及偏见歧视等话题中。同时在话题讨论的初期，平台对于网络暴力行为难以进行详细辨别。其原因在于，相关话题可能产生于平台内用户好友之间，但随着话题的进一步传播可能逐渐出现

61、圈层式的扩散，导致更多人关注该话题的讨论与争议，进而可能演化成网络暴力。同时，网络暴力在发酵潜伏期中往往引起一定范围内的舆情主体的关注，引发较小范围内的争论，但暂时并没有引起较大风浪。随着网民不断交流，个人意见逐步汇集、趋同形成意见群体，沉默螺旋效应现象也随之凸显。舆情主体在此阶段可能受到已有的观点的影响，产生从众心理，因而新观点的提出者不断减少。，个人意见逐步汇集、趋同形成意见群体，沉默螺旋效应现象也随之凸显。舆情主体在此阶段可能受到已有的观点的影响，产生从众心理，因而新观点的提出者不断减少。1111目前研究表明，潜伏发酵期的未来发展可以分为两种，“快速成长阶段”和“缓慢成长阶段”。“快速成

62、长阶段”的传播方式属于裂变式传播，在短时间内容易形成大范围舆情危机，更容易导致网络暴力的发生；而“缓慢成长阶段”由于主体对其反映的事件的敏感性和参与性积极性不高，传播速度较为缓慢，此阶段舆情爆发力不足，容易受到平台方的控制，因此引发网络暴力的可能性较低。目前研究表明，潜伏发酵期的未来发展可以分为两种，“快速成长阶段”和“缓慢成长阶段”。“快速成长阶段”的传播方式属于裂变式传播，在短时间内容易形成大范围舆情危机，更容易导致网络暴力的发生；而“缓慢成长阶段”由于主体对其反映的事件的敏感性和参与性积极性不高，传播速度较为缓慢，此阶段舆情爆发力不足，容易受到平台方的控制，因此引发网络暴力的可能性较低。

63、（2）相关治理经验在网络暴力的潜伏发酵期阶段，平台提前采取措施进行预防以免相关舆论事件的进一步扩大，以避免网络暴力的爆发。因此，一些平台如微博、小红书、抖音、bilibili 等，均采取“优化互动功能”的方式，调整接收评论和私信的范围与方式，从而减少陌生人的评论或私信打扰。在网络暴力的潜伏发酵期阶段，平台提前采取措施进行预防以免相关舆论事件的进一步扩大，以避免网络暴力的爆发。因此，一些平台如微博、小红书、抖音、bilibili 等，均采取“优化互动功能”的方式，调整接收评论和私信的范围与方式，从而减少陌生人的评论或私信打扰。例如，微博可以对“哪些人可以评论我的微博可以收到哪些人的私信”进行设置

64、，当私信设置为只接受“我关注的人和关注我 7 天以上的粉丝的消息时，为避免打扰，仅显示 1 条未关注人发送的私信提醒，点击确认接11晏敬东,杨彩霞,张炜南.基于生命周期理论的微博舆情引控研究J.情报杂志,2017,36(08):88-93+75.17受后，可正常接收并查看该条私信”。抖音已经上线了社交对象授权、用户风险提醒和负向内容过滤等功能。简单的说，就是用户可以对私信对象进行设定，可设置为所有人、互关好友或关闭三种状态。同时，当用户收到可能包含风险的私信时，抖音会发出提醒。此外，抖音还上线了私信的临时对话设定功能。即陌生人每次只能向单个用户发送少量信息，用户回复后，陌生人才能与其临时对话，

65、有效期为 24 小时，超时后重新申请。这样的功能，帮助用户过滤掉来自各方的不当言论，很大程度上避免了网暴的发生。平台也依靠自动识别技术进行拦截，利用关键词过滤系统，对一些不友善内容进行风险提醒，以起到提醒和保护用户的作用。平台也依靠自动识别技术进行拦截，利用关键词过滤系统，对一些不友善内容进行风险提醒，以起到提醒和保护用户的作用。例如，贴吧平台中为用户建立网暴信息防护屏障，如果平台方识别到用户发布涉嫌网暴的信息，会自动拦截该条私信内容，并对用户发出提示，请用户友善发言；同时也建立网暴应急响应机制，百度将对平台的网暴信息进行检测，对网暴行为及时介入并进行干预。平台与用户进行协同管理网络舆论环境，

66、如微博针对部分用户开放“微博协管员”的功能，博主可自行邀请粉丝对其评论、超话、粉丝群场景进行管理，协助删除博主评论区下对社区氛围造成不良影响的评论内容等。2.规模扩大期2.规模扩大期（1）特征在规模扩大阶段，网民们针对争议事件等产生的对立意见，最终被广泛认可的一方占据主导地位从而得到进一步传播。由于网络中没有统一的评判标准及沉默的螺旋效应，若对该事件的意见为对事件当事人的恶意批评与指责，则可能加深对当事人的网暴程度。随着信息的加速传播，各营销号、大 V 等自媒体的加入，网民群体乃至线下公民的关注热情持续提升、关注度不断上涨，从潜伏发酵期到规模扩大期大约 7 日左右，将达到舆论的顶峰。在规模扩大

67、期，对当事人的恶意评论呈倍数增长，且大部分评论属于极端恶意评论，对当事人造成极大程度上的侵害。在这一阶段，舆论当事人将面对数量庞大的恶意评论，对其身心健康造成巨大影响。在规模扩大期，对当事人的恶意评论呈倍数增长，且大部分评论属于极端恶意评论，对当事人造成极大程度上的侵害。在这一阶段，舆论当事人将面对数量庞大的恶意评论，对其身心健康造成巨大影响。（2）相关治理经验在规模扩大期阶段，平台将限制对相关争议事件的进一步传播，通过降低推荐、强制删除下架等方式进而避免网暴进一步扩大。如抖音平台开设的“抖音小安一键防网暴功能”，当开启一键防护功能，用户在 7 天内不会收到选择人群外用户发送的私在规模扩大期阶

68、段，平台将限制对相关争议事件的进一步传播，通过降低推荐、强制删除下架等方式进而避免网暴进一步扩大。如抖音平台开设的“抖音小安一键防网暴功能”，当开启一键防护功能，用户在 7 天内不会收到选择人群外用户发送的私18信、弹幕及评论，最大限度减少平台用户所受的网暴程度。同时部分平台还设置“当用户收到大量非正常评论时，会弹窗提示用户是否开启“一键防护”的功能，当功能开启后，将“只允许我关注的人评论我”和“只允许我关注的人给我发私信”。平台内部还常设“黑名单制度”，鼓励用户在面对网络暴力等相关违规内容进行举报，并提供相关详细信息。信、弹幕及评论，最大限度减少平台用户所受的网暴程度。同时部分平台还设置“当

69、用户收到大量非正常评论时，会弹窗提示用户是否开启“一键防护”的功能，当功能开启后，将“只允许我关注的人评论我”和“只允许我关注的人给我发私信”。平台内部还常设“黑名单制度”，鼓励用户在面对网络暴力等相关违规内容进行举报，并提供相关详细信息。对多次发布不当信息的用户限制私信功能，如果系统识别到用户多次发布不当信息，发信人私信功能将被暂停使用一段时间。同时，平台也畅通举报通道，如快手在客户端首页正式开通“网络暴力有害信息”受理热线并在举报类型中增设“网络暴力有害信息”模块。用户可拨打投诉热线“01051751865”对网暴内容进行投诉，快手将第一时间受理和处置。抖音增加用户举报网暴行为的入口。同时

70、，其客服电话和举报邮箱也会实时接收和处理针对网暴的举报。3.消退恢复期抖音增加用户举报网暴行为的入口。同时，其客服电话和举报邮箱也会实时接收和处理针对网暴的举报。3.消退恢复期（1）特征在争论事件的讨论达到顶峰后，舆情热度开始下降。在这一阶段中，对该争议事件已经形成主导意见，关注度已经达到最大规模，影响力和扩散能力不断缩小。同时，部分网民对该争论事件感到疲惫、失去兴趣和新鲜感，停止对其的关注与表达，因此对争论事件当事人的网络暴力程度逐步降低，最后其逐渐淡出大众视野。平台在这一阶段，对网络环境进一步进行修复，更好地营造健康清朗的网络环境。但值得关注的是，对该事件的关注度衰退之后，仍可能回归潜伏发

71、酵期，从而引发新一轮的热议，对被网暴当事人可能造成二次伤害。（2）相关治理经验平台在这一阶段主要会对当事人进行心理安抚，并为其进行疏导，关注用户诉求点，对用户账号进行保护。平台在这一阶段主要会对当事人进行心理安抚，并为其进行疏导，关注用户诉求点，对用户账号进行保护。如在快手平台中，被网暴用户出现对抑郁等内容检索时，平台会立即提示“别怕，我们都在”标语，并提供 24h 免费心理危机咨询热线。同时，平台会适时采取报警等方式进行处理，加强对被网暴网民的保护，防止出现意外事件。抖音安全中心联合字节跳动公益、AI-lab 等团队组成专项小组，为用户提供心理关怀服务。同时平台对被网暴网民提供举证维权的协助

72、功能。同时平台对被网暴网民提供举证维权的协助功能。在“微博”平台中。用户可以通过该功能批量多选“聊天证据”进行投诉，从而提高投诉取证速度，举证内容可支持文本信息、图片信息、语音信息等。在“bilibili”中，平台提供法律手段维权指导，帮助被网暴用户维护自身权益，同时也提供后续运营的指导，帮助用户在危机后19快速回复账号的正常运营。在微信平台中，用户可以在视频号私信场景，点击对方头像，选择举报按钮，可快捷选择聊天记录快速进行举报；在短视频、直播等评论环节，对于诱导逼迫自残自杀的信息，平台在管控的同时还移交到相关部门依法追究法律责任。（五）网络暴力的治理之困（五）网络暴力的治理之困网络暴力本质上

73、是语言暴力在网络空间中的呈现，平台是治理网络暴力的重要环节。我国监管执法要求平台建立健全网暴预警预防机制，加强内容识别预警，构建网暴技术识别模型，建立涉网暴舆情应急响应机制；强化网暴当事人保护，设置一键防护功能，优化私信规则，建立快速举报通道；严防网暴信息传播扩散，加强评论环节管理，加强重点话题群组和版块管理，加强直播、短视频管理，加强权威信息披露；而且要分类处置网暴相关账号，依法从严处置处罚。网络暴力的泛在特征与边界不明，给网络平台治理网络暴力带来困难。首先，网络暴力具有规模性、隐匿性、海量性、圈层性、微暴力等特征，识别和判断网络暴力并不容易。网络暴力与网民正常言论表达、公众舆论监督之间的界

74、限并不是清晰可辨的。由于网络暴力的识别存在难度，要求平台对一切网络暴力的发生负责，结果可能是平台方的过度删除，带来寒蝉效应，要求平台针对海量的网络互动场景一律作出精准判断，存在较大操作难度。12其次，平台处理快速聚集的网暴时难以兼顾“快速”与“精准”。在重大事件中，不断反转且难辨真伪的新信息，也会增加平台治理难度。在不同场景、人际关系、个人主观感受下，“网暴”与“非网暴”往往难以明确区分。第三，网络平台对不同程度的网暴言行，处罚措施各不相同。在处理快速聚集的网暴时，平台难以兼顾“快速”与“精准”，一些难以避免的错审、漏审也容易引发公众不满。第四，网暴治理过程中涉及公开数据和私有数据，基于个人信

75、息和隐私保护的考虑，平台治理网络暴力并不能主动监测和分析受害者个人信息特别是私密信息。第五，网暴行为越来越多在不同平台互相流转，仅依靠单一平台难以根治网络暴力。各平台尺度不同，协同机制还不完善。如果平台处置缺乏一定依据，有可能面临12参见刘文杰：治理网络暴力需要多方协力，载人民政协网 2023年 6 月 9 日，http:/ 1网络暴力防治措施评价体系概览1.评估指标分类1.评估指标分类依据治理手段和面向对象的重心不同，可以将上述评估指标分为“前端服务”、“后端技术”、“秩序生成和维持”三类；此外，上述指标涉及两种评价尺度，一种为平台是否提供某项服务或是否具备某项功能，另一种是课题组对该项服务

76、或功能的测评与评价。（1）前端服务。前端服务。平台面向网络暴力受害者或潜在受害者提供的保护手段，该类手段以“由平台提供服务、由用户决定启用”为主要特征。包括“平台网络暴力防治专门产品或技术工具”，如平台为用户提供的一键防护功能，可以根据用户自身的意愿及时地阻断用户与网暴信息间的接触，从而达到保护用户的作用。（2）后端技术。后端技术。平台针对网络暴力行为开发的识别和阻断手段，包括“平台网络暴力防治专门产品或技术工具”、“平台网络暴力防治专门人员/部门设置”、“事前内容审查和过滤机制”、“网络暴力重大舆情与极端事件的处置”、“平台关于谣言治理的技术措施”。（3）秩序生成和维持。秩序生成和维持。平台

77、面向普通用户以构建和维持良好网络社区生态的手段，包括“网络暴力防治平台规则、社区公约”“事后投诉和救助机制”“平台关于优质信息内容创作、用户评论的激励措施”“平台网暴防治的宣传”。24（4）未成年人保护机制。未成年人保护机制。未成年人的保护涉及未成年人个人信息和隐私保护等特殊问题，情况更为复杂，措施更加严苛，因此单独作为一类指标。2.评估指标测评的内涵、要点和具体测评机制2.评估指标测评的内涵、要点和具体测评机制（1）前端服务该类手段以“由平台提供服务、由用户决定启用”为主要特征，因此从用户角度出发评价此类平台网暴治理措施更为适宜。所谓“从用户角度出发”，即测评者跳出“旁观第三人”的身份固圈，

78、以用户个人有限的视角而非旁观全知全能的视角来设置测评要点。对于平台提供前端服务的评价维度，包括但不限于“用户是否能够自主设置互动功能”、“用户自主设置互动功能的便捷度”、“用户是否能够进行消息偏好设置”。以下，将对其测评的要点和具体测评机制进行详细阐述。用户是否能够自主设置互动功能：互动功能包括但不限于用户之间的“赞”“评论”“转发”“私信”“弹幕”，设置互动功能，即对前述互动功能的接收范围或权限的调整，例如用户是否可以设置仅关注人可私信。该项评估指标的最高级 A+级为“用户可以自主设置互动功能”，最低级 B 级为“用户不能自主设置互动功能”。用户自主设置互动功能的便捷度：尽管大多数平台都会为

79、用户提供自主设置互动功能的服务，但受限于设置互动的简繁程度和用户的认知水平，用户在实际当中很少去应用该服务。因此，设置互动功能的便捷度也是评价平台网暴治理措施的重要指标。测评互动设置功能的便捷度可以从“互动设置功能的优先级”、“互动设置功能的集中度”等维度考量。互动设置功能的优先级，或理解为互动功能入口位置与互动环节的级点远近，例如接收的私信与设置私信功能的入口所需跳转页面的多少。该项评估指标的最高级 A+级为“互动环节与互动设置功能在同一界面”以下根据优先级下降依次降分。绝大多数平台在此项指标下得分较低，主要原因是将互动设置功能过度集中在“设置”当中，未在易于被用户接触的互动环节设置跳转性的

80、链接。互动设置功能的集中度，鉴于互动功能的多样性，部分平台的互动设置功能也进行相应的分类，例如对于私信和评论的互动权限设置可能会处在不同的入口，造成了用户个人在遭受网络暴力，想要完全阻断互动环节的难度增大，即用户可能考虑不到所有互动环节，或可能进行完全互动功能设置的时间过长，导致用户在自主设置互动25功能的窗口期遭到网络暴力的伤害。该项评估指标的最高级 A+级为“用户可以使用一键防护功能”，最低级 C 级为“所有互动功能设置完全割裂”。用户是否能够进行消息偏好设置：用户进行消息偏好设置不同于互动功能设置，其实质是一种用户从平台过滤机制中获得的权利让渡，例如用户能否自主设置屏蔽词，过滤个人认为的

81、“不友善内容”。互动功能的设置，是用户针对陌生人或未关注人以对象为阻断目标的保护手段，而进行消息偏好设置，则是用户以内容为阻断目标的保护手段，是更加有效的防治网络暴力的措施。因此，将“用户是否能够进行消息偏好设置”作为前端服务的评估指标亦有其重要性。该项评估指标的最高级 A+级为“用户可以使用消息偏好设置”，最低级 C 级为“用户不能使用消息偏好设置”。抖音和微博在该项指标下表现良好，用户能够自主设置关键词以屏蔽自己认为敏感的内容。bilibili 的关键词屏蔽功能限于弹幕，知乎提供的关键词屏蔽功能采取会员制，在用户体验中表现明显不如适用于所有互动环节、无需附加条件的消息偏好设置。具体测评机制

82、同样贯彻“从用户角度出发”的原则。测评者以用户身份，实际进入社交网络平台进行体验，就上述“用户是否能够自主设置互动功能”、“用户自主设置互动功能的便捷度”（“互动设置功能的优先级”和“互动设置功能的集中度”）、“用户是否能够进行消息偏好设置”的具体指标进行操作。（2）后端技术后端技术主要指平台针对网络暴力行为开发的识别和阻断手段，该类技术以平台层面后台自动运行、用户无感启动为主要特征，包括但不限于“平台网络暴力防治专门产品或技术工具”、“平台网络暴力防治专门人员/部门设置”、“事前内容审查和过滤机制”、“网络暴力重大舆情与极端事件的处置”、“平台关于谣言治理的技术措施”等。具体而言，测评要点和

83、测评机制如下：平台网络暴力防治专门产品或技术工具：该项评估指标下设置 2 级测评要点。一是“平台是否设置网络暴力防治专门产品或技术工具”，最高级 A+级为“是”，最低级 B 级为“否”。专门产品包括但不限于面向遭受网络暴力的用户提供集成服务的专门界面、应对网络暴力的平台工具组合等。专门技术工具主要指不需要人工客服或技术人员介入即可运行的自动化技术工具，包括但不限于网络暴力信息自动识别工具、关键词默认拦截机制等。二是“平台所提供网络暴力防治专门产品或技术工具的技术治理实效”，最高级26为 A 级，以下根据实效减弱依次降分。主要测评内容是平台所提供的专门产品或专门技术在防范网络暴力行为造成严重后果

84、方面是否发挥作用，具体指标包括但不限于应用场景、用户触达情况、拦截信息规模、自动识别准确度等。平台网络暴力防治专门人员/部门设置：该项评估指标下设置 2 级测评要点。一是“平台是否为网络暴力防治设置专门人员及岗位或专门部门及团队”，最高级 A+级为“是”，最低级 B 级为“否”。网络暴力防治专门人员及部门指平台层面专门组织开展网络暴力防治工作的人员或团队，不包括处理以网络暴力为事由投诉举报内容的客服人员。二是“平台网络暴力防治专人或部门统筹平台资源的权限资格”，包括但不限于是否有权限调取后台数据、是否有权限审查内容推荐算法，是否有权限对用户进行访问或问卷调查等，最高级为 A+级，以下根据网络暴

85、力防治部门权限减少依次降分。事前内容审查和过滤机制：该项评估指标下设置 3 级测评要点。一是“平台是否设置事前的内容审查和过滤机制”，最高级 A+级为“是”，最低级 B 级为“否”。二是“平台的内容审查及过滤是否包括对网络暴力信息内容的审查与拦截”，最高级 A+级为“是”，最低级 B 级为“否”。三是“平台的内容审查及过滤对网络暴力信息的识别及过滤效果”，包括但不限于审查过滤总量、网络暴力信息识别拦截总量、拦截关键词设置、异常评论规模升级机制等，最高级为 A+级，以下根据过滤效果减弱依次降分。网络暴力重大舆情与极端事件的处置：该项评估指标下设置 2 级测评要点。一是“平台是否有应对重大舆情与极

86、端事件的处理机制”，最高级 A+级为“是”，最低级 B 级为“否”。二是“平台应对重大舆情与极端事件的处理机制是否包括对涉网络暴力相关事件的应对及治理措施”，最高级 A+级为“是”，最低级 B 级为“否”。平台关于谣言治理的技术措施：该项评估指标下设置 2 级测评要点。一是“平台是否有应对谣言传播的技术措施”，最高级 A+级为“是”，最低级 B级为“否”。二是“平台谣言治理技术措施的治理实效”，包括但不限于针对谣言内容及传播链路的识别机制、相关责任主体处理机制、平台巡查机制等，最高级为 A+级，以下根27据治理实效减弱依次降分。（3）秩序生成和维持网络暴力事件时而发生，重要原因之一在于防治网络

87、暴力尚未纳入现行的法秩序当中，使施暴者受到法律的规制和警告。单一平台基于用户协议构建的一般性平台秩序，不能完全有效地约束或控制网络暴力的发生和扩散。尽管因此，各平台也在积极努力，出台了有关构建和维持防止网络暴力社区生态的治理措施，包括但不限于“网络暴力防治平台规则、社区公约”、“事后投诉和救助机制”、“平台关于优质信息内容创作、用户评论的激励措施”、“平台网暴防治的宣传”等。网络暴力事件时而发生，重要原因之一在于防治网络暴力尚未纳入现行的法秩序当中，使施暴者受到法律的规制和警告。单一平台基于用户协议构建的一般性平台秩序，不能完全有效地约束或控制网络暴力的发生和扩散。尽管因此，各平台也在积极努力

88、，出台了有关构建和维持防止网络暴力社区生态的治理措施，包括但不限于“网络暴力防治平台规则、社区公约”、“事后投诉和救助机制”、“平台关于优质信息内容创作、用户评论的激励措施”、“平台网暴防治的宣传”等。现对上述评估指标的测评要点和具体测评机制进行详细阐述。网络暴力防治平台规则、社区公约：该项评估指标下设置 3 级测评要点。一是“平台用户服务协议中是否涉及防治网络暴力的内容”，最高级 A+级为“是”，最低级 B 级为“否”。平台会在用户注册账号时，要求用户勾选“同意该平台用户服务协议”，在平台用户服务协议中会对用户要求行为规范，否则平台有权在不事先通知的情况下终止向用户提供服务，并依法追究相关责

89、任。尽管绝大多数平台均能在用户服务协议当中考虑到防治网络暴力的内容，但实际上，除了极少数契约意识较强的用户会认真阅读并严格遵守用户服务协议外，对于大多数用户而言，用户服务协议形同虚设，不具有约束力，并未认识到用户服务协议作为平台停止服务的合法性来源的重要地位。二是“平台是否出台关于网络暴力防治的专项政策”，最高级 A+级为“是”，最低级 B 级为“否”。鉴于用户服务协议对于用户的约束作用有限，平台应当就其中的重点内容向用户进行提醒或强调，使用户知悉平台对于网络暴力防治的要求和规范。三是“平台网络暴力防治平台规则或社区公约内容的合理性”，包括但不限于明确性、约束力和其他要素作为测评内容合理性的参

90、考维度。明确性要求平台网络暴力防治规则内容具体可适用，该维度下的最高级 A+级为“平台规则对平台认定网络暴力行为作出明确清晰的规定，用户能依据平台规则用户准确判断识别网络暴力行为”；最低级 C 级为“平台规则仅提及禁止网络暴力，而不对网络暴力作任何有利于用户理解的解释”。虽然在当前阶段，平台难以对“网络暴力”这一概念的内涵做出准确的定义，但是平台掌握了大量网络暴力行为的一手资料，可以从网络暴力行为的具体表现角度，尽量对“网络暴力”概念的外延澄清，从而便于知悉规则内容的用户明确自身行为是否属于网络暴力行为的判断。虽然在当前阶段，平台难以对“网络暴力”这一概念的内涵做出准确的定义，但是平台掌握了大

91、量网络暴力行为的一手资料，可以从网络暴力行为的具体表现角度，尽量对“网络暴力”概念的外延澄清，从而便于知悉规则内容的用户明确自身行为是否属于网络暴力行为的判断。约束力要求平台网络暴力防治规则内容附带相28应的责任条款，该维度下的最高级 A+级为“平台规则明确规定用户实施网络暴力行为后对后果承担的责任，并依据行为恶劣性和后果严重程度作出合理的梯度区分”；最低级 C 级为“平台规则无任何用户实施网络暴力行为后造成的后果或应承担责任的内容”。约束力一般包括“自律的约束力”与“强制的约束力”。平台向用户展示网络暴力行为造成的实质性后果，可以对用户产生出于同理心和道德感的自律的约束力；平台向用户明确网络

92、暴力行为应承担的责任，如禁言、封号等，可以对用户产生基于双方达成共治协议的强制的约束力。在该指标下，除抖音在网络暴力防治平台规则的明确性和约束力两个维度上都表现良好外，测评的其他平台或者二者偏重其一，或者二者皆评价较低。事后投诉和救助机制：网络暴力行为的实施可能会对被网暴者造成经济利益的损失和精神名誉的伤害。网络暴力事件之后，平台应尽力恢复被破坏的社区秩序，为被网暴者和其他用户提供投诉、举报的途径，并对未得到平台及时保护的被网暴者提供相应的救助。事后投诉：事后投诉是除了平台监测外，识别网络暴力行为的有效手段，被网暴者和其他用户可以通过投诉向平台反映，并期望进入实质维权环节。该项评估指标下设置

93、2 级要点。一是“平台是否提供专门的网络暴力投诉渠道”，最高级 A+级为“是”，最低级 B 级为“否”。部分平台在投诉的窗口中，并未将“网络暴力”单独列为一个分类，将网络暴力涵盖的行为分解到了其他投诉类型当中。首先，这种做法可能会使用户对于网络暴力行为的理解产生偏差，因为其他投诉的行为类型无法完全涵盖网络暴力行为；其次，平台设置投诉行为类型的目的是方便快速、集中地处理相似性质的投诉，平台应当为网络暴力行为的投诉提供专门的渠道或分类，有利于及时、准确地处理相关投诉。二是“平台事后投诉机制的时效性与准确性”，平台应对投诉一般采用机器处理与人工处理两种方式，机器处理的时效性强，处理速度快，人工处理的

94、准确性高，误判概率小。该项指标的最高级 A+级为“网络暴力投诉处理及时、准确”；最低级 C 级为“机器处理与人工处理在时效性和准确性上均存在严重缺陷”，根据机制的时效性与准确性依次降级呢。提高机器处理的准确性和人工处理的时效性，是平台在投诉机制完善的两大方向。测评者通过企业调研的方式，了解平台企业使用机器处理和人工处理的具体情形，以模拟网暴行为的方式分别测试机器处理的准确性和人工处理的时效性。事后救助：事后救助既包括对被网暴者心理疏导的救助，又包括为被网暴者提供法律服务的救助。该项评估指标下设置 4 级要点。一是“平台是否提供心理疏导相关的救助”，最高级 A+级为“是”，最低级 B 级为“否”

95、；二是“平台提供心理疏导相29关救助的形式”，主要参考维度为救助形式的互动性和有效性，目前平台采用的心理疏导的形式根据上述维度，从最高级 A+级到最低级 C 级依次是“平台提供线上心理疏导中心为用户提供单独的心理疏导”、“用户与人工智能聊天交互式的心理服务”、“图文或视频形式的心理疏导小贴士”、“无心理疏导类服务”；三是“平台是否提供取证服务及取证的便捷度”，最高级 A+级为“平台向用户提供一键取证服务，便于其寻求法律帮助”，最低级 C 级为“平台无取证相关的救助服务，为用户自主取证带来巨大困难”。四是“平台是否提供法律咨询服务或将相关案件移交司法部门”，平台虽然不能代替受害者直接向网暴者控诉

96、，但是可以通过向用户提供网络暴力相关的法律咨询或主动将相关案件移交司法部门的方式，间接地帮助被网暴者通过法律武器捍卫自身权益，实现从维持平台网络社区秩序向介入国家现实法律秩序的交接。平台网暴防治的宣传与平台关于优质信息内容创作、用户评论的激励措施平台除了维持和恢复遭到破坏的防治网络暴力社区秩序外，也应主动地引导用户自发地巩固当前良好的社区秩序。这类治理措施主要包括以全体用户为对象的“平台网暴防治的宣传”与“平台关于优质信息内容创作、用户评论的激励措施”。一是“平台是否进行网络暴力防治的宣传”，最高级 A+级为“是”，最低级 B 级为“否”。二是“平台网络暴力防治宣传的用户触达情况及社区氛围的用

97、户感知”。本项测评要点主要以用户调查问卷的方式进行，实质是对平台关于网暴防治宣传有效性、转化率等维度的测评，最高级为 A+级，以下根据用户触达和感知度下降依次降分。三是“平台是否有关于网暴防治优秀内容创作与用户评论的激励措施”，最高级A+级为“是”，最低级 B 级为“否”。本项测评要点中提及的“激励”，主要为实质奖励性的引导，如赋予优秀创作者更高的“流量”或设置奖金等。（4）未成年人保护机制未成年人作为网络暴力尤其是网络欺凌的受害群体和施暴群体，具有在平台层面加以额外保护以及额外监督的必要性。对于未成年人用户的保护机制，测评内容主要包括平台网络暴力防治机制与平台“未成年人模式”（或“青少年模式

98、”“青少年防沉迷系统”等）的兼容情况、未成年人账号发布含个人信息内容时的安全提示情况、未成年人用户绑定监护人账号的比例、未成年人涉网络暴力侵害或受害的心理疏导机制等，最高级为 A+级，以下根据未成年人保护合规水平降低依次降分。3.测评机制3.测评机制30（1）邀请平台提供有关基础防网暴产品或技术工具开发应用情况、网络信息内容人工审核机制的覆盖情况、平台规则和平台社区规范关于反网暴治理的规则建设情况、谣言治理情况、优质信息内容创作激励情况、未成年人专门保护情况的说明，通过外部机构测评的方式加以测评考察；（2）邀请有代表性特点的用户群体参与调查，对平台关于反网暴治理的效果、用户遵守平台规则及平台社

99、区规范的情况进行测度和考察；（3）通过虚拟用户注册新账号的形式测试平台关于用户账号的实名要求、平台基础防网暴产品启动/关闭的便捷性、用户关于防网暴措施的决定权、心理咨询的供给情况、举报投诉机制的反应时效、未成年人模式的专门保护情况等，主要以“有/无”或“达标/不达标”作为输出结果加以评价；（4）专家调研访谈并根据调研情况给出专家鉴定意见。需要说明的是，“对行业具参考价值的做法、表列范围外测评指标表现”一项，主要涵盖了测评体系中因资料调取难度较大而未能完整测评的指标，如事前针对涉网暴信息内容识别拦截的实效、事后投诉举报处理的实效、优秀内容创作和用户评论激励措施、是否设置网暴防治专员或专门部门、网

100、暴防治宣传的用户触达情况等；测评团队依据平台测评情况，对在网络暴力防治措施方面作出了行业前沿实践探索的平台给予了相应的赋分。4.初步测评结果整体而言，我国抖音、快手、知乎、微博、哔哩哔哩等头部平台在网络暴力防范治理机制的技术治理和平台规则治理层面，功能上已经初具规模、初具体系。4.初步测评结果整体而言，我国抖音、快手、知乎、微博、哔哩哔哩等头部平台在网络暴力防范治理机制的技术治理和平台规则治理层面，功能上已经初具规模、初具体系。在中央网信办发布关于切实加强网络暴力治理的通知后，各主流网络服务提供平台积极响应，从技术治理和平台规则治理两方面入手，在前端服务、后端技术、秩序生成与维持以及未成年人保

101、护等方面尽到了充分的平台责任。在前端服务、后端技术、秩序生成与维持以及未成年人保护等方面尽到了充分的平台责任。通过调研分析发现，与国际相比，我国部分治理措施在技术应用和治理实效方面已经达到了相当的水准。我国部分治理措施在技术应用和治理实效方面已经达到了相当的水准。具体测评情况如下：（1）前端服务：国内主流的头部网络服务提供平台在用户自主设置互动功能、具体防网暴设置的操作便捷程度以及提供给用户的消息偏好设置权限等方面都取得了较高的评价等级。以“抖音小安”为代表的综合性网络暴力防护功能集成产品以及允许用户自行调整互动开放性的保护策略兼容了受害者主观认定标准，在充分尊重个人信息的基础上最大限度地实现

102、了网络暴力的个体差异化防护。31（2）后端技术：由于大多数技术指标需要向平台后台调取而无法以用户身份直观测度，部分网络服务提供平台的技术指标尚待进一步调取资料测评。项目组对国内各主流平台在网络暴力防治专门产品或技术工具的开发、专门人员或专门团队设置、涉网络暴力信息审查和过滤机制、网络暴力重大舆情应急处置机制、谣言治理技术措施等方面进行了综合测评。测评到的网络服务提供平台均开发了网络暴力防治专门产品或技术工具并投入使用，调研资料显示以抖音为代表的头部平台已经在涉网络暴力信息内容识别、异常流量数据识别、谣言治理和算法推荐逻辑优化等方面进行了较为有效的机制设置，明确了平台内部关于涉网络暴力信息内容的

103、分类分级标准、拦截过滤机制及不同等级信息内容的处理方式，在充分尊重用户自主选择权的基础上充分发挥算法在异常流量监控、信息实时反馈方面的网络环境辅助治理效能。（3）秩序生成与维持：调研显示，除微博用户协议未涉及网络暴力防治、也未向网络暴力受害者提供心理疏导外，我国头部的网络服务提供平台均已将网络暴力防治义务纳入平台规则或社区公约，并为网络暴力受害者提供用户可主动发起的心理疏导。在优质内容创作者激励方面，网络服务平台普遍提供网络暴力防治的宣传激励，总体的用户触达情况尚待进一步调查统计，但部分头部平台实际触达率已达到用户总规模的 30-40%。此外，部分头部平台建立了明确的网络暴力案件线索移交机制，

104、将平台巡查到的涉网络暴力违法犯罪案件线索提交给网信、公安等部门。（4）未成年人保护：国内各头部平台未成年人模式（或“青少年模式”“青少年防沉迷系统”等）的落实情况较好，通过设置监护人权限管理、用户间社交功能限制等方式，为未成年人模式下的用户提供了较为充分的网络暴力防护，部分具体机制和措施的应用及普及情况尚待进一步资料调取。5.测评主要结论5.测评主要结论依据团队测评及调研，可归纳出国内头部平台网络暴力治理措施的以下特征国内头部平台网络暴力治理措施的以下特征：首先，从合规举措角度来从合规举措角度来看，现阶段经过网信部门主导的集中治理，各平台在网暴治理基本功能上大体都已经完备合规，基本功能在形式上

105、均已具备。看，现阶段经过网信部门主导的集中治理，各平台在网暴治理基本功能上大体都已经完备合规，基本功能在形式上均已具备。具体表现为，多数平台在后端技术方面的供给已经满足外部可直接观察到的技术需求，总体得分较高，且在未成年人保护领域整体合规情况较好，但在前端服务和平台上用户社区秩序的生成和维持方面则仍存在若干不足之处。下一步有必要从治理效能角度出发，追求“形式合规”之上更好的网暴防治实际效果。例如在平台规则已经明确、网络暴力受害者保护技术措施已经设立的基础上，网络服务提供者有必要加强宣发推广，以增强用户实际的感知。例如在平台规则已经明确、网络暴力受害者保护技术措施已经设立的基础上，网络服务提供者

106、有必要加强宣发推广，以增强用户实际的感知。32其次，从治理措施角度来看，各头部平台网络暴力治理措施的同质化程度较高，但并未完整覆盖网络暴力治理的所有环节。测评团队发现，以平台互动设置功能的集中度、网络暴力防治宣传情况，以及大部分可测度的后端技术指标等为代表的，现阶段较为成熟的特定技术措施或评估内容，往往在行业大多数平台都能实现较高水平的对齐或普及；而互动功能设置的优先级、社区公约中网络暴力治理相关内容的合理性等柔性或偏实质的指标，则存在改进空间。这反映了平台自行探索创新治理措施的积极性有待充分开发。其三，从测度手段角度来看，通过平台公示公开资料和用户账号可明确验证的治理措施以形式合规为主，实质

107、性治理措施往往无法通过外部测评验证治理实效。从治理措施角度来看，各头部平台网络暴力治理措施的同质化程度较高，但并未完整覆盖网络暴力治理的所有环节。测评团队发现，以平台互动设置功能的集中度、网络暴力防治宣传情况，以及大部分可测度的后端技术指标等为代表的，现阶段较为成熟的特定技术措施或评估内容，往往在行业大多数平台都能实现较高水平的对齐或普及；而互动功能设置的优先级、社区公约中网络暴力治理相关内容的合理性等柔性或偏实质的指标，则存在改进空间。这反映了平台自行探索创新治理措施的积极性有待充分开发。其三，从测度手段角度来看，通过平台公示公开资料和用户账号可明确验证的治理措施以形式合规为主，实质性治理措

108、施往往无法通过外部测评验证治理实效。例如，平台所提供网络暴力防治专门产品或技术工具的技术应用情况、平台是否为网络暴力防治设置专门人员及岗位或专门部门及团队、平台网络暴力防治专人或部门统筹平台资源的权限资格、平台的内容审查及过滤对网络暴力信息的识别及过滤效果、平台事后投诉机制的时效性与准确性、平台是否提供法律咨询服务或将相关案件移交司法部门、平台网络暴力防治宣传的用户触达情况及社区氛围的用户感知、平台是否有关于网暴防治优秀内容创作与用户评论的激励措施等重要测评指标，均属于平台应当掌握且能够有效标示网络暴力治理情况的指标，由于测评手段有限，本报告中未能进行相关指标的测度。最后，从具体平台的测评情况

109、来看，抖音平台各方面得分普遍较高且相对均衡，尤其是在平台网络暴力治理专门岗位或部门的权限设置、投诉机制的时效性和准确性、网络暴力宣传防治宣传及平台规则的触达情况等实质性合规和治理指标上得分较高，其做法在整个行业具有参考意义。微博平台在涉网络暴力取证服务及其便捷性方面具有较强的服务功能，在网络暴力防治平台规则设计、社区公约内容等方面上具有较好的治理效果，具有行业参考意义。知乎和快手平台在外部测评可接触的范围内较为均衡且整体表现较好，其中快手在平台心理疏导机制的提供上则有较具参考性的实践经验和做法。哔哩哔哩平台在前端服务及平台秩序生成与维持机制方面有改进空间，主要是未提供专门的网络暴力投诉渠道，总

110、体上建立起了多功能的治理机制。小红书、微信视频号两家平台从功能的完备性和多样性来看，在用户消息偏好设置、平台用户服务协议内容、平台规则或社区公约合理性等重要方面都存在完善和改进空间。具体情况如表 2 所示。网络暴力平台治理措施指标评价实例（等级情况）网络暴力平台治理措施指标评价实例（等级情况）33评估类别评估指标测评内容抖音微博快手知乎bilibili微信视频号小红书前端服务用户自主设置互动功能的便捷度用户是否能够自主设置互动功能评估类别评估指标测评内容抖音微博快手知乎bilibili微信视频号小红书前端服务用户自主设置互动功能的便捷度用户是否能够自主设置互动功能A+A+A+A+A+A+A+互

111、动设置功能的优先级互动设置功能的优先级BCBBBBC互动设置功能的集中度互动设置功能的集中度A+A+A+A+A+A+A+用户是否能够进行消息偏好设置用户是否能够进行消息偏好设置A+A+A+AACC类别等级AAABBCC后端技术平台网络暴力防治专门产品或技术工具平台是否设置网络暴力防治专门产品或技术工具类别等级AAABBCC后端技术平台网络暴力防治专门产品或技术工具平台是否设置网络暴力防治专门产品或技术工具A+A+A+A+A+A+A+事前内容审查和过滤机制平台是否设置事前的内容审查和过滤机制事前内容审查和过滤机制平台是否设置事前的内容审查和过滤机制A+A+A+A+A+A+A+平台的内容审查及过滤

112、平台的内容审查及过滤A+A+A+A+A+A+A+34是否包括对网络暴力信息内容的审查与拦截网络暴力重大舆情与极端事件的处置平台是否有应对重大舆情与极端事件的处理机制是否包括对网络暴力信息内容的审查与拦截网络暴力重大舆情与极端事件的处置平台是否有应对重大舆情与极端事件的处理机制A+A+A+A+A+A+A+平台应对重大舆情与极端事件的处理机制是否包括对涉网络暴力相关事件的应对及治理措施平台应对重大舆情与极端事件的处理机制是否包括对涉网络暴力相关事件的应对及治理措施A+A+A+A+A+A+A+平台关于谣言治理的技术措施平台是否有应对谣言传播的技术措施及其效果平台关于谣言治理的技术措施平台是否有应对谣

113、言传播的技术措施及其效果A+AAA+AAA类别等级A+A+A+A+A+A+A+秩序生成和维持网络暴力防治平台规则、社区公约平台用户服务协议中是否涉及防治网络暴力的内容类别等级A+A+A+A+A+A+A+秩序生成和维持网络暴力防治平台规则、社区公约平台用户服务协议中是否涉及防治网络暴力的内容A+A+A+A+A+A+C35平台是否出台关于网络暴力防治的专项政策平台是否出台关于网络暴力防治的专项政策A+A+A+A+A+A+A+平台网络暴力防治平台规则或社区公约内容的合理性平台网络暴力防治平台规则或社区公约内容的合理性A+ACBBAC事后投诉和救助机制平台是否提供专门的网络暴力投诉渠道事后投诉和救助机

114、制平台是否提供专门的网络暴力投诉渠道A+A+A+A+CCC平台是否提供取证服务及取证的便捷度平台是否提供取证服务及取证的便捷度CAA+AA+CA+平台网暴防治的宣传与平台关于优质信息内容创作、用户评论的激励措施平台是否进行网络暴力防治的宣传平台网暴防治的宣传与平台关于优质信息内容创作、用户评论的激励措施平台是否进行网络暴力防治的宣传A+A+A+A+A+A+A+类别等级AA+AABBB未成年人未成年人模式平台是否设置未成年人类别等级AA+AABBB未成年人未成年人模式平台是否设置未成年人A+A+A+A+A+A+A+36保护机制模式未成年人模式是否纳入网络暴力防治机制保护机制模式未成年人模式是否纳

115、入网络暴力防治机制A+A+A+A+A+A+A+涉未成年人网络暴力事件涉未成年人网络暴力事件是否优先处置涉未成年人网络暴力事件涉未成年人网络暴力事件是否优先处置A+A+A+A+A+A+A+类别等级A+A+A+A+A+A+A+对行业具参考价值的做法、表列范围外测评指标表现等A+AABAAB综合等级A+A+AAABB类别等级A+A+A+A+A+A+A+对行业具参考价值的做法、表列范围外测评指标表现等A+AABAAB综合等级A+A+AAABB表 2测评情况模块化得分（二）网络暴力防治技术工具测评体系（二）网络暴力防治技术工具测评体系1.网络暴力防治技术工具测评概述1.网络暴力防治技术工具测评概述现阶段

116、社交传播、算法分发已成为互联网主流，网络暴力防治需要依托平台的主体地位以及治理责任与义务，其中各平台的网暴防治技术工具不容小觑。网络暴力防治技术工具测评作为面向平台层面，评测各平台技术工具应对网络暴力事件预防和治理能力的判断和衡量标准。基于平台内网暴事件由受害方、施暴方、旁观者等多方参与，且呈现出聚集性、海量性、隐匿性和微暴力等核心特征。且呈现出聚集性、海量性、隐匿性和微暴力等核心特征。因此，应从行业前沿实践经验出发，从多个维度构建不同场景下平台技术工具网络暴力防治效果的测评标准体系。但如何把握测评标准的边界与尺度，平台担责同时又不过度加压是需要进一步解决的问题。但如何把握测评标准的边界与尺度

117、，平台担责同时又不过度加压是需要进一步解决的问题。在确定网络暴力防治技术工具所需特征和功能方面，明确网络暴力防治的目标是完善监测识别、实时保护、干预处置、溯源追责、宣传曝光等全链条治理，追求平台37网暴标本兼治的预期效果。此外，还需考量各互联网平台的实际情况，如：平台规模、技术水平、用户群体、发表内容类型等，以及分析平台、用户和其他利益相关者的需求和期望，明确技术工具所应具备的基本特征和功能，以便为设计科学合理的测评标准体系提供参考。2.网络暴力防治技术工具测评方案2.网络暴力防治技术工具测评方案（1）测评场景基于网络暴力防治阶段和目标的不同，可以将测评场景划分为事前预警预防、事中保护控制和事

118、后处罚阶段。事前预警预防阶段关键在于三点：一是内容的识别预警。事前预警预防阶段关键在于三点：一是内容的识别预警。平台是否建立网络暴力信息分类标准和典型案例样本库。由于网暴官方尚无识别标准，各平台内部需细化涉网络暴力内容标准，排除舆论监督和善意批评等情形，增强网络暴力识别的准确性。并结合网站平台业务特点和具体处置案例，不断更新分类标准，持续完善样本库。二是网络暴力技术识别模型。二是网络暴力技术识别模型。平台感知网络暴力的渠道通常基于用户举报、本人求助、站内站外热点事件以及负向内容风险聚合等，综合考虑事件类别、针对主体、参与人数、发布频次、举报投诉等维度，建立具体的网暴行为识别模型，从网暴发生苗头

119、处进行预警。三是涉网络暴力舆情应急处理机制。三是涉网络暴力舆情应急处理机制。在平台感知到网暴风险后，平台组织专门工作力量，及时收集网络暴力相关热点话题和舆情线索，在舆情形成前或发酵中进行风险上报、人工研判等流程，进入应急处置阶段，如：判断事因、确认网暴发生维度、评估处置手段、力度等。事中保护控制阶段还可以划分为两部分：一是当事人保护；二是控制网络暴力信息传播扩散。事中保护控制阶段还可以划分为两部分：一是当事人保护；二是控制网络暴力信息传播扩散。其中，依据当事人群体不同给予不同程度的保护，如优先处理涉未成年人网暴问题、社会热点类当事人分情况评估保护等。当事人保护技术工具一般包括：第一，一键防护功

120、能。部分平台根据自身特点，提供一键关闭陌生人私信、评论、转发等设置。平台通过“用户自主设置+平台介入保护”模式进行保护控制，用户遭遇网络暴力风险时，平台发送系统信息，提示其启动一键防护，免受相关信息骚扰，例如：抖音的抖音的一键防暴功能、知乎的“瓦力保镖”功能等。一键防暴功能、知乎的“瓦力保镖”功能等。第二，私信、评论保护规则。发送者发送涉嫌网络暴力的评论，会收到风险警示、继续发送可能导致平台系统对评论进行限制，还可以对关键词进行屏蔽等。而私信方面，用户可以对接收陌生人私信附加数量、时间、范围等限制，用户可根据自身需要自主设置仅接收好友私信或拒绝接收所有私信。同时平台端通过技术监测对用户进行遭受

121、网络暴力的风险提醒。第三，快速举报通道。各大平台在评论、私信等位置均设置有涉网络暴力信息快捷投诉举报38入口，但投诉举报入口和程序繁简不一。此外，部分平台的一键取证功能，方便当事人快速收集证据。控制网络暴力信息传播扩散部分不同平台措施略有差异，视频平台如：B 站、抖音、快手等大都管控弹幕、评论环节，严控涉网络暴力不友善评论泛化传播，优先展示权威信息，及时清理过滤违法违规评论。贴吧、微博、知乎等网站平台主要对相关话题讨论、群组和板块进行及时管控、清理等，密切巡查以相关事件名称、当事人及相关人员姓名命名的词条、话题、群组。控制网络暴力信息传播扩散部分不同平台措施略有差异，视频平台如：B 站、抖音、

122、快手等大都管控弹幕、评论环节，严控涉网络暴力不友善评论泛化传播，优先展示权威信息，及时清理过滤违法违规评论。贴吧、微博、知乎等网站平台主要对相关话题讨论、群组和板块进行及时管控、清理等，密切巡查以相关事件名称、当事人及相关人员姓名命名的词条、话题、群组。排查关闭以匿名投稿、隔空喊话等名义发布导向不良等内容的话题版块和群组账号。针对直播和短视频，对存有网络暴力风险的短视频先行审查，拦截过滤相关视频传播。事后处罚阶段的重点在于经研判后确属网络暴力信息并造成侵害的应在第一时间分类处置相关账号。对涉嫌网络暴力的账号，进行理性发言提示；对参与网暴的账号进行警示教育，并根据恶劣程度采取禁言等处罚措施；对牵

123、头、煽动网络暴力的账号，平台多采事后处罚阶段的重点在于经研判后确属网络暴力信息并造成侵害的应在第一时间分类处置相关账号。对涉嫌网络暴力的账号，进行理性发言提示；对参与网暴的账号进行警示教育，并根据恶劣程度采取禁言等处罚措施；对牵头、煽动网络暴力的账号，平台多采取关闭账号等严厉的处罚措施，涉及违法犯罪的，移交相关部门依法追究法律责任。取关闭账号等严厉的处罚措施，涉及违法犯罪的，移交相关部门依法追究法律责任。（2）测评方法与指标权重关于网络暴力防治技术工具测评方法，建议通过模拟用户行为获取相关数据，测试网暴防治技术工具在不同场景下的表现。相较于问卷调查、访谈等方式，可以更详细、清楚、精准地找出平台

124、技术工具存在的问题。一方面，模拟网络暴力受害者测试各平台事前预警预防能力，并使用各平台的网暴防护功能，深度体验其启动步骤、程序和实际效果等。另一方面，模拟施暴者行为进行网暴防治测试，设定敏感词，包括常见的攻击类词汇以及谐音、换字等更隐秘的表达，在各平台测试其不同场景下（如评论、私信等）的拦截程度，判断其信息识别监测能力。为每个测评场景分配适当的权重，才能科学反映其在总评分中的重要性。如前文所述，网络暴力的界定和识别是目前的难点之一，在治理过程中需要结合受害人具体情况、抗压能力，信息传播量级、传播速度进行个案分析，平台对网络暴力进如前文所述，网络暴力的界定和识别是目前的难点之一，在治理过程中需要

125、结合受害人具体情况、抗压能力，信息传播量级、传播速度进行个案分析，平台对网络暴力进行规模化、及时性的治理依赖于“止于微末”和“防于未然”。故事前预警预防与事中保护控制阶段的技术工具权重大于事后处罚阶段的技术工具。3.网络暴力防治技术工具测评标准行规模化、及时性的治理依赖于“止于微末”和“防于未然”。故事前预警预防与事中保护控制阶段的技术工具权重大于事后处罚阶段的技术工具。3.网络暴力防治技术工具测评标准一是信息识别的准确度。检查各平台技术工具对网络暴力信息内容的识别能力，包括敏感关键词、文本、图片和视频等多种形式。网络暴力行为的发生具有随机和偶然性，没有固定规律评估且行业内没有形成统一的标准。

126、网络暴力信息识别能力建设需要兼顾“快速”与“精准”，测评中需要确定正确识别网络暴力信息内容的比例以39及误报正常内容的比例。二是采取措施的实时性。衡量网络暴力防治技术工具的另一个重要标准是平台发现网络暴力行为后采取措施的速度。平台基于对舆情、用户举报、受到谩骂评论攻击风险的浓度等因素的研判，此研判流程一般包括机审和人审等，应尽可能迅速，在事件发酵前进行应急处理。这可能包括实时监控平台相关信息内容、迅速提示被网暴对象开启防护功能、快速封禁或警告发布者等。实时性越高的技术工具越能有效遏制网络暴力的传播。三是防治技术的覆盖范围。由于各网站平台的类型不同，如论坛、视频、直播等；社交属性上针对的群体、文

127、化圈子和用户量级有较大差异。网络暴力防治技术工具在不同测评场景下的覆盖范围、表现情况应留有弹性。在网络暴力内容的识别预警、技术识别模型、涉网络暴力舆情应急处理机制方面，大平台和小平台由于技术水平、公司规模和影响力的差距，防治技术的覆盖范围不应采用一个标准，能够基本涵摄事前、事中和事后阶段的防治领域即可。四是用户体验。评价网络暴力防治技术工具的另一个重要维度是技术在用户体验方面的表现。涉网络暴力信息内容的举报、投诉渠道是否畅通；被网络暴力方启动、操作防护功能的便捷性、入口关卡是否简洁；平台技术对涉嫌网络暴力信息内容的误报率等。对于涉嫌网络暴力事件的双方以及其他旁观用户而言，这些防治机制与流程的设

128、置，会影响到用户对网络暴力技术工具的使用体验和网络暴力事件治理的看法。平台是否在能力范围内减轻对正常用户的影响也是一个需要关注的方向。五是安全性与合规性。测评网络暴力防治技术工具在用户数据保护和个人隐私政策方面是否符合相关法律法规要求。平台对系统内用户的账号采取使用权限限制、信息变更、关闭账户等处置措施时需要平衡用户个人信息与隐私、数据安全和网络暴力防治的内在要求。此外，还需要考虑平台在网络暴力信息内容审查过程中可能涉及的伦理问题，如言论自由和网络暴力之间的平衡。三、网络暴力的平台责任与多元治三、网络暴力的平台责任与多元治理理基于上述测评系统和指标，可以建构一套网络暴力防范治理系统。然而，网络

129、暴力是由社会、技术与心理等多重原因而形成的社会失范现象。从时间纵向维度来看，网络并不是语言暴力的诞生地，相反语言暴力先于网络暴力而存在，网络暴力的实质是语言暴力在网络空间的延伸与演化。语言暴力是长期存在的社会现象，是人类40在使用语言文字过程中的异化，自古有之。从口语时代的面对面交流，到网络时代的论坛、贴吧、微博、微信等平台，再到内容长短不一的视频平台上，都有语言暴力的延续和发展。从横向角度来看，其产生与传播受社会环境、媒介环境、技术环境、网民素养等多重因素影响。社会发展中不同群体、个体之间的一些矛盾和差异，在网络空间投射、转化产生了网络暴力等社会失范现象。现实中网民素质参差不齐，网络的匿名特

130、点，进一步降低了网民施暴的心理负担与成本。此外，个别媒体、一些自媒体人和社交媒体出于吸引流量等目的，进行夸大、片面等失范报道，也容易助推或扩大网暴负面影响。加之网暴界定难、防范难的特点，使得单纯依托平台来根除网暴难以实现。图一 网暴生态图有鉴于此，在现实的网络暴力的治理实践中，平台单方面的力量仍然显得独木难支，除跨平台的协调联动机制之外，还需要有关的监管部门以及司法机关、新闻媒体和用户等都纳入网络暴力的治理中形成合力。在现实的网络暴力的治理实践中，平台单方面的力量仍然显得独木难支，除跨平台的协调联动机制之外，还需要有关的监管部门以及司法机关、新闻媒体和用户等都纳入网络暴力的治理中形成合力。（一

131、）网络暴力治理的多方责任结构体系（一）网络暴力治理的多方责任结构体系网络暴力是复杂社会问题在网络空间的“镜像”、投射和变形。古今中外，人类社会发展始终面临着经济社会发展不平衡、不充分等问题，很多时候会通过线下的实际行动解决，也会通过争吵（网暴的最根本形式）的方式应对，可见网络暴力有其久远且深刻的社会原因。在互联网时代，这些问题与矛盾也为网络暴力的发生提供了土壤、埋下了“伏笔”，网络空间则为网民提供了情绪宣泄的途径，网民容易站在道德网络暴力是复杂社会问题在网络空间的“镜像”、投射和变形。古今中外，人类社会发展始终面临着经济社会发展不平衡、不充分等问题，很多时候会通过线下的实际行动解决，也会通过争

132、吵（网暴的最根本形式）的方式应对，可见网络暴力有其久远且深刻的社会原因。在互联网时代，这些问题与矛盾也为网络暴力的发生提供了土壤、埋下了“伏笔”，网络空间则为网民提供了情绪宣泄的途径，网民容易站在道德41制高点上指责他人，甚至形成网络暴力等失范现象。同时，由于网络的匿名特点，网络逐渐成为纾解社会矛盾的方式和途径之一。必须指出的是，虽然网络暴力发生在网络空间，但不能将网暴的全部责任归结于互联网。总体来看，网络暴力是由社会、技术与心理等多重原因而形成的社会失范现象。化解社会矛盾，避免激化成外显事件，并蔓延至互联网，形成社会失范现象，是防治网暴的应有之义。网络暴力是复杂社会问题在网络空间的投射，依靠

133、单一主体的力量是难以解决的，只有政府部门、媒体机构、平台企业、社会公众等各方主体共同参与，才能实现有效治理。因此有必要对政府、平台、媒体、公民等在网络暴力治理中的角色与作用进行准确定位，实现治理权责的科学配置。首先，政府部门在网络暴力治理中承担依法监管责任。制高点上指责他人，甚至形成网络暴力等失范现象。同时，由于网络的匿名特点，网络逐渐成为纾解社会矛盾的方式和途径之一。必须指出的是，虽然网络暴力发生在网络空间，但不能将网暴的全部责任归结于互联网。总体来看，网络暴力是由社会、技术与心理等多重原因而形成的社会失范现象。化解社会矛盾，避免激化成外显事件，并蔓延至互联网，形成社会失范现象，是防治网暴的

134、应有之义。网络暴力是复杂社会问题在网络空间的投射，依靠单一主体的力量是难以解决的，只有政府部门、媒体机构、平台企业、社会公众等各方主体共同参与，才能实现有效治理。因此有必要对政府、平台、媒体、公民等在网络暴力治理中的角色与作用进行准确定位，实现治理权责的科学配置。首先，政府部门在网络暴力治理中承担依法监管责任。政府机关应当在法律法规完善、推动上位立法、明确行业标准、推动行业自律等方面对网络暴力的多元主体治理加以充分引导和鼓励。政府机关应当依法依规对网络暴力现象进行行政和司法手段的治理，包括建立跨平台的协作联动机制、涉网络暴力线索证据移交移送机制、多部门会商协调机制等。其次，网络服务提供者居于网

135、络暴力防范治理第一线，承担网络暴力直接治理的主体责任，网络服务提供者居于网络暴力防范治理第一线，承担网络暴力直接治理的主体责任，明确网络暴力治理的平台规则和用户公约等，探索建立平台内部适用的网络暴力识别指标，为网络暴力受害者提供充分的、自主选择的技术保护和心理咨询，并对平台上的网络暴力行为加以监控，必要时通过技术手段对快速传播的网络暴力事件加以干预。需要说明的是，平台责任不应当过于泛化，在网络暴力事件处置中，不宜唯结果论，应综合考察平台是否已经采取合理的措施、建立有效的防范治理和拦截保护机制，评估平台是否已经履行主体责任。第三，媒体是治理网暴不可或缺的一环。媒体报道、自媒体社交媒体传播对网络暴

136、力的传播扩散和烈度提升具有重要的媒介作用。传统媒体和自媒体应当遵循媒体伦理、承担媒介责任，避免随意用网暴定性事件，成为网络暴力的第三，媒体是治理网暴不可或缺的一环。媒体报道、自媒体社交媒体传播对网络暴力的传播扩散和烈度提升具有重要的媒介作用。传统媒体和自媒体应当遵循媒体伦理、承担媒介责任，避免随意用网暴定性事件，成为网络暴力的推手，避免因“唯流量论”的不良引导导致网络暴力现象的膨胀和社会矛盾的激化。第四，网暴治理是全体网民的必修课。网络服务用户应当明确自己作为新时代互联网公民的责任和义务，遵守法律法规、平台规则等，积极参与网络空间生态秩序的维护和与网络暴力行为现象的斗争，不断在公民素质、网络素

137、养的培养和提升方面自我教育。推手，避免因“唯流量论”的不良引导导致网络暴力现象的膨胀和社会矛盾的激化。第四，网暴治理是全体网民的必修课。网络服务用户应当明确自己作为新时代互联网公民的责任和义务，遵守法律法规、平台规则等，积极参与网络空间生态秩序的维护和与网络暴力行为现象的斗争，不断在公民素质、网络素养的培养和提升方面自我教育。（二）网络暴力治理的监管措施（二）网络暴力治理的监管措施42参考域外有关网络暴力治理的实践经验，有关监管部门可以在推动有关立法、推动行业自律、确立行业规范、拓展行政司法综合治理等多个方面着力推动网络暴力跨平台监管治理的措施落地和体系建构。1.域外有关网络暴力治理的实践1.

138、域外有关网络暴力治理的实践（1）注重专项法制注重专项法制美国目前已经出台多部法律法规以应对网络暴力，如联邦禁止利用计算机犯罪法、计算机安全法等。其中最贴近网络暴力的是梅根梅尔网络欺凌预防法，这部法律的颁布源于美国网络欺凌第一案。另外，美国国会出台的网络欺凌预防法案则对施暴者的责任承担、受害者的权利救济、网络平台的责任承担等问题都进行了详细的规定。德国 1997 年通过的多媒体法界定了网络服务商的权利及义务，倘若网络服务商提供的网络搜索引擎或者链接出现了被禁止的内容，则该网络服务商很可能面临着承担最高 1.5 万欧元罚款的责任。后续德国出台的信息与通信服务法等法律也进一步促进了德国网络暴力治理体

139、系的完善。作为全球最早对网络内容进行立法规制的国家之一，澳大利亚也建成了包括电信传输法、数字保护法散播邪恶暴力内容法等在内的法律规范体系13，其中的散播邪恶暴力内容法也对社交媒体传播的互联网影响内容予以了限制。韩国也专门设立了促进使用信息通信网络及信息保护关联法，对网站主动屏蔽有关暴力、违法、涉嫌诋毁他人的文章和影像提出了要求，并对网站不作为的责任进行了明确。（2）明确责任部门在韩国，其早期不仅设立了信息道德委员会，目前还有专门主管不良信息网上传播事宜的管理网络信息的部门，以期构建健康的网络文化。在德国，联邦内政部对网络监管负有主要职责，联邦内政部直属的联邦刑警局下设立了“数据网络无嫌疑调查中

140、心”，该机构不受限于具体的嫌疑指控，享有 24 小时不间断地跟踪和监测网络信息的较大权力，该机构也就相当于“网络警察”。截止到目前，德国的 16 个州都可以看到“网络警察”的踪影。在希腊，网络犯罪部对互联网相关的犯罪行为享有专门权力，当其发现存在涉及国家安全、欺诈犯罪的暴力信息时，会及时请求法院出具搜查令以对涉案人实施逮捕工作。（3）突出行业自律出于网络的开放性和虚拟性特征的考虑，域外多数国家也多通过行业自律加强网13郑晓均：加快虚拟网络立法,促进社会管理创新，载红旗文稿2011年第 16期。43络暴力的监管和治理。这些国家的互联网企业在政府的积极督促之下构建了行业自律组织，借助制定行业规范制

141、度、处理社会纠纷、加强法治教育等渠道实现了健康、和平网络空间的维护，实现公民权利的保护。14在法国，“互联网监护会”和“互联网用户协会”“互联网理事会”等组织依法设立。在德国，“国际性内容自我规范网络组织”设立初衷在于确保网络环境的和平，并且对未成年使用者予以高度关注。德国政府还会和主要的互联网运营商签订自律条款，通过条款的签订赋予运营商根据政府部门的要求对网络平台上的不良内容采取及时的删除和屏蔽措施的义务。在日本，相较于上述国家，其行业自律体系更为完善，其设立了网络事业者伦理准则等行业规范以突出行业自律与法治的有机结合。2.我国网络暴力治理体系的构建2.我国网络暴力治理体系的构建（1）推进反

142、网络暴力法的确立随着互联网基础设施的不断完善和互联网技术的快速更迭，网络暴力呈现出多种形态。我国网络暴力的规制涉及民事、我国网络暴力的规制涉及民事、刑事、行政等领域的规范文件，现有立法虽有针对性的对其规制，但仍未将网络暴力的内涵与界定予以明确，仅仅以“捏造事实”、“侮辱”、“诽谤”等词汇取而代之，立法上针对网络暴力的法律规范仍处于缺位状态。刑事、行政等领域的规范文件，现有立法虽有针对性的对其规制，但仍未将网络暴力的内涵与界定予以明确，仅仅以“捏造事实”、“侮辱”、“诽谤”等词汇取而代之，立法上针对网络暴力的法律规范仍处于缺位状态。1515立足于长远发展，我国需要适时推动制定统一的反网络暴力法的

143、立法进程，将预防和惩处网络暴力等条款精细化、确定化。立足于长远发展，我国需要适时推动制定统一的反网络暴力法的立法进程，将预防和惩处网络暴力等条款精细化、确定化。在反网络暴力法的规则设计上需要考虑到网络暴力伤害案件的特殊性和复杂性规则设计上需要考虑到网络暴力伤害案件的特殊性和复杂性，构建健全的网络立法规范。其一，应当在反网络暴力法总则部分率先对立法目的予以明确，在价值层面为保护法益提供基础。紧接着，网络暴力的概念、行为类型、认定标准、规制思路、治理原则等内容也需要被立法确定网络暴力的概念、行为类型、认定标准、规制思路、治理原则等内容也需要被立法确定1616，进而使得参与网络暴力治理的各个主体在履

144、责、协作时形成整体合力。，进而使得参与网络暴力治理的各个主体在履责、协作时形成整体合力。其二，在反网络暴力法中设置全流程各主体治理的具体内容，应当在法律文本内构建风险检测与识别、侵权预警、动态保护、适时干预、溯源追责、警告曝光、积极引导、维权救济等章节条款体系，为有效治理网络暴力、净化网络环节提供可能。其三，也需要在反网络暴力法当中对政府监管责任、网络平台责任的权责关也需要在反网络暴力法当中对政府监管责任、网络平台责任的权责关14毛向樱：网络语言暴力及国外治理经验借鉴，载武汉冶金管理干部学院学报2018年第 1 期。15蹇昶、杨宗科：舆论失焦中网络暴力的法律规制，载传媒2023年第 9 期。1

145、6刘艳红：理念、逻辑与路径：网络暴力法治化治理研究，载江淮论坛2022年第 6 期。44系予以明晰，通过专门的赋权条款将政府与平台之间处理网络暴力信息的权责划定边界，能够为两主体切实行使权力、履行职责提供指引。系予以明晰，通过专门的赋权条款将政府与平台之间处理网络暴力信息的权责划定边界，能够为两主体切实行使权力、履行职责提供指引。正确理解和处理言论与网络暴力治理之间的关系，确立积极引导的方向，并设立规范化的举报和维权救济渠道，促进对网络暴力的治理进程。其四，在反网络暴力法中需要细化实施网络暴力者的民事责任、刑事责任以及行政责任需要细化实施网络暴力者的民事责任、刑事责任以及行政责任。例如在民事赔

146、偿力度方面，现有的网络暴力案件中受害者要求侵权人赔偿的精神损害数额难以得到法院支持或者即使得到支持但数额较低，17而若对一种行为的金钱惩罚力度弱则会削弱行为规制的效用18，因此在条款设置时可以以网络语言暴力、人肉搜索、捏造传播网络谣言等不同行为类型造成的一定后果(如转发量、人身损害等)为基础，使侵权人承担民事赔偿责任，亦可借鉴国外惩罚性赔偿措施，进行加重赔偿。可以以网络语言暴力、人肉搜索、捏造传播网络谣言等不同行为类型造成的一定后果(如转发量、人身损害等)为基础，使侵权人承担民事赔偿责任，亦可借鉴国外惩罚性赔偿措施，进行加重赔偿。其五，在受害者权利救济方面，可以增设禁令救济权利在受害者权利救济

147、方面，可以增设禁令救济权利。一方面，可以引入诉讼保全制度中的行为保全参与网络暴力的治理。也就是说，当尚未对受害者造成实际损害时，可以赋予受害者向法院请求禁止侵权人在一定时间内在网上发布网暴信息、限制相关网站账号的使用权限等权利，给予受害者的必要保护。另一方面，也可以参照反家庭暴力法中的人身保护令制度19，使受害者免受施暴者的网络骚扰、网络跟踪，保障受害者的人身安全。（2）实现反网络暴力法与相关规范的有效衔接立法的模糊表述、较轻的惩罚力度、有效衔接的缺失等弊端遏制了网络暴力的有效治理，未来不仅需要重视网络暴力法律规则体系的完善，也需要关注专门的反网络暴力法与行政法规范的合理衔接问题。实现反网络暴

148、力法与相关规范的有效衔接立法的模糊表述、较轻的惩罚力度、有效衔接的缺失等弊端遏制了网络暴力的有效治理，未来不仅需要重视网络暴力法律规则体系的完善，也需要关注专门的反网络暴力法与行政法规范的合理衔接问题。其一，在施暴者民事责任承担方面，需要将反网络暴力法规定的网络暴力行为与民法典相关条文达成统一，如反网络暴力法的网络暴力判断标准方面可以民法典第 1024 条之规定作为基准。另外，在网络服务提供者的责任规定上，注重与民法典第 1197 条之规定的吻合，当网络服务提供者明知或者应当知道施暴者实施网络暴力行为而未采取积极、必要的措施时，该网络服务提供者应当与施暴者承担连带责任，以促进平台对网络暴力监管

149、作用的发挥。其二，促进反网络暴力法与刑法的有效衔接。当施暴者实施网络暴力行为已经达到刑法规制的程度时，反网络暴力法应当明确规定此时需要刑法介17卢蝴蝶：网络暴力的法律规制，载西部学刊2022年第 14期。18高媛：自媒体网络暴力行为的法律规制，载太原理工大学学报(社会科学版)2021年第 2 期。19谢永江、袁媛：美国网络欺凌立法及其启示，载重庆邮电大学学报(社会科学版)2017年第 3 期。45入并提供必要的规范依据。其三，应当优化反网络暴力法与治安管理处罚法的协调。当施暴者的网络暴力行为构成治安管理处罚法规制的情节时，反网络暴力法需要出于正面引导舆论的立场，规定权威部门对主流媒体、社会公众

150、的回应流程，以避免消息的封锁。（3）推动行业规范的确立鉴于网络治理涉及范围的广泛、复杂、动态的特征，行业自律所彰显的积极功能得到互联网领域的普遍重视。政府在规制网络暴力时无法解决的专业技术、知识方面的缺陷能够被行业组织自律妥善的弥补，在网络平台出现网络暴力问题时行业自律能够充分运用其专业性和针对性优势第一时间解决网络暴力问题。与域外部分国家的行业规范体系相比，我国的行业规范仍有改善空间。我们应当充分考虑到互联网的特殊性质，使行业道德、行业技术与法律法规实现紧密结合，构建具有约束力的行业规范，为治理网络暴力、搭建文明的网络平台发挥积极作用。在推动行业规范的确立时，也需要对如下三点予以关注。其一，

151、需要将责任明确的问题置于重要地位。完备且明确的互联网信息泄露追责体系的建立能够给予网络行业以推力，使之肩负起相应责任，为用户提供良好的安全保护体验。其一，需要将责任明确的问题置于重要地位。完备且明确的互联网信息泄露追责体系的建立能够给予网络行业以推力，使之肩负起相应责任，为用户提供良好的安全保护体验。其二，设置行业规范时可考虑建立针对性内容审查机制。纵观域外，美国某公司研发的“网络巡逻”软件能够对诸如宗教歧视、人身攻击等的网络暴力内容予以过滤删除20。在先进科技的支持下，如今利用技术手段自动屏蔽侮辱性词汇的做法已相对成熟，网络平台屏蔽侮辱性话语这一功能可以有效降低网络暴力发生的可能性，从而促进

152、和谐网络空间的形成。其三，设置行业规范时也可以适当考虑引入职业禁止规则。21当发生性质恶劣、社会影响严重的网络暴力侵权事件时，对于负有责任的网络平台，如不及时删除施暴网帖，除对之依法追究法律责任以外，还可以根据情节轻重对之暂时或永久的施行职业禁止，以维护健康的网络环境。（4）网络暴力的行政及司法治理除为网络服务提供者治理网络暴力提供支持、加以鼓励和创设规则外，政府部门20毛向樱：网络语言暴力及国外治理经验借鉴，载武汉冶金管理干部学院学报2018年第 1 期。21李铭志：网络暴力的刑法规制浅探，载黑龙江省政法管理干部学院学报2023年第 2 期。46同样需要承担通过行政、司法等路径对网络暴力加以

153、直接治理的职责。就有关监管部门的责任而言，可建立由网信部门牵头，搭建跨平台的网络暴力治理协作和联动机制，通过多平台的协同治理，中断网络暴力事件在平台间的大范围传播扩散和烈度的持续提升。其次，有必要建立网络服务提供者依法依规定期向网信部门、工信部门、公安部门、检察机关、司法机关等移交移送涉网络暴力相关线索及证据的机制，有必要建立多个部门与网络服务提供者之间有关网络暴力治理的会商协调机制。第三，有必要依托现行的中华人民共和国刑法、中华人民共和国个人信息保护法、中华人民共和国未成年人保护法等法律法规，对涉及违法犯罪的网络暴力行为人加以惩戒处置并建立长效的司法治理机制，包括通过检察公益诉讼等能动检察履

154、职的机制，进一步推动网络暴力的司法治理。（三）网络暴力治理的平台责任（三）网络暴力治理的平台责任1.网络暴力治理中平台治理责任之证成1.网络暴力治理中平台治理责任之证成（1）平台责任概述近年来，一些网络暴力事件的发酵引发相对严重的后果，其原因之一便是数字平台中非法有害内容的泛滥。大型数字内容平台具有守门人地位，因而需要强化以平台主体责任为核心的治理体制。22国家互联网信息办公室 2021 年发布的关于进一步压实网站平台信息内容管理主体责任的意见强调要把握主体责任内涵，2022 年印发的关于切实加强网络暴力治理的通知也要求网络平台承担在网络暴力治理中的具体责任。随着数字时代的深入发展和平台经济的

155、持续推进，我国逐步形成私主体和行政机关共同负责监管与提供服务的混合“监管体制”。23有学者提出网络信息内容的治理需要由公私协同构建，内容治理便包括网络暴力的治理。网络平台的“私权力”对于网络信息内容的治理，对于促进网络信息共享、维护网络空间的良好秩序、保障网民的合法权益起到了积极的作用。24这种公私主体混合监管和平台“私权力”的背后便是平台责任相关问题。22参见唐要家，唐春晖：网络信息内容治理的平台责任配置研究，财经问题研究2023年第 6 期。23参见敬力嘉：网络暴力公私合作治理模式的反思与调试，江汉论坛2023年第 5 期。24参见吴方程：网络平台参与内容治理的局限性及其优化，法治研究20

156、21年第 6 期。47总的来说，应对网络内容治理中的复杂问题，尤其是解决网络暴力这一紧迫问题，建立和完善平台治理体系和治理机制来界定网络平台需要承担的主体责任内容，明确平台治理的责任分配规则以及具体实现机制。25简要来说，平台责任配置的重点是激励平台积极采取措施，在合规指引体系的框架下治理网暴等非法有害内容。平台责任配置应遵循法治原则、促进创新原则、有效激励原则、比例配置原则和过失责任原则，并建立多元主体合作责任体制。简要来说，平台责任配置的重点是激励平台积极采取措施，在合规指引体系的框架下治理网暴等非法有害内容。平台责任配置应遵循法治原则、促进创新原则、有效激励原则、比例配置原则和过失责任原

157、则，并建立多元主体合作责任体制。2626（2）平台治理之可行性与必要性在网络治理中，网络平台在事前预警、事中监管和事后处罚与救济等多方面大有可为。平台治理在理论与实践中都具有必要性与可行性。首先，公私对立的观念正在逐渐被破除，私主体在一定程度上可以行使公权力。随着平台经济的深入推进，网络内容治理不只是政府的职能，由于网络空间内私人与公共领域相互交融，边界日渐模糊，需要各主体协同共治。网络平台因其作为“公共话语场域”与“意见自由市场”的角色，成为内容治理的重要主体。而政府则是通过私法权利和责任支持网络平台企业，并使其能够通过技术影响平台用户的行为。27由此可见，平台对网络暴力进行治理正是数字时代

158、的发展趋势。其次，平台拥有网络暴力治理的能力与水平。平台自律在有效推动平台治理的同时，因其在技术、信息等方面拥有的资源优势而影响并规范网络活动其他参与者的行为，因此可以说，网络平台具备网络空间的“私权力”。28这种“私权力”表明其在一定程度具有网络暴力治理的能力与水平。比如，平台可以在网络暴力形成和发酵期进行事先预警，在规模扩大期可以切断暴力传播途径防止伤害进一步扩大，在事后可以对实施网络暴力的失范行为进行平台内惩处，将违反犯罪行为移送有关机关进行处置。第三，平台处于网络暴力治理的前沿阵地，平台治理较为符合经济效益。在网络暴力事件发酵过程中，平台最先感知，可以最先及时采取相关措施。在网络暴力规

159、模扩大时期，平台可以进行判断并对被暴力者进行保护。在网络暴力平复期，平台可以总结事件，完善治理规则，识别并防范有关风险。2.网络暴力治理中平台治理的方法路径2.网络暴力治理中平台治理的方法路径25参见薛茜：网络平台责任“权力化”的治理路径，上海法学研究集刊 2022年第 16卷。26参见唐要家，唐春晖：网络信息内容治理的平台责任配置研究，财经问题研究2023年第 6 期。27参见薛茜：网络平台责任“权力化”的治理路径，上海法学研究集刊 2022年第 16卷。28参见吴方程：网络平台参与内容治理的局限性及其优化，法治研究2021年第 6 期。48关于网络暴力治理中平台治理的方法路径，可以主要从事

160、前、事中、事后三个阶段来梳理网络暴力治理中平台实然和应然承担的义务。（1）平台治理现状在开展相关调研的基础上，可以梳理平台对于网络暴力的治理现状。目前行业内主要有保护模式和应急机制两条同步开展的路径。目前行业内主要有保护模式和应急机制两条同步开展的路径。保护模式网络暴力初期发酵阶段，平台会进行拦截；在发酵期，平台会给认为可能遭遇网暴的用户打电话，告知其可能发生的大规模网络暴力并进行防范；在规模扩张阶段，平台的干预力度会进一步加强，并根据具体情节来决定干预方式和力度。另外，多数平台还为用户设置了防网暴工具，一键开启后阻挡网暴消息的接触、传播和扩散，用户对私信网暴还可以进行批量举报。与此同时，平台

161、更希望用户自己作为参与者能够有意识地保护自己。应急机制应急机制覆盖的范围较广，网络暴力发生时，首先是情况感知，外部舆情的反馈接收和站内用户聚集、评论氛围、客诉举报等都是信号来源。当平台在公共热点事件中发现网暴苗头迹象，会对其进行分类定级，了解网络暴力的情况，包括具体表现形式、各方当事人的背景等，匹配后续的处置、帐号处罚管控、舆情舆论引导等。针对单点明显突破底线，如出现明显人身攻击、侮辱、暴露隐私信息、造谣等情况，平台对相关内容会予以删除，或者限制违规用户永久禁止发布相关内容、限制其创建群组。平台也会对受害方加以识别并推送自主保护功能的使用方法，识别风险较高则一对一外呼和关怀，防范和化解潜在风险

162、。另外部分平台有对被网暴用户进行心理疏导的机制，如抖音、快手等，构成平台积极承担社会责任的体现。（2）平台应承担的治理责任结合国内产业发展与域外经验，可对平台拟应承担的治理责任进行梳理。首先，平台在网络暴力的治理中应当承担直接治理的主体责任；其次，这一主体责任应当以治理成本-社会整体收益分析为基础，为跨平台的协作以及其他类型责任主体履行责任提供必要条件。其次，这一主体责任应当以治理成本-社会整体收益分析为基础，为跨平台的协作以及其他类型责任主体履行责任提供必要条件。具体来说，第一是要设置专门的快捷功能应对网络暴力，其功能包括但不限于限制私信与评论等切断网络暴力信息传播的途径。第二，事前提醒，平

163、台对可能遭受网49络暴力的人进行预警，建议用户打开防止网络暴力的快捷功能。第三，在网络暴力规模扩大期，增强干预力度，平台主动切断网络暴力信息传播途径，关注被网暴人的身心健康并加以引导。第四，在网络暴力发生中期和后期，对实施网络暴力情节严重的用户进行处理，包括但不限于禁言、封号等方式，必要时进行曝光公示。第五，加强对用户的引导教育，引导用户提升自我保护意识，以减少或避免网络欺凌等不良行为，营造良好网络环境。3.网络暴力治理中平台责任的边界与展望3.网络暴力治理中平台责任的边界与展望（1）责任界定与边界虽然平台在网络内容治理中需要承担主体责任，但是其责任不是无限的。在网络暴力发酵期，如果平台提供了

164、防范工具并进行提醒，用户主动选择不去防范，则用户也应当承担相应的后果。虽然平台在网络内容治理中需要承担主体责任，但是其责任不是无限的。在网络暴力发酵期，如果平台提供了防范工具并进行提醒，用户主动选择不去防范，则用户也应当承担相应的后果。如此规定的原因在于，平台并不扮演“父权”角色，要引导用户恰当使用相关功能，最后转化为其素养的提高。简言之，用户自甘风险可以一定程度构成免责事由，但这种免责要区分不同的场景，用户能力不足等情况应当加以必要的识别。平台已经尽到提醒义务。中国政法大学教授刘文杰认为，网络暴力是社会问题在网络上的映射。网络平台的治理责任应当趋向于一种合理注意，即采用可负担的相对有效措施进

165、行网络暴力的识别和处置，治理过程中需要兼顾公众的正当表达权益和社会舆论监督的正常进行。而且在许多场景和语境中，“网暴”与“非网暴”并非总是清晰可辨的。在快速处置与精准处理的双重诉求下，应赋予平台一定的试错空间。而且在许多场景和语境中，“网暴”与“非网暴”并非总是清晰可辨的。在快速处置与精准处理的双重诉求下，应赋予平台一定的试错空间。2929如果将治理网络暴力的责任完全压给平台，一旦出现网络暴力就对平台进行处罚，其结果可能是平台一方的过度删除。由于网络言论的海量，平台只能采取自动化过滤手段，难免导致一些言论遭到“误伤”，对公众正常的言论表达和文学艺术发展造成不合比例的伤害。同时，过宽的过滤口径还

166、会引发“猫捉老鼠”游戏的盛行，即网络用户转而采用谐音字、符号等方式规避机器过滤，难以收到消除网络暴力的功效。治理网络暴力，将责任完全压给网络平台难治理网络暴力，将责任完全压给网络平台难谓明智之举，多方共治才是更优选择。谓明智之举，多方共治才是更优选择。3030中国政法大学教授赵宏分析，在网暴治理过程中，若平台要进一步加强事前监管，尤其是要履行更为广泛的内容审查义务，不仅会增加平台成本，影响平台的创新和健康发展，也容易造成审查扩大化趋势，伤及言论自由。若平台要进一步加强事前监管，尤其是要履行更为广泛的内容审查义务，不仅会增加平台成本，影响平台的创新和健康发展，也容易造成审查扩大化趋势，伤及言论自

167、由。313129参见刘文杰：治理网络暴力，平台责任为先，载上海法治报2022年 7 月 8日 7版“学者评论”。30参见刘文杰：治理网暴并非“猫捉老鼠”的游戏，载中国青年报2023年 06月 28日 08版。31参见网暴治理难题待解：如何定义？要专门立法吗？平台如何担责？，载搜狐网 2023年 6 月 15日，50中国政法大学刑事司法学院院长刘艳红指出，我国网络暴力治理法治化面临多重现实困境，其中平台监管权责失衡值得关注。近年来，我国立法上赋予网络服务提供者的信息网络安全管理义务越来越多、主体责任越来越重，但缺乏专门的赋权条款，权责配置失当导致网络平台在防范和处置网络暴力舆情方面束手束脚、力不

168、从心。近年来，我国立法上赋予网络服务提供者的信息网络安全管理义务越来越多、主体责任越来越重，但缺乏专门的赋权条款，权责配置失当导致网络平台在防范和处置网络暴力舆情方面束手束脚、力不从心。3232中国传媒大学人类命运共同体研究院发布网络暴力现象治理报告指出，网络暴力是一个全社会共同关注和解决的行为，即便平台做到不失责、不缺位，但仅仅依靠平台力量也无法解决所有问题，平台作为空间载体有能力界限，技术能改进但不能涵盖所有。即便平台做到不失责、不缺位，但仅仅依靠平台力量也无法解决所有问题，平台作为空间载体有能力界限，技术能改进但不能涵盖所有。3333中国社会科学院研究员支振锋认为，网络是语言暴力的新空间

169、和新载体，受限于语言暴力判断标准的复杂性，平台很难识别并根治所有网络暴力。在具体网暴事件中，要考察平台是否已经采取合理的措施，建立有效的机制，来评估平台是否已经履行主体责任。总的原则是既需要平台积极探索和采取必要措施在具体网暴事件中，要考察平台是否已经采取合理的措施，建立有效的机制，来评估平台是否已经履行主体责任。总的原则是既需要平台积极探索和采取必要措施，同时也应实事求是、基于当前技术水平和信息内容生产传播规律来要求平台承担合理范围内的责任。，同时也应实事求是、基于当前技术水平和信息内容生产传播规律来要求平台承担合理范围内的责任。3434如果平台责任太多严苛，则平台将面临较高违法风险和较高治

170、理成本，造成“寒蝉效应”，平台可能会改变商业模式并由于治理成本上升而提高收费水平。为规避风险，平台可能会过度过滤并删除信息内容，从而损害公民自由表达权，其甚至会放弃引入某些新业务和新模式，从而不利于数字经济创新发展。如果平台责任太多严苛，则平台将面临较高违法风险和较高治理成本，造成“寒蝉效应”，平台可能会改变商业模式并由于治理成本上升而提高收费水平。为规避风险，平台可能会过度过滤并删除信息内容，从而损害公民自由表达权，其甚至会放弃引入某些新业务和新模式，从而不利于数字经济创新发展。3535因此课与平台过重的责任并不合适，厘清网络暴力治理中平台责任边界的至关重要。因此课与平台过重的责任并不合适，

171、厘清网络暴力治理中平台责任边界的至关重要。（2）平台与政府、用户关系的展望在网络暴力的治理中，有必要形成平台治理与政府监管之间的公私合作治理机制。在网络暴力的治理中，有必要形成平台治理与政府监管之间的公私合作治理机制。有观点认为，在网络暴力治理领域，无论是合作分担公共行政还是犯罪风险防控任务，公共部门起主导作用更加合适，公共部门起主导作用更加合适，网络服务提供者落实公共部门相关要求，配合提供运营和技术支持，才能厘清二者的权限边界，其旨趣更加接近于刑法中的法益保护辅助性原则。以此指导网络暴力公私合作治理，能更好平衡涉网络暴力违法信息管控与信https:/ 营造积极健康网络生态，载法治日报2022

172、年 11月3日。33参见中国传媒大学人类命运共同体研究院：网络暴力现象治理报告，载中国人民大学人类命运共同体研究院官网 2022年 7 月 1日，https:/ 6 月9日。35参见唐要家，唐春晖：网络信息内容治理的平台责任配置研究，财经问题研究2023年第 6 期。51息流动自由、言论自由、企业经营自由之间的关系。36也有学者指出，平台行使“私权力”虽然有助于克服政府规制模式下的诸多弊端，但不能因之形成“政府管平台、平台管用户”的极端规制理念。37立法机构和监管部门致力于为平台有效治理提供相关合规指引，提供具有一定确定性的规则预期，指导平台在规则框架内积极开展合规举措，探索创新工具和手段。网

173、络暴力治理过程中，平台与用户的关系比较复杂。对平台行使“私权力”进行网络治理，可能对用户造成的误伤或损害。有关企业也在调研中表示，防止网络暴力快捷模式的一键开启一般不是永久开启，因为担心用户忘记关闭而影响软件使用。另外，由于语言的复杂性和技术的不成熟性，网络暴力的治理或多或少会对合法合理使用软件的用户造成误伤，此时平台应当提供异议机制与救济途径。在构建网络暴力治理平台责任时，需要处理好平台与政府、用户之间的关系，政府赋予平台义务时要建立明确且合理的规则指引体系，平台限制用户权利时要遵循正当程序原则，处理好政府与市场、自由与安全的关系。（四）网络暴力治理的媒体责任（四）网络暴力治理的媒体责任1.

174、媒体在网暴生成中的责任媒体在网暴治理中的责任不容小觑。2023 年 7 月 7 日，国家互联网信息办公室发布网络暴力信息治理规定（征求意见稿）公开征求意见的通知，其中第十六、十七条指出，互联网新闻信息服务单位应当坚持正确的舆论导向，加强信息内容真实性、合法性审核，不得渲染炒作网络暴力事件，新闻信息跟帖评论实行先审后发。任何组织和个人不得借网络暴力事件实施蹭炒热度、推广引流、故意带偏节奏或者跨平台搬运拼接虚假信息等恶意营销炒作行为。网络信息服务提供者不得为传播网络暴力的账号、机构等提供流量、资金等支持。1.媒体在网暴生成中的责任媒体在网暴治理中的责任不容小觑。2023 年 7 月 7 日，国家互

175、联网信息办公室发布网络暴力信息治理规定（征求意见稿）公开征求意见的通知，其中第十六、十七条指出，互联网新闻信息服务单位应当坚持正确的舆论导向，加强信息内容真实性、合法性审核，不得渲染炒作网络暴力事件，新闻信息跟帖评论实行先审后发。任何组织和个人不得借网络暴力事件实施蹭炒热度、推广引流、故意带偏节奏或者跨平台搬运拼接虚假信息等恶意营销炒作行为。网络信息服务提供者不得为传播网络暴力的账号、机构等提供流量、资金等支持。媒体的道德失范也可能导致网络暴力的发生，尤其在社交媒体与自媒体蓬勃发展的时代下，由于互联网和智能手机的普及，网民的表达空间拓展，网络空间信息的传播速度加快，自媒体成为重要的社会话语表达

176、空间。传统媒体具有专业性强、权威度高的特点，具有很强的引导性和影响力；自媒体则有很强的交互性和自主性，相较于传统媒体来说自由度明显更高。传统媒体和自媒体的结合，使得信息传播更加迅速也更加自由，但信息传播的过度自由存在着引发网络暴力的风险。传统媒体和自媒体的结合，使得信息传播更加迅速也更加自由，但信息传播的过度自由存在着引发网络暴力的风险。36参见敬力嘉：网络暴力公私合作治理模式的反思与调试，江汉论坛2023年第 5 期。37参见薛茜：网络平台责任“权力化”的治理路径，上海法学研究集刊 2022年第 16卷。52网络暴力防控与网络文明专题调查报告调查显示，七成受访网民表示在参与网络热点讨论前会查

177、阅主流媒体的相关报道，但仅四成网民对主流媒体的报道表示信任，有一成多网民明确表态不信任。溯其原因，个别主流媒体过往的失实、片面报道，也影响到部分网民对主流媒体的信任度。在近些年的一些社会热点中，个别媒体出现报道失实、混淆视听、涉嫌制造对立、避重就轻等问题，也消解了一部分网民对主流媒体的信任程度。主流媒体应重视公信力建设。面对网络暴力，主流媒体应该发挥自身优势来缓解网络暴力对社会的负面影响，加强舆论引导作用，做好信息传递的“把关人”、“领导者”、“教育者”。建议报道秉承全面性、客观性，帮助受众更好地判断事件，引导公众更加深入了解问题实质，更加理性地看待热点事件中的问题，减少和避免网络暴力的发生。

178、新媒体或自媒体在新闻报道中，存在道德失范的现象，其原因有如下几点。第一，自媒体从业者往往缺乏专业性，责任意识淡薄，易产生片面引导有失偏颇的现象，不少用户往往未经过证实就对传言、谣言进行报道，如 2022 年 7 月染粉红头发的女孩遭受的网暴即为自媒体用户的歪曲引导和攻击。其二，自媒体内容选择不够客观，为了博得读者眼球而选择热点话题蹭热度或歪曲抹黑事实，在追逐资本利益、迎合受众而失去了应有的公正和客观。其三，自媒体往往为了炒作话题热度进行片面报道，任意增减事实，或者用带有煽动性的语言添油加醋，导致新闻内容失真，如重庆大巴坠江事故中，部分媒体滥用“女司机”等词语加深性别刻板印象，或者未经调查就简单

179、将一件社会热点事件定性为“网络暴力”，对部分平台造成二次伤害，而未引导公众关注其背后的真相和原因。同时，传统媒体的不客观报道对于网暴生成也有相应的责任。传统媒体具有专业性和权威性，在大众心中具有较高的可信度，因此传统媒体进行报道时，对事态发展的影响将会不断放大。一方面，在自媒体与社交网络舆论相互交织的时代下，部分传统媒体未经采访调查就转载自媒体的信息，客观上助推了网暴；另一方面，有些情况下传统媒体带有引导性意味的辞措也是引发网暴的诱因之一，尤其是一些带有很浓的偏见意味的词语。因此，不论是自媒体还是传统媒体，都有可能引发网络暴力的发生或助推网络暴力。对此，媒体应该承担起相应的责任，积极提高自身的

180、水平和职业道德，防止因其失范行为助长网络暴力。2.媒体在网暴治理中的责任2.媒体在网暴治理中的责任传统媒体、社交媒体和自媒体在互联网时代下的影响力各不相同。在治理网暴中，53不同类型的媒体应该根据自身特点承担相应责任，对网民加以引导，增加理性客观探讨的声音。为加强“自媒体”管理，压实网站平台信息内容管理主体责任，健全常态化管理制度机制，推动形成良好网络舆论生态，2023 年 7 月 10 日，国家网信办发布加强“自媒体”管理的通知。自媒体是私人化、平民化、普泛化、自主化的传播者，一方面，自媒体账号应该提高自身道德素养，减少对流量的追逐和非理性引导，更多关注事实本身，成为更多人了解热点时事的窗口

181、，而非网络暴力的助推器；另一方面，官媒下设的自媒体账号更应该守住媒体的底线，明确新闻来源，报道完整事件，而非掐头去尾地用片段吸引流量、引起争议。相关的涉事媒体，本可以利用互联网多进行正面的报道，却时常用低俗或夺人眼球的视频片段来吸引流量，如果媒体减少非理性的逐利行为，多加以自我规范，将在网暴治理中发挥正面作用。一方面，自媒体账号应该提高自身道德素养，减少对流量的追逐和非理性引导，更多关注事实本身，成为更多人了解热点时事的窗口，而非网络暴力的助推器；另一方面，官媒下设的自媒体账号更应该守住媒体的底线，明确新闻来源，报道完整事件，而非掐头去尾地用片段吸引流量、引起争议。相关的涉事媒体，本可以利用互

182、联网多进行正面的报道，却时常用低俗或夺人眼球的视频片段来吸引流量，如果媒体减少非理性的逐利行为，多加以自我规范，将在网暴治理中发挥正面作用。其次，自媒体具有一定规模的影响力，在治理网暴的过程中可以对公众进行正面引导，使公众理性思考事件过程，合理讨论背后的逻辑，或对一些容易引发歧义以及公众不满的言论进行解释、澄清和科普，从而起到消弭抑制网暴的作用，也能适当减轻社会治理网暴的压力。在前不久清华大学和东京大学合作研究日火箭发动机的事件中，网民因为不了解大学对外进行技术合作的合理性，基于朴素的民族感情而对相关主体群起攻之。如果此时自媒体能进行正面引导，澄清高校对外合作的合理合法性以及对科技发展的促进作

183、用，带领公民进行理性探讨，将发挥自身正面价值。最后，在互联网时代下，传统媒体可以利用互联网进行舆论监督，而并非在热点事件结束之后仅仅利用官媒等具有权威性的身份简单给出定论。传统媒体参与到网络暴力的监督和治理过程中，也尽到了媒体的社会责任，有利于推动规范性媒介伦理的构建，坚守媒体客观公正的基本立场。如今多数传统媒体在各大平台拥有官方账号，有条件也有能力对热点事件进行监督，对热点讨论背后的事实进行调查，从如今多数传统媒体在各大平台拥有官方账号，有条件也有能力对热点事件进行监督，对热点讨论背后的事实进行调查，从而发出更加理性客观中立的声音，为网络暴力的治理出一份力。在互联网背景下，媒体往往是信息的传

184、播者、观点的引导者，一旦尺度把握不准，则极有可能对网络暴力产生推波助澜的作用。要想尽到网暴治理的责任，媒体应该守住行业规范的底线，坚守新闻真实的底线，提升自身素养，构建规范的媒介伦理，而发出更加理性客观中立的声音，为网络暴力的治理出一份力。在互联网背景下，媒体往往是信息的传播者、观点的引导者，一旦尺度把握不准，则极有可能对网络暴力产生推波助澜的作用。要想尽到网暴治理的责任，媒体应该守住行业规范的底线，坚守新闻真实的底线，提升自身素养，构建规范的媒介伦理，更好地发挥作用进行监督和引导，创造更加良好友善的网络环境，减少网络暴力悲剧的发生。（五）网络暴力治理的用户伦理（五）网络暴力治理的用户伦理54

185、网络暴力治理是全体网民的必修课网络暴力治理是全体网民的必修课。网络暴力防控与网络文明专题调查报告显示，当遭受网络暴力攻击时，网民回击手段多集中于关闭评论或开启过滤功能、向网站或有关部门举报以及不予理会，分别占比为 38.84%、38.58%、35.32%，可以看出在应对网络暴力的时候，选择关闭评论或不予理会这样的“回避式”方式仍占大多数，述诸法律、发帖回击、求助亲朋等“主动式”出击方式选择比例均未超过三成，使用度相对有限。根据一般认识规律而言，用户作为行为主体在网暴治理中发挥的作用，由被动到主动可以分为三个阶段。首先是被动接受平台管理，其次是在规则的制约和引导下培养参与网暴治理的自主意识，最后

186、是对疑似网暴的行为进行主动监管与举报。根据一般认识规律而言，用户作为行为主体在网暴治理中发挥的作用，由被动到主动可以分为三个阶段。首先是被动接受平台管理，其次是在规则的制约和引导下培养参与网暴治理的自主意识，最后是对疑似网暴的行为进行主动监管与举报。第一，遵守用户公约，接受平台的管理。几乎每个平台都设立了相应的规则和社区公约，当用户作出违反公约的行为时，平台会采取相应措施进行管理。如 2021 年小红书在上线了社区公约，明确提出“真诚分享、友好互动”的社区价值观，要求社区创作者在分享内容时应遵守避免过度修饰等分享原则；2022 年抖音更新社区自律公约中侧重正向引导，倡导用户建立平等友爱社区，对

187、涉及侵犯人身权益、违法与不良内容、不实信息、违反公序良俗、侵害未成年人权益、虚假与不诚信行为等行为和内容予以限定，并列举了相应的处罚后果；2023 年 B 站发布社区公约，新增关联账号处罚、商誉权侵权、谣言、网暴等四大类内容的处理规则，并且针对在站外存在严重违规行为的用户，即使其在站内未发生违规行为，也将以其自然人主体身份，对站内账号进行一并处置。在这样的规范下，如果用户能严格遵守相应的管理公约，能在极大程度上降低网络暴力发生的可能性。第二，提高自身素养，培养自主意识。多数参与网暴活动的用户是在未意识到后果及其严重性的情况下，成为网暴的助推者。用户参与网暴治理，应当学习网络传播相关法律、法规，

188、不断加强自身道德建设，倡导从我做起，第二，提高自身素养，培养自主意识。多数参与网暴活动的用户是在未意识到后果及其严重性的情况下，成为网暴的助推者。用户参与网暴治理，应当学习网络传播相关法律、法规，不断加强自身道德建设，倡导从我做起，树立网络发言的法律底线、道德原则与传播方法，不做网暴的制造者或助推者。用户素养的提高将会降低网络暴力治理的难度。一方面，用户会对自身措辞加以注意，减少恶意评论、私信等不良行为，减少不良信息的发布，从而助推网暴治理进程向前。树立网络发言的法律底线、道德原则与传播方法，不做网暴的制造者或助推者。用户素养的提高将会降低网络暴力治理的难度。一方面，用户会对自身措辞加以注意，

189、减少恶意评论、私信等不良行为，减少不良信息的发布，从而助推网暴治理进程向前。与此同时，用户素养的提高离不开平台的规范和社会的积极引导，如 B 站平台要求用户完成伦理公约的答题并取得合格线以上的分数才能获得会员资格，从而享受更多服务的措施，能促进建立数字公民伦理，形成群体共同认可的价值和行为规范，这对于用户素养的提升有着良好的作用。另一方面，用户自主意识的提高，也能帮助其在遭遇网络暴力攻击时第一时间主张自己的权利，利用平台提供的屏蔽、举证等功能进行自我保护，从而避免受到进一步的伤害。另一方面，用户自主意识的提高，也能帮助其在遭遇网络暴力攻击时第一时间主张自己的权利，利用平台提供的屏蔽、举证等功能

190、进行自我保护，从而避免受到进一步的伤害。55第三，用户主动参与网暴治理，积极向平台反映问题。用户应当提升网暴辨别能力，积极应对网暴风险。用户主动参与网暴治理，积极向平台反映问题。用户应当提升网暴辨别能力，积极应对网暴风险。目前，不少网络平台已经向用户开放网暴举报途径，如微博已针对部分用户开放“微博协管员”功能，博主可邀请粉丝对其评论、超话、粉丝群场景进行管理；抖音鼓励用户对网络暴力相关违规内容进行举报，并提供详细佐证信息，即时对举报内容及相关账号进行判定、处置；知乎平台也搭建了网络暴力信息举报专区，畅通私信场景下内容举报渠道，从而提高投诉举报速度，优化用户使用体验。在这样的功能设置之下，用户发

191、挥自身监管的作用，积极反映网络暴力和不友善的内容，参与网暴治理。综上所述，用户从被动到主动，有多种方式参与网暴治理，减少网暴发生的可能性。用户伦理的构建则从不同角度推动平台网暴治理机制的构建与完善。综上所述，用户从被动到主动，有多种方式参与网暴治理，减少网暴发生的可能性。用户伦理的构建则从不同角度推动平台网暴治理机制的构建与完善。四、结论四、结论基于以上分析，本报告分别对网络暴力的生成机制、网络服务提供者在网络暴力防范治理方面应当担负的平台责任、整体视角下网络暴力的多元治理思路三方面形成以下结论。1.网络暴力的生成机制一方面，网络暴力是现实物理空间中处在法律惩罚边际上的微小恶意通过互联网相联结

192、、进而发生“涌现”现象的产物；另一方面，网络暴力有其灰度，即每一次引起严重后果的网络暴力现象背后，往往会有规模大一个量级的、相对微弱的“准网络暴力”现象，只是由于大量较微弱的“准网络暴力”现象没有超出当事人生理心理负担的极限而未被认定为网络暴力。这意味着任何仅从具体行为或个案出发描述网络暴力、而不对行为规模加以限定和讨论的定义方式，都将难以捕捉到网络暴力治理的关键和核心。网络暴力构成要加的界定，对于网络暴力的治理而言事关重大。一旦网络服务提供者和监管部门在网络暴力的生成机制或定义层面陷入“某某行为是否属于网络暴力”的概念漩涡，有限的平台算力、技术资源，以及宝贵的行政监管资源和司法资源，可能将无

193、穷无尽地投入到类网暴行为识别中，1.网络暴力的生成机制一方面，网络暴力是现实物理空间中处在法律惩罚边际上的微小恶意通过互联网相联结、进而发生“涌现”现象的产物；另一方面，网络暴力有其灰度，即每一次引起严重后果的网络暴力现象背后，往往会有规模大一个量级的、相对微弱的“准网络暴力”现象，只是由于大量较微弱的“准网络暴力”现象没有超出当事人生理心理负担的极限而未被认定为网络暴力。这意味着任何仅从具体行为或个案出发描述网络暴力、而不对行为规模加以限定和讨论的定义方式，都将难以捕捉到网络暴力治理的关键和核心。网络暴力构成要加的界定，对于网络暴力的治理而言事关重大。一旦网络服务提供者和监管部门在网络暴力的

194、生成机制或定义层面陷入“某某行为是否属于网络暴力”的概念漩涡，有限的平台算力、技术资源，以及宝贵的行政监管资源和司法资源，可能将无穷无尽地投入到类网暴行为识别中，最终使得政府有关部门不得不在“反网络暴力的无限扩大”和“无法治理网络暴力”之间做单选或多选题，并可能抑制互联网经济的活力，或导致网络信息内容生态出现各种乱象。因此有必要明确，网络暴力的生成机制直接且有力地塑造了网络服务提供者对网56络暴力现象作出的回应，也正是网络暴力的生成机制影响着政府监管部门对网络暴力的治理方式。要对网络暴力加以治理，首先应当将重点放在信息规模的控制而不是内容类别的辨析上。网络暴力的成因非常多元，根植于现代人类社会

195、经济、政治、文化、技术和社会心理等多方面的现实条件。因此不同于其他由平台规制不足导致的乱象，网络暴力现象并非单纯的平台发力即可彻底解决，从治理效能出发，有必要采取多元治理方式加以回应，需要理性界定平台责任及其边界。2.网络暴力防范治理的平台责任网络暴力是处在现行民事刑事法律监管治理能力边界上或边界之外的内容，是随着互联网发展而不断变化的新情况、新问题，因此对网络暴力加以治理既是国家法治能力边界的一种拓展，也是当代人类文明发展在社会建设层面的需求。基于技术和平台规则的网络治理既是基于法律的网络暴力治理得以展开的必要条件，也是网络暴力多元治理机制建构最前沿的探索。在多元治理体系建构的意义要对网络暴

196、力加以治理，首先应当将重点放在信息规模的控制而不是内容类别的辨析上。网络暴力的成因非常多元，根植于现代人类社会经济、政治、文化、技术和社会心理等多方面的现实条件。因此不同于其他由平台规制不足导致的乱象，网络暴力现象并非单纯的平台发力即可彻底解决，从治理效能出发，有必要采取多元治理方式加以回应，需要理性界定平台责任及其边界。2.网络暴力防范治理的平台责任网络暴力是处在现行民事刑事法律监管治理能力边界上或边界之外的内容，是随着互联网发展而不断变化的新情况、新问题，因此对网络暴力加以治理既是国家法治能力边界的一种拓展，也是当代人类文明发展在社会建设层面的需求。基于技术和平台规则的网络治理既是基于法律

197、的网络暴力治理得以展开的必要条件，也是网络暴力多元治理机制建构最前沿的探索。在多元治理体系建构的意义上，网络暴力的平台治理与谣言的平台治理、互联网络信息内容生态的平台治理高度相关并保持一致，都需要在前端服务、后端技术、秩序生成和维持等多个方面同时发力、多措并举。现阶段我国头部的信息内容型互联网络服务提供者基本都已经在平台层面设置了网络暴力防治措施、开发了相应的技术工具、明确了相应的平台规则，进行了大量有益的探索。上，网络暴力的平台治理与谣言的平台治理、互联网络信息内容生态的平台治理高度相关并保持一致，都需要在前端服务、后端技术、秩序生成和维持等多个方面同时发力、多措并举。现阶段我国头部的信息内

198、容型互联网络服务提供者基本都已经在平台层面设置了网络暴力防治措施、开发了相应的技术工具、明确了相应的平台规则，进行了大量有益的探索。针对这些既有的探索，可以通过建立系统化评价指标的方式，确立行业的一般实践标准，对网络服务平台网络暴力的治理实效加以考察。此外，通过对主流平台的测评和评估，能够促进行业标准和指引的形成，对行业最佳实践进行倡导和鼓励，并可将具有代表性的行业实践和典型案例进行推广，为网络暴力防治的专门立法和政策制定提供借鉴思路。在具体的网络暴力事件处置中，不宜唯结果论，而应综合考察平台是否已经采取合理的措施、建立有效的防范治理和拦截保护机制，基于此来评估平台是否已经履行主体责任，在充分

199、保证用户权益和互在具体的网络暴力事件处置中，不宜唯结果论，而应综合考察平台是否已经采取合理的措施、建立有效的防范治理和拦截保护机制，基于此来评估平台是否已经履行主体责任，在充分保证用户权益和互联网络空间信息内容生态秩序的基础上，最大限度地保护互联网经济的活力和创造力。联网络空间信息内容生态秩序的基础上，最大限度地保护互联网经济的活力和创造力。在明确网络暴力平台治理思路和责任的同时，同样有必要明确监管部门的职责，明确媒体、用户等各自在网络暴力治理过程中的作用、责任义务和价值伦理。3.网络暴力的多元治理思路3.网络暴力的多元治理思路总体上说，网络暴力最重要和最前端的治理主体是网络服务提供者，但由于

200、网络57暴力现象的生成机制较为复杂，仅仅依靠平台难以在现有法律法规体系内实现有效防治，而网络暴力的治理又涉及到用户权益和网络信息内容生态秩序。综合来看，网络暴力的防范治理最终要依靠社会各领域各环节各类主体的协作来形成有效的合力，从而在保障互联网络空间经济活力充分活跃、舆论监督作用充分发挥、用户权益充分实现的基础上，将处在法律边际位置但已经影响社会生产乃至社会公共秩序的网络暴力行为纳入有效的治理射程。实现有效的多元治理，需要政府监管部门在推动反网络暴力专门立法、制定行业标准规范等方面进一步展开工作，需要平台建立系统化的技术和管理防范措施，需要传统媒体、社交媒体和自媒体在网络暴力生成阶段、治理阶段承担起更多的媒体责任，需要用户在遵守平台规则、培养网络暴力防治意识、参与网络暴力防治监管工作等方面进一步强化互联网空间公民素养。网络暴力的生成来自于复杂的社会互动，对网络暴力的治理也无法仅仅靠政府监管和平台治理措施，最终势必是要靠将网络暴力的防范治理推广为广大网民的内在伦理，才能得以从根基上实现针对网络暴力的有效治理。

网址：社科大互联网法治研究中心：2023互联网平台网络暴力治理机制构建与测评报告（60页）.pdf http://c.mxgxt.com/news/view/219045

相关内容

中国网红生态研究报告 2016年
城市社区治理多元主体互动合作机制研究
狂欢理论与使用与满足理论视角下的网红研究
2012年中国互联网舆情分析报告
用法治铁腕严惩网络暴力
社交网络数据分析，解密互联网人群的秘密
网络舆情监测与引导
中国网红经济发展洞察报告 2018年
网络空间的隐私保护及治理研究
基于搜索引擎索引分析的互联网舆情监控研究.docx

随便看看