网络暴力是当前网络治理中的难点和热点之一。之所以“难”和“热”，很大程度因其“新”。因此，治理网络暴力也取决于能否把握它“新”在何处。

　　从定义上看，《网络暴力信息治理规定》（以下简称《规定》）第32条规定：“本规定所称网络暴力信息，是指通过网络以文本、图像、音频、视频等形式对个人集中发布的，含有侮辱谩骂、造谣诽谤、煽动仇恨、威逼胁迫、侵犯隐私，以及影响身心健康的指责嘲讽、贬低歧视等内容的违法和不良信息。”这一定义主要列举了六大类违法和不良信息，是我国法律法规目前对网络暴力相对最正式的定义。但无论是这六类信息还是“文本、图像、音频、视频”等形式均早已存在，它们并不是网络暴力“新”之所在。

　　网络暴力的“新”，其实隐藏在《规定》定义中一个不太被人关注的地方——“集中”。换言之，网络暴力的“新”就在于短时间内大量违法、不良或其他信息“对个人集中发布”。《关于依法惩治网络暴力违法犯罪的指导意见》（以下简称《意见》）特别强调，网络暴力“有的造成了他人‘社会性死亡’甚至精神失常、自杀等严重后果”。网络暴力之所以会造成个人“社死”甚至精神失常或自杀，原因就在于“集中”——某些信息会在短时间内“对个人集中发布”。因此，“集中”不仅是网络暴力“新”的原因，也是其“暴力”所在。

　　典型网络暴力案例一般有触发和传播两个阶段，触发阶段通常会有一个触发事件，从而吸引大量关注和流量。在传播阶段，大量信息迅速到达当事人的社交媒体评论或私信，短时间内对当事人造成巨大冲击。从这一传播规律入手，治理网络暴力的一个关键是区分“作恶少数”和“多数”。不管是在触发还是传播阶段，会存在一些在关键节点的“作恶少数”，比如在杭州女子取快递被造谣案中，那位在快递驿站内偷拍当事人、编造聊天记录并发布在群组中的郎某，如果没有他的偷拍、造谣和发布（特别是造谣），后续针对当事人的网暴大概率不会发生。这种对网暴发生起到必不可少或关键推动作用的人，就是网暴中的“作恶少数”。在造谣诽谤、威逼胁迫、侵犯隐私或“开盒”等类型的网络暴力事件中，“作恶少数”的作用尤其突出。

　　与“作恶少数”相对的，是参与到其中的“多数”。这些“多数”参与到网络暴力中的方式，主要是评论、发私信和转发相关内容等。一方面，“多数”在绝对意义上不一定是“无辜”的，因为他们至少参与或涉及了网络暴力中的“集中”部分。但另一方面，也不能因此就推定他们是“有罪”的。原因有二：第一，如果没有“作恶少数”的行为，“多数”显然不会参与评论、私信和转发等行为。第二，“多数”的单条信息伤害性相对不大，可怕的是“集中”起来的“多数”信息。这也是网络暴力不同于传统暴力的一大特点。打个可能不太恰当的比方，现实中的传统暴力是打人一拳，这种暴力行为是否应被追责主要取决于这一拳的伤害性。如果把网络暴力中“多数”的行为拆成单次分析，可能接近于拍一下或者瞪一眼。现实中拍人一下或瞪人一眼不一定算友善，但因为只是单人单次发生，伤害性也相对较小。网络暴力则表现为突然有无数人过来拍你或者瞪着你，这显然已经产生从量变到质变的转化。

　　人们常说“法不责众”，网络暴力的“新”和“难”其实也与法不责众有关。网络暴力背后往往是公共事件，公共事件之所以被称为“公共”，正是因为涉及公众关心的话题。从这一角度来看，“参与”网络暴力的“多数”很多时候也是在就他们所关心的话题表达观点。因此，区分“作恶少数”和“多数”也是为了避免误伤多数普通网民的表达自由。《意见》就特别强调要“准确把握违法犯罪行为的认定标准”：“针对他人言行发表评论、提出批评，即使观点有所偏颇、言论有些偏激，只要不是肆意谩骂、恶意诋毁的，不应当认定为侮辱违法犯罪。”值得肯定的是，《规定》和《意见》目前都体现出区分“作恶少数”和“多数”的治理思路。比如，《规定》强调网络暴力信息治理应坚持“源头防范”，所谓“源头”当然是“作恶少数”的触发事件或类似“开盒”等关键节点。再比如，在处置网暴相关账号时，重点针对“首发、多发、煽动发布网暴信息的账号”同样属于规制“作恶少数”。在紧盯“作恶少数”之外，《规定》和《意见》把治理重心的另一端向平台主体责任和保护当事人倾斜，这种思路同样体现了“少数”和“多数”的区分。

　　新现象需要新思路和手段。在这方面，《规定》第20条明确要求平台“采用人工智能、大数据等技术手段和人工审核相结合的方式加强对网络暴力信息的识别监测”。此外，《规定》第23条要求为当事人提供“一键防护”功能也属于此类。莱斯格“代码就是法律”的论断已经是老生常谈。但面对网络暴力等新问题，法律规制与基于技术、架构和代码的治理相结合不仅没有过时，其重要性和作用反而日益凸显。

　　“集中”并非网络暴力所独有，它其实是新技术背景下互联网内容治理面临的普遍挑战之一。内容管理的经典法律制度基本诞生于19世纪印刷时代，受限于当时的技术条件，这些制度和原则基本是“一事一案”和分散的。因为当时表达和传播的成本较高，信息和内容是比较稀缺的，与内容有关的争议总体上也不算多。一旦有争议发生，法院或其他内容管理机构也有相对充足的时间去应对。但今天的互联网每时每刻都在产生海量内容，生成式人工智能等新技术更是会进一步加剧这一趋势。内容数量的暴增自然会对内容管理产生颠覆性影响。据称“脸书”平均每天要针对内容进行110万次左右的审查，这种数量级的内容管理显然不可能依靠传统“一事一案”式的人工完成，而必须借助人工智能和算法等新技术和手段。在过去“一事一案”的“老派规制”下，人们可以要求内容管理相对精确和精细；但在依靠算法和机器的“新派规制”面前，似乎不得不接受基于盖然性和比例性的内容管理。盖然性意味着在拥抱高效率的同时，必须接受一些不确定性和“误伤”的可能；比例性则是指，对某些权利和价值可能需要“去绝对化”，将其放入与其他权利和价值的权衡中来考量。

　　以假新闻、仇恨言论、美国国会封禁TikTok法案和平台责任等议题和事件为代表，世界范围内正在经历一场关于网络治理的震荡和变革。其中既涉及规范层面，也包括技术和方法。对中国而言，除了在技术和商业模式创新上从跟随者成为引领者，能否探索出互联网治理的中国道路，也是从网络大国走向网络强国的关键一步。在此意义上，网络暴力等新问题既是挑战，也是探索的田野。

　　（作者系北京大学法学院长聘副教授）