鉴于网络仇恨形式新颖且手段复杂，其识别可能十分困难。
科技公司应超越对冒犯性和诽谤性内容的检测与管理，转而 保护受影响的社群。
需要更多催化性资金，以加速能够以新颖方式对抗虚假信息、仇恨和极端主义的早期技术发展。
您是十亿活跃TikTok用户中的一员吗？还是更偏爱Twitter？无论哪种情况，您很可能都曾在网上遇到过仇恨性内容。
仇恨言论始于线下，并可能因社会面临的威胁而加剧。COVID-19就是一个例子：这场疫情在全球范围内引发了针对“他者”的社会污名化和歧视浪潮。
不出所料，反犹太主义以及更广泛的种族主义正在抬头。由牛津大学开展的一项研究显示，约20%的英国成年人认同“犹太人为谋取经济利益而制造了这种病毒，以使经济崩溃”或“穆斯林正在传播这种病毒，以此攻击西方价值观”之类的说法。
互联网正是这些观念可能演变为主流的场所。作为我们公共与私人生活的新中心，数字世界促成了一代人之前难以想象的跨越国界且匿名的互动。
然而，与现实世界不同，互联网也成为虚假信息和仇恨信息呈指数级传播与放大的媒介。科技公司对此心知肚明。2018年，Facebook承认其平台曾被用于加剧种族和宗教紧张局势，矛头指向缅甸的罗兴亚人。
随着线上与线下的界限持续模糊，我们肩负着重大责任：确保为所有人提供安全的数字空间。机遇在于向创新技术投入催化性资金，以新颖方式对抗虚假信息、仇恨和极端主义。
社交媒体的蝴蝶效应
即便只有1%的推文包含冒犯性或仇恨性言论，每日也相当于500万条信息。不难想象这类病毒式传播的后果——2021年1月6日的国会大厦冲击事件痛苦地表明，社交媒体能够如此迅速地煽动暴力。
与暴力极端主义不同，仇恨言论往往隐晦，或隐藏于每天上传至互联网的海量内容之中。诸如“juice”（指代犹太人）之类的化名，或隐秘符号（如本数据库中收录的符号）在网上频繁出现。
相关情况也已被倡导组织和学术机构充分记录。“解码反犹太主义”项目，由阿尔弗雷德·兰德克尔基金会资助，该项目融合语言学至机器学习等跨学科方法，通过对秘密代码和刻板印象进行分类，识别显性与隐性的网络仇恨言论。
然而，关键瓶颈并非如何挑出诽谤性内容，而是如何准确且大规模地扫描各平台。Instagram为用户提供过滤冒犯性评论的选项。Twitter收购了Fabula AI，以改善线上对话的健康状况。TikTok和Facebook更进一步，设立了安全咨询委员会或监督委员会，由其决定哪些内容应当被删除。
然而，仅凭这些努力，科技公司未能发现并管理虚假、冒犯性或仇恨性内容，而这些内容高度依赖于具体语境、文化和语言。
虚假信息的暗角
网络仇恨的形式和表现不断演变，以致越来越难以察觉。Facebook只能检测出三分之二的篡改视频（亦称“深度伪造”）。人工智能（AI）和自然语言处理（NLP）算法在打击恶意账号和传播虚假信息的机器人方面，进展尚不够迅速。
问题在于：究竟是技术辜负了我们，还是人们未能善用技术？
应对网络仇恨的四个P
除非科技公司甘愿持续被动追赶，否则它们应超越检测和内容管理，采取整体性和前瞻性的方法，应对仇恨在网上的产生与传播方式（见下图）。
此类方法将实现以下四项目标成果：
● 促进多元化与反偏见：技术的设计与开发可采用包容性方式，让受网络仇恨和歧视影响的人群参与其中。例如，反诽谤联盟推出的网络仇恨指数采用以人为本的方法，让受影响社群参与仇恨言论的分类工作。
● 预防歧视与暴力：某些技术设计（如推荐引擎）可能加速网络激进化的进程。另一些设计则会促进反制言论，或限制虚假信息的病毒式扩散。我们需要更多后者。
社会企业Moonshot CVE所采用的重定向方法，会将搜索暴力内容的网络用户引导至另类叙事。
● 保护弱势群体：科技平台主要依靠用户举报与人工智能标记相结合的半自动化内容管理。不过，新的方法也已出现。Samurai Labs的推理系统可以参与对话，并阻止对话演变为网络仇恨和网络霸凌。
● 推动公民参与：通过确保每一种声音都被听到，并赋予公民（尤其是年轻一代）参与公共讨论的能力，我们有助于建设更具韧性的社会，使其不再回到有害的替罪羊式归咎。在美国，New/Mode借助数字倡导工具，使公民更容易推动政策变革。
资助早期创新
“四个P”的共同点在于，借助技术，它们触及问题的根源。
事实上，技术已不再是为技术而技术。从Snapchat的埃文·斯皮格尔到SAP的克里斯蒂安·克莱因，数十位首席执行官在几个月前签署了马克龙总统的科技向善倡议。
除承诺之外，各公司还通过设立以使命为导向的孵化器（如谷歌的Jigsaw），或拨付资金以激励基础研究（如WhatsApp的社会科学与错误信息奖），积极发挥技术作为向善力量的潜力。
在与多家研究机构（如战略对话研究所（ISD），我亲身了解到网络仇恨与极端主义领域对技术工具的需求。无论是实时衡量社交媒体上的仇恨情绪，还是（以较高置信度）识别恶意账号或深度伪造内容，该领域都存在创新空间。
但事实是，技术被用于煽动和助长网络仇恨的速度与方式，比各公司能够预先防范或管控的更快、更复杂。如果大型平台无法解决这一难题，我们就需要规模较小的科技公司来解决。因此，为高风险创新提供催化性资金至关重要。
让开，大型科技公司
随着新冠疫情引发的仇恨增加以及对新解决方案的更高需求，资助者和投资者对扩大营利性和非营利性早期技术工具的规模产生兴趣，实属自然。知名风险投资机构如Seedcamp（Factmata的投资方）Factmata，以及谷歌的Jigsaw等公司，正开始弥合供需之间的差距，以应对网络上的虚假信息、仇恨和极端主义。
但我们需要更多。因此，我诚挚邀请您与我一同参与。
