这款AI工具可以帮助你识别网上的假新闻

Interconnected laptop computers are pictured on a conference table in this handout photograph taken on June 13, 2012 and provided on April 28, 2015. To match Special Report USA-MEDICAID/FRAUD REUTERS/U.S. Department of Health and Human Services Office of the Inspector General/Handout via ReutersATTENTION EDITORS - THIS PICTURE WAS PROVIDED BY A THIRD PARTY. REUTERS IS UNABLE TO INDEPENDENTLY VERIFY THE AUTHENTICITY, CONTENT, LOCATION OR DATE OF THIS IMAGE. FOR EDITORIAL USE ONLY. NOT FOR SALE FOR MARKETING OR ADVERTISING CAMPAIGNS. THIS PICTURE IS DISTRIBUTED EXACTLY AS RECEIVED BY REUTERS, AS A SERVICE TO CLIENTS. PICTURE DIGITALLY ALTERED AT SOURCE. - GF10000076649
'Bot campaigns have sought to influence votes related to the UK Brexit movement and elections in France, Germany, and Italy.'Image: REUTERS/U.S. Department of Health and Human Services Office of the Inspector General/Handout via ReutersATTENTION EDITORS - THIS PICTURE WAS PROVIDED BY A THIRD PARTY. REUTERS IS UNABLE TO INDEPENDENTLY VERIFY THE AUTHENTICITY, CONTENT, LOCATION OR DATE OF THIS IMAGE. FOR EDITORIAL USE ONLY. NOT FOR SALE FOR MARKETING OR ADVERTISING CAMPAIGNS. THIS PICTURE IS DISTRIBUTED EXACTLY AS RECEIVED BY REUTERS, AS A SERVICE TO CLIENTS. PICTURE DIGITALLY ALTERED AT SOURCE. - GF10000076649
本内容由人工智能自动翻译。

打击网络虚假信息的斗争中出现了一款新工具,名为BotSlayer。

该软件免费且向公众开放,可实时扫描社交媒体,检测自动化Twitter账号(即“机器人”)以协同方式推送信息的证据。利用机器人操纵公众舆论的做法日益普遍,其手法是制造许多人都在谈论某一话题的虚假印象。这种方法也被称为“虚假草根运动”(astroturfing),因为它模仿合法草根政治活动的表象。

借助该观察站的专业知识和技术基础设施,BotSlayer使任何政治立场的团体和个人都能够实时检测协同性虚假信息宣传活动,且无需事先了解这些宣传活动的任何信息。

“我们开发BotSlayer,是为了让记者和政治竞选团队更容易监测潜在的新虚假信息宣传活动,这些活动试图利用机器人操纵公众舆论,”印第安纳大学信息学、计算与工程学院教授、社交媒体观察站主任菲利波·门策尔(Filippo Menczer)说道。

“如果某个特定话题的流量出现可疑的骤增,BotSlayer可以让你非常迅速地发现,从而调查相关内容及其推动者;如果似乎存在滥用平台的情况,你可以举报,或将此事告知你的关注者,”门策尔说。

搜寻虚假信息

门策尔补充道,利用欺骗性机器人影响公众舆论,在美国及国际政治中是一个日益严重的问题。他同时也是一组研究人员的成员,这些研究人员发现,在2016年美国总统选举前夕,机器人被广泛使用。其他机器人宣传活动也曾试图影响与英国脱欧运动以及法国、德国和意大利选举相关的投票。

例如,在2018年中期选举前夕,民主党国会竞选委员会利用公开可用的工具,向Twitter举报了超过10,000个传播选民压制信息的机器人,Twitter随后关闭了这些账号。该报告所用的工具包括Botometer和Hoaxy。Botometer会依据算法为Twitter账号评分,衡量其为自动化账号的可能性;Hoaxy则允许个人实时搜索并可视化特定话题在Twitter上的传播情况。Botometer是该观察站最受欢迎的工具之一,目前每天的查询量超过100,000次。

研究人员开发了BotSlayer,它整合了Hoaxy和Botometer的技术。开发部分基于政治和新闻机构的反馈,这些机构希望获得速度更快、功能更强大且更便于用户使用的工具。这些机构包括美联社、《纽约时报》和CNN。

门策尔表示,该系统采用“异常检测算法”,快速报告那些突然激增、很可能由机器人驱动的热门活动。

例如,在总统辩论期间,BotSlayer不仅可以即时检测某位候选人的用户名或相关话题标签何时成为热门,还能自动为其分配“机器人评分”,以指示这一激增是否似乎与机器人活动有关。在商业领域,BotSlayer可以帮助机构防范依赖自动化账号放大信息的声誉威胁。在新闻业,该工具可以帮助监测热门话题报道是否遭到操纵,或就虚假信息攻击向公众发出警示。

真假难辨?Botslayer可以分辨

除了检测热门趋势外,BotSlayer还能即时生成“网络图”,展示某一特定话题如何随时间推移而传播。网络中的每个用户也会被分配一个机器人评分,从而便于查看对话中最具影响力的账号——无论其真假。每个热门“实体”——包括话题标签、用户句柄、图像、视频、动图或迷因,或关键词或短语——还会被分配一个百分比,以显示其增长速度。例如,5,000%表示过去四小时内提及次数增长了50倍。

要使用BotSlayer,用户可以通过在线表单下载该软件,并按照简单的说明将其安装在云端或自有服务器上。整个过程只需点击几次,且无需任何费用。该软件允许用户个性化设置其使用方式,并保护隐私。系统通过与该观察站其他工具集成的网络控制面板进行访问。

“BotSlayer有潜力成为我们在全球对抗错误信息和虚假信息斗争中一个非常强大的新工具。在2018年选举期间,我们使用了BotSlayer的早期版本,在整个大选期间识别并最终清除了恶意账号。它非常有效,而且易于使用,”民主党战略家、2017至2018年选举周期中DCCC的高级顾问西蒙·罗森伯格(Simon Rosenberg)说道。

“我希望世界各地的民主国家能够像我们在美国上一次选举中所做的那样,充分利用它,”罗森伯格说。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。