我们如何将恶意机器人逐出数字达沃斯

undefined
本内容由人工智能自动翻译。

世界经济论坛发布大量内容,而在达沃斯年会期间更是如此。一年之中,只有这一个星期,我们的影响力会大幅扩大。与此同时,我们也成了各种反全球化情绪、虚假信息行动和网络抹黑的焦点。数字宣传和机器人是这类威胁中真实且重要的一部分,也是一种难以预测、发展迅速、影响重大的风险。

今年1月的达沃斯会议期间,我们专门开发了软件,以实时追踪恶意机器人。

该软件采用多种技术识别恶意机器人。这些技术是在自2013年以来对社交媒体僵尸网络运作方式开展的研究中开发出来的。

系统会从多个维度分析看似可疑的账户:它有多少关注者?关注了多少个账户?用户名是什么?用户昵称、名字和姓氏是什么?关联的电子邮件地址是什么(如果公开的话)?从少量帖子中可以获取哪些信息?

如果发现任何异常模式,软件就会筛出可能是恶意机器人的账户。

例如,有些僵尸网络可以通过用户名识别出来:用户名由一个名字加上一串数字(六位或更多位)组成,例如 mike282811。软件还可以将推文作者与恶意机器人数据库进行比对;该数据库通过开源情报技术建立,按类别收录恶意机器人(例如传播恶意软件、谈论政治或分享假冒商品链接的机器人)。

系统还会将可疑账户与其他社交网络上的账户进行比对,因为许多案例表明,恶意僵尸网络的创建者会在不同平台上建立相同的虚假个人资料。

一支由技术和传播专家组成的团队会对每条收到警报的信息进行风险评估,然后决定采取适当的行动。

年会期间,我们发现数百个机器人在传播宣传信息和虚假信息。有些机器人分享了含有恶意代码的网址,意图利用个人电脑挖掘加密货币。还有一些情况下,借助可疑用户数据库,我们发现某些账户此前已被第三方举报为机器人。

得益于企业、机构以及不同专业领域人士之间良好的协作精神,我们得以保障来自世界各地的人们的安全,让他们能够以透明、建设性的方式阅读达沃斯会议内容并参与其中。

这让人感觉像是战胜了虚假信息:即使在一个假新闻肆虐的世界里,全球在线活动仍然可以顺利举行,不受大规模数字宣传事件的干扰。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。