社交网络无意间成为哪些希望夺走自己生命的人的公共论坛,有不少人通过视频直播展现他们的自杀企图。

识别高风险情况

如今,Facebook已经开始主动监测在自己平台上展现出自杀倾向的网络活动。他们研发了一种人工智能算法去寻找人们在使用社交媒体的过程中表现出潜在自杀倾向的典型模式。

“人工智能比我们从标记有自杀或自残倾向的人那里获取的数据准确的多,”Facebook产品经理Vanessa Callison-Burch在接受BuzzFeed采访时表示。

当算法发现令人担心状况是,它会将这一状况向社区经理进行标记。随后,社区经理可以对这些高风险人群进行远程调查和主动接触。如果情况不是特别紧急,这一算法将提示被监测人的朋友通过一份预先写好的信息与被监测人展开对话。

在线心理咨询

为应对自杀直播,Facebook同样研发出一款工具帮助关心自杀者的朋友对视频进行举报。一旦接到通知,Facebook将在直播界面中接入预防机制,比如直播者可以通过视频与心理咨询师进行实时沟通。Facebook与多家心理咨询和资助机构进行合作以提供相关服务,此外,这些服务也将提供给视频举报者,这样他们也可以对自杀者进行心理干预。

有批评指出,Facebook在明知直播涉及自杀内容的情况下依旧允许其继续直播,但Facebook认为这将为自杀者的家人和朋友进行干预提供机会。

其他数字平台是怎么做的呢?

如果在谷歌搜索“如何自杀”搜索引擎将直接标记出好撒玛利亚人(Samaritan)服务热线,同时在广告界面会提供多家咨询和支持机构的联系方式。Quora会在有关自杀的问题下提供心理咨询热线。但是,这两家网站还是会提供自杀手册一类的链接。

苹果公司的Siri则会建议你联系自杀预防中心,并提供一系列的咨询中心的电话。

随着人工智能的不断进步,它们将让我们有能力在最坏的事情到来前,去发现和帮助那些需要帮助的人

作者Andrea Willige, Formative Content

以上内容仅代表作者个人观点。

本文由世界经济论坛原创,转载请注明来源并附上原文链接

翻译:达沃斯博客翻译小组·刘博睿

责编:刘博睿

世界经济论坛·达沃斯博客是一个独立且中立的平台,旨在集合各方观点,讨论全球、区域及行业性重要话题