“我再也不想活了 :( :( :(”。这是迈阿密一名14岁女孩发布的最后一段话。一年后，她开启了 Facebook 直播，并在网络摄像头前上吊自杀。据称，她长达两小时的直播有数千人观看，其中包括一位报警的朋友。遗憾的是，警方赶到时已经来不及救她。
这个故事尤其令人震惊，但遗憾的是，它并非个例——自杀是美国、欧洲和东南亚青少年死亡的第二大原因。每天，Facebook、Snapchat、Google、Siri 和 Alexa 上数以百万计的社交媒体帖子、聊天内容和搜索查询都与心理健康有关。这些内容可能成为线索，帮助发现自杀风险最高的人。但科技公司能否以负责任的方式利用这些信息进行干预？当有人搜索抑郁症或自杀相关信息时，Google 或 Siri 应该如何回应？当两名青少年私下谈论割伤自己时，Snapchat 又该如何应对？
这些问题并非假设；一些科技公司已经开始采取行动。在美国，用户只要在 Google 搜索临床抑郁症状，就会看到一个知识面板、一项抑郁症私人筛查测试（PHQ-9），以及经过核实的教育和转介资源（“知识面板”）。Google 表示，不会将用户身份与测试答案关联，但会收集匿名数据以改善用户体验。数以百万计的人参加这类在线测试，由此产生了海量数据；这些数据今后或可与每位用户的其他信息结合，用来生成抑郁症的数字画像。
为应对自杀直播事件，Facebook 推出了一种人工智能（AI）算法，在一些国家扫描用户帖子中的图像或文字，以识别可能表明自残的内容。如果发现此类行为，平台会向用户提供资源，并通知内部的“共情团队”。如果前两项措施未能阻止自残行为，平台可能会通知急救人员。用户无法选择退出这一 Facebook 项目。Facebook 首席执行官马克·扎克伯格称，该算法在推出后的第一个月里帮助了100多人。
根据我们与 Facebook 和 Google 团队负责人的交流，这些初步举措看起来诚恳且经过周密考虑。值得肯定的是，两家公司率先开启了这场讨论。但和任何新领域一样，创新也带来了问题和挑战：
社交媒体公司监测我们的心理健康，是否需要另行征得同意？
如果公司在监测我们的心理健康，是否需要对其算法进行监管和研究，以证明其有效性？
当自杀直播的情况已经明朗时，Facebook 应该让直播继续，还是将其切断？
人们的心理健康数据能否用于定向投放广告，例如抗抑郁药广告？
数据隐私规则薄弱国家的人们，是否更容易受到此类监测？目前，Facebook 的 AI 在欧洲无法使用，因为它不符合该地区更严格的隐私规则。
最后但同样重要的是，解决青少年心理健康问题的办法，是让更多还是更少的社交媒体受到 AI 监测？
如今，AI 算法分析社交媒体帖子所反映情绪的能力仍不完善。不同文化表达精神疾病的方式差异很大；正如大多数临床医生所了解的那样，许多计划自杀的人会否认这一点，这也使研究更为复杂。基于文字的心理健康服务 Crisis Text Line 对5500万条短信进行的一项分析发现，考虑自杀的人更可能使用“桥”或“药片”之类的词，而不是“自杀”这个词。
尽管面临这些挑战，扎克伯格预见到 AI 能比朋友更快发现网上的自杀倾向，这一点是对的。将 AI 与受过训练、能够回应高风险帖子的辅导人员结合起来，肯定能改善现状。现在是时候通过多方参与的公私合作伙伴关系，迅速扩大这项创新的规模，让整个社会受益。要取得成功，这种合作必须以负责任的研究准则为核心，确保算法透明，并开放研究结果供公众获取。这样才能确保世界各地的研究人员都能参与其中，并帮助防止公众对所有参与其中的科技公司失去信任。
脑科学和人工智能的进步蕴藏着巨大潜力，有望提升人类福祉和心理健康，前提是这些进步建立在适当的伦理和科学框架之上。
穆拉利·多莱斯瓦米博士将在世界经济论坛2018年年会上，出席开放论坛环节“沉默中的痛苦：应对抑郁症”，讨论科技与心理健康之间的关系。该环节将于1月26日星期五上午9点至10点30分在达沃斯举行。环节由达沃斯中学的学生共同设计，并将进行德语和英语同声传译直播。
