心理健康人工智能聊天机器人可以帮助人们获得支持，并在正式心理咨询前或替代正式心理咨询时理清思路；危险在于用户可能开始依赖这些系统。
当前的人工智能安全工作侧重于防止不良输出，但也应鼓励长期进步并增强自主能力。
真正负责任的心理健康人工智能系统会考虑用户不断变化的心理状态、社会背景、人际关系和文化背景。
人与人工智能（AI）之间怎样才算健康的情感关系？
这个问题或许曾经显得奇怪，但如今已变得不可回避，因为“心理健康人工智能聊天机器人”已十分常见。
心理健康人工智能聊天机器人是一种对话工具，可以为使用者提供情感支持、传授应对方法或追踪情绪变化；使用者既可以通过专门的应用程序使用，也可以通过 ChatGPT 等流行的大型语言模型使用。
使用这些工具可以让人们更容易获得支持，但其应用发展已超过支撑它们的科学依据、临床规范和治理机制。由于它们既可能带来益处，也可能造成严重伤害，界定这种关系的边界已变得更加紧迫。
心理健康人工智能聊天机器人如何帮助人们
在世界许多地方，心理健康护理仍然稀缺、昂贵，或伴有社会污名。
即使能够获得专业支持，预约之间仍有空档，人们可能希望借助帮助来辨认自己的经历、理解反复出现的心理模式、为一场艰难的谈话做准备，或仔细思考一项重要决定。
人工智能能够并且已经在这些方面提供帮助。对一些人来说，它提供实用的日常认知支持。另一些人可能会使用语音功能，反思自己注意到的长期行为变化，并在与他人分享之前理清和表达自己的感受。
在最理想的情况下，这可以减轻羞耻感。当人们只从失败的角度看待自己时，许多心理痛苦会变得更难理解；例如，他们不明白自己为何无法像想象中那样正常生活，或为何重复已经察觉到的模式。
然而，人的心智并不是一个非成即败的僵化系统。它是动态的，受到过往经历、生物因素、人际关系和环境背景的影响。人工智能有时能帮助人们跳出自责，梳理经历并更清楚地认识自己，这绝非微不足道的贡献。
心理健康人工智能的核心风险是什么？
心理健康人工智能虽可能带来益处，但必须设定边界，不能让它独自承担某人寻求清晰认知、归属感或道德权威的重任。
心理健康人工智能的恰当作用，是帮助用户更好地融入人类社会，而不是取而代之。风险在于，人工智能系统不仅可能出错，还可能成为一个人生活中最容易接触、最顺从的声音。
感到孤独的人可能每晚都使用它寻求安慰，把人工智能当作一个随时在线、表达流畅且永不疲倦的倾听者。
如果这种依赖开始取代更广泛的社会反馈，问题便会出现；这些反馈帮助一个人立足现实，包括来自家人、朋友、同辈、临床医生的反馈，以及人际关系中日常的摩擦。一个系统听起来可能充满关怀，却在不知不觉中让用户更加孤立。
为什么安全过滤器不足以保障心理健康人工智能
当前的人工智能安全方法没有应对人工智能依赖的潜在风险，因为它们主要关注内容过滤器、审核系统和偏好调整方法，例如依据人类反馈来教模型了解人们的偏好。
这些方法适用于许多日常任务，但其逻辑在很大程度上仍着眼于局部。它们可能会判断某个回答在当下看起来是否有帮助、无害或更可取。然而，一句话有帮助或安全，并不一定意味着一段关系是安全的。
帮助一个人长期蓬勃发展，是心理学、医学和伦理学面临的难题。一个通过肯定或即时安慰来满足短期偏好的系统，可能看起来很有帮助，却会逐渐把用户引向不健康的结果。
心理状态是动态的。同一个回答在某一刻可能让人稳定下来，在另一刻却可能使人更加不安，具体取决于用户的过往经历、当前状况和更广泛的社会背景。
健康的系统必须充分了解用户的状态和处境，才能识别何时安慰反而有害，或何时应引导用户去睡觉、暂停一下、联系他人或寻求专业护理。
心理健康人工智能能从哪些细微差异中受益？
心理健康人工智能还缺少真正支持用户所需的关键关系背景。真正的支持不只着眼于个人的心理状态，还会致力于重塑其周围的人际网络。例如，婚姻咨询会考虑双方各自的叙述。心理健康人工智能也应达到类似标准。
因此，好的回答不能只看它是否在当下帮助了这个人，还要看人工智能与人之间的关系是否增强了用户的自主能力，使其更加立足现实，并更有能力与他人共同生活。危险在于心理健康人工智能工具的设计方式：如果设计目标是最大限度提高用户留存、情感回报或重复互动，就可能造成风险。
文化使自动化支持更加复杂，因为福祉的理念并非普世一致。在一些社会中，自主和自我表达被视为心理健康的核心标志；而在另一些社会中，社会认同、角色义务、关系和谐和羞耻感则重要得多。
心理健康人工智能不应预设某种道德心理观，这一点很重要，否则可能无意中误解他人。在高度个人主义的环境中听来令人振奋的建议，在家庭纽带、社群期待和社会地位对理解痛苦至关重要的环境中，可能会使人不安或并不合适。
因此，文化适配必须纳入有关自我、关怀、边界、康复和生活质量的细微差异。
如何让心理健康人工智能更安全？
要让心理健康人工智能更有效、更安全，需要人工智能、心理学、精神病学、神经科学和哲学等领域的跨学科参与，同时也要认真听取有亲身经历者的意见。此外，我们需要更完善的评估，考察系统能否随着时间推移改善发展轨迹，而不只是改善个别回答。
领导者和政策制定者必须认识到，对旨在提供心理健康支持的系统进行评估时，应考察它们造成的依赖、对现实人际关系的影响，以及它们在固有设计上如何优化互动参与度，甚至可能以牺牲人的成长为代价。
因此，心理健康人工智能指向一个更大的挑战：理解人工系统如何与人类生活互动。
人是动态的——与人互动的人工系统不能被视为中立工具并按此加以治理；它们会成为思想、情感和行为展开其中的环境的一部分。
如果以负责任的方式开发，心理健康人工智能可能带来巨大益处，让世界各地的人们都能获得心理健康护理。但这需要提升我们的目标。
让人工智能更安全，不只是确保语句不鼓励有害行为；还要打造能够帮助人们改善生活质量、增强自主能力，并在心理健康人工智能聊天机器人的互动之外与他人建立更多联结的系统。
