许多人每天都在使用数字技术，聊天机器人和虚拟形象让线上互动更具个人化色彩。
然而，这些技术的普及速度已超过公众理解能力，给儿童、劳动者、老年人及其他弱势群体带来风险。
信任人工智能等数字技术至关重要，各方利益相关者必须携手合作，确保技术服务于用户，而非反过来。
我们已经在与能够倾听、亲切回应、仿佛理解我们的系统互动。语音助手能在人们漫长的一天结束后安抚他们，聊天机器人能对问题进行初步分流，虚拟形象则让线上互动更显亲切。
这种轻松的对话方式降低了获取信息的门槛，支持学习，并能在人力服务稀缺的地方扩大关怀服务。但这些系统依赖概率模型，而非来自实践的专业判断；其普及速度已超过公众理解能力，给儿童、劳动者、老年人及其他弱势群体带来风险。
信任是核心挑战。对数字技术的信任关乎人们的预期，以及网络安全等技术因素与可追责、可申诉等关系层面的因素如何共同作用，确保技术服务于用户，而非反过来。
用户需要了解何时不应信任人工智能
大多数用户对人工智能（AI）的体验还不够丰富，尚未充分了解该信任什么以及为何信任。听起来很自信的系统会促使用户接受其回答——这对琐碎任务或许有帮助，但在医疗、金融、法律服务或心理健康等高风险领域却可能带来危险。
近期事件凸显了这一问题的紧迫性：模仿治疗师的聊天机器人提供危险指引，合成语音工具助长欺骗性社会工程攻击，招聘算法重现历史偏见，导致合格申请者被排除在外。这并非孤立的错误，而是表明某些具有说服力的界面和不透明的设计选择，可能大规模地改变人们的行为。
自ChatGPT于2023年11月推出以来，许多人工智能安全讨论都聚焦于基础模型——其架构、训练数据集和理论上的失效模式——而较少关注发生在人们实际使用的产品中的交互层面风险。
然而，要保护终端用户，就必须将注意力转向取决于具体情境的伤害：建立虚假信任的说服性语气、助长有害行为的用户界面（UI）默认设置、暴露敏感脆弱因素的个性化功能，以及使用户无法及时获得人工帮助的升级处理缺口。
已有一些值得期待的初步举措。企业和监管机构已开始要求标注内容来源并提供不确定性提示，以说明内容是否由人工智能生成或存在不确定性。
初步指导意见表明，这些提示可以减少过度依赖，并促进核实行为。来源标识、置信度评分以及“此回答由人工智能生成”等提示信息，会促使用户暂停、交叉核实或请求升级处理，将盲目依赖转变为知情使用。
以交互为重点的措施是人工智能安全的关键
这些措施必不可少，但仅靠它们还不够。以交互为重点的措施必须成为数字安全议程的核心。对政策制定者和产品团队而言，这意味着协调产品设计、治理、教育和跨行业应对，确保智能交互在影响人们的生计和福祉之前赢得公众信任。
产品功能设计应立足于一个现实：人们并非总能自我调节，尤其是在孤独和抑郁问题日益严峻的情况下；而随时可用、总是顺从的人工智能可能会强化拟社会信任。
因此，界面必须融入行为防护措施，减少拟人化，以降低虚假的亲密感和权威感。其他默认保护措施应包括尽量减少隐私数据收集的设置、对敏感领域采取审慎的个性化策略、明确的来源和不确定性提示，以及针对危机、临床或法律咨询快速转接人工处理。
企业应定期开展聚焦交互伤害的红队测试，限制敏感输入的重复使用，并发布安全操作手册，记录威胁模型和补救计划。
与此同时，监管机构应要求对高风险部署进行独立审计，并建立便捷易用的申诉机制；跨行业快速响应网络则应协调各平台和各国之间的事件信息共享与问题修复。
这些措施并非为了扼杀创新，而是为了确保强大的工具在影响人们的生计和福祉之前赢得公众信任。问责机制越明确，人们就越能放心地采用有益的人工智能工具，并知道一旦出现问题，可以通过哪些途径寻求补救。
扩大人工智能素养教育和支持的重要性
同样重要的是扩大人工智能素养教育和本地支持，让人们知道何时可以信任人工智能，何时应寻求人工帮助。教育项目不能止步于提示词技巧——即从大型数据集中生成聊天记录——还应以人类心理学为基础，教会各年龄段用户识别说服性设计、辨读来源线索并核实重要建议。
图书馆、学校、工作场所和社区中心可以组织角色扮演活动，并提供将用户与可信专业人士联系起来的“升级处理指引”。正如学校曾开设计算机课程，如今也应开设人工智能课程，将人工智能视为一种工具，讲解其运作方式、适用之处及潜在危害。
全球数字安全联盟正在通过召集各国政府、产业界、民间社会和技术专家，推动这一议程，进一步弥合人工智能技术社群和企业与信任及安全专家之间的差距，并探讨人工智能与用户之间的互动。
在世界经济论坛2026年达沃斯年会上，各方领导人将把这些讨论提上议程，同时着力改善内容来源标注、网络安全法规以及可规模化推广的数字素养项目，让世界各地的社区都能切实提升安全水平。
如果优先重视以交互为重点的安全，智能交互就能成为促进包容、创造力和韧性的力量。明确的来源和不确定性提示、敏感领域的审慎默认设置、普及数字素养、透明的安全实践以及全球合作，都能让这一愿景成为现实。
对政策制定者和产品团队而言，当务之急既务实又紧迫：将交互安全融入产品生命周期，要求对高风险部署进行独立问责，并投资于以社区为中心的素养教育，让用户能够放心采用人工智能工具，并在出现问题时有途径寻求补救。
