人工智能安全的讨论往往过度关注基础模型，而较少关注已部署的产品，从而忽视了对终端用户的风险。
要实现安全的生成式人工智能消费类产品，负责任人工智能领域与数字信任与安全领域需要相互学习。
通过运用信任与安全的经验以及严谨的负责任人工智能治理，我们可以打造面向未来的创新且安全的机器人。
当前关于人工智能（AI）保障措施的讨论存在一致性问题：它常常将基础模型中的安全问题与终端用户日常接触的产品中的安全问题混为一谈。
通用人工智能能力的近期飞跃——例如GPT-5的发布及其在ChatGPT中的部署——已引起全球关注。这一关注焦点可能分散从业者和政策制定者的注意力，使其偏离一种协作式路径：即通过运用人工智能来强化久经验证的信任与安全方法，从而确保生成式人工智能（GenAI）产品对使用者而言尽可能安全。
要实现安全、可信并被广泛部署的聊天机器人及其他生成式人工智能消费类产品，需要常常相互隔离的负责任人工智能领域与数字信任与安全领域相互学习，并借鉴在价值链和供应链不同环节管理风险的成熟做法。
仅有模型安全还不够
从政策制定者到慈善家，再到活动人士到高管，围绕人工智能安全的讨论很大程度上集中于确保通用人工智能模型总体上是安全的，无论是应对对人类的生存性风险，还是应对公平性等日常问题以及对弱势群体的威胁。
但仅关注模型忽视了同样紧迫的一个维度：生成式人工智能产品如何影响当今的真实消费者。这一领域是在线消费业务（从购物到游戏）多年来一直在关注的领域，并借助日益成熟的安全工具箱，多年来。
最紧迫的人工智能风险并非假设性的。关于聊天机器人鼓励自我伤害的指控，以及大规模生成未经同意的私密图像和儿童性虐待材料，都表明终端用户的安全必须置于首位。
尽管人工智能实验室与传统数字产品企业之间存在交叉，我们仍需要负责任人工智能领域与信任与安全领域之间开展更多协作。
在人工智能方面，我们已拥有完善的风险库、研究合作，以及一个人工智能治理工作生态系统，这些成果引发了公共讨论，增进了人们对通用人工智能被滥用所带来的生存性和社会性风险的理解。
在复杂的人工智能供应链中厘清安全责任颇具挑战，因为基础设施提供者、模型开发者、模型部署者和终端用户的角色往往相互交织、界限模糊。例如，前沿模型的开发者同时运营基础设施、为消费者和企业部署产品，并自行使用这些工具，例如用于内容审核。
因此，以人为本是正确的起点。通过关注人们如何与人工智能产品互动，我们可以运用久经验证的风险评估和危害缓解方法，而无需重新发明轮子。
数字安全的经验借鉴
在这方面，信任与安全从业者过去几十年取得的进展同样发挥着作用。从国际标准到专门论坛，为应对最棘手挑战而开展的协作，人工智能产品和服务的部署者可以从信任与安全领域来之不易的经验中获益。
例如，社交媒体和其他数字服务几十年来一直在努力解决如何减少有害内容的传播，同时维护用户获取信息的权利。聊天机器人的情况可能有所不同，但在推出新功能时，评估风险和权衡利弊的计算方法是相同的。
人工智能与现有数字服务加速融合，这意味着对许多人来说，他们首次接触生成式人工智能很可能是通过熟悉的产品——搜索、办公工具或社交媒体。
监管视角下的机器人
这同样是监管机构将人工智能纳入在线安全法律的方式，例如欧盟《数字服务法》。据报道，欧盟委员会将不久将指定ChatGPT的搜索组件为“超大型在线搜索引擎”，使该服务须承担更高的尽职调查和透明度要求。
此外，欧盟委员会发布的关于选举以及未成年人保护的指南，已将人工智能工具和人工智能生成图像所带来的风险列为特别优先事项。
人工智能产品与其他数字服务之间的互动也会产生新的风险，例如搜索引擎对人工智能聊天记录的存档，这需要跨行业协作来寻求解决方案。
令人鼓舞的是，一些人工智能公司正在加入既有机构，例如Anthropic近期加入了全球互联网反恐论坛。但仍需要人工智能部署者在行业和多利益相关方协作中更广泛地参与。
聊天机器人的变革性机遇
每个创新领域往往都认为自身的挑战具有独特的复杂性。但尽管风险可能是新的，应对这些风险的做法并非新的。能够推动生成式人工智能广泛采用的更佳用户体验，将源自以下方面：
开展行业协作，将安全设计融入产品开发
治理完善，既可解释又定期更新
执法既融合人的能力，也融合人工智能能力
致力于持续改进，并以富有创造性的方式推行适当的透明度
可喜的是，在具体工作层面，人工智能从业者与信任与安全从业者正深入相互合作，共同推进这些工作。信任与安全领域的重要会议TrustCon上与人工智能相关的议题数量与质量，便体现了这种协作。
而与良好对齐的人工智能助力变革信任与安全工作的潜力是真实存在的。力求避免过往错误的企业，可以善用其技术不是为了取代信任与安全，而是为了增强其能力。为应对当下形势，人工智能部署者与更广泛的数字生态系统之间的伙伴关系必须加以正式化并规模化。
如果我们聚焦于人类终端用户——同时运用信任与安全的经验和严谨的负责任人工智能治理，那么当下及未来的聊天机器人既能做到创新，也能做到安全。
