随着人工智能（AI）技术的发展，在创新与安全之间取得平衡已变得至关重要。
与AI社区成员携手合作的信任与安全专业人士，将是应对在线安全和AI安全复杂性的关键。
通过开放的讨论并落实强有力的安全措施，我们可以确保AI技术得到负责任的运用，造福所有人。
随着人工智能（AI）技术，尤其是大语言模型，迅速发展，在创新与安全之间取得平衡已变得至关重要。
信任与安全（T&S）专业人士长期致力于保护在线社区和平台免受各种危害，因此T&S专家与AI社区之间的交叉合作，是应对在线安全和AI安全复杂性的关键。
要实现这一平衡，就信任与安全展开公开讨论至关重要，尤其是围绕有害内容的讨论。
数字信任与安全社区的成长
过去10年间，T&S社区取得了长足进步，积累了宝贵的实践经验和知识。
这一进步与社交媒体的兴起密切相关。社交媒体迅速拓展了数字领域，也为管理在线安全和用户数据带来了新的挑战。
《欧洲通用数据保护条例》General Data Protection Regulation（GDPR）等监管措施的加强，使企业在保护用户数据方面承受了更大压力。近来，一些专门针对在线安全的法规相继出台，例如《澳大利亚2021年在线安全法》Australian Online Safety Act 2021、《新加坡2022年在线安全法》Singapore Online Safety Act 2022、《英国2023年在线安全法》United Kingdom's Online Safety Act 2023以及《欧盟数字服务法》European Union's Digital Services Act (DSA)（DSA）等，要求平台识别、评估、减轻并披露其在线服务中的潜在风险。
近期举办的第三届TrustCon24大会充分体现了这一发展。该活动于7月22日至24日在旧金山举办，由信任与安全专业协会主办，旨在培育T&S专业人士的全球实践社群。
大会期间，人们广泛讨论了AI系统可能生成或放大有害内容的问题。例如，AI技术可能被滥用于制作逼真的虚假媒体，从而助长错误信息、诽谤和剥削。
此外，AI还可能助长网络欺凌和骚扰，例如利用自动化机器人大规模发送辱骂信息，或制作深度伪造内容及合成媒体进行诽谤。
AI生成的儿童性虐待材料（CSAM）激增，被认定为另一项重大挑战。此类材料的高质量和照片级逼真度，使执法部门难以有效评估和应对相关风险。
仅在2023年，流传的AI生成图像就超过150亿张，且数量仍在增长，这一问题的规模令人担忧。互联网观察基金会例如，该机构在一个月内就发现了20,254张发布在暗网CSAM网站上的AI生成图像，凸显了采取行动的迫切需要。
弥合AI安全与T&S之间的差距
人工智能安全面临的挑战需要紧密协作，但T&S社区与人工智能及机器学习（ML）社区却在一定程度上各自独立发展。
TrustCon24的一场会议“信任与安全 x 负责任的AI：弥合差距”聚焦于这一割裂状态。斯坦福网络政策中心研究员Dave Willner指出，两大社区之间的联系在过去几年和几个月里有所加强，但在安全实践方面仍存在明显的不一致和差距。
与此同时，Humane Intelligence首席执行官Rumman Chowdhury指出，相关研究虽已大量涌现，但在人工智能产品可能如何被利用来造成危害方面，实践经验仍然较为匮乏。
例如，处理数据集的AI团队可能不熟悉T&S领域处理非法内容的既定规程。同样，ML工程团队可能缺乏政策制定和监管程序方面的经验。这种脱节阻碍了安全措施的有效落实，也妨碍了形成应对AI相关问题的连贯策略。
TrustCon24以及世界经济论坛全球数字安全联盟会议（由来自各方利益相关者的顶尖信任与安全专业人士组成）的一些关键经验包括：
共同语言：AI社区与T&S社区之间的有效沟通至关重要，因为误解有时源于沟通不畅。制定统一的术语对于确保两大社区有效协作至关重要。全球数字安全联盟的《在线危害类型学》旨在为在线危害建立基础性的语言体系。
风险评估：数字安全法规（如前文提及的欧盟DSA和英国《在线安全法》）已开始要求进行风险评估，以积极管控潜在危害。然而，差距依然存在，尤其是在对AI特有风险的细致理解方面。《欧盟人工智能法》旨在通过为人工智能系统制定全面标准来填补这些空白，确保其安全地开发和部署。T&S专业人士在风险评估方面的专长，可为AI系统的综合评估框架提供参考，在识别威胁和理解人机互动方面提供宝贵技能，从而将安全考量融入AI开发的全过程。
安全性设计：“安全性设计”理念是指将安全措施融入产品和服务开发的每一个阶段。这种由T&S专业人士采用的前瞻性方法，可应用于AI系统，以便及早预见并减轻风险。在实践中，正如上述小组讨论中所提及的，这可能意味着AI系统拒绝执行可能影响儿童的请求。
安全性衡量：准确衡量AI安全性仍是一项关键挑战。尽管存在固有的复杂性，但努力实现有效衡量至关重要。美国国家标准与技术研究院（NIST）AI风险管理框架等现有工作在衡量和管理AI风险方面发挥着关键作用。此外，全球数字安全联盟题为《如何有效衡量数字安全以降低在线风险》的报告提供了一套指标分类。例如，过程指标类别涵盖与数字安全相关的系统的方法、实施和成果，这也可为AI安全评估提供参考，并促进专家之间形成共识。
尽管双方都有可借鉴的经验，但必须认识到，并非T&S实践中的所有经验都能直接应用于AI安全。AI领域权威专家Henry Ajder在近期一次全球联盟会议上指出：“确实可以借鉴的经验，或许能帮助我们避免在AI发展中重蹈覆辙，犯下与主要数字平台（尤其是社交媒体）兴起时类似的根本性错误。”
最后值得注意的是，在TrustCon24大会期间，与会者表现出强烈的合作意愿，来自AI企业、专家和研究人员等多个领域的专业人士济济一堂，这凸显了跨学科合作对于构建更安全、更值得信赖的数字生态系统的必要性。
世界经济论坛在AI安全方面的工作
世界经济论坛的人工智能治理联盟（AIGA）与全球数字安全联盟已在积极倡导这一合作模式。
世界经济论坛信任与安全负责人Daniel Dobrygowski指出：“安全本质上是一个跨学科议题。无论涉及何种技术或领域，用户安全都有助于增进对底层技术的信任，这在AI等新兴且快速发展的技术中尤为重要。”
论坛在AIGA的工作推动了可信赖AI的发展，倡导负责任的使用并促进创新。其具体工作重点包括：在各行业负责任地整合AI技术，制定健全的监管框架，并推动与安全可靠的AI系统相关的技术共识。
世界经济论坛如何为人工智能建立护栏？
AI卓越中心汇聚各行业领袖，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕AI应用相关的机遇、风险和权衡展开知情对话。
通过可信赖的交流空间和协作性倡议，该中心助力合作伙伴建立共同理解，并携手推动负责任的AI创新与应用。
与此同时，全球数字安全联盟由顶尖信任与安全专业人士组成，旨在加快公私合作，以应对网上有害内容。这包括分享新的在线安全法规的最佳实践，采取协调行动以降低在线风险，并推动相关合作项目，以提升数字素养，共同打击虚假信息。
两大社区都拥有宝贵的见解和经验，可以提升各自的集体努力。通过促进社区之间的公开讨论并落实强有力的安全措施，我们能够应对AI开发的复杂性，确保这些变革性技术得到负责任且合乎伦理的运用，造福所有人。
