犯罪团伙正越来越多地在大规模诈骗行动中使用人工智能技术，这凸显了加强保障措施的必要性，以保护弱势群体并打击犯罪网络。
教宗良十四世关于人工智能问责的里程碑式通谕，进一步推动了全球日益广泛的讨论，即如何以保护最脆弱群体的方式开发和部署人工智能。
随着人工智能能力迅速发展，政府、企业和公民社会有机会加强治理框架，并建立有效的保障措施，以防范滥用。
教宗良十四世指出，人工智能的开发必须承担问责，这一警告通过具有里程碑意义的通谕发布，恰逢其时。随着人工智能技术日益易于获取，犯罪分子正将其纳入诈骗、贩运人口和网络剥削等既有犯罪形式之中。这些发展表明，确保创新伴随有效的保障措施和问责机制至关重要。
教宗的警告反映了政策制定者、企业领袖和公民社会组织所共同关注的一个更广泛的问题：治理与问责必须与技术能力同步发展。
在人工智能热潮之中，挑战在于确保人工智能在经济和社会方面的巨大潜力得以实现，同时也须以同样有力的努力防范滥用，保护弱势群体。
任何能够推动良性合法企业增长与生产力的人工智能工具，同样可以被最残酷、最具虐待性的企业所利用，而且人工智能工具已被用于此类用途。
我对此有着清楚的认识。作为国际正义使命（IJM）的创始人兼首席执行官，我在过去30年里，与世界各地的司法系统合作，致力于保护最脆弱的公民免受暴力和虐待。我们的工作使我们不得不近距离接触骇人听闻的犯罪行为，并由此得以独特视角观察人工智能已如何助长最残酷的犯罪活动。
人工智能如何助推犯罪
从我们在东南亚的团队了解到，去年犯罪团伙利用人工智能技术，通过工业化规模的网络诈骗活动，从全球毫无戒心的民众手中窃取了500亿至800亿美元，而这些活动依托的是现代奴役。数以千计的贩运受害者被困在有人看守的院落中，她们每天二十四小时轮班，坐在工作站前不停地实施网络诈骗。国际正义使命已帮助数千名从这些院落中脱身的幸存者，他们告诉我们，如果未能完成诈骗指标，便会遭到殴打、饥饿、电击和性侵。
去年，这些诈骗活动所产生的利润，显著超过了缅甸、柬埔寨和老挝三国政府财政预算的总和，而这些活动主要就设在这三个国家。人工智能技术通过AI翻译工具、语音克隆、深度伪造视频以及可大规模扩展的招募技术等能力，极大地助推了这些犯罪企业的发展。
另一种残酷且迅速扩张的、借助科技实施的犯罪活动是网络直播儿童性剥削，而人工智能使这一问题进一步恶化。在美国和英国等地，性侵犯者向“中间人”付费，由其指挥在地球另一端的摄像头前对儿童实施实时性虐待。国际正义使命近期的研究披露，仅在一年之内，菲律宾就有五十万名儿童在网络平台上遭受性虐待。
人工智能也正在改变并加速贩运者招募受害者进入全球强迫劳动行业的过程。由人工智能驱动的欺诈性招聘广告，如今已能被翻译成最为冷僻的语言，从而锁定那些此前从未被触达的人群。人工智能驱动的聊天机器人能够大规模制作逼真的虚假招聘信息，并根据特定人群量身定制具有欺骗性的话术。
落实教宗良十四世关于人工智能的警告
好消息是，我们知道该做什么。教宗在通谕中呼吁建立“稳健的法律框架、独立的监督、知情的用户，以及一个不推卸其责任的政治体系”，这正是我们作为全球公民所需要的启动力量。每个时代都会出现一些新技术，它们既可用于提高生产力、促进人类繁荣，也可能被滥用而摧毁生命。制药、核能和高速交通便是显而易见的例子。在每个时代，领导者都做了两件事，以成功守护未来：他们为所产生的危险承担责任，并对那些选择不作为者追究问责。
企业领导者必须承担责任。科技领袖在开发人工智能工具、扩大其能力的同时，必须承担起责任，理解犯罪分子将如何使用这些工具，与执法机构协商，并且在减轻其滥用方面，与其在最大化应用方面一样富有智慧、充满热忱。
他们还应承诺为其生产的设备制定“安全设计”标准，在剥削性使用发生之前加以阻止。例如，（借助人工智能的）设备端检测技术可以识别设备何时试图录制遭受性剥削的青春期前儿童，并直接禁止生成这类普遍非法的内容。
政府必须确立问责机制。没有任何其他行业被允许将其任何强大的产品推向公众，而最终不面临旨在防范滥用、虐待或犯罪利用所造成严重公共危害的监管约束。历史的持久教训是，在这些防护措施被忽视的同时，无辜的生命遭到摧毁和浪费。人工智能技术行业没有任何理由获得这一常识性历史教训的特殊豁免。事实上，若缺乏监管要求，企业领导者私下也承认，市场动力将推动人们取消防护措施，甚至包括那些保护儿童的措施。
人工智能治理的共同责任
事实是，我们现在已有足够的认知来承担责任。
作为联合国针对卢旺达种族灭绝案的首席调查员，我深知及时赶到却为时已晚、未能阻止灾难发生的感受。
这段经历让我认识到，对早期预警信号采取行动至关重要。人工智能为人类进步带来非凡机遇，但也在开辟新的剥削途径。摆在我们面前的挑战是，确保治理、问责和保护与创新保持同步。
卢旺达的教训并非不可避免，而在于预防。当社会能够及早识别新出现的风险，并以紧迫感、合作精神和远见予以应对时，社会才最为强大。人工智能的快速发展为我们提供了正是这样做的机会。
我相信，历史终有一天会召集由我们的子孙组成的法庭，他们只会问我们：在人工智能与人类未来的关键抉择正在做出之时，你们身在何处？我希望我们能够说，我们挺身而出，承担责任，建立问责机制以保障他们的未来，而且我们及时站了出来。
