AI最需要的数据，恰恰是我们守护得最严密的数据

• AI需要新近、准确且具有代表性的数据，但这类数据同样最为敏感，并受到严格监管。

• 合成数据有助于模型训练，但要构建准确的模型并做出个体决策，仍需依赖真实数据。

• 隐私增强技术（PETs）让机构能够从真实数据中学习，而无需暴露或交换这些数据。

随着AI进入金融、医疗保健和欺诈防范领域，争论的焦点已不在于AI是否拥有足够的数据，而在于它是否拥有合适的数据。

优质模型可以帮助放贷机构评估没有信用记录的人群，帮助银行更早发现欺诈行为，并帮助医疗服务提供者更早识别风险。但优质的AI模型，其水平终究取决于所学习的数据。最好的数据应当是新近、准确且具有代表性的，而挑战在于，这类数据往往也最为敏感。

AI需要更丰富、更新近的数据

有价值的数据往往零散、敏感，并分散在各个机构之间。银行可能了解还款行为，零售商可能掌握家庭消费情况，电信运营商则可能掌握数字服务的使用情况。每一方都只能看到某个人生活的一个片段。

AI的价值在于这些信号之间如何相互关联。若能安全地加以整合，它们所揭示的财务韧性、脆弱性、欺诈风险或未被满足的需求，将比任何单一数据集都更为精准。

时效性同样重要。个人行为、经济状况和欺诈手段都在不断变化，而基于过时信息训练的模型，所做的决策依据的是一个已经发生变化的世界。

AI最需要的数据，也是最难获取的数据

将这些数据集整合为可用的形式，正是困难的开端。金融数据可以揭示收入、债务和脆弱性。医疗数据可以揭示病史。零售和电信数据则反映日常行为与偏好。

正因为这些数据高度敏感，即便用途极具价值，真实数据也无法被自由共享。目前大多数数据供应链仍依赖于在第三方系统之间复制和传输数据，其中可能发生数据泄露，或为某一目的收集的数据日后被用于其他目的。核心问题在于，一旦共享，数据便难以收回。

监管对此设定了限制。目的限制和数据最小化原则意味着，为某一目的收集的数据，通常不得被另作他用，无论其价值多大。障碍并非源于疏忽：负责任的机构正确地判断，在它们之间转移敏感数据所带来的风险，超过了其带来的收益。

合成数据能否解决这一问题？

合成数据——即为反映真实世界数据集规律而人工生成的数据——看似是一条合乎逻辑的出路。既然数据并非真实，隐私问题理应随之消失。事实是，合成数据确有其真正的作用：用于测试系统、探索各类情景，以及对罕见或极端情况进行压力测试，但它无法承担高风险AI的全部重任。

合成数据只能再现已知的内容，可能遗漏新出现的行为、意料之外的关联，或存在于实际数据中、却未体现在其生成假设中的细微特征。它无法创造从未存在过的东西。合成数据由真实数据生成，因此，真实数据薄弱之处，合成数据同样薄弱，且不会因此显得薄弱。缺口与偏见会被一并继承。

此外，训练与决策并不相同。即便是完全基于合成数据训练的模型，在做出决策时，仍须对申请人、交易或患者进行评估。

据报道，德国联邦财政部提议允许税务机关使用未经修改的真实纳税人数据来开发AI系统，理由是虚构数据效果不佳；批评者对此表示担忧，认为这可能涉及隐私问题以及功能扩张问题。

是使用合成数据还是真实数据，取决于具体的应用场景。但就最关键决策的高准确性而言，真实数据至关重要。

PETs为真实数据的使用提供了更安全的途径

隐私增强技术（PETs）是一组能够在无需交换或暴露敏感数据的前提下促进数据分析的技术。

记录通过标记化标识符进行匹配，因此两家机构可以确定彼此共有的客户，而无需任何一方获知对方客户的身份。随后，分析在中立环境中进行，原始记录对另一方或运营方均不可见。只有结果会离开该环境，例如汇总洞察、模型特征或单一决策的评分。

PETs并不免除取得同意、落实问责和接受监管的必要性。但它们解决了在真实世界数据协作中的核心障碍。

许多技术都受到严格的安全监管。为什么人工智能就不能呢？这位哲学家兼科学家问道。

01:58

实践中的具体表现

目前，PETs已被用于解决敏感数据分析的问题。在南非，该大陆最大的食品杂货零售商及其主要银行测试了购买杂货的行为能否预测信用度，且无需在各方之间共享消费者数据。

经匿名化和标记化处理的数据集在隐私保护环境中进行匹配，并基于合并后的数据训练模型。800万此前无信用记录的人士获得了评分，其中320万人符合获得可负担信贷的条件，否则他们本会被拒绝授信；同时，使用杂货数据的模型在准确性上提升了41%。

只有借助PETs，金融机构才得以访问经匿名化处理的杂货数据，这一切才成为可能。所用证据均不存在于任何银行的记录之中，任何合成流程也无法生成此类数据：相关行为从未被做出决策的机构观察到。数据本身是存在的，只是因为合理的隐私顾虑而无法获取。

AI与数据之间的障碍已不再是技术问题

PETs的采用一直受到成本、复杂性以及缺乏通用标准的制约。随着相关技术日趋成熟，以及监管指引日益清晰，这些障碍正在逐步消退。

PETs的作用不仅在于让现有数据更安全地获取和协作使用，还在于在模型最薄弱的领域，真正拓展可用数据的范围：信用记录稀少的消费者、新出现的欺诈模式，以及服务不足的患者群体。

更优质的AI并不仅仅依赖于更好的算法或更大的模型。它还依赖于能够获取关于个人的真实、新近且具有代表性的数据，同时又无需让人们让渡隐私。隐私增强技术正是使这两者同时实现的途径。