合成数据——即模仿现实世界数据而人工生成的信息——可以填补数据缺口、保护隐私，并支持测试新的场景。
合成数据与真实数据之间的界限日益模糊，带来了重大新机遇，也伴随着严重风险。
企业领导者必须优先加强监督与合规，建立健全的可追溯性和溯源系统，以规范合成数据的使用。
合成数据（即模仿现实世界数据而人工生成的信息）曾是用于弥补数据缺口或保护隐私的小众工具，如今正在改变许多行业对人工智能（AI）的应用。它可以填补数据缺口、保护隐私并支持测试新的场景；当现实世界数据有限或敏感时，它能够提供一种可扩展且具成本效益的替代方案。
然而，随着合成数据日益普及，真实与人工生成数据之间的界限也愈发模糊，威胁信任、扭曲认知，并引入系统性风险。
合成数据的应用机遇十分广阔，但要取得成功，离不开有力的治理、包容且高质量的数据实践，以及开发者、科学家、政策制定者和组织领导者之间的透明协作。
合成数据的发展历程
当现实世界数据因不完整、存在偏见或受到隐私限制而无法满足高质量、具代表性的要求时，合成数据应运而生，成为一种解决方案。在所需数据根本不存在的情况下，它尤其有价值。如今，合成数据仍在补充涵盖代表性不足的语言、健康状况和人口群体的数据集。它有助于提升多个领域的公平性，涵盖临床试验、刑事司法以及普惠金融。
然而，自早期以来，合成数据的应用格局已大幅扩展。合成数据不再只是迫不得已时使用的工具，也成为创新的驱动力。世界经济论坛全球数据前沿未来理事会近期发布的一份战略简报探讨了多种生成合成数据的新方法，以及这些方法催生的大量新应用领域。
如今，整个城市环境都可以复制出来，用于自动驾驶汽车测试，例如自动驾驶汽车公司 Waymo 就采用了这种做法。字节跳动等媒体公司可以为其推荐系统生成大量全新的合成训练数据集。在医疗保健领域，合成患者数据正被用于大规模测试治疗方案，同时无需暴露医疗记录。
模拟数据的效用尤为突出，可提供受控环境，用于对金融市场进行压力测试、建模气候影响，或运行基础设施规划中的“数字孪生”场景。
合成数据带来的新挑战
这些前景也伴随着新的风险。由于合成数据广泛存在、逼真，并且在塑造人工智能系统方面起着基础性作用，它可能与真实数据来源难以区分。这会带来多种风险：
偏见或错误放大
如果用于生成合成数据的底层数据存在偏见或错误，结果可能会加剧而非减少不平等——尤其是在合成数据的生成过程本身存在偏见时。随着用于训练人工智能系统的数据集日益频繁地被创建，这一挑战也更加突出。
人工智能自我吞噬
当人工智能系统使用人工智能生成的输出进行训练时，准确性和可靠性会下降，削弱其在计算机视觉、自然语言处理等领域的性能。除了生成式人工智能中广受关注的“模型崩溃”现象外，这种风险还可能以更隐蔽的方式出现。例如，如果计算机视觉系统使用快速增多的人工智能生成图像和视频数据进行训练，而这些数据未能真实呈现光照、运动或相互遮挡的物体，系统性能就可能受到损害。
信任流失
从深度伪造到通过语音克隆实施身份盗用，未经授权的合成媒体威胁着公众对数据真实性本身的信任。如果人们不再相信自己所见、所闻或所读，后果将远远超出技术系统的范畴。
尽管这些风险并不陌生，但由于人工智能生成数据与现实世界数据难以区分，它们的影响被进一步放大。治理薄弱时，合成数据的益处就会转化为负担。
协作推进合成数据治理
当组织优先重视健全的治理、透明度和多方协作时，合成数据能够带来更好的成果。成功的关键在于连接两个领域：构建和应用这项技术的开发者与终端用户，以及影响其使用方式的高管、律师和政策顾问。每类利益相关方都承担着独特的治理职责，其他人无法替代。
开发者和终端用户可以推动更强有力的技术治理，例如提升生成合成数据集的模型质量和透明度，并倡导水印、数据集营养标签等保障措施。
然而，或许最应优先采取的举措是投资于数据可追溯性。健全的溯源系统有助于组织识别合成数据在何时以及如何被引入，从而强化问责并降低偏见和人工智能自我吞噬等风险。鉴于事后追溯成本高昂，企业应优先投入资源，预先建立健全的数据溯源系统。
将合成数据治理列为优先事项
然而，技术治理往往并不足够。高管和政策领导者必须将合成数据治理本身视为一项战略优先事项，而不是将其纳入更广泛的人工智能治理议题。
他们应采取有针对性的合成数据治理方法，包括：
制定能够识别合成数据和模拟数据独特属性、并充分考虑具体情境的标准。
与隐私和人工智能监管机构密切合作，确保与不断演进的框架保持一致。
在组织内部开展教育，介绍相关机遇、风险和最佳实践。
工程师、政策顾问、高管和用户需要积极主动地协作，共同承担发挥合成数据优势并降低已知风险的责任。这些群体携手合作，能够开创一个安全释放新一代合成数据巨大潜力的未来。
