训练机器学习模型执行图像分类任务，需要海量数据。
数据集的成本高达数百万美元，即便是最好的数据集也往往包含偏差，进而对模型性能产生负面影响。
因此，麻省理工学院的研究人员开发了一种使用合成数据训练的图像分类机器学习模型。
他们表示，该模型的表现可与使用真实数据训练的模型媲美。
训练机器学习模型执行图像分类任务需要海量数据，例如在自然灾害发生后识别卫星照片中的损毁情况。然而，这类数据并不总是容易获取。生成数据集可能需要花费数百万美元——前提是首先存在可用数据；即便是最好的数据集，也往往包含会对模型性能产生负面影响的偏差。
为绕开数据集带来的一些问题，麻省理工学院的研究人员开发了一种训练机器学习模型的方法：它不使用数据集，而是借助一种特殊的机器学习模型生成极其逼真的合成数据，再用这些数据训练另一个模型，以完成下游视觉任务。
研究结果表明，仅使用这些合成数据训练的对比式表征学习模型，能够学会与真实数据所学习到的表征相媲美甚至更胜一筹的视觉表征。
这种特殊的机器学习模型称为生成模型，与数据集相比，存储或分享它所需的内存要少得多。使用合成数据也有望避开隐私和使用权方面的一些顾虑；这些顾虑限制了部分真实数据的分发。生成模型还可以经过编辑，去除种族或性别等某些属性，从而有助于解决传统数据集中的一些偏差。
“我们知道这种方法最终应该会奏效；我们只需要等待生成模型不断变得更好。但当我们证明这种方法有时甚至比真实数据效果更好时，我们尤其感到高兴。”论文第一作者、计算机科学与人工智能实验室（CSAIL）研究科学家阿里·贾哈尼安（Ali Jahanian）说道。
贾哈尼安与CSAIL研究生泽维尔·普伊格（Xavier Puig）、永龙·田（Yonglong Tian）以及论文资深作者、电气工程与计算机科学系助理教授菲利普·伊索拉（Phillip Isola）共同撰写了这篇论文。这项研究将在国际学习表征会议上发表。
生成合成数据
生成模型经过真实数据训练后，可以生成逼真到几乎无法与真实数据区分的合成数据。训练过程中，研究人员向生成模型展示数百万张包含某一类别物体（例如汽车或猫）的图像；模型随后学会汽车或猫的样子，从而生成类似的物体。
贾哈尼安说，研究人员基本上只需按下开关，就可以使用预训练生成模型持续输出独特而逼真的图像，这些图像以模型训练数据集中的图像为基础。
他说，生成模型还有更大的用处，因为它们能够学会如何转换用于训练的底层数据。如果模型使用汽车图像训练，就能“想象”汽车在不同情境下的样子——包括训练期间未见过的情境——然后输出展现汽车独特姿势、颜色或尺寸的图像。
同一图像的多个视角对于一种称为对比学习的技术很重要。在这种技术中，机器学习模型会看到许多未标注图像，并学习判断哪些图像对相似、哪些不同。
研究人员将一个预训练生成模型与对比学习模型连接起来，使两者能够自动协同工作。贾哈尼安解释说，对比学习模型可以指示生成模型生成物体的不同视角，再学习从多个角度识别该物体。
“这就像把两个积木连接起来。生成模型可以为同一事物提供不同视角，因此能帮助对比学习方法学到更好的表征。”他说。
效果甚至胜过真实数据
研究人员将他们的方法与几种使用真实数据训练的其他图像分类模型进行了比较，发现他们的方法表现相当，有时甚至更好。
使用生成模型的一个优势是，理论上它可以创建无限数量的样本。因此，研究人员还研究了样本数量如何影响模型性能。他们发现，在某些情况下，生成更多独特样本能进一步提升性能。
“这些生成模型很棒的一点是，它们是由别人替你训练好的。你可以在网上的代码库中找到它们，人人都能使用。而且，要获得良好的表征，你不需要干预模型。”贾哈尼安说。
但他提醒说，使用生成模型也有一些局限。在某些情况下，这些模型可能泄露源数据，带来隐私风险；如果没有经过适当审查，它们还可能放大训练数据集中的偏差。
他和合作者计划在未来的工作中解决这些局限。他们还想探索如何运用这项技术生成有助于改进机器学习模型的边缘案例。边缘案例往往无法从真实数据中学到。例如，研究人员若在训练自动驾驶汽车的计算机视觉模型，真实数据中不会包含一只狗和它的主人在高速公路上奔跑的例子，因此模型永远无法学会在这种情况下该如何应对。以合成方式生成这类边缘案例数据，或许能在某些高风险情境中提升机器学习模型的性能。
他说，研究人员还希望继续改进生成模型，使其能够合成更加复杂的图像。
这项研究部分得到了麻省理工学院—IBM沃森人工智能实验室、美国空军研究实验室以及美国空军人工智能加速器的支持。
