欧盟首份人工智能法规草案是更广泛努力的一部分，旨在通过消除错误和偏见，确保人工智能安全可信，从而发展以人为本的人工智能。
该法规包括以下要求：尽量降低算法歧视的风险，尤其是在用于开发人工智能系统的数据集质量方面。
该法规还对某些人工智能系统引入人工监督，以防止或尽量降低人工智能系统使用时可能出现的健康、安全或基本权利风险。
人工智能远非科幻小说，它已经融入我们的生活。从自动驾驶汽车到虚拟个人助理，人工智能已成为现实。
除了简化我们的生活，人工智能还有望为社会带来一系列经济和社会效益。从医疗保健到交通出行，从公共部门到金融领域，人工智能是一项快速发展的技术，能够应对世界上一些最严峻的挑战。它可以带来有益于社会和环境的成果，同时还能帮助各类企业更好地了解客户并与其互动、改进预测、加快生产速度，以及优化运营和资源配置。
然而，人工智能在带来无数社会经济效益的同时，也不可避免地可能给社会带来新的风险；在这些挑战中，伦理问题或许是最为微妙且最具隐蔽性的。
为推动科学突破，并确保人工智能技术服务于所有公民，在改善其生活的同时尊重其权利，欧洲委员会提出了首份人工智能法规草案。
该法律草案只是欧洲委员会于2018年提出的一项重大欧洲人工智能战略的一部分，该战略旨在应对人工智能带来的机遇与挑战，同时促进欧洲价值观。然而，要同时实现促进人工智能的开发与部署，并应对这一新技术某些用途所带来的风险这一双重目标，需要进行复杂的评估，并作出艰难的伦理与监管抉择，尤其是在出现歧视风险时。
并非不会出现错误和偏见
人工智能能够履行以往只能由人类完成的职能。因此，我们日益受到人工智能系统所作决定的影响，这些决定由人工智能系统作出或在其协助下作出。然而，若认为人工智能默认不存在偏见，因而无法歧视个人或群体，则是一种危险的错误认识：人工智能可能延续某些偏见，甚至将其放大。
正如欧洲委员会在其《2020年人工智能白皮书》中所指出的，偏见和歧视是任何社会或经济活动固有的风险，人工智能也并非不会出现错误和偏见。事实上，人工智能系统的输出结果可能因用于训练和测试该系统的数据输入不同而存在偏见。
例如，某些用于预测累犯的人工智能算法存在性别和种族偏见，对女性与男性或本国人与外国人给出不同的累犯预测概率。
同样，某些基于人工智能的面部识别工具已被证明在判断浅肤色男性的性别时错误率较低，但在判断深肤色人群的性别时错误率较高，从而显示出性别和种族偏见。
毫无疑问，有偏见的结果可能导致对我们基本权利的侵犯，包括言论或结社自由（参见面部识别系统进行无差别监控的影响）以及不受歧视的权利，尤其是当人工智能的有偏见决定基于性别、种族或族裔出身、宗教、残疾、年龄或性取向时（例如在获得就业机会或贷款批准方面）。
人工智能的有偏见结果和歧视性影响主要源于两个因素：
使用低质量的训练数据集（例如，人工智能系统主要使用男性数据进行训练，导致其在女性相关问题上的结果欠佳）；
人工智能缺乏透明度（即通常所称的“人工智能不透明性”），这使得难以发现人工智能系统设计中可能存在的缺陷。
欧盟的做法
为在医疗保健和就业等关键领域减轻人工智能辅助决策出现错误或偏见的风险，欧洲委员会设想采取多层面的做法。
拟议的法规草案包括以下要求：旨在尽量降低算法歧视的风险，尤其是在用于开发人工智能系统的数据集质量方面，并辅以在人工智能系统整个生命周期内的测试、风险管理、文档记录和人工监督义务。
事实上，在收集数据时，数据可能反映社会建构的偏见，或包含不准确、错误和失误。人工智能系统使用的数据集（无论用于训练还是运行）也可能存在无意中纳入的历史偏见，从而可能导致间接歧视。同样，人工智能系统的开发方式（例如算法编程代码的编写方式）也可能存在偏见，而这种偏见往往源于人类开发者本身。
因此，训练、验证和测试数据集应受到适当的数据治理和管理实践约束，这些实践应当考虑以下方面：
相关设计选择；
数据收集；
相关数据准备处理操作；
相关假设的制定，尤其是关于数据应当测量和反映的信息方面；
事先评估所需数据集的可用性、数量和适用性；
针对可能存在偏见的审查；
识别任何可能存在的数据缺口或不足，并采取潜在的补救措施。
此外，为防止产生涉及被禁止歧视的结果，每个训练、验证和测试数据集都应具有相关性、代表性、无错误且完整。这些数据集还应具有适当的统计特性，包括涉及人工智能系统拟使用的个人或群体的特性，尤其应确保性别、族裔及其他可能构成被禁止歧视理由的所有相关维度在这些数据集中得到适当体现。
值得注意的是，该提案还规定，在严格必要的范围内，为确保监测、发现和纠正人工智能偏见，人工智能提供者可以在采取适当保障措施的前提下，处理特殊类别的个人数据，例如健康数据以及揭示种族或族裔出身、政治观点、宗教信仰或性取向的数据。这些保障措施包括对再利用和使用的技术限制，以及采用最先进的安全和隐私保护措施，例如假名化，或在匿名化可能严重影响所追求目的时采用加密。
除上述事前测试义务外，该提案还引入了问责义务，旨在证明人工智能系统符合拟议法律所规定的要求。人工智能系统的技术文档应在该系统投放市场前编制，并保持更新。同样，人工智能系统应在设计和开发时具备能力，以便在运行期间自动记录事件（即日志）。
这些义务显然旨在实现事后监管，并通过确保人工智能系统在整个生命周期内运行的透明度和可追溯性，促进对基本权利的尊重。事实上，为提高透明度并尽量降低偏见或错误的风险，欧洲委员会建议，人工智能系统的开发应使人类能够理解其行为的依据。出于同样的目的，该法规要求高风险人工智能系统的设计和开发须确保其运行具有足够的透明度，使用户能够解读系统的输出结果并加以适当使用。
鉴于这些系统可能带来的风险，该法规草案还对某些人工智能系统引入人工监督，旨在防止或尽量降低人工智能系统使用时可能出现的健康、安全或基本权利风险，尤其是在上述其他要求已适用但此类风险仍然存在的情况下。
难以把握的平衡
欧盟通过其新的立法提案再次明确表明，人工智能既有可能使我们的世界向更好的方向转变，同时也可能侵犯我们的基本权利，例如通过基于性别或其他形式的歧视。然而，偏见、不透明性、复杂性、不可预测性以及人工智能系统的部分自主行为，只是对公民权利构成风险的几个主要因素之一。通过该提案，欧盟为企业开发和应用人工智能提供了清晰且安全的框架，并促进客户和用户的创新与信任。
在保护公民自由与欧盟经济竞争力之间取得平衡是一项艰难的抉择，需要进行复杂的评估。数字时代欧洲执行副主席玛格丽特·维斯塔格尔（Margrethe Vestager）近期表示：“在人工智能问题上，信任是必需品，而非可有可无的选项。”信任需要透明度，透明度需要问责。
通过本法规草案，欧盟正在推动人工智能领域的创新，同时支持在其经济体中开发和推广符合伦理且值得信赖的人工智能。欧盟所采取的战略清晰明确，将人置于人工智能发展的核心位置，从而设计出以人为本的人工智能。
