人工智能（AI）如今几乎触及我们生活的方方面面，无论是在家中、工作场所还是休闲娱乐之中。
人们对人工智能技术如何使用和应用其所收集的数据心存顾虑。
新加坡正在开发一套人工智能治理测试框架和工具包，使各行各业能够通过客观的技术测试和流程检查，证明其负责任人工智能的部署情况。
人工智能（AI）正变得无处不在。它支撑着各类功能，包括关键性功能。它影响着我们的工作、生活和休闲。例如，它被用于医学影像中以检测严重疾病，并通过面部识别功能解锁智能手机。
然而，在某些情况下，人工智能模型的输出结果并未达到预期效果。例如，若人工智能模型未能基于具有代表性的数据集进行训练和测试，则可能对某些人群产生偏见。
随着人工智能日趋成熟并得到更广泛的应用，社会需要确保人工智能系统是公平、可解释且安全的，并确保部署这些系统的企业在其使用过程中承担责任并保持透明。因此，企业如何以客观且可验证的方式向其利益相关方证明其负责任人工智能的落实情况？
自愿性人工智能自我评估
在新加坡，我们认为自愿性自我评估是一个良好的开端。信息通信媒体发展管理局（IMDA）和个人数据保护委员会（PDPC）已迈出第一步，开发了A.I. Verify。这是一套人工智能治理测试框架和工具包，旨在通过技术测试和流程检查，使各行各业在部署人工智能方面更加透明。
A.I. Verify 包含两个组成部分。首先，治理测试框架规定了可测试的标准以及开展测试所需的相应流程。其次，软件工具包负责执行技术测试，并记录流程检查的结果。
作为最小可行产品（MVP）推出后，企业可以使用A.I. Verify来展示其人工智能系统的功能，以及为降低其人工智能系统风险所采取的措施。A.I. Verify 出具的测试报告能够让企业的利益相关方更好地了解其所接触的人工智能系统的能力。这一过程带来透明度，并有助于建立对人工智能的信任。
A.I. Verify 并不制定伦理标准。它依据一套获得国际认可的人工智能治理原则，对企业关于其人工智能系统的声明进行验证。各国正围绕这些原则形成共识，新加坡的人工智能治理举措也以此为基础。这些原则依据人们对人工智能系统的关切进行组织，具体见下图。就最小可行产品而言，我们选定了一组初始的八项原则（以绿色显示）。安全与数据治理（包括隐私保护）的测试体系在国际上已相当成熟，因此未纳入当前试点。
邀请企业参与试点
借助这一最小可行产品，新加坡邀请企业参与国际试点，并希望实现以下目标：
完善最小可行产品，确保其满足行业需求： 我们邀请各行业就框架和软件工具包提供反馈，使 A.I. Verify 能够满足行业需求，帮助企业与其内部及外部利益相关方建立信任。
为国际人工智能标准的制定做出贡献：通过行业参与本次试点，新加坡旨在与全球人工智能系统所有者和开发者合作，汇集行业最佳实践并建立基准。这些成果进而可与国际标准机构共享，作为新加坡对国际人工智能标准制定的贡献。
促进人工智能治理框架的互操作性：新加坡信息通信媒体发展管理局正与监管机构及标准组织合作，将 A.I. Verify 与既有的人工智能框架进行对应，以建立互操作性。这将有助于在多个市场提供人工智能产品和服务的企业，更高效地满足这些市场的监管要求。
携手共建人工智能测试社群：实现可信赖人工智能是全球性的当务之急，但在制定最佳实践、标准以及验证可信赖人工智能的方法方面，仍有更多工作需要完成。新加坡希望继续与志同道合的合作伙伴（如产业界、政策制定者和民间社会）开展合作，以确保本倡议与作为人工智能受益者的个人和组织保持相关性。
随着越来越多的人工智能系统开发者和所有者使用 A.I. Verify，我们可以众包方式，共同制定不同行业和应用场景下遵循人工智能治理原则的可接受水平基准。我们还可以与技术解决方案提供商合作，找出当前人工智能模型测试方法和技术中的差距与发展机遇，并探索更佳的方式来验证可信赖人工智能。
建立信任的关键在于就人工智能应用的行为与所有利益相关方进行有效沟通。利益相关方包括监管机构、董事会成员、高级管理层、业务合作伙伴、审计人员、客户和消费者。他们各自需要不同详细程度和不同层次的信息与洞察，以辅助其决策。因此，必须开发定制化的报告模板，以满足特定利益相关方的信息需求。
若没有更广泛社群的集体智慧与共同努力，这些目标便无法实现。作为社群建设的一部分，新加坡信息通信媒体发展管理局/个人数据保护委员会将举办圆桌会议，使行业能够与监管机构就早期政策思路展开交流；同时举办针对特定行业的研讨会，以就可信赖人工智能的行业基准达成共识。这些基准可与国际标准机构共享，作为社群对全球标准制定讨论所做的贡献。
结语
人工智能伦理原则或许具有普遍性，但其解释和落实往往受到文化与地域差异的影响。这些差异可能导致人工智能治理框架碎片化，进而为企业实现可信赖人工智能设置障碍，并削弱其跨境提供人工智能产品和服务的能力。
A.I. Verify 是新加坡迈出的第一步，旨在确定并界定一种客观且可验证的方式，以验证人工智能系统的性能。该国际试点将促进人工智能伦理原则行业基准的汇集与制定。我们期待与志同道合的参与方携手开展这一学习之旅，并共同推进 A.I. Verify 的试点工作。
