世界经济论坛人工智能与机器学习平台季度交流会于2023年3月举行，企业高管就人工智能的未来发展进行了阐释。
公平与偏见仍是人工智能开发中的长期挑战，但各家公司面临的问题各不相同且错综复杂，因此需要采取多样化的缓解措施。
生成式人工智能和大型语言模型前景光明，可用于造福社会的场景，包括消除浪费和侦查欺诈。
人工智能（AI）正变得日益普及，社会应用不断增加，如今普通大众也更容易使用。前景令人振奋，但在公平性和消除偏见方面仍面临挑战。人工智能还可能带来哪些意想不到的后果或危害？人工智能和机器学习行业的从业者如何确保人工智能始终造福社会？
2023年3月23日，世界经济论坛人工智能与机器学习平台季度交流会的与会嘉宾在一场网络研讨会上探讨了这些问题。
论坛人工智能与机器学习负责人凯·弗斯-巴特菲尔德主持了讨论。与会嘉宾包括阿姆鲁汗·艾哈迈德，他是全球人工智能生命周期数据领域领军企业 Appen 的首席执行官兼总裁；迈克尔·施密特，他是专注于价值驱动型人工智能的 DataRobot 首席技术官；以及丹妮拉·布拉加，她是 Defined.ai 的创始人兼首席执行官。Defined.ai 以拥有全球最大的训练数据市场而自豪，并高度重视伦理，包括数据隐私和透明度。
伦理人工智能的训练数据
三位发言者所在公司的领导团队都已认识到，人工智能在使用不良数据训练时会引发伦理困境。他们都认为，在实现目标的过程中，公平与偏见将持续成为重要议题。施密特同时指出，数据领域在应对偏见与公平问题方面已取得长足进步，近来还形成了缓解偏见问题的最佳实践。
施密特表示，每家公司看待偏见和公平问题的方式可能略有不同，因此解决方案需要保持灵活。
他补充说：“还有各种各样的实际问题。我们看到很多公司犯了不少错误，一上来就追求最宏大的人工智能项目……我们建议从简单的事情入手，帮助解决一些实际挑战，再逐步推进那些影响力真正重大的项目。”
艾哈迈德说：“这是第四次工业革命中第一次，[发展中国家的农民]能够使用经过妥善训练的大型语言模型，也就是生成式人工智能模型，用自己的语言提问，进而申请政府补贴，因为有人可以迅速训练好模型并让他们使用。”
他补充说：“那么，如何确保这个机会促进收入平等，而不是加剧不平等呢？”
艾哈迈德解释说，在 Appen，他们通过三大支柱来确保人工智能造福社会：
优质数据。
从计算角度履行责任。
构建模型的人才及其多样性。
艾哈迈德承认，实现这些目标离不开公司的实际行动：公司必须报告并落实公平薪酬、数据生成过程中的碳足迹以及多样性方面的情况。他说，如果公司在行动中把使命和视角把握正确，繁荣就会随之而来。
布拉加表示，一些公司需要放慢脚步，尤其是那些转向生成式人工智能的公司，因为这需要大量数据。建立受到妥善监控的内部系统十分重要，包括定期审计、同意和版权方面的考量。越来越多人使用从网络抓取的数据，这会引入偏见，而他们也没有对员工进行培训。
生成式人工智能在2023年的机遇
2023年，生成式人工智能备受瞩目，它以大型语言模型为基础，训练时不需要大量人力。然而，正如艾哈迈德所指出的，认为整个过程中完全不需要人类参与是错误的；人类仍然至关重要，能帮助人工智能发挥最佳效用。
例如，ChatGPT3 的表现取决于提示词工程——精心设计陈述或问题，使其返回准确且恰当的结果，并确保人工智能不会“产生幻觉”，正如一些已公开报道的案例
艾哈迈德说：“如果人工智能是赋能者，那么人类就是变革者。”
施密特还指出，人工智能将带来令人振奋的应用场景，帮助应对社会弊病，例如消除浪费、侦查欺诈和打击洗钱。他说：“我们看到，越来越多的人采用人工智能，大幅提升追查和消除这些欺诈来源的成效。”
与此同时，布拉加表示，人工智能将决定生产力的未来。
她说：“显然，人工智能会一直存在，并与人类协同工作，增强我们的能力。与此同时，我们也看到了开发逆向工程工具的机会，以追踪这些数据来源的透明度和可靠性。”
建立信任
人工智能可能十分有用并带来颠覆性变革，也有必要解决偏见问题，但围绕生成式人工智能的应用场景仍存在担忧。
例如，布拉加建议，教育机构若要真正建立可信赖的系统，应考虑与开发不接入 ChatGPT 的生成式人工智能模型的公司或大学合作，以增强相关工具并赢得教育工作者的信任。
与此同时，欧盟拟议的《人工智能法案》旨在协调欧盟各成员国对人工智能系统的监管规则。该法案最近增补了“通用人工智能”的定义，以涵盖生成式人工智能，并承认其可用于低风险和高风险应用。
施密特承认，要让生成式人工智能模型准确聚焦特定主题并不容易。业界目前正在研究复杂的提示策略，但这在很大程度上仍是一门玄学。
布拉加将生成式人工智能的风险与其他高风险应用区分开来；后者已在27个成员国被禁止或正考虑禁止，例如社会信用评分。
布拉加认为，在生成式人工智能方面，“与其禁止这些应用，不如认证那些符合所有伦理原则的应用，这样更好。”
